Концепция развития регулирования в сфере ИИ и робототехники. Мнение эксперта

Искусственный интеллект и роботы отличаются от других технологий тем, что умеют принимать решения независимо от человека. Поэтому к регулированию этой сферы нужно подходить особенно тщательно. В августе этого года Правительство РФ утвердило Концепцию развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 г. Эксперт по вопросам международного сотрудничества и координации в сфере ИИ, главный аналитик Центра компетенций НТИ по направлению «Искусственный интеллект» на базе МФТИ Андрей Кулешов рассказал о том, чего можно ожидать от Концепции и какие шаги потребуются для раскрытия потенциала новых технологий.

Какие сложности существуют при выработке определения того, что такое «искусственный интеллект»?

Искусственный интеллект и робототехника — это собирательные названия для множества информационных и компьютерных технологий, способных так или иначе имитировать интеллектуальную деятельность человека для решения практических задач. Эту характеристику нельзя считать достаточной. В Международной Организации Стандартизации до сих пор нет согласия о том, как должно выглядеть определение системы искусственного интеллекта.

Это не праздный вопрос – при определении регулирования, стимулирующих мер и ограничений, жизненно необходимо минимизировать «серую» зону технологических решений, которые невозможно однозначно отнести к искусственному интеллекту и/или роботике. Меры регулирования и поддержки будут наиболее эффективны, только если их целевая аудитория точно определена. Например, нужны ли особые правила для робота-пылесоса?

Можно подойти к проблеме, исходя из критерия достаточности: технология может быть отнесена к ИИ, если она обладает хотя бы одним из группы признаков – например, способностью к обучению или способностью к самостоятельному построению модели той задачи, которая должна быть решена. Использование технологий искусственных нейронных сетей сегодня также считается вполне достаточным признаком технологий ИИ; распознавание естественной человеческой речи, выделение смыслов текста также относятся к этим признакам.

Насколько далеко продвинулись в своем развитии технологии ИИ и роботехника?

Точный ответ на вопрос о ситуации в сфере ИИ и робототехники, вероятно, являлся бы предметом увесистого фолианта, который к тому же устареет в момент публикации. События развиваются очень быстро, и рынок решений, которые так или иначе относятся к категории ИИ и робототехники, расширяется и заполняется лавинообразно. Уже сегодня городской житель в России сталкивается с технологиями ИИ по много раз в день, например, когда просматривает витрину интернет-магазина или когда обращается за банковскими услугами. Есть случаи, когда использование ИИ очевидно, как, например, в случае с банковскими голосовыми ассистентами. Иногда использование ИИ практически невидимо – например, когда подозрительная транзакция по банковскому счету автоматически блокируется. Концепция развития ИИ должна обеспечить приемлемую защиту прав пользователя при встрече с системами ИИ, которые принимают весьма чувствительные, «материальные» решения.

Следует оговориться ещё об одном моменте, который активно обсуждается в сообществе экспертов. Так как термины «Искусственный интеллект» или «робот» несут окраску некой субъектности, то по ряду причин говорить о такой субъектности неуместно, по крайней мере, на данном этапе развития технологий. Каким бы сложным ни казалось поведение систем ИИ и роботов, в настоящее время они остаются инструментами реализации задач, поставленных человеком, с помощью методов, разработанных человеком, и в рамках границ, заданных человеком. Системы ИИ и роботы, как и все прежние технологии, заменяют и автоматизируют человеческий труд, выходя при этом на совершенно фантастический уровень.

Конечно, сейчас интернет полон, например, ляпов и смешных ответов от голосовых ассистентов. Алиса от Яндекса пока с трудом справляется с поддержанием осмысленной беседы с человеком. Это болезни роста и они пройдут. 5 лет назад компьютерный перевод текста также был посмешищем, а сегодня профессиональные переводчики сначала пропускают текст через компьютерный перевод и потом исправляют немногочисленные ошибки. По мере совершенствования решений для задач взаимодействия ИИ и роботов с человеком будет расширяться и область их применения.

В ответе на вопрос о ситуации с ИИ и робототехникой в России отдельно нужно отметить финансирование. Концепция констатирует, что существующие меры финансовой поддержки «…фрагментарны и сложны в администрировании … и не всегда доводятся до заинтересованных лиц системным образом». Среди дополнительных мер по совершенствованию механизмов финансовой поддержки указывается также развитие государственно-частного партнерства. Принципиально важно, чтобы институты поддержки, разрабатываемые на основе Концепции, работали рука об руку с частными инвесторами, которые могут и хотят брать на себя инновационные риски – при условии защиты их прав в том одном случае из ста, когда инновация «выстрелила». Ситуация, когда за каждым неудачным проектом, имевшим несчастье использовать средства господдержки, приходит прокуратура, не может способствовать укреплению роли государственных институтов в развитии инновационных технологий.

Какие компании в настоящий момент являются лидерами на этом рынке в России?

Среди российских компаний, которые выходят с решениями на основе ИИ и робототехники, отмечу Cognitive Technologies (беспилотные системы для транспорта и сельского хозяйства), VisionLabs (распознавание лиц и объектов), ABBYY, Group IB (информационная безопасность), Вкусвилл (мониторинг торгового зала в ритейле), Антиплагиат (поиск заимствований в тексте при отсутствии дословного копирования), Центр Речевых Технологий, SkyEng (образовательные технологии), Нейроботикс (ассистивные роботы), Gero.ai (моделирование старения).

Конечно, с точки зрения финансовых показателей и масштаба, гранды российского технологического рынка вне досягаемости для малых и средних компаний, развивающих отдельные ниши ИИ и робототехники. Всем известные Mail.ru, Яндекс, МТС, 1C, Касперский, Мегафон, конечно, активно ведут внедрение решений ИИ в свои продукты. Такие видные фигуры российской экономики, как КАМАЗ и Сбербанк, возможно, не воспринимаются ещё как технологические компании в той же категории, но фактически все больше используют решения ИИ как существенную часть своих продуктов.

КАМАЗ и Сбербанк можно рассматривать как иллюстрацию тезиса о том, что технологии ИИ и робототехники уже вышли за пределы модной медийной темы и стали практическим инструментом, который может применяться широчайшим образом. Можно с уверенностью ожидать, что каждое рабочее место, не требующее от сотрудника творческих идей или человеческого контакта, участия, может и будет заменено системами ИИ и роботами.

Важно также отметить, что ситуация меняется настолько быстро, что мы, скорее всего, ещё не даже слышали о будущих лидерах и победителях в гонке технологий ИИ и робототехники. Гонку за технологическое лидерство выиграют компании, которые не боятся потерять ограниченную сумму денег ради возможности стать лидером нового быстрорастущего рынка. Здесь уместно процитировать частный разговор с менеджером из отдела ИИ в штаб-квартире Google: «была поставлена задача, противоположная экономии расходов». Это, однако, отнюдь не вседозволенность. Реализовать такую стратегию инновационного развития могут только те компании, которые не становятся заложником многообещающих, но затянутых проектов, корпоративных споров и неспособности принять сложные решения в тех случаях, когда ожидания не оправдались. Успешные венчурные предприниматели не только гордятся своими успехами, но и своими «кладбищами компаний», которые не смогли оправдать первоначальные ожидания. Провалившиеся проекты являются необходимой и чрезвычайно важной частью успеха в технологической гонке.

Почему возникла необходимость в Концепции?

Развитие и внедрение технологий робототехники и ИИ ведет к возникновению новой сферы общественных отношений, которые требуют определённых правил для сохранения баланса интересов человека, общества, государства и компаний. Ключевым моментом является «определённая степень автономности» систем ИИ и роботов в сочетании с их «…неспособностью непосредственно воспринимать этические и правовые нормы и учитывать их при осуществлении каких-либо решений».

Автономность систем ИИ, несомненно, может быть воспринята в обществе как угроза общественному благосостоянию и может тормозить внедрение решений с «неприемлемой» степенью автономности. В такой ситуации потребность регулирования обусловлена не только защитой интересов человека, общества и государства, но и тем, что регулирование может помочь преодолеть обеспокоенность общества и защитить инновационные компании от риска обвинений в безответственном и антиобщественном поведении. В Концепции речь идёт о создании благоприятного климата для инноваций и условий для соблюдения баланса в отношениях человека, общества, государства и компаний в новых общественных отношениях, созданных внедрением систем ИИ и робототехники.

Какие положения Концепции в наибольшей степени повлияют на рынок?

В первую очередь, Концепция отдает приоритет стимулированию «…разработки, внедрения и использования данных технологий, создания систем ИИ и РТ в доверенном и безопасном исполнении, которое будет способствовать достижению высоких темпов экономического роста, повышению благосостояния и качества жизни граждан, обеспечению национальной безопасности и правопорядка, достижению устойчивой конкурентоспособности российской экономики, в том числе лидирующих позиций в мире в области ИИ». Этот приоритет призван обеспечить позитивное воздействие положений Концепции на развитие рынков ИИ и робототехники. В то же время, сама Концепция не имеет прямых последствий для рынков и бизнеса. Предусматривается дальнейшая разработка нормативных актов и документов стратегического планирования с использованием положений Концепции в качестве целевого ориентира.

В этой связи важнейшим практическим положением представляется требование о совместном участии представителей отрасли, бизнес-ассоциаций, институтов развития и поддержки научной, научно-технической и инновационной деятельности, общественных, научных и образовательных организаций при разработке нормативной базы, реализующей положения Концепции.

Другое важное положение, необходимое для реализации такого совместного подхода к разработке регулирования ИИ и робототехники, касается определения границ ответственности разработчиков, потребителей и иных лиц в сфере искусственного интеллекта и робототехники за возможные негативные последствия использования этих технологий. Минимизация правовой неопределенности в вопросах взаимной ответственности участников внедрения инновационных технологий напрямую способствует не только созданию и внедрению таких решений, но и созданию экосистемы ИИ и робототехники, которая будет иметь долгосрочный стимулирующий эффект для дальнейших инноваций.

Также необходимо отметить, что Концепция признает важность этики при реализации решений на основе ИИ и робототехники. С точки зрения профессиональной практики, этические принципы позволяют преодолеть правовую неопределенность в случаях, когда специалист принимает решения, имеющие существенные последствия для других людей в условиях асимметричной и неполной информации.

В качестве других интересных с практической точки зрения положений Концепции можно выделить следующие:  

•     применение риск-ориентированного подхода к регулированию технологий ИИ и робототехники. Это всеобъемлющее положение, которое отразится практически во всех нормативных актах применительно к системам ИИ и робототехнике. В том числе сюда входит вопрос подконтрольности человеку с соблюдением необходимой степени автономии систем ИИ и роботов. Последнее, вероятно, потребует глубокого обсуждения с представителями общества и промышленности для определения «необходимой степени автономии», которая будет зависеть от уровня риска, связанного с использованием новых технологий.

• расширение применения сорегулирования и саморегулирования в отрасли, разработка кодексов этического поведения при разработке, внедрении и применении технологий;

• человеко-ориентированный подход, обеспечение защиты гарантированных российским и международным законодательством прав и свобод человека и повышение благосостояния и качества жизни граждан; запрет на причинение вреда человеку по инициативе системы ИИ. В этом контексте также интересно положение о недопустимости противоправной манипуляции поведением человека. Вопрос сохранения автономии человека является одним из новых вопросов, который до появления систем ИИ не вставал в таком масштабе. Способность систем ИИ обучаться быстрее человека может вести к непредсказуемым последствиям для человека и общества в целом, и поэтому реализация «красных линий» для систем ИИ в информационном пространстве представляется назревшей необходимостью.

Можно ли уже спрогнозировать эффект от реализации Концепции?

Давать экспертную оценку экономической эффективности Концепции сильно преждевременно, потому что процесс только начинается. Принципиальное значение будет иметь создание консультативных структур и процессов для разработки норм регулирования по темам, предусмотренным в Концепции.

Возвращаясь к практическому положению Концепции о совместной работе над регулированием ИИ и робототехники, следует иметь в виду, что организация такой совместной работы - достаточно сложная задача. Разнообразие тем и областей применения новых технологий требует, с одной стороны, узкоспециализированных знаний, но оно же подвержено, с другой стороны, проблеме «регуляторного захвата» (regulatory capture), когда крупные игроки, обладающие наибольшим пониманием предметной области, могут использовать своё преимущество для создания регуляторных барьеров против входа новых конкурентов. Потенциал для создания таких барьеров существует, например, при формулировании обязательств по предотвращению предвзятости в системах ИИ. Также вызывает беспокойство формирование на международном уровне структур по мониторингу соблюдения прав человека при внедрении технологий ИИ (Human Rights Observatory), повестка дня которых также уязвима к угрозам регуляторного захвата.

Необходимо отметить, что наиболее перспективными направлениями работы в настоящее время представляются:       

• проработка этических кодексов в чувствительных областях применения ИИ и робототехники, которые максимально оградят разработчиков и пользователей новых технологий от возможных рисков с точки зрения причинения непреднамеренного ущерба;

•  внедрение мер оценки соответствия и, где уместно, сертификации роботов и систем ИИ для обеспечения доверия со стороны общества к автономной работе таких систем, всегда в рамках задач и ограничений, поставленных человеком;

• развитие инструментов и мер поддержки, специально ориентированных на инновационные применения решений ИИ, потенциал для которых существует практически во всех областях деятельности человека и для всех масштабов предприятий.

Реализация Концепции предусматривает, том числе, общее понимание практического места и роли новых технологий в развитии РФ. Главным достижением Концепции было бы формирование общего лексикона и понятийной базы по темам использования ИИ и робототехники (включая вопрос о регулировании применения робота-пылесоса, как системы ИИ) для того, чтобы практические вопросы внедрения новых технологий могли конструктивно обсуждаться органами государственного регулирования совместно с предприятиями, общественными организациями и учеными.

Коллеги, а с Вашей точки зрения, какие инициативы еще необходимы для грамотного регулирования сферы ИИ и робототехники?