Европа ограничит интеллект. Пока — искусственный

Дарья Ларина
корреспондент Expert.ru
26 апреля 2021, 14:11

Европейский Союз обнародовал масштабный законопроект, который (в случае, если он будет принят) строго ограничит использование искусственного интеллекта (ИИ).

Коллаж: Тамара Ларина

Выпущенный Еврокомиссией 21 апреля 108-страничный документ регламентирует использование ИИ в видах деятельности, сопряженных с возникновением высокого риска для граждан.

Как заявила вице-председатель Еврокомиссии по вопросам цифровых технологий и конкуренции Маргрет Вестагер, принятие этих правил будет знаменательным моментом для ЕС, который возглавляет разработку новых глобальных норм, призванных гарантировать доверие к искусственному интеллекту. Ряд наблюдателей полагают, что наряду с принятым в 2018 году Общим регламентом ЕС по защите данных (GDPR), новые нормы регулирования ИИ станут неким образцом, шаблоном для правительств во всем мире — в том числе и для России.

Американские технологические гиганты, ведущие бизнес в Европе, уже готовятся оспорить законопроект, если он будет принят. Политический аналитик вашингтонского Центра инноваций в области данных, финансируемого несколькими крупными технологическими компаниями США, сказал Forbes, что принятие правил станет разрушительным ударом по стремлению Еврокомиссии сделать ЕС глобальным лидером в области применения ИИ. Законопроект, считает аналитик, может привести к тому, что Европа еще больше отстанет от экономических лидеров — США и Китая.

Впрочем, для того чтобы предложенные правила стали законами, могут потребоваться годы — в ЕС законопроекты должны быть одобрены как Европарламентом, так и членами Евросовета, объединяющего представителей 27 национальных правительств стран ЕС.

Запрещать или регулировать?

Кандидат юридических наук, автор книги «Темная сторона искусственного интеллекта» Станислав Петровский перечислил Expert.ru некоторые меры регулирования, предусмотренные проектом.

Планируется, например, запретить использование ИИ для формирования социальных рейтингов (в том числе, по доходам). Подобная система функционирует в Китае: при низком социальном рейтинге автоматически блокируется трудоустройство на ответственные должности, покупка билетов на некоторые виды транспорта, устройство детей в хорошую школу и т.д.

Помимо этого, авторы законопроекта намерены запретить манипулирование людьми с помощью подсознательных сигналов. Использование камер для распознавания лиц в общественных местах — пожалуй, самая нашумевшая ИИ-технология последних лет — также станет противозаконным. Суд сможет разрешать использовать видеокамеры только в случае поиска пропавших детей, а также при розыске преступников или подозреваемых в преступлениях, за которые установлено наказание от 3 лет лишения свободы, уточнил Петровский.

«Одна из целей предложенного пакета новелл — внесение правовой определённости в порядок инвестиций и инноваций в сфере ИИ, — говорит Павел Патрикеев, руководитель юридического отдела REG.RU. — Формально речь идёт не только о запрете определённых практик с использованием ИИ (например, связанных с манипуляцией людьми), но и о введении чётких требований к ПО, которое не запрещено, но должно соответствовать ряду критериев. Например, разработчикам систем кредитного скоринга придётся доказывать, что система работает чётко и не нарушает права граждан, что она надлежащим образом хранит данные, а порядок её работы модерируется людьми».

Генеральный директор Bell Integrator Юрий Латин считает, что закон призван защитить права и свободы потребителя конечного продукта деятельности ИИ — человека. Европейский союз выступил в этой области первопроходцем, но, по сути, изложил опасения мирового сообщества. Латин сравнил законопроект с правилами дорожного движения: как и автомобиль, ИИ не должен получить массового распространения без создания правовой базы его использования.

Илья Иксанов, доцент Департамента международного и публичного права Финансового университета при Правительстве РФ, поясняет: дело не только в защите свобод и безопасности человека. Проект в большой степени направлен на создание условий для развития технологий ИИ в сферах малого и среднего бизнеса. По словам Иксанова, рынок ЕС с 470 млн платежеспособных потребителей стал полем борьбы американских и китайских монополий, активно использующих ИИ для повышения продаж. Ни США, ни Китай не считались с правами человека, обеспечивая экспансию и сверхприбыли своих корпораций в Европе. Серьезные штрафы до 20 миллионов евро помогут ЕС, во-первых, ограничить действие монополий, а во-вторых, дать европейским компаниям в сфере ИИ возможность улучшить своё положение на рынке.

Регулировать ИИ стремятся все

Европейский закон — не первая попытка регулирования ИИ. Основатель экосистемы биохакинга AIBY Ольга Осокина напоминает о принятом в 2018 году в Калифорнии законе CCPA (California Consumer Privacy Act), после чего в 2019 году Сан-Франциско стал первым американским городом, в котором запретили использование систем распознавания лиц. А в Евросоюзе с 2018 года действует уже упомянутый выше закон GDPR, защищающий все биометрические данные человека (в том числе, фотографии).

Вопросы контроля ИИ возникают регулярно, хотя и с разной периодичностью, говорит Осокина. Предпосылками к этому становятся либо высказывания экспертов, либо объединение технологических гигантов для решения проблемы. В качестве примера она приводит Partnership on AI — коалицию, в которую входят Amazon, Apple, Google, IBM, Facebook, Microsoft и другие. В рамках этого объединения поднимаются вопросы развития и регулирования искусственного интеллекта.

В Великобритании, добавляет управляющий директор Accenture Technology в РФ Мария Григорьева, существует множество инициатив в сфере ИИ, реализуемых Институтом Алана Тьюринга, Центром четвертой промышленной революции WEF, Королевским обществом и Партнерством по развитию ИИ во благо человека и общества. Помимо этого, связанный с ИИ комплекс этических вопросов интенсивно обсуждается в Финляндии.

В России, отмечает в этой связи Юрий Латин, тоже была предпринята попытка регулирования ИИ. Федеральный закон «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации» был подписан в апреле прошлого года. Закон предусматривает пятилетний экспериментальный правовой режим в Москве. По словам Латина, это только попытка создать свод правил, но четкой правовой базы, касающейся ИИ, в России пока нет.

Нашим тоже не дадут подсматривать

Законопроект коснется и российских компаний, продвигающих собственные ИИ-решения на территории ЕС, обращает внимание Павел Патрикеев. Следует помнить, что, согласно этому документу, нарушителей будут штрафовать на суммы до 20 миллионов евро или 4% от дохода компании.

Станислав Петровский поясняет: российские компании, продающие или заказывающие ИИ-решения в Европе, будут вынуждены соблюдать ряд ограничений — особенно в сфере беспилотного транспорта, медицины и систем биометрической идентификации. Такие системы должны будут проходить дополнительные проверки и включаться в европейский реестр. Но даже при соблюдении всех правил позиции отечественных разработчиков в Европе могут ослабнуть. По оценкам Петровского, запрет на системы распознавания лиц в общественных местах способен снизить спрос на российские системы биометрической идентификации на территории ЕС.

Ольга Осокина считает, что среди продуктов российских производителей, которые могут попасть под удар, немало перспективных. Например, FaceN, разработанный N-Tech Lab, способен анализировать черты лица лучше человека. В декабре 2015 года FaceN выиграл мировой чемпионат по распознаванию лиц The MegaFace, отобрав лидерство у Google. Другой проект — DigitalGenius, запущенный российскими предпринимателями в США в 2013 году. ИИ применяется там для автоматизации клиентской поддержки в чатах, соцсетях, по электронной почте и смс.

Павел Патрикеев среди перспективных российских проектов в области ИИ, реализуемых на территории ЕС, выделил сервис геолокации Navigine и проект по созданию медицинского экзоскелета ExoAtlet.

Сделали для Европы — сделаем и для себя

Что же касается развития технологий искусственного интеллекта в России, то ограничения в ЕС могут сыграть здесь положительную роль и способствовать росту внутреннего рынка.

«В России появятся те игроки, которые до этого сюда не шли, — говорит Ольга Осокина. — Международные стартапы получат еще один потенциальный рынок, а Россия — новые интересные решения, которые можно будет рассмотреть, и извлечь из них преимущества».

Вопрос в том, по какому пути пойдет регулирование ИИ в России и не окажутся ли в этом плане отечественные законодатели и регуляторы, что называется, «святее Папы Римского».

Принятие аналогичного закона в России возможно, полагает Станислав Петровский и напоминает, что что проект европейского варианта был подготовлен Рабочей группой по проведению глобальных консультаций Спецкомитета по ИИ Совета Европы (CAHAI-COG). А возглавляет эту группу представитель РФ — управляющий директор Центра регулирования ИИ Сбербанка Андрей Незнамов. Не исключено, полагает Петровский, что Незнамов выступит с аналогичной правовой инициативой и в России.

Эксперт напоминает, что в Российской Федерации уже принята Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники (Утв. Распоряжением Правительства РФ от 19 августа 2020 г. № 2129-р). Он обращает внимание на пункт 8 Концепции, в котором говорится о необходимости унификации законодательства России с международным регулированием — для интеграции РФ в международный рынок искусственного интеллекта и робототехники. Этот раздел, безусловно, указывает на возможность принятия в России проекта, подобного европейскому, считает Петровский.