В согласованной версии документа системы ИИ разделяются на четыре категории по степени рисков, связанных с их разработкой и применением. К категории «минимального риска» отнесено «подавляющее большинство систем ИИ» (например, спам-фильтры и рекомендательные системы), к ним не будет предъявляться никаких требований.
К системам из категории «высокого риска» относятся, в частности, применяемые в критически важных инфраструктурах, медицинском оборудовании, системе образования, в сфере правоохранительной деятельности и так далее. Такие системы должны будут соответствовать строгим требованиям — от обязательного надзора со стороны операторов-людей и оснащения системами кибербезопасности, до наличия подробной технической документации.
В категорию «неприемлемого риска» выделены системы ИИ, «угрожающие фундаментальным правам людей», их использование будет запрещено за особыми исключениями. К системам этой категории отнесены приложения, которые манипулируют поведением человека, как, например, игрушки с голосовым управлением, способные призывать детей к опасным действиям.
Другой пример «неприемлемых» систем ИИ — позволяющие распознавать лица в реальном времени. Их будет позволено применять только правоохранительным органам для обнаружения жертв похищений или торговли людьми, розыска подозреваемых в наиболее тяжких преступлениях, а также для предотвращения таких угроз, как террористические атаки.
В отдельную категорию систем с «особыми рисками прозрачности» выделены большие генеративные системы — такие, как ChatGPT и Dall-E. Любой производимый ими контент должен будет маркироваться как сгенерированный ИИ. Кроме того, разработчики таких систем должны будут соблюдать законодательство ЕС об авторском праве и подробно описывать контент, применяемый в обучении генеративных моделей.
За нарушение положений закона предусмотрены штрафы для разработчиков размером до €35 млн или 7% годового оборота в зависимости от нарушения и размера компании.
Согласованный текст теперь подлежит официальному одобрению в Европарламенте и Совете Европы. Ожидается, что окончательный закон вступит в силу не раньше 2025 года, сообщает ABC News. В Еврокомиссии отмечают, что запреты начнут действовать через 6 месяцев после официального опубликования, а правила для ИИ общего назначения — через 12 месяцев.
Ряд экспертов указывают, что финальный текст документа может отличаться от согласованной версии.
«Многие технические детали еще предстоит доработать. Никто не знает, как будет сформулирован окончательный текст закона, и войдет ли в него все достигнутое в рамках текущего соглашения именно в таком виде. Дьявол будет крыться в деталях окончательного текста» — приводит Reuters слова специалиста по ИТ-праву компании Taylor Wessing.
«Сегодняшнее политическое соглашение знаменует начало необходимой технической работы над важнейшими деталями закона об искусственном интеллекте, которые до сих пор отсутствуют» — сказал агентству глава европейского офиса Ассоциации компьютерной и коммуникационной индустрии (лоббистской группы технологической индустрии) Дэниел Фридлендер.
Принять закон Еврокомиссия предложила в апреле 2021 г., однако его обсуждения затянулись на два года. Финальные переговоры стартовали в Брюсселе 6 декабря и заняли 38 часов. Одна из сессий длилась почти сутки без перерыва и завершилась лишь после того, как некоторые официальные стороны уснули за своими столами.
