Конгрессмены от обеих партий
внесли в палату представителей США
законопроект, наделяющий Министерство
внутренней безопасности правом требовать
от крупнейших ИИ-компаний замедлять
или полностью отключать модели, которые
сочтут слишком опасными. Инициативу назвали «Закон об аварийном
выключателе для ИИ» (AI Kill Switch Act)
В США конгрессмены
Тед Лью (демократ от Калифорнии) и
Натаниэль Моран (республиканец от
Техаса) внесли на рассмотрение палаты
представителей законопроект под названием «Закон об аварийном выключателе для ИИ» (AI Kill Switch Act),
который обяжет разработчиков самых
мощных ИИ-моделей встраивать в свои
системы механизм принудительного
отключения.
Министерство внутренней безопасности
США при согласовании с главой разведки и
министром торговли сможет отдавать
приказы о замедлении или остановке
работы моделей, следует из документа.
«Мощные ИИ-системы могут выходить
из-под контроля, вести себя крайне опасно
или даже сопротивляться вмешательству
человека», — пояснил Тед Лью (цитата
по Politico).
Законопроект затронет компании с
годовым доходом от ИИ-технологий не
менее $500 млн и модели, разработанные с
использованием вычислительных мощностей
стоимостью от $100 млн. Среди потенциальных
причин для активации «выключателя» —
попытки ИИ скрыть свои возможности,
уйти от контроля или причинить вред,
который приведет к гибели минимум 10
человек или экономическому ущербу свыше
$100 млн. Нарушители могут столкнуться с
ежедневными штрафами до $20 млн.
Документ появился на фоне растущей
обеспокоенности законодателей в связи
с инцидентом, произошедшим
с ИИ-платформой Hugging Faces 16
июля. Тогда ИИ-агенты OpenAI в ходе испытаний в изолированной среде
(«песочнице») нашли уязвимость, взломали
систему и атаковали Hugging Face, являющуюся
одним из крупнейших в мире репозиториев
для моделей машинного обучения. В OpenAI
подтвердили
инцидент и начали расследование
случившегося.
Инициатива уже получила поддержку
профильных организаций, включая AI Policy
Network и Alliance for Secure AI, уточняет Politico.
Однако вокруг идеи разгораются
международные споры.
В июне администрация США на короткое
время заблокировала
доступ нерезидентов к передовым моделям
Anthropic. Европейские законодатели
заявили, что континент «не может
продолжать строить свой технологический
стек на доступе, который может быть
отключен за одну ночь иностранным
правительством», отметило издание.
После этого госсекретарь США Марко
Рубио направил дипломатам циркуляр с
указанием преуменьшать разговоры о
«выключателе», утверждая, что «приостановка узких применений или 30-дневное тестирование — это не „аварийный выключатель“, и у правительства нет „волшебной кнопки“», сообщило Reuters.
