Anthropic тайно представила американским законодателям проект закона о безопасности передовых моделей ИИ, ограничивающий возможности запрета их выпуска или использования, сообщает Politico. Согласно законопроекту, блокировка может быть возможна при угрозе ущерба размером более $1 млрд или гибели или ранения более 50 человек
Компания Anthropic, разработчик чат-бота Claude, тайно представила американским законодателям проект закона о безопасности передовых моделей искусственного интеллекта. Документ ограничивает случаи, в которых власти могут запретить выпуск или использование модели, сообщает издание Politico со ссылкой на три источника, знакомых с инициативой.
Согласно проекту, власти смогут добиваться блокировки модели, если она представляет предсказуемую и непосредственную угрозу, способную привести к ущербу более чем на $1 млрд либо к гибели или тяжелым травмам более 50 человек. Речь идет о рисках, связанных с созданием биологического оружия, выходом модели из-под контроля разработчика или кибератакой.
Законопроект также предусматривает регулярную независимую оценку передовых моделей. Проверяющие должны будут зарегистрироваться в Министерстве торговли США. Если они выявят непосредственную угрозу из перечисленных в документе категорий, то будут обязаны сообщить об этом ведомству в течение 72 часов после завершения оценки.
Министерство торговли сможет обратиться в суд с просьбой приостановить выпуск или использование модели. Согласно проекту, окончательное решение о приостановке сможет принять федеральный судья. Другим ведомствам и должностным лицам США документ запрещает самостоятельно останавливать разработку, внедрение или внутреннее использование модели.
25 сентября 2026 г. Politico сообщило, что Белый дом попросил OpenAI и Anthropic не передавать новые модели ИИ британскому Институту безопасности ИИ для тестирования до завершения проверок в США. Американская администрация объяснила это стремлением проверить безопасность моделей перед передачей зарубежным партнерам.
