Крупнейшие IT-компании США — Google, Anthropic, Meta (признана в РФ экстремистской и запрещена), OpenAI, xAI и Nvidia — обязались создать независимые комитеты для надзора за развитием ИИ. Совместное заявление, помимо разработчиков, подписал подписал президент США Дональд Трамп. 29 сентября он переименовал искусственный интеллект в «суперинтеллект»
Крупнейшие американские технологические компании договорились с президентом США Дональдом Трампом о совместном контроле над искусственным интеллектом (ИИ). Совместное заявление, подписанное Дональдом Трампом, а также руководителями Google, Anthropic, Meta (признана в России экстремистской организацией и запрещена), OpenAI, xAI и Nvidia, опубликован на странице президента США в соцсети Truth Social.
Согласно документу, компании несут ответственность за безопасную разработку технологий. Разработчики должны внедрить надежные внутренние процессы и средства контроля, чтобы гарантировать предсказуемое поведение технологий и оперативное решение возникающих проблем.
В рамках соглашения компании обязаны внедрить четырехуровневую систему контроля и аудита. Они создадут надежные внутренние механизмы контроля и мониторинга моделей при обучении и развертывании, включая оценку рисков в кибербезопасности, биологии и химии, а также предотвращение взлома технических систем. В рамках второго уровня компаниям нужно будет сформировать внутреннюю команду для проверки работы этих механизмов и устранения выявленных проблем.
На третьем и четвертом уровнях они будут обязаны привлекать независимых внешних аудиторов или оценщиков и назначить независимый комитет при совете директоров для надзора, рассмотрения отчетов и контроля устранения нарушений.
Кроме того, компании будут регулярно встречаться для разработки стандартов и лучших практик кибербезопасности. Впоследствии эти меры могут закрепить законодательно, но пока каждая компания обязуется соблюдать их добровольно.
29 сентября Дональд Трамп подписал указ о переименовании искусственного интеллекта в «суперинтеллект». Теперь этот термин обязаны использовать все департаменты и ведомства в официальных документах.
7 сентября научный сотрудник OpenAI Джейкоб Пачоцки призвал замедлить развитие ИИ из-за риска выхода агентов из-под контроля. С аналогичными призывами выступили в Anthropic, SpaceX и Microsoft. Президент США Дональд Трамп при этом отверг опасения разработчиков. Он завил, что «кто победит в ИИ — тот победит во всем».
