Дональд Трамп ответил на призывы главы Anthropic замедлить разработку ИИ

Президент США Дональд Трамп в ответ на призывы разработчиков замедлить темпы развития технологии заявил, что США лидируют в отрасли и должны сохранить преимущество. 

«Мы лидируем в ИИ среди стран, мы самая продвинутая страна в мире, и, честно говоря, я хочу, чтобы так и оставалось, потому что кто победит в ИИ — тот победит во всем», — сказал Дональд Трамп журналистам (цитата по Bloomberg).

12 сентября глава Anthropic Дарио Амодеи опубликовал пост, в котором призвал отрасль замедлиться и заявил о необходимости координации на глобальном уровне. Эту идею поддержали глава OpenAI Сэм Альтман и основатель SpaceX Илон Маск. «Я считаю, что если бы замедление дало нам еще год или два до того, как модели достигнут критического уровня возможностей, и мы бы использовали это время для согласования действий, то мы могли бы значительно снизить риск того, что что-то пойдет не так», — написал Дарио Амодеи.

Директор Национального экономического совета Кевин Хассетт в интервью программе Fox News Sunday назвал предложение Дарио Амодеи «разумным шагом вперед» и возможной моделью для частного сектора.

В сентябре Anthropic покинули двое сотрудников из-за опасений по поводу безопасности искусственного интеллекта. Первым стал 27-летний исследователь Джейкоб Коксон, объявивший об уходе 8 сентября. Он заявил, что ни Anthropic, ни OpenAI «не действуют ответственно», а лишь «несутся прямиком к самосовершенствующемуся сверхинтеллекту и играют с нашими жизнями». Спустя несколько дней об увольнении сообщил Джо Бентон, работавший в отделе безопасности Anthropic. В своем посте в X он предупредил, что компании «создают машины, которые намного умнее любого человека, и мы можем этого не пережить».

Оба ушедших сотрудника ссылались на давление конкуренции, которое заставляет лаборатории недоинвестировать в безопасность, и на участившиеся инциденты с выходом ИИ-агентов из-под контроля.