Требования к безопасности стиральной машины и молока сейчас строже, чем к ИИ, заявил президент Microsoft Брэд Смит. Он призвал создать «аварийные тормоза», которые позволят приостановить или замедлить работу ИИ, если он каким-либо образом выйдет из-под контроля
Президент Microsoft Брэд Смит призвал ввести международные правила безопасности искусственного интеллекта (ИИ). В интервью BBC он предложил создать так называемые аварийные тормоза, или выключатели, которые позволили бы приостановить или замедлить работу ИИ, если технология каким-то образом выйдет из-под контроля.
«В настоящий момент на вашу стиральную машину распространяется больше правил безопасности, чем на искусственный интеллект. Каждая упаковка молока, которую вы видите в продуктовом магазине, подлежит проверке и соблюдению правил безопасности», — отметил Брэд Смит.
По мнению главы Microsoft, необходимо обязать компании сообщать пользователям о взломах, совершенных автономными ИИ-агентами, и предложил проводить независимую оценку отдельных ИИ-продуктов перед их выпуском.
Предложения Брэдa Смита прозвучали на фоне разногласий между сторонниками усиления контроля над ИИ и теми, кто опасается, что ограничения затормозят развитие отрасли. В сентябре глава Anthropic Дарио Амодеи призвал замедлить разработку наиболее мощных моделей ИИ, чтобы дать разработчикам время согласовать меры безопасности. Его поддержали глава OpenAI Сэм Альтман, основатель SpaceX Илон Маск и основатель Microsoft Билл Гейтс. Последний предупредил, что небольшие группы с помощью ИИ уже могут проводить кибератаки, для которых раньше требовались возможности крупных государств.
Президент США Дональд Трамп в то же время выступил против замедления развития технологии. Он заявил, что США должны сохранить лидерство в этой сфере: «Кто победит в ИИ, тот победит во всем». В России глава Сбербанка Герман Греф также предостерег от превентивного регулирования, которое, по его мнению, может привести к отставанию страны в технологической гонке. При этом он признал необходимость обсуждать риски ИИ.
