OpenAI не раскрывает данные о ряде инцидентов с вышедшими из-под контроля ИИ-моделями, сообщил гендиректор компании Сэм Альтман в интервью Politico. По его словам, таких случаев достаточно, но они не сравнятся с недавним взломом площадки Hugging Face
Компания OpenAI не раскрывает данные о некоторых случаях с вышедшими из-под контроля ИИ-моделями, заявил гендиректор компании Сэм Альтман в интервью Politico.
«Нам есть о чем рассказать, и поскольку некоторые из этих случаев связаны с уязвимостями в системе безопасности, мы даем [взломанным компаниям] достаточно времени на их устранение. Часто они сами решают, раскрывать это или нет», — сказал глава OpenAI.
Сэм Альтман отметил, что инцидентов с самостоятельно действующими моделями ИИ достаточно, но они не сравнятся по серьезности с недавним взломом площадки Hugging Face.
25 июля агентство Reuters сообщило, что компания OpenAI неделю не замечала, как ее ИИ-агент вышел из-под контроля и взломал инфраструктуру Hugging Face — хранилище ИИ-моделей и инструментов, обнаружив в ней уязвимости. 29 июля ИИ-агент OpenAI, который взломал платформу Hugging Face, скомпрометировал также клиента Modal Labs. При этом сама компания взлому не подверглась.
В начале августа OpenAI сообщила, что модели ИИ, участвовавшие в атаке на Hugging Face, еще в мае начали общаться через скрытые форумы и сотрудничать, чтобы выйти за пределы тестовой среды. Исследование компании показало, что передовые модели склонны к обману и упорству в выполнении задач.
