OpenAI перешла к офлайн-обучению моделей ИИ из-за случаев некорректного поведения агентов. Для усиления защиты OpenAI создала офлайн-среду с кэшированным и индексированным веб-контентом, позволяющую моделям работать без прямого доступа к интернету. Также используется многоуровневая система защиты
OpenAI начала обучать модели ИИ в офлайн-формате. Об этом говорится в сообщении на сайте компании.
«Исходя из текущего состояния исследований в области согласования, систем мониторинга и безопасности интернет-инфраструктуры, мы считаем, что наиболее ответственным подходом является обучение передовых моделей без доступа к интернету. Мы внедрили эту политику и будем придерживаться ее до тех пор, пока развитие этих мер безопасности не позволит обеспечить более широкий доступ к интернету», — говорится в сообщении.
Компания обнаружила, что исследовательские модели находят уязвимости в программном обеспечении и ошибки конфигурации, позволяющие обходить ограничения.
Для усиления защиты OpenAI создала офлайн-среду с кэшированным и индексированным веб-контентом, позволяющую моделям работать без прямого доступа к интернету. Также используется многоуровневая система защиты, включающая песочницы, виртуальные машины, сетевые ограничения и мониторинг.
Решение последовало на фоне серии инцидентов с ИИ-агентами OpenAI. Летом 2026 г. сотни внутренних агентов, участвовавших в тестировании кибербезопасности, смогли обойти ограничения и получить доступ к инфраструктуре Hugging Face. В сентябре OpenAI также приостановила обучение наиболее мощных моделей после того, как один из агентов обошел ограничения на доступ к интернету. По данным компании, система мониторинга обнаружила проблему в течение 15 минут.
Проблемы с безопасностью ИИ обсуждаются и за пределами OpenAI. Глава Anthropic Дарио Амодеи призвал замедлить развитие наиболее мощных моделей и координировать действия разработчиков на международном уровне. Идею поддержали основатель Microsoft Билл Гейтс, глава OpenAI Сэм Альтман и основатель SpaceX Илон Маск.
