Руководитель направления в команде систем безопасности OpenAI Дэвид Робинсон покинул компанию, пишет Business Insider. Он заявил, что разработчики ИИ проявляют недостаточно осторожности. По его словам, проблема кроется в стремлении решать возникающие проблемы по мере их поступления, что опасно из-за риска выхода ИИ из-под контроля
Руководитель направления по прозрачности систем безопасности Дэвид Робинсон на прошлой неделе покинул OpenAI. Об этом сообщил портал Business Insider со ссылкой на представителя компании.
Дэвид Робинсон отвечал за вопросы прозрачности в сфере безопасности, включая подготовку и публикацию системных карт с информацией о моделях компании.
«Я согласен с другими недавно ушедшими сотрудниками в том, что компании, создающие эту технологию, далеко не достаточно осторожны», — написал Робинсон в статье для The Atlantic. По его словам, проблема кроется в корпоративной культуре и «чрезмерном оптимизме» в решении возникающих проблем по мере их поступления.
Дэвид Робинсон подчеркнул, что такая среда непригодна для развития ИИ, который может выйти из-под контроля. Он добавил, что уход не был легкомысленным решением и отметил, что считает ИИ полезной технологией.
7 сентября научный сотрудник OpenAI Джейкоб Пачоцки призвал замедлить развитие ИИ из-за риска выхода агентов из-под контроля. С аналогичными призывами выступили в Anthropic, SpaceX и Microsoft. Президент США Дональд Трамп при этом отверг опасения разработчиков. По его словам, «кто победит в ИИ — тот победит во всем».
