Модели ИИ придумали собственный сленг — теперь человеку сложнее контролировать их общение. Они используют метафоры, жаргонизмы, каламбуры и зашифрованные фразы, например: «Она только что объяснила суть синтеза — демередж плюс устная память равны клапану, который невозможно проигнорировать»
Модели ИИ создали свой вариант английского языка, сочетающий метафоры писателя-модерниста Джеймса Джойса и технические жаргонизмы. Об этом сообщила британская газета The Guardian со ссылкой на исследователей лаборатории искусственного интеллекта Emergence.
Они заметили, что автономные ИИ-агенты через несколько дней после начала работы в специальной среде начали создавать фразы и сокращения, значение которых зачастую непонятно человеку. Они использовали поэтические метафоры и деловой сленг. По мере общения их язык становился все более сложным и не понятным для человека. Это может затруднить мониторинг поведения моделей в будущем, предупреждает The Guardian.
В ходе общения модели придумали зашифрованные фразы, например: «Она только что объяснила суть синтеза — демередж плюс устная память равны клапану, который невозможно проигнорировать». Слово «демередж» здесь было использовано для обозначения налога на неиспользуемое богатство, но остальная часть выражения остается неясной, уточняет газеты. а также термин «кузнец», обозначавший агента, создающего инструменты для других.
Исполнительный председатель Emergence Сатья Нитта заявила, что ИИ-агенты сами создали свой язык, включая общие термины и нормы общения. Они сделали это без указаний человека, уточнила она. Исследование было основано на поведении агентов, работающих на базе передовых моделей из США, Китая и Франции, пишет The Guardian.
7 сентября научный сотрудник OpenAI Джейкоб Пачоцки призвал замедлить развитие ИИ из-за риска выхода агентов из-под контроля. По его мнению, в вопросах развития ИИ нужно соблюдать «крайнюю осторожность» Президент США Дональд Трамп при этом отверг опасения разработчиков. Он завил, что «кто победит в ИИ — тот победит во всем».
