К.ф.-м.н., руководитель научной группы «Доверенные и Безопасные Интеллектуальные Системы», Институт AIRI
Руководитель комитета по глобальным проблемам и международной безопасности научно-экспертного совета Совета Безопасности РФ
Мы становимся свидетелями все более активного взаимодействия компаний, создающих нейросети со СМИ, прежде всего в США. В частности, у OpenAI были подписаны соглашения c Financial Times, Associated Press, News Corp, Axel Springer SE, Conde Nast, Le Monde, Prisa Media, TIME. С одной стороны, речь идет об обучении нейросетей на очень больших массивах информации, с другой — о внедрении новостных информационных потоков в базы данных, используемых ИИ для обучения. Как отмечают некоторые исследователи в области компьютерной лингвистики, предвзятость данных может быть системной проблемой: модели способны воспроизводить стереотипы и идеологии, заложенные в их обучающих выборках.
Уже сейчас свыше 10% аналитических материалов ведущих информагентств и СМИ формируются с применением генеративного ИИ, и их доля будет только возрастать. Однако возникает вопрос о мере предвзятости нейросетей к тем или иным темам.
Этот процесс можно рассматривать сквозь призму информационного влияния: контроль над исходными данными позволяет формировать нарративы на уровне языка. В социологии подобные механизмы изучаются в рамках подхода «агентности медиа», где СМИ не просто проводник информации, но своеобразный конструктор ее восприятия через автоматизированный инструментарий выбора тем и таргетированный подбор формулировок рекомендательными системами. То есть рост доли генеративного контента косвенно создает потенциальный риск усиления предвзятости, если ИИ массово обучается на текстах из неверифицируемых источников. Это можно трактовать и как новый вектор мягкой силы, где доминирующие нарративы масштабируются глобально через современные технологии.
В США Дональд Трамп может столкнуться с аспектами американского ИИ, который предрасположен к транслированию неолиберальных установок, не совместимых с новой концепцией «реализма», предложенной республиканской партией. Естественно, такой ИИ будет работать против политики Трампа не только у себя в стране, но и за ее пределами ввиду глобальной доступности и монетизирумости решений на его основе.
Насколько Трамп сможет справиться с этим технологическим вызовом?
Чтобы перестроить американский искусственный интеллект (ИИ), потребуется много усилий. Демократы оставили новой администрации сложное наследие, и Трампу, если он вернется к власти, возможно, придется заняться этим вопросом на уровне законов. Например, он может потребовать от СМИ быть более объективными и отвечать за то, чтобы их материалы соответствовали фактам. Всё, что выходит за эти рамки, можно будет считать попыткой внушить аудитории определенные идеи.
Пример такой стратегии Трамп уже показал на практике — в своем видении украинского конфликта и его урегулирования. Он опровергает ту версию событий, которую продвигала предыдущая администрация. Кроме того, было бы полезно вернуть в США российские медиа, которые, по сути, были наказаны только за то, что часто оказывались правы в своих материалах.
Разработка и внедрение больших языковых моделей (LLM) — это не просто технологический прорыв. Это еще и новая глобальная борьба за контроль над информацией, которая формирует наше представление о мире. От того, как будет развиваться этот процесс, зависит будущее не только технологий, но и всей мировой информационной системы.
Особый интерес также представляет возможность налаживания международного сотрудничества в области обучения искусственного интеллекта по направлениям Россия-Китай, Россия-США. Многие сегодня задаются вопросом: действительно ли большие языковые модели «понимают» смысл текста или просто подбирают слова для ответа? Одна из главных задач, над которой работают разработчики, — это найти способ точно оценить, насколько правильны и понятны ответы таких моделей. Обычные тесты и проверки часто оказываются недостаточными или нерелевантными, особенно когда речь идет о сложных или деликатных темах.
Налаживание же международного сотрудничества позволило бы совместно оценить качество ответов лингвистических моделей, охватывающих ключевые области: историю, географию, обществознание и политологию. Звучит амбициозно. Но многие начинания иногда так и выглядят, пока не меняется геополитический контекст.
Больше новостей читайте в нашем телеграм-канале @expert_mag
