Руководитель комитета по глобальным проблемам и международной безопасности научно-экспертного совета Совета Безопасности РФ
Гиперперсонализация, характерная для сегодняшнего интернета, делает дезинформацию особенно эффективной. С помощью больших данных и вычислительной социологии злонамеренные акторы могут сегментировать аудиторию по десяткам признаков — от политических взглядов до личных страхов. Все элементы — текст, изображение, звук — можно синтезировать под индивидуальный психологический профиль. В результате возникает синтетическая версия «правды», убедительная и практически неотличимая от органического контента.
Генеративный ИИ вместе с данными соцсетей может стать отличным инструментом массовой дезинформации, способным адаптироваться и учиться на реакциях людей в режиме реального времени. Масштаб и скорость такого воздействия беспрецедентны, и традиционные методы опровержения фейков просто не успевают среагировать.
Конечно, развиваются и технологии противодействия дезинформации. Одно из ключевых направлений — маркировка контента, то есть явное обозначение материалов, созданных ИИ, или материалов, достоверность которых не подтверждена.
Еще один подход — внедрение цифровых «водяных знаков» в синтетический контент. Современные методы позволяют добавлять в текст или изображение скрытые паттерны, незаметные для человека, но определяемые алгоритмами.
Но все же важную роль в противодействии дезинформации играют журналисты и специалисты по проверке фактов, вооружённые специализированным ИИ. Возникает гибридная модель: естественный и искусственный интеллект. Автоматизированные системы мониторинга могут круглосуточно сканировать информационные потоки, отмечая всплески аномальной активности (например, сотни одинаковых сообщений с новых аккаунтов) или новые вбросы на известных дезинформационных площадках. Затем аналитики-люди проверяют отфильтрованные алгоритмом случаи, используя традиционные методы журналистики. Такой симбиоз ускоряет разоблачение фейков.
В России, и это очень важно, приоритетом становится развитие передовых технологий, прежде всего искусственного интеллекта (ИИ). Важная задача — не допустить значительного отрыва от США и Китая в создании ИИ, а в перспективе — AGI (Общий ИИ). Технологическое лидерство, вне всякого сомнения, обеспечит этим странам долгосрочное доминирование в глобальном информационном пространстве со всеми вытекающими для России последствиями. Поскольку обучение ИИ требует масштабных массивов данных, в которых уже могут присутствовать политические и культурные предвзятости, перспективным видится сотрудничество отечественных разработчиков с российскими информационными компаниями, обладающими проверенными и репрезентативными базами данных. Этим уже активно занимаются в США, превращая известные платформы искусственного интеллекта в новые средства массовой информации.
Больше новостей читайте в нашем телеграм-канале @expert_mag
