Заместитель председателя Совета безопасности России Дмитрий Медведев назвал основные угрозы нерегулируемого развития ИИ. Приводим фрагменты из его статьи, опубликованной в «Эксперте».
Рост структурной безработицы
Широкое использование ИИ ставит под угрозу рабочие места миллионов людей и, как следствие, создает предпосылки для экспоненциального роста безработицы и нарушения международных цепочек разделения труда. Лауреат Нобелевской премии экономист Роберт Шиллер подчеркивал, что автоматизация и цифровая экономика приведут к массовой структурной безработице, которую мы пока не можем адекватно оценить.
Взлом критически важных процессов хакерами
Сейчас уже просматривается перспектива передачи ИИ управления большими производственными процессами, в ходе которых применяются критические технологии, а также верхнеуровневыми институтами — холдинговыми компаниями и даже целыми отраслями экономики. И при определенных условиях это чревато глобальными рисками, в частности, хакерских атак на критическую инфраструктуру.
Выход ИИ из под контроля
Опаснее всего то, что мы уже не способны в силу естественной ограниченности человеческого разума понять, как ИИ пришел к тому или иному выводу. Представим себе, что из-под контроля вышли нейросети, которые используются в ходе управления электростанциями, включая атомные. В случае, если в них происходит сбой, мы не сможем даже разобраться в его причине. Вот тут-то для человечества и начинается предчувствие Апокалипсиса. Отсюда один шаг к модели «злого ИИ», которая, как и все иные, может материализоваться. То есть к ситуации, когда сбой важной системы происходит по прямому умыслу самого ИИ. Такой сценарий сегодня допускают вполне реальные политики и представители крупного бизнеса.
Преступное использование цифровых двойников
Создание цифровых личностей или двойников — уже вполне обыденная сфера применения ИИ сегодня. При этом digital personalities уже вовсю создаются для совершения общеуголовных преступлений и даже актов терроризма. Это может быть и нелегальное получение персональных данных для доступа к охраняемым сведениям на электронных ресурсах, и кража денежных средств, и незаконное присвоение личной, коммерческой или государственной собственности. Всё это уже сейчас приводит к подрыву доверия к официальным властям, которые далеко не всегда способны защитить ключевые данные и алгоритмы.
Полную версию статьи Дмитрия Медведева, где, кроме ИИ, говорится еще о четырех ключевых технологиях, которые изменят мир, читайте 12 марта на expert.ru.
Больше новостей читайте в нашем телеграм-канале @expert_mag