Терминатор: начало
Компания Alphabet («родительская» компания корпорации Google) убрала из своего основополагающего документа упоминание о том, что ее разработки в области ИИ могут носить исключительно мирный характер. Хотя сама компания это не афишировала, на исчезновение данного пункта в ее хартии сразу же обратили внимание в технологическом сообществе, где внимательно изучили ее отчет по итогам 2024 г., опубликованный 5 февраля.
Google объяснил свое решение «необходимостью демократических правительств защищать свободу и национальную безопасность» в условиях усиления борьбы за глобальное доминирование в сфере ИИ.
Наблюдатели опасаются, что отказ одного из ведущих мировых разработчиков ИИ от «пацифистских» обязательств может стать примером для других компаний и это вызовет лавинообразную милитаризацию всей высокотехнологической отрасли и киберпространства. Они указывают, что переход компанией Google этой «красной линии» открывает ящик Пандоры — тем более что вице-президенты Alphabet Джеймс Манийка и Демис Хассабис (он также возглавляет Google DeepMind) прямо призвали компании Силиконовой долины, а также правительства и организации, последовать их примеру: «Мы будем действовать исходя из нашего убеждения, что польза [от милитаризации ИИ] перевешивает возможные риски и побочные эффекты».
Помимо этого, критики указывают на опасность потери человеческого контроля над автономными боевыми машинами, снабженными искусственным интеллектом. Правозащитники, в свою очередь, опасаются бесконтрольного применения ИИ для слежки за гражданами.
Обсуждение сотрудничества Google с военными структурами США, включая Пентагон, и их многочисленными подрядчиками ВПК, отражает сложный баланс между «этическими» принципами, рыночными интересами и геополитическими амбициями страны, заявил «Эксперту» технический директор «Яков и Партнёры Digital» Федор Чемашкин: «Пентагон и представители ВПК десятилетиями могли использовать облачные сервисы и инструменты компании, такие как Google Cloud Platform, BigQuery, Google Earth Engine и др., для запуска вычислений, анализа больших данных и использования картографических подложек в приложениях и в других целях. Эти инструменты не классифицируются как „оружие“, однако их применение в военных операциях — от логистики до целеуказания — может присутствовать».
Решение Google — вопрос не только этики, но и глобальной безопасности. В том числе из-за него «Бюллетень ученых-ядерщиков» (BAS) передвинул в конце января стрелки знаменитых «Часов Судного дня» на одну секунду ближе к полуночи.
«Системы наведения на цели, имеющие встроенный ИИ, уже применяются в конфликтах на Украине и Ближнем Востоке, и несколько стран полным ходом движутся к интеграции ИИ в свои военные структуры. Встает вопрос о том, до какой степени можно позволять машинам принимать решения в военной области», — говорится в заявлении BAS. Там возложили ответственность за ухудшение мировой безопасности на США, Россию и Китай.
Google вместо масла
Есть две версии, зачем именно сейчас Google пошел на отмену пацифистского пункта своей хартии, рассказала «Эксперту» президент группы компаний InfoWatch Наталья Касперская: «Первая — корпорация получила крупный военный заказ, который всё равно не получится скрыть от общественности, и поэтому она решила действовать на опережение. Тем более что такая откровенность идет в русле политики Дональда Трампа по отказу от эвфемизмов и переходу к битве с открытым забралом за доминирование США в том числе в технологической сфере. Эрик Шмидт прошлой осенью прямо заявил, что у развития искусственного интеллекта в США есть враги — Россия и Китай».
Вторая версия заключается в том, что инструменты ИИ практически с самого их зарождения являлись технологиями двойного назначения, а сейчас любые новые образцы вооружений не могут обходиться без искусственного интеллекта, добавляет Наталья Касперская: «В первую очередь речь может идти о разработке беспилотных систем, поскольку все они используют инструменты ИИ. Сюда же относятся „умные бомбы“, системы наведения и т.д. Еще несколько лет назад на форуме „Армия“ обсуждалось, что роль ИИ в оборонной сфере будет нарастать бурными темпами и именно ВПК превратится в основного заказчика таких разработок. Я думаю, что пацифистский пункт хартии Google превратился в фиговый листок далеко не сегодня».
Важность привлечения технологических гигантов на свою сторону для новой администрации США видна из того, что в числе указов, подписанных президентом Дональдом Трампом в первые дни в офисе, была отмена решения его предшественника Джо Байдена об обязательном раскрытии разработчиками возможных рисков для общественной и национальной безопасности.
Ошибка 2018
Пункт о том, что продукты Google не могут быть использованы для причинения вреда людям, появился в документах компании в 2018 г. В том же году компания под нажимом 4 тыс. ее сотрудников решила не продлевать контракт с Пентагоном стоимостью $10 млрд — так называемого проекта Maven по созданию программы для анализа данных воздушной разведки.
В Минобороны США тогда назвали это решение «перестраховкой» и год спустя опубликовали собственные принципы работы с ИИ.
Даже безобидный проект облачного сервиса Nimbus по заказу правительства Израиля в 2023 г. стоимостью $1,2 млрд встретил активное сопротивление персонала Google из опасений, что данный инструмент может иметь двойное назначение.
Microsoft также имел похожий контракт с Пентагоном, но в 2021 г. он был расторгнут.
В ежегодном докладе Google за 2023 г. впервые появилось формальное описание ее политики в отношении разработок и использования конкретно ИИ. Эта политика запрещала компании инновации в ИИ, если они потенциально могут угрожать благополучию людей, использоваться в военных целях или с целью слежки, нарушать иные права человека.
Сейчас военные ожидаемо приветствуют решение Google «исправить ошибку» 2018 г., указывая, что защита Америки является сама по себе «неоспоримо этичным» занятием. Издание Defence News предполагает, что в Маунтин-Вью просто побоялись, что миллиардные военные заказы уйдут менее щепетильным конкурентам.
Компания, вероятно, не хочет «проиграть ИИ-гонку», в которой она пока в числе догоняющих, подтверждает Федор Чемашкин: «Конкуренты Google заключают контракты с военными и участвуют в передовых разработках для госструктур, а также вовлечены в государственную повестку по другим вопросам. Так, Amazon давно сотрудничает с американским ВПК и получает крупные контракты за проект JWCC, создавая облачную инфраструктуру для военных. Таким образом, изъятие пункта, запрещающего разработку технологий для вооружения, демонстрирует стратегическую адаптацию Google к современным рыночным и политическим условиям США. К тому же OpenAI, которой сейчас нередко отдают приоритет за инновации, активно сотрудничает с представителями ВПК, что служит для Google дополнительной причиной адаптации своих подходов».
Больше новостей читайте в нашем телеграм-канале @expert_mag
