This ain’t no technological breakdown
Oh no, this is the road to hell!
Крис Ри, альбом «The Road to Hell» (1989)
Новые технологии: лестница в небо или дорога в ад?
Каждый великий технологический скачок в истории человечества содержал в себе фаустовский парадокс, притом что природа такого прорыва всегда была двойственна. С одной стороны, сила прогресса заключается в том, что она способна покорить «бесконечное», с другой, как писал немецкий историософ и публицист Освальд Шпенглер, «каждая высокая культура есть трагедия; творение восстает против своего творца... Господин мира становится рабом машины. Она принуждает его, нас, причем всех без исключения, знаем мы это или нет, хотим ли этого или нет — двигаться в заданном ею направлении». Таким образом, человеческий прогресс требует совершения сделок с частью «той великой силы, что вечно хочет зла и вечно совершает благо». А люди, живущие в конкретную историческую эпоху, за получение этой немыслимой силы всегда расплачивались фундаментальным изменением основ своего бытия.
Огонь, колесо, книгопечатание, паровой двигатель — каждый раз человечество проходило через горнило испытаний перед полезной адаптацией. Но нынешние процессы беспрецедентны по своей скорости и масштабу. Легкомысленное человечество вряд ли ожидало столь быстрых перемен, да, по правде говоря, и не готовилось к ним.
Вместе с многочисленными удобствами, которые создают прорывные инновации, они несут угрозы, способные радикально повлиять на будущее всего человечества. Каждый великий технологический переворот приводил к резкому повышению производительности труда, быстрому экономическому росту и существенному улучшению качества жизни населения. Будет ли так в оставшейся части XXI века? Есть большие сомнения, ведь перед нами стоят цивилизационные вызовы, требующие не просто выверенных научно-технологических решений, но и элементарной исторической мудрости, а также взвешенного этического подхода.
Мир стремительно меняется благодаря развитию высоких технологий. Искусственный интеллект (ИИ), робототехника, биотехнологии и цифровизация стали частью повседневной жизни. Человек с готовностью вверяет цифровым алгоритмам принятие жизненных решений, определение вкусов и предпочтений, а подчас даже эмоций. По данным DrPeering.net, стоимость передачи сообщения объемом 1 МБ в интернете с 1998 по 2010 год неуклонно снижалась в среднем на 61% в год — с более чем $1 тыс. до нескольких центов. Это привело к интенсивному удешевлению цифровых технологий и услуг на их основе. При этом доходность этого нематериального «информационного ширпотреба» оказалась сверхвысокой. Прежде всего из-за огромного числа ежедневно оказываемых услуг (многие сотни миллионов пересылаемых сообщений), а также отсутствия затрат на разработку и постановку на производство этих услуг. О высокой доходности свидетельствуют экономические показатели западных ИТ-гигантов — Meta (признана экстремистской организацией и запрещена на территории РФ), Google, Amazon, Apple, а также таких крупных китайских компаний, как China Mobile, Alibaba Group, Tencent Holdings, специализирующихся на доставке потребителю информации и товаров массового спроса.
Их стратегическая задача — увеличение числа обращений как за счет предложения новых услуг, так и за счет увеличения численности сообщества своих пользователей. Необходимое условие решения этой задачи — владение технологиями анализа больших объемов данных, получаемых от пользователей. Этим занимаются все наиболее развитые страны, и не без успеха.
Руководство и акционеры крупнейших компаний являются основными выгодоприобретателями и технического прогресса в области массовых дешевых цифровых технологий, и таких элементов цифровой экономики, которые становятся для них ключевыми инструментами увеличения доходности информационного потока. По сути, это инструменты мягкого порабощения человека обилием удобных и привлекательных услуг, лишающих его в итоге важных для самостоятельной и независимой жизни умений и навыков. Таких, например, как способность запоминать и анализировать большие объемы данных, выстраивая длинные цепочки умозаключений, грамотно излагать результаты проведенного анализа, читать, писать и понимать сложные тексты и т. д. Человек, лишенный таких умений и навыков, — идеальный потребитель всё новых услуг, послушное орудие в руках лидеров рынка. Не зря администрация Дональда Трампа демонстрирует устойчивый интерес к развитию технологий ИИ в попытке обеспечить долгосрочное общемировое лидерство США. Применение масштабных технологических новаций, как считают в Белом доме, приведет к прорыву во всех областях человеческой деятельности, качественно повысит конкурентоспособность американской экономики, обеспечит ее технологический отрыв от других стран. Иными словами, добьется MAGA — цели, написанной на кепке Трампа.
В истории уже были информационные революции. Величайший информационный переворот прошлого — изобретение книгопечатания Иоганном Гутенбергом. Оно нивелировало монополию синклита привилегированных на знание, породило мощную социальную реформацию, возвысило роль научного метода. Современные алгоритмы соцсетей — это «печатные станки» нового поколения, но работающие в иных целях. Они созданы для обслуживания самих себя, навязывая потребителям мир симулякров, где «лайк» или «дизлайк» безусловно важнее истины, отражение реальности важнее самой реальности, а «мир матрицы» первичен по отношению к реальному миру. В ближайшие десятилетия постправда получит не меньшее значение, чем стремление к объективной истине, а сама реальность будет успешно замещаться персонализированными цифровыми нарративами. И, вполне вероятно, мы видим сейчас лишь самый верх айсберга. Реальность может оказаться куда сложнее, чем это представлял один из создателей концепции информационного общества — японский футуролог Ёнэдзи Масуда.
Однако не только вызовами общефилософского толка ограничиваются проблемы, которые рождает продукция современного сетевого информационного общества. Поэтому вернемся к более приземленным, но не менее опасным вещам. Наибольшую обеспокоенность государств в связи с массовым распространением технологических новаций в социальном обиходе вызывает возможность их неправомерного использования различными экстремистами и преступниками. Упомяну наиболее обсуждаемые и важные угрозы.
Первая угроза — ИИ
В связи с автоматизацией рутинных трудоемких задач, интенсивным удешевлением цифровых технологий и рациональностью замены сотрудников технологиями ИИ под нож пойдут многие значимые ныне профессии. Об этом написаны уже сотни драматических книг и дурной алармистской публицистики. В любом случае очевидно, что широкое использование ИИ ставит под угрозу рабочие места миллионов людей и, как следствие, создает предпосылки для экспоненциального роста безработицы и нарушения международных цепочек разделения труда. Лауреат Нобелевской премии экономист Роберт Шиллер подчеркивал, что автоматизация и цифровая экономика приведут к массовой структурной безработице, которую мы пока не можем адекватно оценить. В любом случае, как отмечает издание Axios, борьба за рабочие места среди «белых воротничков» из-за развития ИИ в США превращается в «кровавую бойню». Впервые со времен Великой депрессии 30-летние американцы живут хуже, чем в том же возрасте жили их родители. На грани исчезновения могут оказаться даже элитные профессии трейдеров и финансовых аналитиков: нейросети справляются с заданием увеличения объема портфеля не хуже живых криптоинвесторов.
Не менее тревожной выглядит перспектива передачи ИИ управления большими производственными процессами, в ходе которых применяются критические технологии, а также верхнеуровневыми институтами — холдинговыми компаниями и даже целыми отраслями экономики. А такая перспектива тоже уже просматривается. И при определенных условиях она чревата глобальными рисками. Эти риски и так уже существуют и связаны с хакерскими атаками на критическую инфраструктуру. Но хакерство — это умышленная человеческая деятельность, которая может быть изобличена и пресечена. А как быть с ИИ? Ведь, как известно, ИИ — необъяснимый, непредсказуемый и неконтролируемый.
И, может быть, опаснее всего то, что мы уже не способны в силу естественной ограниченности человеческого разума понять, как ИИ пришел к тому или иному выводу
Да, он хороший помощник, но на чем основана наша уверенность в том, что выводы, которые сделал ИИ, являются достоверными? Вот тут-то для человечества и начинается предчувствие Апокалипсиса, который, вполне вероятно, стоит у наших дверей. Представим себе, что из-под контроля вышли нейросети, которые используются в ходе управления электростанциями, включая атомные. В случае, если в них происходит сбой, мы не сможем даже разобраться в его причине.
Отсюда один шаг к модели «злого ИИ», которая, как и все иные, имеет право на существование. То есть к ситуации, когда сбой важной системы происходит по прямому умыслу самого ИИ. Ведь ИИ, достигший уровня суперинтеллекта, вовсе не обязан руководствоваться тремя пресловутыми правилами робототехники Айзека Азимова, поскольку своим происхождением будет обязан не человеку, а самому себе. Этот сценарий становится все более вероятным не только в киберпанковой вселенной профессиональных футуристов. Его сегодня допускают вполне реальные политики и представители крупного бизнеса. И речь не только об опасных производствах, которые могут причинить необратимый вред человечеству и нашей планете. В разряд высокорисковых могут попасть и, казалось бы, совсем безобидные виды экономической деятельности вроде аграрных технологий и производства продуктов питания.
Другая, сегодня уже вполне обыденная сфера применения ИИ, которая вовсю используется в различных целях, — это создание цифровых личностей или цифровых двойников. Развитие технологий идентификации на основе ИИ дает прекрасные возможности для активного применения digital personalities, которые уже вовсю создаются для совершения общеуголовных преступлений и даже актов терроризма. Сфера незаконной деятельности тут огромна — это и нелегальное получение персональных данных для доступа к охраняемым сведениям на электронных ресурсах, и кража денежных средств, и незаконное присвоение личной, коммерческой или государственной собственности. Круг бенефициаров тоже весьма широк: мелкие правонарушители, алчные крупные компании, транснациональные преступные группировки и даже отдельные государства. Все они могут создать цифровые личности с помощью технологий искусственного интеллекта. Всё это уже сейчас приводит к подрыву доверия к официальным властям, которые далеко не всегда способны защитить ключевые данные и алгоритмы, и сеет хаос в различных сферах жизни общества.
Вторая угроза — беспилотные системы
Стремительный рост мирового производства беспилотных систем создал качественно новый спектр угроз для самых разных объектов: агломераций, энергетической, социальной и другой критически важной инфраструктуры, а также оборонных производств и военных баз. Именно тут, с учетом опыта боевых действий в ходе СВО, уже сегодня возник набор принципиально новых возможностей. В частности, благодаря оптимизации систем и алгоритмов управления путем совершенствования технологий ИИ и анализа больших данных перестала быть проблемой одновременная постановка задач целому «рою» беспилотников, находящемуся под контролем одного оператора. Увеличены дальность эффективного использования БПЛА и объем отправляемой информации при использовании современных телекоммуникационных комплексов, включая спутниковую связь. Не за горами разработка и повсеместное внедрение новых типов материальных платформ БПЛА, морских автономных кораблей для базирования различных беспилотных систем, создание сверхтяжелых БПЛА-носителей, которые также могут выступать в роли ретрансляторов и средств доставки сотен и тысяч легких дронов.
Все это породило принципиально новую ситуацию в области правил и этики ведения войны. В рисуемом экспертами ближайшем будущем беспилотники радикально дистанцируют убийцу от жертвы, превращая акт насилия в подобие захватывающего «шутера». Эта «дистанционная война» создает опасный психологический барьер, снижая порог применения силы и окончательно размывая моральную ответственность.
С применением БПЛА концепция «войны» как экзистенциального риска для ее участников растворяется. Это порождает иллюзию «чистых» и «почти бескровных» конфликтов
Более того, делегирование решений о смерти алгоритмам искусственного интеллекта в автономных боевых системах, не обладающих (пока!) сознанием и не испытывающих милосердия и сострадания, создает эсхатологический парадокс о наделении машины правом самостоятельного решения вопросов, связанных с жизнью и смертью человека. Как это согласуется с нормами международного гуманитарного права, кодифицированного в Гаагских конвенциях и декларациях 1899 и 1907 годов, Женевской конвенции о защите гражданского населения во время войны 1949 года, а также нужно ли в этой связи создание новых международных договоров — вопрос риторический.
Беспилотники, будучи относительно дешевыми и доступными, становятся идеальным оружием для террористов и преступных сообществ. Контрабанда, доставка наркотиков, промышленный и военный шпионаж — все это переходит на новый, высокий технологический уровень, с которым правоохранительные органы справляются с огромным трудом.
Будущее, в котором дроны станут повседневностью, порождает целый ряд рисков. Целенаправленное воздействие на систему управления воздушным движением вне зависимости от причин, которыми оно вызвано, может привести к массовым столкновениям БПЛА, их падению на людные места, использованию их в качестве таранов. Это создаст вид принципиально новых катастроф, где причиной будут не ошибки управления или погодные явления, а цифровая уязвимость, причем рукотворная.
Третья угроза — биотехнологии
Мы стоим на пороге новой метафизической реальности, когда распространение инфекционных и вирусных заболеваний, возникновение новых эпидемий и пандемий может перестать быть сугубо природным явлением и превратиться в продукт человеческого интеллекта, порой пагубного тщеславия и злой воли. Возрастает доступность специализированного оборудования, сырья. По мнению экспертов, из-за стремительных темпов развития научных отраслей в деле модификации биологических организмов (молекулярной биологии, биохимии, эмбриологии, микробиологии, цитологии, вирусологии) они становятся все более доступными, производительными и простыми в использовании. Все это чревато появлением искусственно модифицированных РНК-вирусов с высокой контагиозностью и вирулентностью.
США, как известно, сформировали глобальную военно-биологическую сеть, используя другие страны как полигоны для своих испытаний. В результате этого миллионы людей невольно становятся заложниками смертельно опасных угроз. Созданная при непосредственном участии Пентагона и аффилированных с ним медицинских компаний инфраструктура насчитывает около 400 лабораторий двойного назначения по классу ВSL, действующих на Ближнем Востоке, в Юго-Восточной Азии, Африке, а также на пространстве СНГ. Результаты исследований позволяют США управлять распространением эпидемий и изучать генетические факторы, влияющие на устойчивость людей к различным болезням.
Так что через некоторое время зомби-апокалипсис, показанный самими американцами в игре и сериале «The Last of US», может стать не такой уж фантастикой
Во всяком случае, применение новых патогенов при гарантированном обеспечении собственной биозащиты позволит США формировать вблизи наших или каких-либо еще границ замаскированные под естественные процессы очаги опасных заболеваний человека и животных, которые могут приобретать общенациональные и мировые масштабы. В частности, в качестве потенциальных биологических поражающих агентов многие специалисты рассматривают особые белки — прионы, вызывающие тяжелые неизлечимые расстройства центральной нервной системы у человека и животных. Совершенствование технологий синтетической биологии, редактирования генома и методов сборки вирусов из цифровых последовательностей создало беспрецедентные риски для человечества.
Следует понять, что в данных условиях кратно вырастают угрозы, связанные с созданием биологического оружия и попаданием его в руки террористических группировок. Французский культуролог и философ-постмодернист Жан Бодрийяр, размышляя о современных катастрофах, писал о «совершенном преступлении» — общественно опасном деянии, которое само стирает следы правонарушения. Выпущенная из пробирки пандемия может стать именно таким «совершенным преступлением» против человечества, где виновного найти будет крайне непросто, ибо он полностью растворится в глобальной сети неподконтрольных лабораторий и коммерческой тайны.
Четвертая угроза — зло из космоса
По мере наращивания внедрения высоких технологий в повседневную жизнь критически важная инфраструктура будет все больше полагаться на возможности космического базирования разнообразных вредоносных систем. К важным направлениям покорения ближайшего космоса эксперты относят размещение на орбите электростанций, серверов обработки и хранения данных (запуск прототипов в эксплуатацию возможен в течение последующих трех-пяти лет), которые позволят увеличить вычислительные возможности оборонных и гражданских спутниковых группировок. Уже в короткой перспективе человечество может прийти к добыче ресурсов на Луне, доставке туда людей и грузов. Риск для критически важных для космической области объектов инфраструктуры может возникнуть во всех элементах производственно-эксплуатационной цепочки в этой сфере: производстве спутников, индустрии запуска, оказании спутниковых услуг и наземного обслуживания. Физическая или киберугроза в любой из этих четырех областей может ограничить доступ к космическому пространству. Одновременно формируется и конфиденциальная информационная инфраструктура двойного назначения (глобальные системы космической широкополосной связи). При переносе критически важной инфраструктуры в космическую сферу, соответственно, возникнут и новые слабые места. Важно отметить, что эти риски будут кумулятивными, что приведет к растущему разнообразию угроз, уязвимостей и потенциальных последствий. Причем чем активнее будет развиваться сфера космических услуг, тем больше игроков окажутся вовлеченными в нее. И каждый из них потенциально способен причинить вред другим участникам космического соревнования и целым государствам. Мотивы нанесения такого вреда могут быть самыми разнообразными: от банального хулиганства до террористической деятельности.
Пятая угроза — развитие аддитивных технологий
Высокие технологии ведут к активному внедрению аддитивных технологий — массовому наращиванию автоматизации процесса изготовления деталей, основанного на создании объекта по электронной модели путем послойного добавления материалов. Не говоря уже о том, что роботизация шагает по планете семимильными шагами: выпускаются уже полностью модульные роботы, способные соединяться с другими роботами, создавая гибкие системы. Все мы уже видим, как роботы-собаки патрулируют улицы, а гуманоидные роботы используются в театральных постановках. Идет создание нового поколения оборудования для аддитивного производства в промышленных масштабах крупногабаритных сложных деталей, в том числе для ВПК. В недалеком будущем мы будем иметь дело с использованием перспективных материалов, включая термонестабильные пластики, полимеры, керамику, многокомпонентные наноматериалы.
При этом огромное поле для террористических и преступных группировок открывает производство объектов, включая разнообразное оружие, изготовленных посредством нелицензированных аддитивных технологий
Отследить их происхождение в таких случаях не представляется возможным. Основной фактор, ведущий к возникновению подобной угрозы, состоит в совершенствовании малых, коммерчески доступных 3D-принтеров, технические характеристики которых позволяют изготавливать различные виды летального оружия и обходить биометрическую защиту.
Я сознательно сгустил краски, говоря о блестящих технологических решениях последних десятилетий. Мне самому нравится большинство из них. Но нужно сказать честно: спровоцированный Западом кризис вокруг Украины, на котором страны «золотого миллиарда» зарабатывают баснословные деньги и решают свои шкурные политические задачи, привел к тому, что перечисленные здесь и многие другие технологические угрозы всемирного масштаба остаются без должного ответа. Огромное количество ресурсов, не говоря уже о работе чиновников, тратится впустую. Существующая модель реагирования на них, в том числе в рамках работы ООН и ее специализированных органов, является неэффективной, забюрократизированной и не учитывает интересы подавляющего большинства жителей нашей планеты. Но рано или поздно договариваться все же придется. На кону существование всего человечества, положение которого становится все более неустойчивым и печальным. Впрочем, еще Сартр заметил, что «настоящая свобода начинается по ту сторону отчаяния».
Больше новостей читайте в нашем телеграм-канале @expert_mag
