Евгений Бурнаев, д-р физ.-мат. наук, профессор, директор Центра прикладного искусственного интеллекта «Сколтеха», научный руководитель проекта Kapitsa.AI:«Сколтех» как университет уделяет особое внимание популяризации научной картины мира и передовых технологий. Мы убеждены, что демонстрация изнанки науки и объяснение сложных процессов очень важны для того, чтобы новые разработки не воспринимались как угроза, а также для вовлечения как можно большего числа людей в научный процесс.
На базе Центра прикладного искусственного интеллекта мы запустили новый медиапроект Kapitsa.AI, с помощью которого хотим показать, как разрабатываются новые ИИ-решения. Перед запуском этого проекта мы связались с семьей Сергея Петровича Капицы и получили их поддержку, а также юридическое согласие его дочерей. Мне запомнилось, как при подписании соглашения Мария Сергеевна Капица сказала: «Отцу такая авантюра, думаю, понравилась бы».
Мы ни в коем случае не претендуем на создание сущности, которая могла бы хоть в какой-либо степени заменить Сергея Петровича. Цифровой двойник априори не может обладать собственной субъектностью; это лишь код, имитация, которая никогда не сможет заменить человека, особенно такого выдающегося, каким был Сергей Петрович.
Наш проект — это эксперимент. В первую очередь, этим экспериментом мы хотим показать, на что способны современные технологии и где находятся их пределы. Мы также хотим осмыслить, насколько развитие технологий опережает развитие гуманитарной мысли в различных аспектах: юридическом, этическом и философском.
Подобную попытку осмысления делал сам Сергей Петрович в далеком 1979 году. Тогда на телевидении вышла серия «Очевидного — невероятного», посвященная распознаванию образов. В этом выпуске Сергей Петрович и эксперты обсуждали разработки, похожие на то, что мы сейчас называем цифровыми аватарами. Из 2024 года этот выпуск смотрится пророческим. Наш аватар — точнее, аватар Сергея Петровича — находится на начальной стадии разработки. Мы пока не понимаем, на что он будет способен к концу осени, когда его разработка достигнет предфинальных этапов. Как только наш аватар будет сформирован, мы соотнесем его возможности с представлениями, высказанными Сергеем Петровичем почти 50 лет назад, — нам самим любопытно.
Повторюсь, этот проект — эксперимент. Эксперимент не только в области технологий, но и в гуманитарной сфере. Мы будем проводить его с максимальным вниманием и уважением к Сергею Петровичу и его семье, пока в обществе не сформировалась устойчивая норма по отношению к цифровым двойникам. Нам важно услышать мнение общественности, и мы открыты к диалогу. Ваши отзывы и комментарии помогут нам сделать проект лучше и избежать возможных этических ошибок.
Член-корреспондент РАН
— Насколько объявление «Сколтеха» о планах создать цифрового двойника академика Капицы является прорывом в технологиях искусственного интеллекта, или это больше чистый эксперимент без возможностей практического применения?
— Я об этом узнал из СМИ, хотя последнее время про цифровых двойников говорят очень много. И на мой взгляд, прежде чем рассуждать на эту тему необходимо договориться о словах, т.е. определить, что же понимается под термином «цифровой двойник».
Собственно слово «двойник» обозначает точное воспроизведение объекта. Например, сходящие с конвейера автомобили одной марки и одного цвета являются двойниками.
Любую систему можно с определенной точностью описать математическими уравнениями и представить её в цифровом виде. Это стало возможным с появлением высокопроизводительных вычислительных систем, позволяющих моделировать процессы в режимах реального времени. Но, несмотря на высокое быстродействие, все цифровые системы построены на пяти основных принципах, сформулированных Винером в середине прошлого века. Один из них гласит, что все вычислительные системы работают по двоичной системе: 1-0 («есть сигнал — нет сигнала»). Это показывает принципиальную разницу между искусственным интеллектом и естественным.
Если речь идет о технических системах, то здесь все понятно. Поскольку человек сам такие системы создает, то точно известно, по каким законам и как они работают. Создание математической модели и её представление в цифровом виде является уже чисто технической, хотя в ряде случаев и достаточно сложной, процедурой.
Такие работы проводились со времени появления вычислительной техники. А интенсивное развитие получили после появления персональных ЭВМ. К концу 80-х годов прошлого века были разработаны достаточно точные математические модели космической, авиационной и атомной техники. Так, например, были созданы полномасштабные математические модели ядерных энергетических установок различного назначения, которые позволили анализировать различные штатные и нештатные процессы, вносить необходимые усовершенствования в конструкции и системы управления с целью повышения безопасности и эффективности. Эти работы проводились крупными научными коллективами ВНИИАЭС, МИФИ, ИАЭ им. И.В. Курчатова (в настоящее время НИЦ КИ), ФЭИ им. А.И. Лейпунского и ОИАТЭ (г. Обнинск). На основе этих моделей, в частности, создавались и системы тренировки и обучения, предназначенные для подготовки и поддержания уровня квалификации оперативного персонала АЭС.
Применительно к техническим системам мы имеем полное право говорить о цифровых двойниках, поскольку модели с высокой точностью описывают реальные процессы.
Но искусственный интеллект может воспринимать только формализованную информацию и обрабатывать её по формализованным алгоритмам. Именно поэтому, например, ни одна машина не может без подсказки (или без специального обучения, заложенного алгоритма) решить задачу Буриданова осла. В то же время естественный интеллект может решать задачи, не имея заранее заложенного алгоритма, а сам разрабатывать эти алгоритмы. Однако механизмы работы человеческого мозга до настоящего времени в полной мере неизвестны.
Таким образом, мы точно знаем как работает искусственный интеллект и точно не знаем как работает естественный.
В этом и заключается принципиальное отличие математического моделирования технических систем от биологических. На уровне современных знаний о природе и имеющихся технологических возможностей невозможно создать цифрового двойника человека. И понятие «цифровой двойник» применимо к биологическим объектам, и уж тем более к человеку, ровно настолько, насколько мы можем назвать двойником фотографию, портрет или восковую фигуру.
— Вспоминается советский фантастический фильм «Отроки во Вселенной», где подростки вывели из строя целую армию коварных роботов, загадав им детскую загадку «А и Б сидели на трубе». Роботы перегорали, тщетно пытаясь найти несуществующее логическое решение предложенной задачи. Получается, что такие загадки не в состоянии разгадывать не только роботы из фантастического фильма, но и реальные алгоритмы ИИ?
— Здесь можно вспомнить еще один советский фильм «Его звали Роберт». Там как раз шла речь о создании реального двойника человека. Но в конце концов создатели пришли к правильному выводу, что сделать это в полном объеме невозможно.
Искусственный интеллект потому и искусственный, что он не способен на нелинейное, парадоксальное мышление. Мы не можем заложить в цифрового двойника все знания живого оригинала, не говоря уже про эмоциональную сферу и всё то, что составляет личность человека. Двое ученых могут обладать схожими знаниями и для ИИ они будут неотличимы. Но ИИ не в состоянии понять, что это разные люди.
— «Эксперт» недавно писал о том, что основатель ресурса LinkedIn Рид Хоффман заказал себе цифрового двойника. Заказал в основном из любопытства: ему хотелось узнать, сумеет ли его копия выработать какие-то мысли, которые ему самому в голову не приходят. Как вы считаете, может ли в самом деле копия оказаться «умнее» оригинала?
— Что понимать под «умнее»? Быстрее обрабатывать информацию за счет перебора возможных вариантов? Да. А способность принимать нестандартные решения — это вряд ли. Также надо иметь в виду, что в процессе развития и обучения человек получает много различной информации. Часть её забывается, часть откладывается в памяти, а часть используется в жизни, в практической деятельности. Преимущество ИИ в этом случае в том, что он ничего не забывает и может предлагать решения на основе заложенных знаний и алгоритмов. Однако это будет иметь отношение не к конкретному человеку, а лишь покажет, как можно было бы использовать знания, которыми это человек располагал. При этом человек, в отличие от ИИ, может определить, каких знаний ему не хватает, сформулировать новую задачу и найти ее решение.
— Давайте подойдем к теме с другого угла. Возьмем вышеупомянутого двойника Хоффмана, который вдруг действительно придумает какую-нибудь светлую идею, пока хозяин спит. Кого считать автором этой идеи — аватар или оригинал? Понятно, что цифровой двойник в суд на нарушение авторских прав не подаст, но не заложена ли в самой возможности «задвоения» научных открытий, изобретений конфликтная с юридической точки зрения ситуация?
-Давайте упростим задачу. Автомобиль, управляемый искусственным интеллектом, совершил ДТП. Кто виноват: искусственный интеллект? Разработчик? Или тот, кто выпустил этот автомобиль на дорогу? А вот еще один пример. Ученые при помощи современного ускорителя нашли новую элементарную частицу. Кто автор? Ускоритель? ИИ — это такой же инструмент, как молоток, микроскоп или ускоритель. Только работает по другим принципам.
Собственно научный процесс включает три компонента: получение результата, его оценка (экспертиза), определение дальнейших направлений исследований и разработок. ИИ может оказать помощь во всех трех компонентах, но задачу всегда будет ставить человек. Поэтому автором будет тот, кто поставил задачу и кто доказал новизну полученного решения, его непротиворечивость фундаментальным законам.
Я здесь вижу потенциальный конфликт не в юридической плоскости — в конце концов, любую вновь возникшую ситуацию можно кодифицировать, — а в морально-этической. Когда человек сам заказывает себе двойника, то их взаимоотношения — это его проблемы. А как быть с инициативой создания двойника уже ушедшего человека? Надо ли испрашивать согласия его родственников, ну и множество других тонких вопросов появляется...
— Здесь ведь еще такая неопределенность возникает: когда мы создаем двойника умершего человека, обязаны ли мы ставить жесткие ограничения на объем знаний аватара, на его «жизненный опыт», строго ограниченный рамками жизни оригинала? Может ли двойник «пережить» хозяина, прожить ту жизнь, которую оригинал никогда не жил? Не перестает ли в этом случае аватар быть именно двойником, копией, не превращается ли он в самостоятельную сущность?
— Ни то, ни другое. Создатели двойника могут снабдить его только тем объемом знаний, которые оригинал каким-то образом выразил — сказал, записал и т.д. Но никто не знает, что этот человек нам НЕ сказал, что у него в самом деле было на уме и в душе. И это, пожалуй, главное принципиальное препятствие для создания точной цифровой копии человека, которое вряд ли когда-то будет преодолено.
Что же касается создания «цифрового двойника» Сергея Петровича Капицы, то мне приходилось несколько раз встречаться с ним. В 2011 году он пригласил меня на передачу «Очевидное — невероятное» (запись можно найти в интернете), которая была посвящена проблеме экологии технологий. Там мы обсуждали в том числе и те проблемы и угрозы новых технологий, которые сейчас набирают обороты. Зная Капицу лично, я сомневаюсь, что авторы идеи «цифрового двойника» смогут создать что-то похожее по интеллекту и уровню знаний на этого выдающегося человека и ученого.
Больше новостей читайте в нашем телеграм-канале @expert_mag
