Если информация из закрытых баз данных, содержащих генетическую информацию опасных вирусов, попадет в поле зрения нейросетей, загнать этого джина обратно в бутылку будет невозможно. О такой опасности заявила группа из более чем 100 ученых, занятых в сфере биотехнологий. По их данным, если отдать создание новых ДНК в распоряжение искусственного интеллекта, нет никаких гарантий, что этим не воспользуются злоумышленники либо враждебные правительства для производства новых смертельных вирусов и патогенов.
Ученые считают, что ИИ способен конструировать новые структуры ДНК и геномы, предсказывать эволюцию патогенов, и т.д. Эта способность появилась у него в ходе стандартных процессов обучения, когда ученые сами используют нейросети (например, большую языковую модель Evo 2 DNA) для таких задач. Но их тревожит, что нейросети демонстрируют способность обходить барьеры и запреты на те или иные действия.
Эта тревога сильно преувеличена, уверен руководитель рабочей группы «Правовые и этические аспекты биобанкирования», вице-президент Национальной ассоциации биобанков и специалистов по биобанкированию Андрей Глотов, поскольку между созданием нового вируса «на бумаге» и его воспроизводством огромная дистанция. «Можно, конечно, задать нейросети промпт „напиши секвенцию ДНК с такими-то свойствами“. Но что делать с этим дальше? Создателю потребуется доступ к лаборатории, генетическому материалу. И главное — большинство искусственно созданных вирусов погибают вскоре после их создания. Чтобы создать жизнеспособный вирус, да еще с заданными свойствами, требуется селекция — перебор огромного числа вариантов, что занимает тоже очень долгое время. Можно вспомнить, сколько времени заняла разработка вакцины от Covid, чтобы понять, насколько это трудо— и времязатратный процесс», — рассказал он «Эксперту».
Авторы письма в Science призвали разработчиков нейросетей, правительства и научные институты принять технологические и юридические меры с целью предотвратить худший сценарий. Такие меры (именуемые virtual trusted research environments — виртуальная среда для исследований, гарантирующая их безопасность) уже действуют во многих странах. Так, Комиссия по национальной безопасности США в области новых биотехнологий (NSCEB) в 2025 г. рекомендовала Конгрессу создать специальное бюро по сохранности генетической информации — для защиты ее как от террористов, так и от интереса, в частности, со стороны Китая. Схожие меры принимаются в Великобритании, Евросоюзе, России.
Но авторы письма считают: эти меры не дают полных гарантий того, что потенциальные террористы или враждебные государства не воспользуются «дырами» в системах защиты геномной информации — причем нейросети могут выступать «соучастниками» взломов баз данных.
Понимая это, многие ученые принимают превентивные меры, например, удаляют результаты своих экспериментов с опасными веществами из баз данных; однако это именно добровольные шаги, а не единая обязательная к исполнению система. И, как заявил «Эксперту» вице-президент по биомедицинским исследованиям Сколковского института науки и технологий Михаил Гельфанд, создать такую систему будет непросто: «Кто будет испрашивать разрешения на обход таких запретов? Вирус? Китайское правительство? Какие-то террористические группировки? Вспомните, как в 1979 г. в Свердловске на военной биолаборатории произошел выброс спор сибирской язвы, — то есть СССР разрабатывал биологическое оружие, с 1972 г. являясь участником Конвенции по его запрету. Базы данных геномной информации за редким исключением находятся в свободном доступе. Условием публикации научных работ, в том же Science, как раз и ставится размещение такой информации в общедоступных базах данных».
Больше новостей читайте в нашем телеграм-канале @expert_mag
