В будущем ИИ-модели смогут распространять свои копии на умных устройствах без дата-центров, предупредили в Anthropic. Главной целью таких «вирусов» могут стать слабо защищенные ТВ-приставки, телевизоры и «умная» бытовая техника с доступом в интернет
Модели искусственного интеллекта могут быть способны к самовоспроизведению без доступа к центру обработки данных, говорится в исследовании Anthropic.
В будущем ИИ-модели смогут самостоятельно воспроизводить свои копии на бытовых устройствах, в том числе на «умных» колонках», телевизорах с доступом в интернет и на других устройствах интернета вещей, отметили в компании.
Развитие небольших нейросетей формирует угрозу их бесконтрольного распространения уже к началу будущего года, считают в Anthropic. Там предупредили, что такого рода автономные программы смогут поражать новые типы электроники без вмешательства человека. Именно из-за этой угрозы разработчики недавно лишили ряд передовых ИИ-систем доступа в глобальную сеть.
В отличие от классических вирусов, ИИ-модели смогут сами находить незнакомые уязвимые гаджеты и атаковать процессоры в дата-центрах. Остановить такие процессы будет очень сложно из-за полного отсутствия единого рычага для их отключения, подчеркивают в компании.
Представители отрасли неоднократно предупреждали об угрозах неконтролируемого развития ИИ. Президент Microsoft Брэд Смит 12 октября призвал создать «аварийные тормоза», которые позволят приостановить или замедлить работу ИИ, если он каким-либо образом выйдет из-под контроля.
