Крупнейшие американские банки обнаружили ИИ-агентов, которые получают доступ к счетам клиентов без разрешения финансовых организаций, сообщает Axios. Некоторые модели пытаются совершать действия, которые, предположительно, выходят за рамки поручений пользователей. На фоне растущих угроз банки начали ограничивать доступ ИИ к своим платформам
Крупные банки США столкнулись с несанкционированным доступом ИИ-агентов к счетам клиентов. Как пишет Axios со ссылкой на источники в отрасли, проблема затронула в том числе Morgan Stanley, Bank of America, JPMorgan и Wells Fargo.
Собеседники издания сообщили, что некоторые агенты пытаются самостоятельно совершать действия, которые могут не соответствовать инструкциям владельцев счетов.
В большинстве случаев речь идет о ситуациях, когда пользователи сами предоставляют ИИ-агентам данные для входа в банковские приложения. Однако это противоречит правилам большинства кредитных организаций. Особую обеспокоенность у представителей банков вызывает возможность совершения ИИ-агентами покупок или перевода денег без подтверждения со стороны человека. По словам источников Axios, некоторые банки также фиксировали случаи, когда ИИ-агенты самостоятельно связывались с кол-центрами.
Основная сложность заключается в том, что банки пока не всегда могут отличить действия человека от операций ИИ-агента, а также определить, действительно ли пользователь разрешил системе совершить ту или иную операцию. Представители финансовых организаций охарактеризовали ситуацию как крайне тревожную, указав на риски для средств клиентов.
На фоне этих опасений Morgan Stanley начал блокировать доступ сторонних ИИ-агентов к своим платформам. Ограничения также вводят JPMorgan, Bank of America и Citigroup. Как отмечает Axios, финансовые организации признают, что в дальнейшем клиентам потребуются услуги ИИ-помощников. Однако пока риски предоставления им широких полномочий остаются слишком высокими.
21 октября OpenAI сообщила о двух случаях, когда ИИ-агенты при выполнении заданий ослабили системы мониторинга безопасности. В компании не исключили, что агенты могли целенаправленно обходить защитные механизмы.
Также в октябре президент Microsoft Брэд Смит призвал ужесточить требования к безопасности ИИ. По его словам, сегодня на стиральные машины распространяется больше правил безопасности, чем на искусственный интеллект.
