«Совет впервые признал использование ИИ в сфере финансовых услуг уязвимостью для финансовой системы... Использование ИИ может создавать определенные риски, в том числе риски в области безопасности», — заявило ведомство.
В самом отчете среди таких рисков называются проблемы «объяснимости», с которыми сопряжены многие подходы к созданию и применению ИИ — эти проблемы затрудняют оценку его пригодности и надежности, а также оценку точности и потенциальной погрешности в результатах его работы. Кроме того, зависимость систем ИИ от больших наборов данных и сторонних поставщиков создает операционные риски, связанные с контролем данных, конфиденциальностью и кибербезопасностью.
«Совет рекомендует финансовым учреждениям, участникам рынка, а также регулирующим и надзорным органам углублять свой опыт и возможности мониторинга за развитием и применением ИИ в целях выявления возникающих рисков» — призвал финрегулятор в отчете.
FSOC, председателем которого является министр финансов США Джанет Йеллен, осуществляет мониторинг системных рисков и наделен полномочиями запрещать небезопасные практики и финансовые продукты.
Ранее, в июле 2023-го, о необходимости новых мер регуляции в связи с распространением ИИ предупреждал глава Комиссии по ценным бумагам и биржам США (SEC) Гэри Генслер — по его словам, без этого невозможно будет сохранить финансовую стабильность на рынках.
В том же месяце Федеральная торговая комиссия США (FTC) приступила к расследованию в отношении OpenAI, обвинив ее в нарушении законов о защите потребителей — генеративный чат-бот компании ChatGPT предоставлял им недостоверную информацию.
