В России ИИ-модели начнеут проверять на соответствие духовно-нравственным ценностям, узнали «Ведомости». По информации газеты, Минцифры, ФСБ и служба по техническому и экспортному контролю разработают порядок оценки и критерии проверки. Лаборатория будет оценивать ответы ИИ и проверять их на способность обходить внутренние ограничения через промпт-инъекции
Большие модели искусственного интеллекта будут проверять на соответствие закону и духовно-нравственным ценностям, сообщили «Ведомости» со ссылкой на источники в одной из компаний, которые участвовали в обсуждениях, и в профильной IT-ассоциации. Информацию подтвердил источник в Минцифры. Обсуждения проходили в конце июля и начале августа на площадке АНО «Цифровая экономика» в рамках готовящихся подзаконных актов к принятому закону об ИИ.
По информации газеты, проверкой будут заниматься независимые лаборатории, которым ИИ-модели смогут передавать российские IT-компании. Минцифры, ФСБ и Федеральная служба по техническому и экспортному контролю (ФСТЭК) разработают порядок оценки и критерии проверки российских моделей, уточняют «Ведомости».
Лаборатории будут оценивать ответы ИИ и проверять их на способность обходить внутренние ограничения через промпт-инъекции, рассказал один из источников. После тестирования лаборатория предоставит правкомиссии заключение о соответствии или несоответствии модели традиционным ценностям. При положительном решении модели может быть присвоен статус национальной или суверенной, что дает право на государственную поддержку, например, в госзакупках и важных IT-проектах, уточняют «Ведомости». Источник в Минцифры добавил, что финальное решение о подтверждении соответствия и присвоении модели статуса национальной или суверенной останется за ведомством.
Проверки коснутся только разработок, претендующих на статус суверенных или национальных ИИ-моделей, пояснил источник в Минцифры. Проверять все ИИ-модели в России не будут, уточняют «Ведомости». Вместе с этим статусом разработчики получат государственную поддержку, доступ к данным государственных информационных систем и возможность приоритетного использования в отдельных отраслях. Они должны самостоятельно подать заявление и документы в оценочную лабораторию.
Президент России Владимир Путин 26 июля подписал закон о развитии технологий ИИ в России, который в том числе вводит два статуса для больших моделей: суверенной и национальной.
