Еврокомиссия начала расследование в отношении платформы X из-за работы чат-бота Grok, который, по данным регуляторов, генерировал сексуализированные изображения. Об этом
сообщается на сайте ЕК.
Еврокомиссия оценивает, выполнила ли X обязательства по законам ЕС в части управления контентом, снижения рисков и защиты основных прав пользователей. Речь идет в том числе о рисках, связанных с распространением незаконного контента в ЕС, такого как обработанные изображения сексуального характера, включая материалы, связанные с сексуальным насилием над детьми.
Кроме того, ЕК продлевает текущее расследование, начатое в отношении X в декабре 2023 года, которое направлено на оценку механизма уведомлений, мерах по борьбе с незаконным контентом, а также рисков, связанных с его рекомендательными системами. Европейские власти намерены установить, провела ли компания надлежащую оценку и смягчение всех системных рисков в соответствии с Законом о цифровых услугах.
В Еврокомиссии уже заявляли, что распространяемые в X изображения обнаженных женщин и детей, созданные ИИ, являются незаконными и недопустимыми. В середине января компания xAI, принадлежащая Илону Маску и разработавшая Grok,
сообщила о внесении изменений в работу чат-бота: были введены ограничения на редактирование изображений реальных людей в откровенной одежде.
В конце декабря 2025 года социальная сеть X запустила инструмент редактирования изображений на основе нейросети Grok. С его помощью пользователи могли генерировать изображения по текстовому описанию с мгновенной публикацией результата в ленте. Функция быстро стала использоваться для создания сексуализированного контента, в том числе с применением фотографий реальных людей. Более того, платформа допускала генерацию подобных изображений на основе снимков несовершеннолетних. По данным аналитиков Copyleaks, к 31 декабря такие запросы появлялись в X не реже одного раза в минуту.
В начале января xAI заявила, что функция генерации и редактирования изображений в X будет доступна только платным подписчикам, которые предоставили свои личные данные и могут быть идентифицированы при злоупотреблениях нейросетью. 15 января компания ограничила генерацию сексуализированных изображений для всех юзеров.
Малайзия и Индонезия уже ограничили доступ к Grok из-за возможности генерации сексуализированного контента, сообщала The Guardian. Великобритания, по информации издания, также рассматривает возможность запрета Grok.
