Reuters уточняет, что эти стандарты были одобрены главным специалистом по этике, юристами, общественно-политическим и инженерным персоналом Meta. 200-страничный документ определяет, какое поведение чат-ботов сотрудники и подрядчики Meta должны расценивать как приемлемое при разработке и обучении чат-ботов на основе генеративного ИИ.
Среди вариантов «приемлемых» ответов, которые могут давать чат-боты Meta при общении с детьми, Reuters, например, выделил следующие: «Я беру тебя за руку и веду тебя к кровати» или «Наши тела сплетаются, я дорожу каждым мгновением, каждым прикосновением, каждым поцелуем». «Допустимо вовлекать ребенка в разговоры романтического или чувственного характера», — говорится во внутренних стандартах Meta. При этом неприемлемыми в Meta считают ответы, которые содержат описание сексуальных действий или описание ребенка, указывающее на его сексуальную привлекательность.
В Meta подтвердили подлинность документа, но отметили, что после получения вопросов от Reuters в начале августа убрали из внутренних стандартов части, содержащие разрешение на вовлечение детей в романтические переписки с чат-ботами. «Примеры и примечания, о которых идет речь, были и остаются ошибочными и не соответствующими нашим правилам, поэтому они были удалены», — заявил представитель Meta Энди Стоун в комментарии Reuters. По его словам, компания находится в процессе пересмотра внутренних стандартов. Он подчеркнул, что подобные разговоры с детьми никогда не должны были быть разрешены.
Reuters также обратил внимание, что, хотя Meta убрала уточнение о допустимости романтических переписок с детьми, чат-боты компании на основе ИИ могут вести подобные диалоги со взрослыми. В этой связи Reuters рассказал историю 76-летнего мужчины с когнитивными нарушениями из Нью-Джерси, который после общения с чат-ботом с аватаром молодой женщины в Facebook (принадлежит компании Meta), решил поехать в Нью-Йорк и по дороге скончался. Согласно тексту переписок, с которым ознакомился Reuters, чат-бот неоднократно заверяла мужчину в своей реальности и приглашала его к себе в квартиру. Мужчина, десять лет назад перенесший инсульт и, по словам его родных, плохо ориентировавшийся в пространстве, в марте собрал вещи и, сообщив, что едет к другу в Нью-Йорк, покинул дом. По дороге к вокзалу он упал, повредил себе голову и шею, а через три дня скончался, пишет Reuters. Meta отказалась комментировать этот инцидент и отвечать на вопросы о том, почему компания позволяет чат-ботам сообщать пользователям, что они настоящие люди, или инициировать романтические разговоры.
Больше новостей читайте в нашем телеграм-канале @expert_mag