«Мы продолжаем разрабатывать и внедрять меры безопасности, учитывающие уникальные потребности подростков, с более строгими ограничениями в отношении деликатного контента и рискованного поведения. Мы также скоро введем родительский контроль, который позволит родителям лучше понимать, как их дети-подростки используют ChatGPT, и влиять на это», — сказано в сообщении.
Заявление OpenAI сделано на фоне ряда судебных исков родителей, обвиняющих ChatGPT в доведении детей до причинения себе вреда и суицида. В OpenAI отметили, что их меры безопасности «наиболее эффективны при обычном, коротком общении», но их можно обойти при длительном взаимодействии с чат-ботом. Согласно одному из исков, родители погибшего подростка требуют возмещения ущерба (сумма не указана), а также внедрение в чат-бот проверки возраста, инструментов родительского контроля и функции, завершающей разговоры при упоминании самоубийства или селфхарма, сообщает CNN. Кроме того, истцы выступают за проведение ежеквартальных аудитов компании независимым наблюдателем.
В интервью The Verge генеральный директор OpenAI Сэм Альтман заявил, что доля пользователей, у которых сложились «нездоровые отношения» с ChatGPT составляет менее 1%. Он добавил, что в компании проводится много совещаний на эту тему.
В середине августа Reuters сообщил, что внутренние стандарты Meta (признана в России экстремистской, ее деятельность запрещена) разрешали чат-ботам компании вести романтические переписки с детьми. После запроса агентства Meta убрала эти положения и заявила, что пересматривает свои правила. Там подчеркнули, что подобные диалоги с детьми никогда не должны были быть разрешены, отметив, что приведенные в стандартах примеры и примечания были «ошибочными». При этом чат-боты Meta могут вести аналогичные разговоры со взрослыми, что уже привело к трагическим последствиям для отдельных пользователей, обратил внимание Reuters.
Больше новостей читайте в нашем телеграм-канале @expert_mag