Если чат-бот определит, что пользователь младше 18 лет, то он автоматически будет перенаправлен в версию ChatGPT, соответствующую его возрасту. Специальная версия будет блокировать графический и сексуальный контент, а в редких случаях может привлечь правоохранительные органы, пояснили в компании. Аналогичный алгоритм действий будет активирован в случае, если ChatGPT не сможет определить возраст пользователя.
О том, что OpenAI планирует ввести функцию родительского контроля, компания сообщала в конце августа. Заявление OpenAI было сделано на фоне ряда судебных разбирательств, в рамках которых родители обвинили ChatGPT в доведении детей до причинения себе вреда и до суицида. В OpenAI отметили, что их меры безопасности «наиболее эффективны при обычном, коротком общении», но их можно обойти при длительном взаимодействии с чат-ботом.
С помощью новых функций у родителей появится возможность связывать свою учетную запись с учетной записью подростка через электронную почту, устанавливать часы, в которые он не сможет использовать чат-бота, получать уведомления, если подросток находится в острой стрессовой ситуации, и др., рассказали в OpenAI.
«Мы ставим безопасность выше конфиденциальности и свободы для подростков; это новая и мощная технология, и мы считаем, что несовершеннолетним нужна значительная защита», — написал генеральный директор OpenAI Сэм Альтман в блоге 16 сентября.
OpenAI решила провести обновление после того, как Федеральная торговая комиссия США начала расследование в отношении нескольких технологических компаний по поводу возможного негативного влияния чат-ботов на детей и подростков, пишет CNBC.
В частности, в середине августа Reuters сообщил, что внутренние стандарты Meta (признана в России экстремистской, ее деятельность запрещена) разрешали чат-ботам компании вести романтические переписки с детьми. После запроса агентства Meta убрала эти положения и заявила, что пересматривает свои правила. Там подчеркнули, что подобные диалоги с детьми никогда не должны были быть разрешены, отметив, что приведенные в стандартах примеры и примечания были «ошибочными». При этом чат-боты Meta могут вести аналогичные разговоры со взрослыми, что уже привело к трагическим последствиям для отдельных пользователей, обратил внимание Reuters. 17 сентября агентство сообщило, что американские сенаторы запросили у Meta отчет о влиянии ее продуктов на детей и об эффективности родительского контроля.
Больше новостей читайте в нашем телеграм-канале @expert_mag
