OpenAI внедряет новую систему родительского контроля и страницу ресурсов для родителей в ChatGPT,
сообщается на сайте компании.
Новый функционал позволяет родителям связать свои учетные записи с учетной записью подростка и настроить возрастные ограничения, включая фильтры контента и ограничения по времени использования.
Родительский контроль обеспечивает усиленную защиту для подростковых аккаунтов: сокращение графического контента, блокировка сексуальных, романтических и жестоких ролевых игр, а также экстремальных идеалов красоты. Родители могут ограничить голосовой режим, память ChatGPT, генерацию изображений и использование данных для обучения модели. Подростки не могут изменять эти ограничения, если ребенок отменит привязку, его родители получат уведомление.
«Ограничения помогают, но они не являются абсолютно надежными и могут не сработать, если кто-то намеренно попытается их обойти. Мы продолжим вдумчиво совершенствовать систему и улучшать ее. Мы рекомендуем родителям поговорить с детьми-подростками о здоровом использовании ИИ и о том, как к этому относятся в их семье», — сказано в сообщении.
Система уведомлений помогает родителям оперативно реагировать, если ChatGPT фиксирует признаки риска причинения себе вреда подростком. При обнаружении угрозы специально обученная команда связывается с родителями, отметили в OpenAI.
Ресурсы для родителей включают советы, руководства и объяснения работы ChatGPT, чтобы помочь семьям использовать чат-бот безопасно и продуктивно. В ближайшие месяцы OpenAI внедрит систему прогнозирования возраста, которая автоматически применяет подростковые настройки для пользователей младше 18 лет.
В конце августа OpenAI сообщила о планах внедрить функцию родительского контроля. Это заявление прозвучало на фоне нескольких судебных процессов, в которых родители обвинили ChatGPT в том, что он стал причиной причинения вреда детям и доведения их до суицида. В компании подчеркнули, что существующие меры безопасности «наиболее эффективны при обычном, коротком общении», но их можно обойти при длительном взаимодействии с чат-ботом.
