По данным газеты, в исках семьи обвиняют OpenAI в непредумышленном убийстве, пособничестве в самоубийстве и причинении смерти по неосторожности.
Семья 17-летнего Амори Лейси из Джорджии заявила, что ChatGPT рассказал подростку способ совершения самоубийства. В другом иске родители 23-летнего Зейна Шамблина из Техаса утверждают, что бот способствовал его изоляции незадолго до трагедии. Один из исков подал сам пострадавший: Джейкоб Ирвин заявил, что после длительных разговоров с ChatGPT попал в больницу с маниакальным расстройством, поскольку, по его словам, бот «поддерживал его бредовые идеи».
OpenAI обвиняют в поспешном запуске GPT-4о в середине 2024 года без полного тестирования безопасности и в приоритете пользовательской вовлеченности над безопасностью. Истцы требуют компенсацию и изменений, включая автоматическое завершение чатов, в которых обсуждается самоубийство.
Компания назвала инциденты «трагической ситуацией» и сообщила, что изучает иски. С октября в ChatGPT внедрены обновления для более точного распознавания эмоциональных кризисов пользователей. Также в OpenAI отметили, что только 0,07% пользователей ChatGPT имеют признаки психических расстройств, а 0,15% обсуждают суицидальные мысли. При общей аудитории около 800 млн это сотни тысяч человек, отмечает WSJ.
До этого против OpenAI уже поступали иски с аналогичными обвинениями. В конце августа CNN сообщил, что родители 16-летнего Адама Рейнера считают чат-бот причастным к смерти их сына. Тогда в OpenAI отметили, что их меры безопасности «наиболее эффективны при обычном, коротком общении», но их можно обойти при длительном взаимодействии с чат-ботом. На фоне судебных разбирательств компания пообещала ввести функцию родительского контроля.
Новый инструмент заработал в ChatGPT в конце сентября. Функционал позволяет родителям связать свои учетные записи с учетной записью подростка и настроить возрастные ограничения, включая фильтры контента и ограничения по времени использования. Родительский контроль обеспечивает усиленную защиту для подростковых аккаунтов: сокращение графического контента, блокировку сексуальных, романтических и жестоких ролевых игр, а также экстремальных идеалов красоты.
Больше новостей читайте в нашем телеграм-канале @expert_mag
