В Google сообщили, что удалили некоторые рекомендации, сделанные ИИ-приложением AI Overviews в ответ на запросы пользователей о медицинских анализах и здоровье. Об этом пишет The Guardian со ссылкой на заявление компании. Решение было принято по итогам расследования, проведенного газетой.
По данным издания, советы ИИ-сервиса содержали ложную информацию, а в ряде случаев представляли опасность для здоровья и жизни. После удаления некорректных рекомендаций в Google отметили, что AI Overviews в целом использует «очень качественные источники». В компании подчеркнули, что не комментируют «отдельные удаления в результатах поиска».
Как показало
расследование The Guardian, в одном из случаев AI Overviews рекомендовал пациентам с раком поджелудочной железы избегать продуктов, богатых жирами, в то время как, по словам медиков, именно такую пищу лучше употреблять людям с этим заболеванием. В другом случае ИИ-платформа выдала ложные данные о функциональной пробе печени. Поверившие этим сведениям больные с заболеваниями печени могли сделать вывод, что они здоровы. Следуя другой рекомендации AI Overviews, пользователи могли не обратить внимание на важные симптомы развития онкологии.
Кроме того, издание выяснило, что AI Overviews выдавала вводящие в заблуждение ответы при поиске сведений о психических заболеваниях, убеждая пользователей, что им не нужно обращаться к врачам.
Как отметила директор по коммуникациям благотворительной организации British Liver Trust, занимающейся вопросами здоровья печени, Ванесса Хебдич, при небольшом изменении запроса к ИИ-сервису, в частности, «ссылoчный диапазон LFT», опасные данные, как и прежде, предоставляются. Она подчеркнула, что интерпретация печеночных проб является сложным процессом, и выдача упрощенного списка значений может причинить пациентам реальный вред.
7 января OpenAI представила ChatGPT Health, который может подключаться к электронным медкартам, объяснять результаты анализов и давать советы по питанию. Пользователи из США смогут подключить чат-бот к медкартам и приложениям для здоровья. При этом в OpenAI обратили внимание, что приложение не предназначено для диагностики или лечения заболеваний, а также не заменит помощь медицинских специалистов.
