Anthropic заблокировала нескольких пользователей из-за подозрения, что они могли использовать Claude для разработки биологического оружия. По данным компании, пользователи предпринимали попытки использовать нейросеть в исследованиях вируса чикунгунья, высокопатогенного птичьего гриппа, а также токсинов
Компания-разработчик нейросети Claude Antropic выявила пять случаев, в которых пользователи применяли систему для исследований, потенциально имеющих отношение к разработке биологического оружия, говорится в отчете компании, опубликованном 10 сентября.
Anthropic заблокировала связанные с этой активностью аккаунты и усилила защитные механизмы, уточнили в компании.
Компания изучила случаи использования Claude в период с декабря 2025 г. по август 2026-го и обнаружила попытки применить нейросеть в исследованиях вируса чикунгунья, высокопатогенного птичьего гриппа, а также токсинов.
В Anthropic подчеркнули, что не во всех случаях удалось установить намерение причинить вред: биологические исследования относятся к сфере двойного назначения и могут иметь как научное, так и потенциально опасное применение. Anthropic также подчеркнула, что обнаруженные случаи не свидетельствуют о непосредственной угрозе применения биологического оружия с помощью Claude. По мнению компании, они показывают необходимость сочетать автоматические фильтры с дополнительной проверкой пользователей и организаций, получающих доступ к наиболее чувствительным возможностям ИИ.
Помимо этого, Anthropic также зафиксировала использование Claude для кибератак, слежки, мошенничества и разработки вооружений, в том числе ракет. В отдельных эпизодах пользователи пытались обходить региональные ограничения и скрывать цель своих исследований, говорится в исследовании.
В отдельном анализе Anthropic отметила, что современные ИИ-модели уже способны выполнять ряд сложных задач, которые ранее требовали участия узкопрофильных специалистов. По оценке компании, это одновременно расширяет возможности для научной работы и повышает риски злоупотреблений.
На этом фоне Anthropic усилила защиту последних версий Claude. В компании заявили, что для Claude Fable 5 действуют более строгие ограничения на запросы, связанные с биологическими исследованиями двойного назначения.
