Anthropic запретила пользователям оскорблять Claude. Новые правила вступят в силу 12 ноября. Согласно им, нейросеть будет прекращать беседу, если пользователь начнет грубить. Будут ли юзера блокировать, не уточняется
Anthropic ввела запрет на систематическое и «бессмысленное оскорбительное или жестокое поведение» по отношению к Claude, следует из новых правил использования нейросети.
«Мы добавили запрет на систематическое и бессмысленное оскорбительное или жестокое поведение по отношению к нашим моделям. Это обновление будет применяться только в крайних случаях, когда пользователи неоднократно проявляют жестокость к нашим моделям, без видимой на то причины», — сказано в правилах.
В новых правилах отмечается, что нейросеть будет прекращать беседу, если пользователь начнет грубить. При этом в Anthropic не уточнили, будут ли введены дополнительные меры наказания — в частности, блокировка пользователей.
В компании добавили, что новое правило не распространяется на обычное раздражение пользователей, споры с нейросетью и др.
Нововведения вступят в силу с 12 ноября.
Anthropic также запретила применять Claude для вмешательства в выборы — в частности, для распространения дезинформации о кандидатах и голосовании, для выдачи себя за кандидатов или сотрудников избирательных комитетов и для попыток снизить явку. Среди других изменений — запрет на слежку за людьми без их согласия, а также использование Claude для принятия решений о том, кого арестовывать или привлекать к ответственности.
