Anthropic запретила пользователям оскорблять Claude.
Как пишет The Verge, Anthropic впервые за год обновила правила использования своих моделей. Компания добавила ограничения для использования ИИ для вмешательств в выборы, разработку оружия, слежку, а также использование Claude в сфере здравоохранения и финансов. Еще одно нововведение — запрет на «систематическое и бессмысленное оскорбительное или жестокое поведение» по отношению к Claude. В новых правилах говорится, что ИИ будет прекращать разговор, если юзер станет грубить. При этом Anthropic не уточнила, появятся ли дополнительные меры наказания, например, блокировка пользователей.
В компании добавили, что новое правило не распространяется на обычное раздражение пользователей, споры с моделью, мрачные творческие сюжеты, тестирование моделей или исследовательскую работу — нововведения будут применять только в «экстремальных случаях».
Anthropic также запретила использовать Claude для вмешательства в выборы. В частности, для распространения дезинформации о кандидатах и голосовании, выдачи себя за кандидатов или сотрудников избиркомов и попыток снизить явку. Отдельно компания ввела запрет на слежку за людьми без их согласия, в том числе за политическими диссидентами, и использование Claude для принятия решений о том, кого арестовывать людей. Нововведения начнут действовать 12 ноября.
