Anthropic продолжает выявлять случаи использования Claude для сомнительных и запрещённых целей, от мошенничества и создания фальшивых личностей до киберопераций.

Компания отмечает, что ИИ снижает порог входа для злоумышленников и позволяет автоматизировать задачи, которые раньше требовали значительно больше времени и технических знаний.

В одном из исследований Anthropic проанализировала 832 аккаунта, связанных с вредоносной киберактивностью, и заблокировала их за нарушение правил сервиса.