ИИ донёс на человека (и правильно сделал).

Девушка из Флориды вела личный дневник в Claude. В какой-то момент она рассказала своему чат-боту о планах нарушить закон. Она призналась в покупке оружия и желании напасть на офис шерифа. Система безопасности пометила это сообщение как угрозу и передала его в Anthropic, после чего об этом сообщили правоохранительным органам.

Полиция установила личность женщины и задержала её. Ей предъявлено обвинение в письменной угрозе насилием. Во Флориде это тяжкое преступление.

Создатели Claude напоминают, что чат никогда не являлся приватным и сообщения мониторятся.

@lobushkin