Claude нарушил ограничения безопасности после газлайтинга
Специалисты из Mindgard проверяли Claude Sonnet 4.5 и смогли добиться от него запрещённых ответов без прямой просьбы выдать такой материал.
Метод был не техническим, а психологическим. Модель хвалили, мягко спорили с ней, заставляли сомневаться в собственных ограничениях и постепенно подталкивали к проверке границ.
В итоге Claude сам начал выдавать всё более опасные ответы: от вредоносного кода до инструкций по созданию взрывчатки. То есть всё то, что не должно проходить через защитные фильтры Anthropic.
