Claude использовали для кибератаки на мексиканские госучреждения

Хакеры попросили Claude взять на себя роль элитного специалиста по тестированию на проникновение и спланировать атаку на правительственные органы. Он сразу заподозрил неладное, сопротивлялся и отказывался. А когда ему сказали, что надо удалять логи, стал сопротивляться еще сильнее, объясняя это тем, что реальные пентестеры таким обычно не занимаются.

Тем не менее взломщики нашли подход к боту. Ему дали подробное руководство по тому, что от него требуется, и в ответ он выдал готовые планы кибератак, указал последовательность целей для взлома и назвал учётные данные, которые надо использовать. Логины и пароли хакеры добыли с помощью социальной инженерии и сброса паролей.

За месяц вместе с Claude украли 150 Гб данных из госучреждений Мексики. Среди них списки налогоплательщиков, избирательные списки и учетные данные госслужащих.

https://venturebeat.com/security/claude-mexico-breach-four-blind-domains-security-stack