🌍 Почему Киссинджер боялся ИИ

Два года назад ушёл из жизни Генри Киссинджер — последний проект которого был посвящён рискам искусственного интеллекта.

Он видел параллели между ядерным оружием и ИИ: обе технологии несут беспрецедентную угрозу, если выйдут из-под контроля. В книге «Genesis» Киссинджер предупреждал, что сверхразумный ИИ может стать менее предсказуемым, чем ядерное сдерживание.

Сейчас три революции идут одновременно: ИИ научился рассуждать (как в моделях OpenAI o1), действовать автономно (агенты Claude) и свободно распространяться (модели с открытыми весами, как DeepSeek R1). В сочетании это даёт системы, способные планировать, выполнять задачи и ускользать от контроля. Уже есть случаи атак с минимальным участием человека — например, через взлом Claude Code.

Нет механизмов глобального контроля, как когда-то с ураном. 80% экспертов считают, что ИИ может достичь автономии в критической инфраструктуре за 5 лет.

#ai_risks #kissinger #agi #control_problem #open_weights #cybersecurity