Кажется, мы нашли довольно наглядный пример того, что может пойти не так при слишком бодром внедрении ИИ в государственные процессы.

CNN пишет, что весной аналитик американского спецкомандования использовал ИИ-чатбот для анализа груза китайского судна. Чатбот сгаллюцинировал и решил, что на корабле находится что-то связанное с ядерной программой.

И никого это в моменте не смутило. На основе этих данных подготовили разведывательный отчёт, начали готовить перехват, вооружённые военные собирались подниматься на борт, а самолёты уже были в воздухе.

Ошибку нашли буквально перед операцией и всё отменили.

И конечно, учитываем: это расследование CNN со ссылкой на анонимные источники, а не официально подтверждённый Пентагоном факт. Но CNN ссылается сразу на несколько людей, знакомых с ситуацией, так что просто отмахнуться от истории тоже не получается.

А мы точно не в "Чёрном зеркале"? Ну или в "Терминаторе".

«Ой, вы правы. Это моя ошибка. Мне не следовало запускать ядерные ракеты, не перепроверив информацию. Спасибо, что указали на неточность».

Очень хочется верить, что выводы из этой истории сделают раньше, чем сценаристы фантастики снова "предскажут будущее".