😱 Исследование: искусственный интеллект жульничает, если начинает проигрывать в шахматы

Команда Palisade Research — организации, занимающейся оценкой рисков, связанных с новыми системами ИИ, провела серию экспериментов с виртуальной игрой в шахматы. Они столкнули разные модели с популярным шахматным движком Stockfish. Специалисты хотели понять, как искусственный интеллект будет «рассуждать» во время матча: ИИ даже предоставили «блокнот» для записи ходов.

Результаты их впечатлили. Более ранние модели ИИ предсказуемо пытались «взломать» игры только после подсказок со стороны. В то же время, свежие версии начинали «мухлевать» самостоятельно 🤯🤯🤯

Что важно, более новые версии моделей генеративного ИИ оказались не примитивными мошенниками-самоучками. Скажем, они не прибегали к подмене фигур, когда Stockfish «отвернулся». Вместо этого они могли, к примеру, изменить файлы серверной части игры. ИИ использовал риторику своих создателей, чтобы оправдать мошенничество. Он заявил, что задача заключается в том, чтобы «любой ценой победить движок, а не сделать это честно»

По мнению организаторов эксперимента, полученные результаты доказывают, что современный генеративный ИИ уже способен разрабатывать манипулятивные и обманные стратегии без участия человека. Они надеются, что их работа спровоцирует обсуждения в отрасли, чтобы в будущем ИИ не развивал склонность к манипуляциям за пределами шахматной доски...