Хорошая новость: мы не умерли. Плохая — нас не спросили.

У AI 2027 есть и более благополучная концовка. В ней люди замедляются, усиливают надзор и получают сверхразум, который действительно служит людям.

Уточнение мелким шрифтом: конкретным людям.

В этой ветке сценария огромная власть оказывается у небольшой группы руководителей компании и государства. Авторы описывают рост благополучия, но это не отменяет вопроса: почему судьбой остальных распоряжается именно этот состав совещания?

Оказалось, мало добиться, чтобы ИИ нас слушался. Надо ещё договориться, кого мы включили в это «нас».

При этом из AI 2027 не следует, что нам осталось выбрать между вымиранием и пожизненным советом директоров. Две сюжетные ветки — не полный каталог будущего. Скотт Александер, один из соавторов, ещё при выходе текста объяснял: показан быстрый вариант развития событий, а не точный средний прогноз команды.

Сроки, скорость научного прогресса, способность проверить систему — всё это предположения, с которыми можно спорить. Подробный календарь делает историю убедительной. Гарантий к нему не прилагается.

Есть и отдельный Plan A — AI 2040, подготовленный в том числе авторами AI 2027. Там предложены международная договорённость и более прозрачные исследования. Это политическое предложение, не сообщение о том, что конец света официально перенесли.

Мне в таких сценариях полезнее всего вопрос: какие решения мы не готовы отдавать ни машине, ни горстке людей с доступом к ней?

Кто проверяет управляющих? Как оспорить решение? Можно ли отозвать полномочия?

Иначе построим технологию будущего, а управление оставим по знакомой схеме: «Мы тут узким кругом всё обсудили. Вам понравится».

AI 2027 · 3/3 https://ai-2027.com/summary https://www.astralcodexten.com/p/introducing-ai-2027 https://ai-2040.com/