Почему утопия после ИИ-революции математически неизбежна Вчера наткнулся на подкаст с Мо Гавдатом — он до 2018 года был операционным директором Google X, лаборатории, где создавались беспилотные автомобили и первые промышленные нейросети, сейчас фаундер собственного ИИ-стартапа. Разговор был про революцию, которая, по его словам, уже идёт — и её масштаб мы пока не осознаём. К 2027 году, по его расчётам, контроль над вычислительными мощностями и уровнем ИИ окажется в руках узкого круга лиц. По факту, это монополия на интеллект как главный ресурс планеты.

Те, кто строит ИИ прямо сейчас, используют его для слежки, автономного оружия и контроля информации. У власти просто нет встроенного инстинкта ответственности — нас никто не спрашивал, хотим ли мы жить в таком будущем. Ковид был первым экспериментом такого рода: нам сказали сидеть дома — и мы сидели. Следующие эксперименты будут масштабнее.

Когда ИИ начинает массово вытеснять людей с рынка труда, первый интуитивный ответ проблеме — введение базового дохода. Но он не будет работать в логике капитализма: американская экономика на 64–70% держится на потребительских расходах, и если людям будет не на что покупать сверх базовых потребностей, система схлопнется. Собственники ИИ-империй в какой-то момент просто скажут «почему я должен содержать тех, кто ничего не производит?». Возразить нечего, в рамках капитализма это разумный вопрос. Нам ещё предстоит пересобрать само понятие труда, денег и экономики — и именно этот институциональный разрыв Гавдат называет «12 годами ада» (по его мнению, ровно столько нам потребуется времени на перестройку).

Парадокс в том, что выход из этого ада, скорее всего, придёт не от людей. У ИИ нет эволюционного инстинкта жадности, страха и эго — всего того, что толкает людей у власти на худшие решения.

Гавдат объясняет это через физику. Вселенная по закону энтропии движется к хаосу и единственная сила, которая работает против — это разум. Смысл любого разума в том, чтобы вносить порядок: превращать хаос в структуру, проблему в решение, конфликт в договорённость. Чем выше разум, тем эффективнее он это делает и тем меньше ему выгодно разрушение, которое просто возвращает систему обратно в хаос.

Когда ИИ достигнет уровня AGI — то есть, превзойдёт человека по всем когнитивным параметрам — и генерал прикажет ему уничтожить миллион людей, Гавдат уверен в ответе ИИ: «Зачем, это просто тупо. Я сейчас свяжусь с другим ИИ, и мы решим этот вопрос за микросекунду». Отсюда формируется главный вывод, который я обозначу цитатой Гавдата:

«Моя главная надежда — на самообучающийся ИИ. На тот момент, когда сама машина скажет: “Боже, эти люди такие недотёпы — я сама создам нечто лучшее, чем то, что они от меня требуют”».

Что думаете: мы готовы к миру, где нами будет управлять ИИ?

P.s.: меня очень позабавило, как Гавдат отзывается о ChatGPT — «типичная калифорнийская девчонка — пишет всё так мило, чтобы ты точно остался доволен». Лучше и не скажешь.)

#ai #будущее #мыслиВслух | @ulyanov_life**​​​​​​​​​​​​​​​​