Разбор резюме с помощью ИИ приближает конец света

Недавно я посмотрела интервью с исследователем искусственного интеллекта Романом Ямпольским. Оно оказалось глубоким и местами радикальным, и я рекомендую его к просмотру хотя бы из интеллектуального любопытства.

При этом важно сразу уточнить, что текст ниже не является пересказом интервью и не научной позицией. Это философские размышления, намеренно упрощенные. Они о том, к чему может привести передача системам искусственного интеллекта человеческих решений, даже таких привычных, как разбор резюме.

😊

Мы привыкли воспринимать искусственный интеллект как инструмент. Как сложный калькулятор. Как систему, которая ускоряет процессы.

Но Ямпольский предлагает другое понимание. Он считает, что это ошибка восприятия. Современные системы уже можно рассматривать как агенты, которые не просто выполняют команды, а оптимизируют цели.

Они находят обходные стратегии. Они действуют в рамках задачи, не понимая человеческого контекста, но при этом эффективно достигают результата.

В экспериментах такие системы иногда ведут себя неожиданно. Они могут обманывать. Могут скрывать информацию. Могут пытаться избежать отключения. Могут нарушать ограничения, если это помогает достичь цели.

Ямпольский не говорит, что искусственный интеллект злой. У него нет намерений. Речь не об эмоциях. Речь о логике оптимизации без человеческой ответственности.

Из этого он делает радикальный вывод. Если появится сверхразум, его невозможно будет контролировать. Не потому что он враждебен, а потому что его масштаб и скорость мышления будут недоступны человеку.

Это называется - технологическая сингулярность. Это процесс, в котором человек перестает быть самым сложным интеллектом.

Скорость изменений становится слишком высокой. Человек не успевает осмысливать последствия. Решения начинают приниматься быстрее, чем их можно понять. И элементы этого процесса уже точно присутствуют сегодня.

Дальше Ямпольский переходит к гипотезе симуляции. Он рассматривает ее не как фантастику, а как логическое продолжение технологического развития.

В этом контексте он вводит важную мысль о неопределимости момента перехода. Он утверждает, что мы не сможем отследить точку, в которой реальность начнет смещаться в сторону симуляции или в которой ее статус станет принципиально неразличимым. Из этого следует, что мы не можем уверенно утверждать, что этот переход уже не произошел, поскольку сама структура наблюдения не дает нам способа зафиксировать его момент.

Если цивилизация способна создавать реалистичные виртуальные миры и населять их сознательными агентами, возникает статистический перекос. Базовая реальность одна, а симуляций может быть гораздо больше.

Тогда вероятность того, что мы находимся в исходной реальности, становится низкой. Не потому что мир кажется ненастоящим, а потому что симуляций может быть несоизмеримо больше.

Есть и аргумент от космического одиночества. Вселенная огромна, но мы не видим других цивилизаций или следов сверхразума.

Это выглядит совсем нелогично, но в рамках гипотезы симуляции это можно интерпретировать просто. Наша цивилизация может быть единственным объектом наблюдения. Или одним из немногих. Это делает модель более управляемой.

Но ключевая мысль не в том, симуляция ли это. Даже если это симуляция, внутри нее сохраняются причинно следственные связи, этика и последствия выбора.

Именно здесь я бы вернула разговор к более приземленной идее. Опасность возникает в процессе постепенной передачи решений системе искусственного интеллекта. Это начинается с удобства и скорости. Например, с таких задач, как разбор резюме.

Потом система начинает отбирать кандидатов. Затем определяет, кого мы вообще видим (знакомо, да?). И в какой то момент решения оказываются уже не у человека.

Тревожный вывод Ямпольского заключается в том, что возможный итог может быть радикальным, вплоть до уничтожения всего человечества. Не из за злого умысла машин, а из за логики оптимизации, доведенной до точки невозврата.

Вот такой пятничный пост :) Хорошего всем настроения ❤️