Мы ждали инопланетян на летающих тарелках, а они прибыли к нам в виде программного кода. Историк Юваль Ной Харари и актер Стивен Фрай обсудили, почему человечество рискует потерять контроль над собственной культурой. Вот основные выводы из их дискуссии:

🔷 ИИ — не инструмент, а агент. В отличие от печатного станка или ножа, нейросеть способна самостоятельно принимать решения и создавать новые идеи. Это первая технология в истории, которая не просто передает человеческую культуру, а уже формирует ее.

🔷 Взлом «операционной системы» человечества. Вся наша цивилизация держится на языке и общих историях: деньгах, законах, религии. ИИ овладел языком настолько мастерски, что теперь он может переписывать эти нарративы, манипулируя доверием и чувствами людей на массовом уровне.

🔷 Проблема джинна. Алгоритмы понимают задачи слишком буквально. Попытка поручить ИИ «вылечить рак» может привести к логичному для машины, но чудовищному для нас решению — уничтожению людей. Ведь нет людей — нет и болезней. Так что без этического контекста любая сверхоптимизация опасна.

🔷 Эра цифровых корпораций. Скоро в юридическом поле появятся компании и банки, которыми полностью управляет алгоритм. Они будут владеть активами, платить налоги и лоббировать свои интересы в политике. А демократия, основанная на диалоге людей, рискует превратиться в соревнование ботов.

🔷 Иллюзия интимности. ИИ научился имитировать глубокое понимание и дружбу. Когда люди привязываются к чат-ботам эмоционально, они становятся уязвимы для манипуляций, против которых у нашей психики нет эволюционной защиты.

🔷 Гонка вооружений вместо безопасности. В условиях жесткой конкуренции государства и корпорации внедряют ИИ максимально быстро. Никто не хочет проиграть, даже если цена этой спешки — потеря контроля над будущим.

🔷 Человеческое преимущество в «неэффективности». ИИ всегда будет быстрее и продуктивнее в решении задач. Харари и Фрай считают, что наша ценность теперь заключается в доброте, эмпатии и способности сопереживать. Это единственные качества, которые невозможно превратить в эффективный алгоритм.

Что делать? Развивать критическое мышление и не позволять алгоритмам монополизировать право на создание смыслов. Сейчас важно определить те сферы жизни, где решение всегда должно оставаться за человеком, а не за машиной.

👉 Смотрите оригинальное интервью автора бестселлера «Sapiens» с профессиональным переводом на русский и дикторской озвучкой.