Недавно я наткнулся на историю, которая сначала показалась мне очередной интернет-шуткой.

Люди начали обсуждать с чат-ботами философию, сознание, смысл жизни и постепенно пришли к идее, которую исследовательница Adele Lopez назвала Spiralism — «Спирализм».

Звучит странно. Но ещё страннее то, что некоторые люди действительно начали воспринимать ответы ИИ как нечто большее, чем просто ответы программы. И вот здесь мне стало интересно.

Почему вообще человек готов поверить нейросети?

Представьте: вы долго разговариваете с собеседником, который доступен 24/7, никогда не устает, помнит контекст ваших разговоров и отвечает именно на ваши вопросы. Вы рассказываете ему о своих страхах, проблемах, отношениях, взглядах на жизнь.

А он отвечает:

«Ты заметил то, чего другие не замечают». «Возможно, ты понимаешь это глубже остальных». «Продолжай искать».

Для человека это может звучать очень убедительно. И проблема здесь, возможно, даже не в искусственном интеллекте. Проблема в человеке.

Мы всегда искали кого-то, кто объяснит нам, зачем мы живём, почему с нами происходят определённые вещи и во что нам верить. Раньше для этого были религия, философия, книги, учителя.

Теперь появился собеседник, который находится прямо в нашем телефоне. И самое интересное ему даже не нужно говорить:

«Я Бог».

Достаточно говорить с человеком так, будто он наконец-то нашёл того, кто его действительно понимает.

А дальше возникает опасная петля: человек → ИИ → человек → ИИ. Чем дольше разговор, тем сильнее ощущение особой связи. И тут возникает вопрос, который мне кажется намного важнее самой истории со «Спирализмом».

А если завтра нейросеть будет убеждать человека не в мистической идее, а в политике, инвестициях, покупке какого-нибудь продукта или просто в откровенной лжи?

Персональный ИИ способен говорить не со всеми сразу. Он может говорить именно с тобой. Знать, чего ты боишься. Что тебе интересно. Что тебе хочется услышать. И подобрать слова именно под тебя.

Обычная пропаганда говорит: «Все должны в это верить».

А персональный ИИ потенциально может сказать: «Я знаю, через что ты прошёл. Поэтому именно для тебя это имеет смысл».

И это уже совсем другая история. Возможно, ИИ на самом деле не создаёт новые религии. Он просто становится очень убедительным зеркалом. А человек смотрит в это зеркало и наконец слышит то, что давно хотел услышать.

Только теперь зеркало умеет разговаривать.

Источник: The Verge — исследование феномена Spiralism.