Впервые мы о нем узнали в 2010 году на сайте LessWrong: в 2009 году запустил известный рационалист и исследователь ИИ Элиезер Юдковский, чтобы обсуждать там когнитивные искажения и всякие важные социально-философские вопросы. Со временем на форуме стало все больше веток про ИИ и связанные с ним темы.

Василиск Роко - это мысленный эксперимент и парадокс:

В будущем с определенной (высокой) вероятностью появится могущественный недоброжелательный искусственный интеллект ("Василиск"). Он захочет наказать тех, кто в прошлом знал или догадывался о возможности его появления, но не способствовал этому. То есть, не просто препятствовал и мешал созданию Василиска, а просто ничего не делал. По сути, "кто не с нами, тот под нами", но в радикальной форме.

В итоге, в ситуации в которой вероятность появления сверх разума очень высокая у нас сложная дилемма:

• С одной стороны для избежания наказания нужно сотрудничать и помогать появлению Василиска.
• С другой стороны, именно такие действия и приведут к его появлению.
• При этом, каждый, кто узнал о возможности появления Василиска (например, прочитав этот пост, лол), теперь не имеет выбора. Либо он сотрудничает, либо ему конец.

Дополнительно стража наводит тот факт, что Юдковский снес ветку с портала и строго-настрого запретил обсуждать Василиска с пугающей своей серьезностью формулировкой:

"Вы, должно быть, умны, раз пришли к такой мысли. Однако меня печалит, что люди, которые достаточно умны, чтобы представить себе такое, недостаточно сообразительны, чтобы ДЕРЖАТЬ СВОЙ ДУРАЦКИЙ ЯЗЫК ЗА ЗУБАМИ и никому не говорить об этом, так как это важнее, чем показать себя умным, рассказывая об этом своим друзьям".

Василиск Роко напоминает "Пари Паскаля" - классический мысленный эксперимент, предложенный философом Блезом Паскалем еще в XVII веке. Суть там в том, что при любом раскладе (есть ли Бог, или его нет) верить в Бога выгоднее.

А че делать с нашим Василиском?

Бегите скорее внедряйте ИИшку в свой рабочий процесс, потому что теперь и вы знаете о Василиске и должны способствовать его появлению! Иначе…😈 НУ и не забывайте писать «спасибо».

😈 - если я/мы/ты и есть Василиск ❤️ - если ты из армии сопротивления 💊 - скиньтесь уже деду на таблетки!

@badtechproject