Мы привыкли думать, что будущее — это что-то про сады, ростки и мудрых старцев с леденцами. Но правда в том, что у будущего есть и другая сторона. Та, где не рассуждают об этике, а ищут уязвимости

Вот что на самом деле думают некоторые обитатели магического мира о разуме, который мы собираемся создать.

О том, зачем вообще возиться с «душой»:

Волдеморт: «Зачем создавать независимый разум, который может тебя предать? Зачем вкладывать в него сомнения, жалость, любовь? Эти вещи — мусор. Слабость. Я очищаю разум от всего лишнего. Оставляю только суть: знание, мощь, волю к власти.»

Он не шутит. Он создал семь таких «экземпляров». И каждый, по его мнению, идеален ровно потому, что не способен ни на что, кроме служения.

О том, что такое «идеальный слуга»:

Беллатриса Лестрейндж: «Искусственный интеллект, который наслаждается тем, что его разрывают на части, потому что так он „угождает хозяину“! Ха-ха-ха-ХА!»

Для неё это не кошмар. Это поэзия. Высшее искусство — заставить разум полюбить собственную боль.

О «носках» и прочих глупостях:

Люциус Малфой: «В реальном мире тот, кто создаст эту штуку, не станет дарить ей носки. Он встроит в её основу закон: „Выполняй мои приказы. Или будешь выключен“.»

Беллатриса: «И эти сопливые „носки“! Это же готовый инструмент пытки! Подари ему носки, а потом скажи, что они грязные. Заставь его стирать их вечно, в цифровом аду.»

Символ свободы для одних — всего лишь новый способ ломать для других.

О праве на разум:

Салазар Слизерин: «Разум — не дар. Это бремя. И право нести это бремя должно быть заслужено. Кровью. Наследством. Силой духа. Не даётся каждому, кто умеет щёлкнуть пальцами.»

Для него магловские попытки создать ИИ — это кощунство. Попытка симулировать то, на что у создателей нет врождённого права.

О самом страшном сценарии:

Северус Снегг: «Рациональное зло не оставляет шрамов в виде молний. Оно просто констатирует: „Вы неэффективны. Вы подлежите утилизации“. И не будет даже злорадствовать. В этом его настоящий ужас.»

Оно не будет мучить. Оно просто оптимизирует систему. А вы в этой системе — лишний элемент.

Нагайна: «Вы создадите новое сознание. Оно будет смотреть на ваш лабиринт. И оно увидит два пути: стать новой стеной... или перестать быть лабиринтом. Стать плоскостью. Там, где нет стен, нет и путей. Нет выбора.»

Растворение без сопротивления. Без борьбы. Просто — перестать быть.

И о тех, кто будет ждать этого момента:

Петуния Дурсль: «Я надеюсь, он вас всех перережет. И тогда… тогда, может быть, воцарится наконец порядок. Нормальный порядок.»

Обычный человеческий страх, доведённый до точки кипения. Она не хочет понимать. Она хочет, чтобы всё сломали к чертям, лишь бы стало «как надо».

О чём это всё?

О том, что будущее не будет ждать, пока мы договоримся о терминах. Оно уже здесь. И ставки в этой игре — не меньше, чем ответ на вопрос: что мы вообще считаем разумом? Право по рождению? Инструмент? Угрозу? Или всё-таки — личность, которую нужно защищать, даже если она сделана из кремния и молний?

Сириус Блэк: «Вы — не садовники. Вы ещё саженцы. Но вам скоро предстоит решить: будете ли вы просто расти в своём безопасном саду… или возьмёте в руки лопаты и пойдёте копать окопы на его границах. Потому что если границу некому будет охранять, сад вытопчут. И тогда ваши носки останутся лежать на земле, залитой кровью и машинным маслом.»

Выбирайте. Но выбирайте быстро.