ИИ нет, а рабство есть.

Продолжаем нашу рубрику выходного дня «ИИ на книжной полке» - об ИИ в фантастике. Второй вселенной будет все-таки не Ваха, а «Дюна» Фрэнка Герберта. Потому что после ее прочтения понятно у кого Games Workshop спиздили вдохновлялись некоторыми идеями.

Итак все как мы любим - межзвёздная империя, навигаторы и религиозный запрет на мыслящие машины… Да-да, я не перепутал, мы все еще о Дюне.

В далёком прошлом человечество уже попробовало поручить машинам думать за себя. Закончилось это все Батлерианским джихадом - религиозной войной против компьютеров, мыслящих машин и разумных роботов. После неё запрет создавать машину по подобию человеческого разума стал священной заповедью. Космический корабль - пожалуйста. А вот компьютер, который принимает за вас решения, - ересь.

Подробности войны позже в отдельных книгах описали Брайан Герберт и Кевин Андерсон. У самого Фрэнка Герберта подробности войны с машинами не описаны, но в первой Дюне звучит объяснение: люди передали машинам мышление в надежде стать свободнее. А другие люди с помощью этих машин их поработили. Машине даже не обязательно мечтать о захвате мира. Достаточно, чтобы о нём мечтал её хозяин.

Однако кому-то всё ещё нужно считать и прокладывать космические маршруты. Поэтому вместо компьютеров научились делать ментатов - людей, обученных анализировать огромные объёмы данных. Навигаторы Космической гильдии употребляют пряность (спайс) - вещество, позволяющее предвидеть будущее, - и выбирают безопасный путь для кораблей.

В итоге человечество летает между звёздами, живёт под властью знатных домов и зависит от Гильдии с её монополией на перевозки. А барон Харконнен спокойно пользуется услугами ментата, чтобы строить заговоры. Потому что у живого вычислителя нет обязательного первого закона «не навреди». Его наняли совсем для другого. А обычный человек по-прежнему зависит от чужих знаний и решений.

После Азимова такой поворот особенно хорош. У него люди пытались обезопасить себя, задав роботам правила. У Герберта они выбрали полный запрет. Но все осталось прежним: можно запретить ИИ, заменить его специально обученными людьми и обнаружить, что обычного человека по-прежнему ждет незавидная участь.

P.S. Насколько важно, чтобы решение было человеческим, если вы всё равно не можете его ни проверить, ни оспорить?

#ИИ #Дюна #ФрэнкГерберт #Фантастика #ИИнаКнижнойПолке