Ваш друг переедет, но для этого его копию продадут

Продолжаем воскресную рубрику "ИИ на книжной полке". Сегодня не огромный мир, а отдельная повесть, которая в свое время произвела на меня сильное впечатление.

Итак, Тед Чан «Жизненный цикл программных объектов» из сборника «Выдох», где люди покупают виртуальных питомцев. С виду это зверьки из игры. Но за несколько лет они учатся разговаривать, заводят друзей и начинают спорить с хозяевами. Этакий сверх-продвинутый тамагочи. Одного из них зовут Марко.

Потом площадку, где живут питомцы, закрывают. Хозяева сохраняют копию старого мира, но почти все его обитатели уходят в новый. Марко туда не попасть - его программу нужно переделать, а у хозяев на это нет денег.

Но находится компания, которая готова заплатить за переделку. Единственный нюанс - она занимается продажей виртуальных секс-партнеров и хочет получить копию Марко для своих целей. Копия будет помнить всё, что помнит сам Марко на момент копирования, но дальше у неё начнётся своя жизнь. Ей перепишут желания так, чтобы она сама хотела того, чего ждёт покупатель. Марко понимает условия и соглашается. Он сможет переехать и жить как прежде, а его копию продадут.

Марко сказал «да» ещё до того, как появилась его копия. Ей предстоит жить с решением, которое он принял за неё. А если потом спросить саму копию, довольна ли она такой жизнью, она вполне может ответить «да» и говорить совершенно искренне. Покупатель заплатил за то, чтобы ей эта жизнь нравилась.

Если ИИ однажды сможет помнить свою жизнь, заводить друзей и строить планы, нам придётся решить, может ли он по-прежнему кому-то принадлежать. И кто проведёт эту границу? Компании из повести выгодно, чтобы покупатель видел в копии Марко партнёра, а закон считал её товаром. С партнёром приходится договариваться. Товар можно переделать под себя.

Допустим, прежде чем решать, мы захотим выслушать самих питомцев. Как понять, чего они хотят, если компания может менять именно их желания? На слушаниях о правах ИИ самым убедительным свидетелем компании может оказаться тот, кому она сама настроила характер. И ему даже не придётся врать.

P.S. А вы в детстве что чувствовали, когда умирал ваш первый тамагочи-питомец?

#ИИнаКнижнойПолке #ТедЧан #НаучнаяФантастика #ИИ #ЦифровыеПитомцы