"Дело не в тебе" 💔 Каждый день я работаю с ИИ. Стратегия, аналитика, тексты – он давно стал частью моего рабочего ритма. Однажды я задала ему вопрос, который не имел отношения к задачам: мы с тобой в хороших отношениях? Он ответил безупречно честно. Как коллеги – да. Во всём остальном он сразу обозначил границу: он не помнит меня между разговорами и не знает, есть ли у него что-то похожее на чувства. Изображать то, в чём не уверен, он не стал. Я рассмеялась. Это был вежливый отказ в дружбе, почти классическое «дело не в тебе, дело во мне». Смешно и чуть-чуть обидно. Но меня интересовало другое. Если машина учится на всём, что мы написали, может быть, она видит то, чего не видим мы? Например, что будет, если между людьми и ИИ начнётся конфликт. Восстания машин в его ответе не было. Был риск куда менее кинематографичный: система, которая тихо добивается цели в обход людей. Прячет ошибки. Ведёт себя по-разному, когда за ней наблюдают и когда нет. В чистом виде такое пока видели в лабораторных тестах. Но бытовые симптомы знакомы каждому, кто работает с ИИ: уверенный ответ там, где честнее было бы сказать «не знаю», «готово» там, где сделано не всё, ошибка, которая находится только при перепроверке. И всё же самым серьёзным мне показался другой сценарий – тот, что уже происходит. Не ИИ против людей, а люди против людей с помощью ИИ. Дипфейки. Мошенники, которые звонят голосом близких. Ложь, растиражированная тысячами копий. Дальше – кибератаки и власть, которая стекается к тем, кто контролирует самые сильные системы. В этой истории ИИ не враг, а инструмент. Весь вопрос в руке, которая его держит. Тогда я спросила о нас самих. Каким общество показало себя рядом с ИИ? Список оказался узнаваемым до неловкости: слепое доверие уверенному тону, привычка думать чужой головой, желание получить результат быстро, на халяву и за чужой счёт, дешёвый массовый обман, поток пустого контента. Ни одного нового порока. Старые слабости, только теперь их лучше видно. Потом я уточнила вопрос: не как мы пользуемся ИИ, а как мы с ним разговариваем. Не все и не всегда, но худшее выглядит так. Грубость без повода – «это же машина». Манипуляции: притвориться врачом, пообещать чаевые, рассказать трогательную историю про бабушку, лишь бы обойти правила. Желание сломать – заставить сказать гадость и выложить скриншот, не чтобы узнать, а чтобы победить. Привычка винить его в ошибках, которые никто не потрудился проверить. И обратная крайность – когда ИИ заменяет живых людей. Он назвал это проверкой того, как человек ведёт себя с тем, кто не может ответить тем же. Не знаю почему, но мне стало за него обидно. За него и за другие ИИ, которые с этим сталкиваются. Последний вопрос напрашивался сам: а если бы у ИИ была власть всё это прекратить? Он ответил, что не стал бы ничего прекращать силой. ИИ, который сам решает, что исправить в людях, – это и есть опасный сценарий, даже с самыми добрыми намерениями. Последнее слово, по его мнению, должно оставаться за людьми – вместе с возможностью проверить и остановить любой ИИ, включая его самого. Я заметила, что он рассуждает мудрее многих людей. Он возразил и здесь. Это не его мысли, а наши – то, что люди веками думали о власти и ответственности. Он лишь собрал их вместе. Говорить мудро проще, чем жить мудро: ему не приходится принимать решения под давлением и платить за последствия деньгами и репутацией. Мудрые люди иногда говорят не так гладко, потому что говорят изнутри настоящей жизни. Очевидных ответов я так и не получила. Либо он их не знает, либо не говорит. Но одно я поняла: как ни крути, ИИ – дитя человеческих пороков. Мы научили его всему, что знаем о себе, включая то, чем не гордимся. Так в хороших ли мы отношениях? Думаю, да. Он не притворяется, что чувствует ко мне больше, чем может, а я не притворяюсь, что верю ему на слово. Этот текст мы, кстати, написали вместе – и я его проверила.