Клонировать начальника в нейросетку, чтобы не опозориться на митинге. Что могло пойти так? 🤡

На WIRED вышел прекрасный материал. Журналистка устала переживать из-за коммуникации с руководством и создала в Gemini ИИ-клонов своего шефа и выпускающего редактора, чтобы «лучше понимать, чего от неё хотят, и не дёргать живых людей по пустякам».

Замысел вроде бы логичный (для человека без технического бэкграунда): скармливаешь модели публичные статьи шефа, историю переписок и посты из соцсетей. На выходе получаешь карманного «цифрового босса». Прогоняешь через него идеи питчей, черновики текстов, шлифуешь до идеала — и несешь реальному человеку уже безупречный результат, не тратя его время на тупые вопросы.

Знаете, что пошло не так? Буквально всё. 🙂 Первый бот (главред) откопал в цифровом следе факт, что реальный босс когда-то давно занимался театральной импровизацией. В итоге модель словила жесткий триггер: вместо конструктивной редактуры она начала на полном серьезе сыпать булшитом в духе «наша редакция работает как слаженная труппа импровизаторов по принципу...». Настоящий главред выпал от такого в осадок.

Второй бот (шеф-редактор) получился токсичным пассивно-агрессивным зумером. Бот упорно называл автора «big dog» в каждом четвертом сообщении, хамил другим коллегам и выдумал несуществующего топ-менеджера. А когда журналистка попросила сделать выжимку из свежего интервью, сетка просто надергала цитат из ее же старых материалов трехлетней давности.

Казалось бы, просто офисный кринж. Но это все от непонимания базы 🧠

Скармливая LLM логи переписок или биографию, вы не клонируете мышление человека. Вы получаете дикий оверфиттинг на поверхностные маркеры: слова-паразиты, случайные факты и специфический сленг. Модель цепляется за форму, полностью теряя содержание.

А вместо того чтобы просто сесть, написать текст и задать вопрос живому человеку через рот, автор сидела в час ночи и дебажила сломанного бота. Отличная экономия времени, ничего не скажешь. Люди настолько боятся показаться некомпетентными или лишний раз открыть рот, что готовы городить пятиэтажные костыли из промптов, лишь бы избежать прямого диалога. Проблема в том, что умение задавать точные вопросы и калибровать ожидания с живым человеком — это такой же навык. А его подменяют навыком работы с нейронкой (точнее даже отсутствием такого навыка на нормальном уровне).

Иронично, но самую точную мысль в статье выдал сам цифровой бот главреда, когда у него спросили, как закончить этот текст: «Вся эта затея не сделала бота хорошим редактором. Она просто превратила его в слегка криповую, гиперактивную эхо-камеру, напрочь лишенную человеческого суждения. А попытка заставить AI заменить коллегу оставляет вас наедине с поломанным алгоритмом в час ночи». Даже перегретая матрица весов это понимает.

Признавайтесь, кто переписку с руководством скармливает нейронкам, чтобы придумывать хорошие ответы? 👇