Почему я намеренно прошу ИИ галлюцинировать

Прежде чем вы в праведном гневе начнёте кидать в меня тапки со словами «Надо бороться с галлюцинацими, а не просить их!», я спрошу когда вы последний раз сталкивались с откровенным хаосом и неопределённостью? На работе, в жизни или в отношениях?

Давайте все-таки про работу.

Давайте скажем, что вы неделю назад выпустили апдейт для продукта. Три дня всё росло, а потом вдруг поползло вниз.

Экстренно собираете коллег: «Что случилось?» В ответ — напряжённое молчание и «Ну, время сейчас такое».

Какой фреймворк, шаблон или чек-лист примените?

Так вот. Большая часть моей работы — это неопределённость. И я намеренно прошу ИИ галлюцинировать, а не борюсь с этим.

Тут главное не путать реальные галлюцинации, когда ИИ бесконтрольно врёт, — это всегда плохо. Но есть контролируемая, желаемая галлюцинация. Некоторые называют это «творческой генерацией», но суть та же.

Многие знают, но не всегда принимают до конца тот факт, что ИИ не выдаёт объективную истину, а предсказывает вероятные связки. И может развернуться на 180° сразу после того, как согласился с вами во всём. Это не баг, это физика модели.

А то, что люди принимают ИИ за истину в последней инстанции, — печальная история, которая многое говорит о людях и почти ничего об ИИ.

И таким образом, галлюцинация как никто помогает мне работать с неопределённостью.

А совсем не 25 успешных промптов для системных диагностов (таких нет, кстати, а если бы и были — я бы ещё посмотрела).

Что я НЕ прошу у ИИ — структурировать мой хаос (это моя работа) — дать пошаговую инструкцию (подмена мышления и перенос ответственности) — успокоить или похвалить (приятно, но бесполезно) — подтвердить, что я молодец (тоже приятно, но также бесполезно)

Основная задача здесь найти сопротивление.

Что я ПРОШУ — показать ситуацию под другим, даже дурацким углом — подсветить нюансы, которые я проглядела — дать противоположную точку зрения — ту, с которой я не согласна — раскритиковать меня и указать на слабые стороны — при отсутствии данных — придумать то, чего нет, чтобы я перепроверила.

Самое главное, что ИИ должен заставлять меня сомневаться. Потому что если после диалога хочется перепроверить — значит, всё отлично.

Пример из практики На вводной сессии руководитель говорит: «Нам нужен стратег. Кто-то возьмёт всю разрозненную историю и залидирует».

Классика, люблю такое разворачивать. «Вот кто-то придёт — и порядок наведёт».

Задаю вопрос: «А вы уверены, что проблема в отсутствии человека?»

— «Да!» — «Что конкретно встанет на места?» — «Ну… он построит систему…»

Я не ловлю за хвост, а собираю анамнез: интонации, оговорки, паузы, «вы мало что понимаете, но…».

А потом мы вместе с ИИ играем. Я прихожу не с «распиши пошаговый план», а с просьбой: «Вот что я вижу, вот противоречия. Дай 3–5 гипотез — в том числе противоречивых — о том, где на самом деле болит».

На выходе — список идей того, что нужно проверить. Какие-то наивные, где-то неудобные, отчасти бредовые, а иногда пугающе точные. Но это не ИИ сам придумал ерунду. Это мы вместе смотрели, я вносила коррективы, он добавлял то, что я пропустила.

А дальше самое интересное — проверка в полях.

К чему это? Многие скажут, что это непрофессионально использовать ИИ не для ускорения рутины. А я отвечу, что это ускорение декодирования невысказанного. Того, что витает между строк, выскакивает в интонациях, оседает в паузе и в нервном «ну вы понимаете же, да?».

Намеренная, контролируемая галлюцинация — не шум. Это способ не застывать на первой правдоподобной версии и не самолюбоваться открытиями.

Мне не нужно, чтобы ИИ (или я) был прав на 100%. Достаточно быть убедительно неправым — так, чтобы эти идеи захотелось проверить на живых данных. Подобного рода галлюцинация — не баг. Это буквально то, зачем открывают LLM, когда перед вами проблема без правильного решения и без шаблона.

Кстати, если вы тоже работаете с хаосом — пишите. Не чтобы я стала вашим консультантом, а чтобы попробовать инструмент на практике. Это как в шутке: «Вот говорят: фильм для дураков, фильм для дураков… А мне понравилось». Бесплатно и ни к чему не обязывает.

Почему я намеренно прошу ИИ галлюцинировать | Сетка — социальная сеть от hh.ru