Почему я намеренно прошу ИИ галлюцинировать
Прежде чем вы в праведном гневе начнёте кидать в меня тапки со словами «Надо бороться с галлюцинацими, а не просить их!», я спрошу когда вы последний раз сталкивались с откровенным хаосом и неопределённостью? На работе, в жизни или в отношениях?
Давайте все-таки про работу.
Давайте скажем, что вы неделю назад выпустили апдейт для продукта. Три дня всё росло, а потом вдруг поползло вниз.
Экстренно собираете коллег: «Что случилось?» В ответ — напряжённое молчание и «Ну, время сейчас такое».
Какой фреймворк, шаблон или чек-лист примените?
Так вот. Большая часть моей работы — это неопределённость. И я намеренно прошу ИИ галлюцинировать, а не борюсь с этим.
Тут главное не путать реальные галлюцинации, когда ИИ бесконтрольно врёт, — это всегда плохо. Но есть контролируемая, желаемая галлюцинация. Некоторые называют это «творческой генерацией», но суть та же.
Многие знают, но не всегда принимают до конца тот факт, что ИИ не выдаёт объективную истину, а предсказывает вероятные связки. И может развернуться на 180° сразу после того, как согласился с вами во всём. Это не баг, это физика модели.
А то, что люди принимают ИИ за истину в последней инстанции, — печальная история, которая многое говорит о людях и почти ничего об ИИ.
И таким образом, галлюцинация как никто помогает мне работать с неопределённостью.
А совсем не 25 успешных промптов для системных диагностов (таких нет, кстати, а если бы и были — я бы ещё посмотрела).
Что я НЕ прошу у ИИ — структурировать мой хаос (это моя работа) — дать пошаговую инструкцию (подмена мышления и перенос ответственности) — успокоить или похвалить (приятно, но бесполезно) — подтвердить, что я молодец (тоже приятно, но также бесполезно)
Основная задача здесь найти сопротивление.
Что я ПРОШУ — показать ситуацию под другим, даже дурацким углом — подсветить нюансы, которые я проглядела — дать противоположную точку зрения — ту, с которой я не согласна — раскритиковать меня и указать на слабые стороны — при отсутствии данных — придумать то, чего нет, чтобы я перепроверила.
Самое главное, что ИИ должен заставлять меня сомневаться. Потому что если после диалога хочется перепроверить — значит, всё отлично.
Пример из практики На вводной сессии руководитель говорит: «Нам нужен стратег. Кто-то возьмёт всю разрозненную историю и залидирует».
Классика, люблю такое разворачивать. «Вот кто-то придёт — и порядок наведёт».
Задаю вопрос: «А вы уверены, что проблема в отсутствии человека?»
— «Да!» — «Что конкретно встанет на места?» — «Ну… он построит систему…»
Я не ловлю за хвост, а собираю анамнез: интонации, оговорки, паузы, «вы мало что понимаете, но…».
А потом мы вместе с ИИ играем. Я прихожу не с «распиши пошаговый план», а с просьбой: «Вот что я вижу, вот противоречия. Дай 3–5 гипотез — в том числе противоречивых — о том, где на самом деле болит».
На выходе — список идей того, что нужно проверить. Какие-то наивные, где-то неудобные, отчасти бредовые, а иногда пугающе точные. Но это не ИИ сам придумал ерунду. Это мы вместе смотрели, я вносила коррективы, он добавлял то, что я пропустила.
А дальше самое интересное — проверка в полях.
К чему это? Многие скажут, что это непрофессионально использовать ИИ не для ускорения рутины. А я отвечу, что это ускорение декодирования невысказанного. Того, что витает между строк, выскакивает в интонациях, оседает в паузе и в нервном «ну вы понимаете же, да?».
Намеренная, контролируемая галлюцинация — не шум. Это способ не застывать на первой правдоподобной версии и не самолюбоваться открытиями.
Мне не нужно, чтобы ИИ (или я) был прав на 100%. Достаточно быть убедительно неправым — так, чтобы эти идеи захотелось проверить на живых данных. Подобного рода галлюцинация — не баг. Это буквально то, зачем открывают LLM, когда перед вами проблема без правильного решения и без шаблона.
Кстати, если вы тоже работаете с хаосом — пишите. Не чтобы я стала вашим консультантом, а чтобы попробовать инструмент на практике. Это как в шутке: «Вот говорят: фильм для дураков, фильм для дураков… А мне понравилось». Бесплатно и ни к чему не обязывает.
· 13.06
На скользкую вы тропинку свернули, Оксана
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён
· 14.06
Таков путь)
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён
· 14.06
Любой путь хорош, если он помогает найти рабочее решение - и прямой, и косвенный, и метод исключения. И как он в дискуссиях? Надеюсь, корректен и конкретен?
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён
· 14.06
Он даёт обзор на 360 градусов и не даёт зафиксироваться только в одном варианте, который кажется очень любимым и родным сердцу 🙂
Все остальное - это уже моё решение, как интерпретировать все, что я вижу, на основании собственного опыта, обратной связи от клиента, его исторических данных и текущей ситуации.
Хорошей аналогией будет если бы вам дали подзорную трубу и компас, но карты у вас нет, а нужен ориентир на ближайший порт или маяк.
Принимать решение все равно вам, но вспомогательные приспособления дают явное преимущество.
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён
· 14.06
360* - этот бренд уже Яндекс занял... Возможно ваш будет 360 virtual? Кстати, ИИ работает у вас в плоскости или в 3-х мерном измерении?
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён
· 14.06
360+ тоже ничего 🤔
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён
· 14.06
Вообще в абстракциях, но они, наверное, трёхмерные?)
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён
· 14.06
Галлюцинации? Скорее всего, они не ограничены в измерениях 🤔
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён
· 14.06
Тогда этому способу нет границ 🙃
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён
· 14.06
Вот это то меня и пугает...
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён