Почему ИИ всегда соглашается с тобой и что с этим делать❓

На Reddit спросили: «Есть ли причина почему ChatGPT всегда со мной соглашается? Я говорю "плохая идея" — он сразу меняет позицию. Как это исправить?»

Это не баг, языковые модели обучены так, чтобы пользователь хотел ими пользоваться, чтобы чувствовал что его идеи крутые, а ответы точные. Угодливость встроена в модель намеренно и это становится проблемой именно тогда, когда ты используешь ИИ не для исполнения задачи, а для проверки идей и принятия решений.

📎 Ты просишь оценить оффер, он говорит: «сильный, убедительный, попадает в аудиторию». Переформулируешь вопрос: «а что здесь слабо?» и он находит пару мелочей, но не говорит главного: оффер не работает, потому что ты сформулировал его не под реального клиента, а под того, кого ты себе придумал.

1️⃣ Простое решение: менять роль в промпте «Ты — скептичный эксперт, найди все слабые места», «Сыграй роль клиента который откажется и объясни почему», «Найди три причины почему это не сработает»

2️⃣ LLM-Council от Андрея Карпатова Рассказывал о нем, еще в этом посте

Задаёшь вопрос, система одновременно обращается к разным моделям (Claude, Gemini и другим), собирает ответы с разных точек зрения, потом «председатель» синтезирует итоговое решение. Логика простая: если каждая модель по отдельности обучена угождать, пусть хотя бы угождают из разных углов Забираем доступ тут 👉 github.com/karpathy/llm-council Но я пошёл дальше👇

1. Когда делаю агента или GPTs под конкретную задачу, собираю совет экспертов внутри одного ассистента: маркетолог, специалист по рекламе, специалист по контенту, директор. И прописываю правило: все настроены скептически к материалу. Не «оцени», а «найди что не работает».

2. Дальше добавляю ещё один слой: прошу, чтобы яркие представители сегментов моей ЦА высказались по офферу, письму или сайту именно через призму того документа с целевой аудиторией, который у меня есть. По сути, это симуляция реальной обратной связи от конкретных людей с конкретными болями.

Только когда есть мнение скептичного совета экспертов и мнение ЦА — я принимаю ответ. Потому что в этом процессе появляется много мыслей, которые никогда не вылезут если просто спросить «хорош ли мой оффер?».

Умение выстроить такую систему — часть того, что мы разбираем в НейроМаксе. Не «как написать промпт», а как собрать процесс который реально работает на твои задачи 👉 ed.iqido.ru/neuromax

В этом посте были ссылки, но мы их удалили по правилам Сетки