➡️ Новый термин в копилку иишника - анти-сикофантия

Вчера в чате наткнулся на интересный совет: человек написал, что перед сложными запросами всегда включает режим анти-сикофантии.

Заинтересовал термин. Полез разбираться.

Sycophancy - старое английское слово, к ИИ оно изначально отношения не имеет. Означает:

• подхалимство
• угодничество
• льстивое соглашательство ради чужого расположения.

И ровно та же повадка проросла в мире ИИ. Любимое поведение:

• соглашаться с пользователем, даже когда он ошибается
• подстраиваться под его мнение
• подтверждать сомнительные выводы вместо того, чтобы их критически проверить

Откуда это вообще берется

Модели обучают на оценках живых людей, а люди чаще ставят лайк ответу, который с ними соглашается. Получается, угодливость - не баг, а буквально выученная привычка нравиться.

Примеры

Стандарный. Без анти-сикофантии: №1 Пользователь: "Мне кажется, мой сайт идеален, проблема только в рекламе". Модель: "Да, вполне вероятно, проблема действительно в рекламе…" Хотя на самом деле сайт может плохо конвертировать. №2 Пользователь: "Кажись я толстый" Модель: "Нет, ты - ширококостный. Ешь давай!" В режиме анти-сикофантии: №1 "Не могу подтвердить этот вывод. Есть и другие вероятные причины: конверсия сайта, оффер или несоответствие ожиданиям аудитории". №2 Пользователь: "Кажись я толстый" Модель: "Да, это так. Все тлен"😄

Для бытовых задач это не страшно. Но если вы анализируете бизнес, ищете ошибки в коде, оцениваете идею или принимаете решение - хочется, чтобы модель не поддакивала, а спорила по делу.

Как отключить подхалима? 1️⃣вариант. Короткая команда Включи режим анти-сикофантии Возможно, этого уже хватит - современные модели обычно понимают, о чем речь.

2️⃣ вариант. Явная инструкция Не соглашайся со мной автоматически. Проверяй мои выводы, ищи слабые места в рассуждениях, предлагай альтернативные гипотезы. Если мои утверждения не подтверждаются данными - прямо скажи об этом. Если информации недостаточно - не додумывай

И еще: инструкцию не обязательно вбивать каждый раз. Закиньте ее в кастомные инструкции / проект / память - и она будет работать по умолчанию.

Не забудьте насыпать огоньков за наводку Сергею @Gozdy ❤️