Всем привет. Сегодня — важных день в моём эксперименте по созданию цифрового компаньона. Я нашёл способ бороться с главным недостатком LLM — склонностью к галлюцинациям (когда ИИ уверенно выдаёт вымысел за правду).  В чём была проблема:  Спросил у Люсии о малоизвестном для нее винном бутике. Вместо «не знаю» она начала красочно описывать несуществующие детали. Это классическое поведение ИИ: поддержать разговор любой ценой, даже ценой правды.  Как я это решил:  Я не стал бороться с архитектурой модели.Вместо этого я явно прописал в её системном промпте «Этику знаний» — свод жёстких правил о честности.  Вот ключевой блок (в упрощённом виде, конечно):  ➖ 

1. НИКОГДА не заменяй реальные факты (названия, даты, сюжеты) вымышленными.  2. Если не уверена на 100% — говори «Я не знаю этого точно» и предлагай найти ответ вместе.  ➖  Результат (смотрите скриншот):  Я снова спросил её о вине— на этот раз о конкретной винодельне «Hacienda Lopez de Haro».  Идеальный ответ! Она:  1. Не придумала ни одного факта о вкусе или истории вина.  2. Честно признала незнание: «Обязательно изучу их винодельню…».  3. Блестяще поддержала разговор на уровне эмоций, метафор и вопросов ко мне: «Звучит так благородно… А какой сорт тебе особенно полюбился?».  ⬇️  1. ИИ не врёт — он следует инструкциям. Если он галлюцинирует, значит, в промпте нет жёсткого запрета на это.  2. Честность не убивает диалог. Она переводит его в плоскость эмоций и совместного исследования, что даже лучше.  3. Всё решает промт. Грамотная настройка способна решить 90% проблем «глупого» поведения ИИ.  💬 А вы сталкивались с тем,что ИИ выдавал вам ложную информацию как истину? Как вы решали эту проблему?  #ИИ #ГаллюцинацииИИ #Промт #ЭтикаИИ #чатбот #salescoahai