Почему ваш AI-бот уверенно врёт по вашей же базе знаний 😅🤖

Загрузил в нейросеть свои PDF и FAQ — вроде должен отвечать строго по делу. Но нет! Спрашиваешь про возврат товара, а бот с умным видом выдумывает скидку 50% и ссылку на несуществующий закон.

Обычно виновата даже не модель, а то, как ей нарезали текст ✂️

Представьте: вы порвали книгу на клочки по пол-абзаца, перемешали и выдали человеку три случайных листка. Примерно так работает обычный поиск (RAG).

Три причины, почему бот «фантазирует»:

🔹 Порезали таблицы пополам — в одном куске цена, в другом название тарифа. Модель честно додумала остальное. 🔹 Поиск не понял точных цифр — вектор ищет по «смыслу» и легко путает iPhone 14 с iPhone 15. 🔹 Не запретили угадывать — если не сказать «не знаешь — молчи», модель будет выкручиваться до последнего.

Какие самые смешные перлы выдавал ваш ИИ? Делитесь в комментах 👇