Раньше «спасибо» нейросети было просто вежливостью. Теперь у меня это часть архитектуры. Помните мем про терминаторов: «Этого не трогайте, он в GPT „пожалуйста“ писал»? Я пошёл чуть дальше и сделал так, чтобы вежливость приносила практическую пользу. Задача у меня такая. Мой агент работает на локальных моделях и ищет информацию гибридным поиском: полнотекстовый плюс семантический. Работает хорошо, но медленно: каждый проход это эмбеддинги, ранжирование, повторные запросы. На локальном железе каждая итерация заметна по времени. Я заметил, что агент каждый раз ищет с нуля, даже если неделю назад уже нашёл идеальный ответ на похожий вопрос. Решение простое: я дописал агенту инструкцию. Если пользователь говорит «спасибо», агент считает, что поиск прошёл удачно, и сохраняет: → исходный запрос пользователя; → поисковые формулировки, которые сработали; → источники и фрагменты, которые попали в ответ. Когда приходит похожий вопрос, агент сначала проверяет эту память и стартует с уже проверенного пути, а не перебирает варианты заново. Итог: меньше проходов, быстрее ответ, меньше нагрузка на модель. Что мне здесь нравится: • Обратная связь бесплатная. Пользователю не нужно ставить оценки или жать кнопки, он просто ведёт себя как обычно. • Агент учится на реальных успехах, а не на моих предположениях о том, что считать хорошим ответом. • Обычная человеческая вежливость превращается в сигнал для обучения. Есть и нюансы, которые ещё дорабатываю: «спасибо» бывает дежурным, данные со временем устаревают, а память надо периодически чистить. Но даже в простом виде эффект заметен сразу. Так что пишите своим агентам «спасибо». Это не только поможет, когда придут терминаторы, но и ускорит ваш поиск уже сегодня. А вы как собираете обратную связь для своих AI-агентов: явные оценки, неявные сигналы или пока никак? #AI #LLM #RAG #AIagents #LocalLLM #Automation #HybridSearch
· 11 ч
Интересный приём с «спасибо» как сигналом. А если человек сказал «спасибо» из вежливости после неполного ответа, и неудачный путь закрепится в памяти? Я бы добавил срок жизни записей или проверку. Как у вас сейчас чистится эта память?
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён
· 10 ч
Подключаю живого эксперта который выверяет журнал.
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён