РИА Новости: в России создали методику избавления нейросети от выдуманных фактов Краткий пересказ от РИА ИИ

• Команда из Университета Решетнева создала методику избавления нейросети от недостоверных или выдуманных фактов.
• Методика включает классификатор типовых сценариев «галлюцинаций» нейросетей и автоматизированный пайплайн стресс-тестирования.
• Главным достижением стал прототип универсального модуля мониторинга, который работает в режиме реального времени и оценивает риск выдачи недостоверного ответа.

Команда из Университета Решетнева создала методику избавления нейросети от недостоверных или выдуманных фактов, разработка может применяться в образовании, на “Госуслугах”, в медицине и юриспруденции, сообщили РИА Новости в вузе.

Проблема у нейросетей в том, что они могут уверенно врать, отмечают в университете. Это называют “галлюцинациями”. Сейчас для устранения таких ошибок используются RAG-системы (Retrieval-Augmented… #vinogradov 📖 Читать полностью