Внутри — упражнение на отработку фактчекинга на фактах про котиков

Иногда нейросети глючат: придумывают несуществующие факты, дают ложные советы и источники. Это происходит по трем причинам:

1. Нейросети учатся на данных, а не «понимают» мир. У них нет сознания и критического мышления. Они просто предсказывают, какое слово или ответ лучше всего подходит в контексте, даже если это вымысел.

2. В нейросеть могли подбросить ложные данные. Если модель тренировалась на фейковых новостях или устаревшей информации, она будет повторять эти ложные факты.

3. Вы задаете слишком сложные или неоднозначные запросы. Когда запрос расплывчатый или требует знаний за пределами изученной темы, нейросеть «додумывает» ответ, опираясь на похожие, но нерелевантные данные.

🔎 Как делать фактчекинг

Поэтому нужно обязательно делать фактчекинг. Самый простой вариант — скопировать ответ нейросети и добавить одну из трех команд:

— «Проверь этот ответ на фактические ошибки и исправь неточности».

— «Просканируй свой предыдущий ответ и выдели спорные утверждения».

— «Вернись к пункту X и перепроверь статистику по последним данным».

🐈 Тренируемся на котиках

— Открой файл с утверждениями про котиков и выбери то, номер которого совпадает с числом твоего дня рождения.

— Закинь утверждение в нейросеть и добавь запрос: «проверь это утверждение на фактические ошибки и исправь неточности»

— Перешли ответ нейросети в комменты.

Ну что, узнаем всю правду о котиках?