Когда ты просишь ИИ оценить саму себя ? Как она это сделает
Никак объективно — не сможет Вот почему: Модель оценивает себя тем же инструментом, который оценивает. Это как спросить весы — точные ли они. Весы скажут «да». Потому что измеряют своей же шкалой.
LLM при самооценке делает три вещи: 1. Подтверждает свои же паттерны — она обучена отвечать уверенно и связно. Поэтому её самооценка будет звучать убедительно — даже если неверна.
2. Не видит своих слепых зон — галлюцинации, bias, ошибки в рассуждениях она не детектирует, потому что не знает что именно не знает.
3. Не имеет внешнего эталона — чтобы оценить качество, нужна ground truth. У модели её нет внутри.
А как ты просишь ии перепроверить себя ?
· 13.04
да! но можно просить не анализировать себя, а проанализировать результат. Нейронка с выходом в поиск сравнит этот результат в аналогами или общепринятыми поинтами. Да, результат не станет гениальным или даже супер-достоверным, но качество ответа ИИ повысится.
Плюс, даже оставаясь в "своей системе координат" большинство общеупотребимых нейронок вполне сносно оценивают слабые места собственных же предложений. Мы ведь используем ИИ как инструмент - значит можем запросить поперебирать риски, например.
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён