Почему LLM врет, даже когда «знает», что ошибается?
LLM имеет внутренний сигнал уверенности — и он реально управляет решением отвечать или уклониться. Парадокс в том, что даже при низкой внутренней оценке, LLM продолжает генерировать поток уверенных, грамматически безупречных токенов, вводя пользователя в заблуждение. Практическое решение: Внедрите в систему промптинг трехэтапную инструкцию и задайте консервативные пороги. Для областей, где цена ошибки критична (медицина, юриспруденция, финансы), рекомендуемый порог уверенности — не менее 85–90%. Если ты человек, напиши |<0/\/\E|-|TaРNй