Почему интеллект без сомнений всегда опаснее того, кто ошибается? Модели не “думают”, а выбирают наиболее вероятный ответ из тех, что встречали в прошлом. А значит, если в данных были неточности, предвзятость или просто человеческие заблуждения, — всё это возвращается к нам через нейросеть, только быстрее и убедительнее.

Когда ИИ не знает факта, он не признаётся в незнании. Он достраивает пробел, создаёт правдоподобную версию реальности — иногда настолько аккуратную, что сложно заметить, где заканчивается статистика и начинается выдумка. Это не ложь, просто отсутствие самого важного человеческого механизма — сомнения.

ИИ ошибается не потому, что он “плохой”, а потому что он не человек. Он не умеет сомневаться, не видит контекст шире данных, не может выйти за пределы того, что уже встречал. И чем раньше мы перестанем ждать от него человеческой глубины, тем легче станет использовать его так, как он работает на самом деле — как мощный инструмент, но не как источник истины.