Этот термин, просто как попытка одним словом описать ситуацию, пришел сегодня утром в голову.

Про галлюцинации ИИ уже все знают. Про то, что Deloitte, кажется в Австралии, попался на использовании ИИ в своих отчетах, тоже уже многие знают.

Сейчас у меня в работе есть одна задача, и данных не хватает как воздуха, как воды. А те, что есть в открытом доступе, достаточно противоречивы. По классике можно сделать экспертную оценку или разумное предположение. Но в эпоху ИИ это все заменяется на «спроси или попроси ИИ оценить», и он оценит. Но то, что он предлагает, по крайней мере, в моей задаче, я не могу принять, потому что понимаю, что это «вилами по воде писано» и не выглядит надежно.

Я в целом достаточно критически мыслящий человек. А кто-то — нет. У кого-то нет времени. Возьмет оценку ИИ и положит её в основу отчета, решения, продукта. И так по цепочке. В конечном итоге — целый проект или несколько проектов, построенных на несуществующих данных, оценках, результатах. Это и есть AI-мираж.

Проблема в том, что проверить валидность первоначальной информации, которая ложится в основу решений, отчетов, достаточно непросто, особенно если эта инфо прошла уже несколько звеньев цепи. А когда провайдером такой информации выступает компания вроде Deloitte или любая другая компания с репутацией… сами понимаете.

Надеюсь, вы всегда валидируете данные и выводы, если используете ИИ в работе. Всем добра.