В июле с разницей в неделю ИИ дважды очень уверенно рассказывайл мне о том, чего не существует. Сначала это была кнопка в Битриксе. Потом «критичный риск №1» в договоре. Историй две, мысль одна, поэтому по порядку.   1. Кнопка, которой нет   Портал Битрикс24 администрирую я, и как раз тогда он глобально обновился: новый интерфейс, все привыкали. Мне понадобилась регулярная задача, и ИИ уверенно объяснил, что нужная кнопка лежит в нижнем блоке карточки, рядом с «Файлами» и «Чек-листами». Я смотрела на эту карточку. Кнопки там не было. Минут пять я писала об этом и получала в ответ всё более подробное описание того, где она должна быть. Пока не написала: «Так в том и дело, что кнопки этой просто нет!» Только тогда он перечитал мои же скриншоты и признал: в новой версии регулярность живёт только внутри шаблона. Он рассказывал мне про старый интерфейс, а я смотрела на новый.   Кнопку проверить просто: ошибка видна глазами. Вторая история выглядела как хорошая работа.   2. Риск №1   Я проводила предварительный разбор договора с новым поставщиком, где оплата счёта равна подписи. Запустила ИИ как юриста-безопасника. Он постарался. Сравнил слова менеджера из переписки с приложением к договору, объявил противоречие, переделал таблицу в две колонки «по договору» и «по словам менеджера», написал вывод в виде развилки «если права она, то так, если договор, то эдак» и поставил всё это первым пунктом в риски. Выглядело как работа очень внимательного юриста.   Расхождения не было. Мне хватило одной строки: «нет никаких расхождений, всё верно». Отнеси я руководителю первую версию, он получил бы развилку там, где решение было однозначным, и ещё отправил бы поставщику запрос подтвердить то, что и так ясно.   К чему я это все?   ИИ ошибается не как калькулятор, а как очень старательный стажёр: подробно, по пунктам и с ссылками. По оформлению отличить это от правды нельзя. Поэтому, если вам приносят анализ, сделанный с ИИ, задайте вопрос не «откуда цифры?», а «что здесь вы сверили с первоисточником?»: с экраном, с документом, с человеком, который знает, как это устроено на самом деле. Тот, кто ничего не сверял, ошибок не увидит. Он просто не знает, как выглядит правда и что такое фактчекинг =)   Самая опасная ошибка в работе с ИИ - верить ему на слово.   P.S. Раньше ошибки в отчётах хотя бы выглядели как ошибки. Теперь они приходят с пунктами договора и таблицей в две колонки 🙃