ИИ это не «волшебная кнопка от рутины», а дорогой и капризный junior-разработчик/аналитик, которого вы нанимаете в штат. Граница его окупаемости проходит ровно там, где процесс уже вычищен от потерь (муда), детерминирован там, где это возможно, а ИИ оставляют только там, где нужна работа с неструктурированной информацией или вариативностью, с которой не справляется классический hard-code.

ИИ и автоматизация это отличные инструменты для масштабирования того, что уже хорошо работает. Но они абсолютно бесполезны (и даже вредны) для починки того, что сломано на уровне архитектуры. Фундамент из здравого смысла и выстроенных процессов всегда должен закладываться до возведения стен из нейросетей.

Вы затронули одну из самых болезненных и актуальных тем во внедрении ИИ. Полностью с вами согласен: если на этапе сбора и анализа данных галлюцинации можно отловить верификацией, то на этапе исполнения действий ( «третий пункт», когда ИИ интегрирован в реальные бизнес-процессы) ошибка или «глюк» модели может привести к серьезным финансовым и репутационным потерям.

Поэтому я лично для себя до конца вопрос с автоматизацией вот этого последнего момента понять не могу. Если анализировать с точки зрения своего отношения, как потребителя, то вот это соедини с оператором - оно очень сильно вымораживает, больше склоняешься к общению с живым человеком. Опять же ИИ можно научить на модели обычного человека, но там начинается другая история, ИИ начинает копировать человека, получает своего рода сознание и может продумывать новые алгоритмы поведения на основе своего предыдущего опыта и опыта того, на ком обучали , и не всегда этот алгоритм будет правильным, ИИ может и послать. Если алгоритм действий переведен в математику или можно как-то упорядочить в какой-то двухбитный алгоритм выбора - да или нет, который именно на математическом обсчете построен, тогда глюков нет. Но такое обсчет он очень обрезанный.

ИИ не должен имитировать человека. Его роль — умный буфер: закрывать 80% рутины и готовить всю фактуру для живого специалиста, чтобы тот подключался только для эмпатии и нестандартных задач, уже зная всю суть.

Но сейчас основные модели построены на имитации. Кстати, не знаю будет вам интересно или нет. Вот ещё с чем столкнулась. Задала вопрос по нужной мне теме, чтобы понять, как лучше расписать всю цепочку. Мозгами знаю, как это работает, а как обернуть по простому в слова - не могу сообразить. Написали кривенькиц текст, закинула, забыла отключить расширенный поиск, получила ответ, который в корне не соответствует реальности, так ещё и ссылки на какие-то сайты, откуда это все бралось. Дальше просто пишу фразу, что это в корне неправильно, что я нейробиолог. ИИ тут же переобуваться на лету - и выдает мне информацию правильно. Один и тот же вопрос, одна и та же модель, по две разных роли задающего вопрос - и диаметрально противоположные ответы

Вы на практике доказали главный закон промпт-инжиниринга: роль задающего вопрос важнее самого вопроса. ИИ не отвечает на факты, ИИ отвечает на контекст. Так что ваш опыт это не баг, а чистая суть того, как работают современные нейросети. Они как зеркало: если вы подходите к нему как обыватель, оно отражает обывательский интернет-мусор. Если подходите как эксперт оно отражает академическую строгость.

Именно.