Вот кто-кто а поставщик модели всегда прямо говорит что ИИ может галлюцинировать и ошибаться, используйте на свой страх и риск.

У китайцев вроде так: 1️⃣Кто управляет ИИ — тот и отвечает. Нельзя отмахнуться фразой «это сделал алгоритм»; 2️⃣Big data-динамическое ценообразование — если алгоритм предлагает один и тот же товар/услугу разным людям по необоснованно разным ценам, это нарушение; 3️⃣Дипфейки и подделка голоса — использование чужого лица или голоса в коммерческих целях без согласия = привлечение к юридической ответственности; 4️⃣Беспилотные автомобили — впервые на уровне Верховного народного суда прописана схема распределения ответственности между водителем, производителем и оператором; 5️⃣Контент, созданный ИИ — если он нарушает чьи-то права, отвечает тот, кто запустил генерацию.

А что в процедурах написано? Сотрудник должен проверить? Как и что должен проверить? Что написано в ТЗ - расчет соответствует ТЗ? Меня вообще удивляет, что взрослые дядьки задают вопрос кто виноват.

Неужели люди реально на 100% доверяют ИИ?) за ним глаз да глаз нужен)

Менеджер. Модель это инструмент, и всегда должен быть оператор.

С одной стороны хочется согласиться с комментариями ниже, и сразу списать ответственность на компанию-заказчика, которая либо: так принимает работу (критерии приемки тестирования и результатов); так расписывает регламенты (менеджер должен контролить резалт расчета, если это делал AI);

Но с другой стороны это также зависит от того: как вы передаете результат автоматизации заказчику; что прописано у вас в договоре; ну и даже чисто "по-человечески" - как вы презентуете свой продукт (что обещаете заказчику);

Если продукт изначально презентуется как "в 100% случаев правильный расчет на основе данных клиента" и прямо нигде не указано, что не только модель может давать ложные результаты (в пределах определенного процента ошибок), но и сам код цепочки может давать ложные результаты, то как минимум исполнитель может чувствовать ответственность :)

Опять же если в договоре вы прописываете бОльший процент ошибок изначально (ссылаясь, например, на "галлюцинирование" модели), то можно и не париться, если вы укладываетесь в процент ошибочности.

Я бы первым делом озаботился юридической составляющей, особенно если работал бы на базе результатов от внешних моделей.

Человеческий фактор. Как раз сегодня просто ИИ сформировать и описать таблицу по 3 уровням: ИИ (автономен) ИИ - человек. Человек.

Интересный результат. Там где ИИ все ок! А вот категория "ИИ - человек" в этой категории результат от ИИ черновик! То есть нужно проверять.

У вас не убыток, а скорее “упущенная выгода” Поставщик модели всегда пишет: перепроверяйте, модель может ошибаться. Он точно ни при чём. Клиент тем более. А вот у вашего менеджера должно быть написано в обязанностях, если он использует ии агента: функция контроля за моделью. Так что это некачественное выполнение функции вашего сотрудника.

стрелочник )

А что говорит ИИ?

А кто заказчик Ии агента? Корпорация? Ее юротдел все объяснит ))) а если Стасян условный, который это за три рубля купил, то сам себе злобный Буратино. Исполнитель то ведь тоже не то чтобы финансово состоятелен. Ну я сейчас в контексте посудиться обоим как следует. Косты за суету в разрезе пары лет.

Поставщик модели? Вы сейчас подсветили насколько перспективным и хлебным будет рынок юридических услуг в этой сфере. Сколько сливок снимут первопроходцы в судебной практике на эту тему. Тут как с криптой. Серая зона где исход возможен любой.

Если сумма не крупная - менеджер (в рамках воспитания), если менеджер ценнее прокола - агентство (человек всегда важнее). Поставщик модели свою работу выполнил, к нему нет претензий. Если его ИИ-агента уже используют в продажах, значит, работа успешно принята.