Внедрение ИИ на незрелую систему - это автоматизация хаоса, а не оптимизация

Часть 3/5

5. Кейс второй: вау-эффект вместо процесса

Управленец увидел красивый пример использования LLM на другом производстве, попал в ловушку вау-эффекта и захотел внедрить агентов и большие языковые модели в свой бизнес, где даже базовые процессы не отстроены и никто не знает, что делать.

Пример с завода. Приёмщик материала увидел, что материал не до конца соответствует уровню входного контроля и имеет небольшие расхождения с базовыми величинами. Не придал значения, никого не предупредил. Материал отправился на производственную линию. Технолог не был предупреждён, что в процессе эксплуатации новой партии нужно внести корректуру в рецептуру. Лаборатория не осуществила контроль качества входного материала и не дала заключение, как скорректировать рецептуру под фактические свойства компонента. Итог: вся партия готового продукта забракована.

Здесь нет ни одного сбоя LLM. Здесь сломан базовый процесс - коммуникация между приёмкой, технологом и лабораторией. Нет владельца, нет регламента, нет точки контроля.

Теперь главное. Владелец этого бизнеса, вдохновившись демонстрацией LLM на другом производстве, хочет внедрить большие языковые модели у себя. При этом базовый процесс приёмки и отслеживания качества одного из компонентов на входном контроле у него никак не оцифрован, не описан и никем не контролируется. И владелец думает, что LLM решит и этот вопрос тоже.

Вот это и есть ключевая ошибка.

LLM не оцифрует то, что не оцифровано. Не опишет процесс, который никто не описал. Не назначит владельца там, где владельца нет. Не создаст точку контроля, которой не существует. Она может работать только с тем, что ей дали: с данными, правилами и контекстом.

Агент не заменит лабораторию, если лаборатория не даёт заключение. Агент не предупредит технолога, если в процессе нет точки, где это предупреждение должно появиться. Агент не исправит приёмщика, если сам приёмщик не знает, что делать с расхождением.

Внедрение ИИ на незрелую систему - это автоматизация хаоса, а не оптимизация. И чем выше вау-эффект, тем дороже разбираться.

Продолжение - часть 4.

#marforall #маркетинг #LLM #AI #безопасностьданных #автоматизацияхаоса #маркетингдлявсех #bigdata #vibecode