GPT-4o, o1-preview... Кажется, ещё немного, и эти модели будут писать за нас симфонии, управлять термоядерным синтезом и решать проблемы мирового голода.
Но пока что до идеала – как до Луны пешком. Та же линейка o1 новых моделей лучше подходит для вычислительных и задач планирования, нежели создания адекватных чат-ботов.
📌 Хочу поделиться с вами одним из наших кейсов, который хорошо раскрывает пример того, что использование топовых моделей от Open AI не панацея. Четыре месяца назад мы заключили соглашение с компанией Caleo, ведущим производителем теплых полов и систем антиобледенения в России, которая работает на рынке уже 18 лет. Изначально была озвучена несложная задача — создать для них AI-ассистента.
Казалось бы, что может быть проще: консультировать клиентов по базе знаний, помогать с выбором товара, детская забава, а не задача. Ха! Как бы не так! 😅 Как говорится аппетит приходит во время еды, в итоге задача усложнилась на порядок и выросла в целый проект – 1) создать систему, которая сможет полностью заменить менеджеров по продажам 2) решать внутренние задачи компании с обучением сотрудников.
Собрать MVP такой системы с RAG, промптами, no-code мы смогли за неделю, но когда начали тащить такой проект к продакшену, то вылезла целая куча нюансов. И связаны они в первую очередь со спецификой продаж технически сложного оборудования, нежеланием заказчика мириться с галлюцинациями llm и чёткими требованиями к tone of voice системы.
Такой AI-МОП должен не просто отвечать на вопросы по базе знаний компании, но уметь квалифицировать лида, распознавая его реальную потребность, после чего формировать смету на оборудование и оформлять корзину в интернет-магазине, на сайте, в тг и ватсап.
То есть проводить клиента на всем этапе от знакомства до отправки готового счета на оплату. При этом сверяясь в реальном времени с каталогом, остатками, стоимостью, подтягивая их из 1С-Битрикс, после чего формировать готовые заказы в AMOCRM, Roistat. А это к слову это более 500 единиц SKU технически сложного оборудования.
В итоге весь проект занял 4 месяца и только 2 недели назад вышел в релиз.
Так вот о проблеме - в процессе мы свято верили, что GPT-4o с его интеллектуальной мощью – наш главный козырь в этой игре. Думали, будем использовать его как фундамент, а дальше – дело техники: немного программного кода, щепотка промтов, и вуаля – наш AI-sales готов покорять мир электронной коммерции. Но реальность оказалась куда более суровой. Мы столкнулись с тем, что даже последняя версия GPT-4o с его мощью и большим контекстом не способен учесть все нюансы работы с реальными клиентами и их непредсказуемым поведением. ❗️А управление корзиной товаров в реальном времени в диалоге 🛒- как выяснилось это совершенно нетривиальная задача для текущих LLM-моделей.
Мы разрабатывали все более сложные алгоритмы, стараясь учесть тысячи мелочей, но тупик становился все ближе. ❌ Что делать, когда даже самая мощная нейросеть оказывается бессильна? Об этом – в следующем посте..
