Armilla AI — страховка от косяков ИИ
На днях спросил у AI, где купить детали для детского проекта. Получил очень уверенный ответ. Приехал сначала в один магазин, а там ничего похожего нет. Поехал во второй, где продавец даже удивилась, с чего я решил, что там это должно быть. В итоге потратил весь вечер, выделенный на это.
У друга было почти то же самое: AI помог выбрать переходник для PlayStation, но в итоге конкретно для его модели он не подошёл. Ну и дальше классика: "извините, я ошибся, постараюсь больше так не делать".
В личной жизни неприятно, но терпимо. Потерял вечер, купил не то, бывать, можно понять и простить, тем более кейсов, где он реально помог значительно больше. А вот в бизнесе все сложнее, там можно в такое вляпаться...
Недавно вокруг Pizza Hut как раз всплыл такой кейс. Один из крупных франчайзи пожаловался, что новая AI-система для управления доставкой не ускорила процесс, а наоборот создала хаос. Курьеры видели, когда заказы будут готовы, ждали несколько пицц сразу, доставки становились длиннее, еда приезжала холоднее, клиенты злились. Франчайзи теперь требует больше $100 млн компенсации, интересно чем закончится.
И вот тут уже вопрос не в том, что AI "немного ошибся". А в том, кто за это платит.
Компания, которая внедрила систему? Условные Альтман и Ко? Франчайзи, который пострадал? Курьеры, которые просто оптимизировали свою смену? Или все дружно скажут: "ну, технология новая, бывает"?
Вот здесь и появляется Armilla AI.
Они проверяют AI-системы на точность, устойчивость, bias, безопасность и соответствие требованиям, а потом помогают завернуть это в warranty или страховку. То есть если модель обещала работать на определённом уровне, но начала деградировать, ошибаться или выдавать вредные ответы, у компании появляется не просто лог с инцидентом, а финансовое покрытие. AI уже вышел из режима игрушки. Его ставят в процессы, где ошибка стоит денег, клиентов и иногда судов.
Мне кажется, довольно важный продукт для развития технологии. Пока одни делают агентов, которые "заменят отдел продаж за неделю", другие строят инфраструктуру ответственности вокруг этих агентов. К тому же такие решения сильно упрощают внедрение, рисков чуть меньше, и людям принимающим решения, станет чуть проще.
