Две проблемы с метриками внедрения AI
Первая проблема: токены стали KPI.
Разговаривал с инженером из крупного вендора по кибербезопасности. Их технической директор на встрече команды публично хвалит тех, кто «сжёг» больше всего токенов за неделю. Возможно, он думает, что создаёт культуру AI-adoption. Хотя очевидно, что это приводит только к сжиганию денег – сотрудники начнут «гонять» лишнюю работу в Claude Code. Метрика будет расти, CTO будет доволен. Anthropic тоже. Delivery и качество, при этом, никак не изменятся в лучшую сторону.
Вторая проблема: метрика внедрения становится персональным KPI инженера.
Часть сотрудников не понимает, зачем это нужно. Часть настроена скептически, ведь «вон, у Amazon качество из-за AI просело». В отдельных случаях доходит до саботажа.
Уволить несогласных и неготовых – опция, которая всегда есть. Однако, на мой взгляд, задача решается через создание позитивного опыта использования агентов у инженеров. Если работать с AI проще, чем без него, то скептики меняют позицию сами благодаря примерам и рекомендациям коллег.
В таком подходе метрики AI-adoption становятся метриками руководителя и команды внедрения – рабочей группы, которая разрабатывает лучшие практики.
Что тогда измерять?
На уровне борда и C-level: 1. ROI внедрения 2. Число инцидентов безопасности
На уровне команды внедрения: 1. Число узких мест процесса, устранённых через AI 2. Доля PR, сделанных с использованием AI 3. Throughput 4. Lead Time 5. Change Failure Rate
Какими метриками измеряете AI-внедрение вы?
· 03.06
Токены как KPI — это абсурд, это всё равно, что мерить программистов по количеству строк кода. Метрика стимулирует поведение, а не результат. Решение тоже правильное: метрики качества должны быть у команды качества, а не у рядового инженера. Инженер отвечает за доставку, а не за принятие.
ответить
коммент удалён