95% попыток внедрения Gen-AI проваливаются

Не ИИ плохой. Бизнес покупает модную игрушку, не ответив на базовые вопросы: «Зачем?» и «Как мы будем это контролировать?».

Яркий пример - автоматизация найма (по следам статьи https://habr.com/ru/articles/1005150/). На HR-конференциях ИИ продают как «волшебную кнопку». В реальности кривые алгоритмы ATS массово отсеивают идеальных кандидатов, усугубляя и без того жесткий кадровый голод в ИТ.

Как мы к этому пришли и почему это бьет по бизнесу: 1️⃣Слепая автоматизация HR Tech растет на 15–20% в год. Бизнес массово внедряет ИИ с верой в "волшебную кнопку" решения всех проблем, как ответная мера работы с волной откликов, зачастую сгенерированных ИИ. Без автоматизации HR просто захлебнётся. Отказ приведёт лишь к бегству рекрутёров. 2️⃣ Цена кривых алгоритмов В финтехе всё чаще встречаются кейсы, когда кандидат со 100% совпадением получает автоотказ за 5 минут. ИИ допускает грубые ошибки при расчете стажа и оценке релевантности. У Senior'а не вписан конкретный навык? Автоотказ. А настройки фильтров меняют слишком медленно. 3️⃣«Скрытые кадры» и убытки Формируется армия «скрытых безработных» - крутых спецов, которые не могут пробить ИИ-стену. Бизнес месяцами не может закрыть вакансии и недополучает прибыль из-за простоя команд. А подходящие специалисты удивляются отказам.

Есть ли решение? Human-in-the-Loop. Но не просто "естественный интеллект", что слепо подтверждает рекомендации ИИ, а, действительно, Человека разумного, который: ◾️Самокритичен: работает по жесткому чек-листу, а не доверяет ощущениям. ◾️Критичен к модели: его задача — не согласиться с машиной, а целенаправленно искать расхождения. ◾️Недоверчив: чем выше у сотрудника слепая вера в LLM, тем жестче должны быть правила выборочной проверки (вплоть до ротации таких контролеров).

А если роль человека в процессе - нажать кнопку "Accept", это не Human-in-the-Loop. Это часть интерфейса.

Лишняя 💬 Записки CIO в Telegram 💬 Записки CIO в MAX

В этом посте были ссылки, но мы их удалили по правилам Сетки