Как автоматизация ломает критическое мышление

Недавно мы внедряли новую систему автоматизации учета корпоративных расходов и компенсаций. Все этапы протестировали, проверили, запустили. И тут начал вылезать кошмар любого финансиста. В печатных формах отчетов начала массово вылезать «красная строка». Ошибка учета.Тестировщики не понимали, в чем дело. В системе всё выглядело идеально. Я, конечно, не смогла устоять, так как это касалось меня лично и моего времени на исправление ошибок, решила докопаться до сути сама. Парадокс автоматизации. И мы нашли баг! Но не просто технический, а на стыке софта и человеческой психологии. Новая программа научилась круто распознавать чеки по QR-коду. И вот как это сломало процесс: 🔹 Если чек не распознан: сотрудник заполняет всё руками, заходит в расход, сам всё правит и перепроверяет. Ошибок нет. 🔹 Если чек распознан софтом: сотрудник расслабляется. Зачем проверять? Программа же умная, всё сделала за него. А программа оказалась не так умна. Данные она распознавала, но автоматически проставить маркер «есть оригинал чека или нет» не могла. При этом валидация полей (та самая подсветка ошибки) срабатывала, только если сотрудник заходил в расход и правил данные руками. А если система создавала расход сама по QR-коду, она пропускала этот пустой шаг и молча отправляла отчет дальше. На печати же всё летело в тартарары.

Как исправили: Сейчас систему доработали. Теперь, даже если программа сама всё распознала и заполнила, она жестко блокирует отчет и требует от сотрудника зайти внутрь и вручную проставить маркер чека.

Вывод:Любая автоматизация — это палка о двух концах. Самые опасные ошибки рождаются там, где человек слепо доверяет алгоритмам и выключает критическое мышление. #автоматизация #финтех #бизнеспроцессы #itвбизнесе #тестирование #разработкасофта

Как автоматизация ломает критическое мышление | Сетка — социальная сеть от hh.ru