🔴 $304 млн убытка за квартал. Не хакеры. Модель.
Zillow Offers закрылась 2 ноября 2021. На балансе — 9 700 домов, купленных автоматически. Алгоритм делал оффер, продавец соглашался, сделка закрывалась. Без живого оценщика. Без инспекции.
Пока рынок рос — погрешность покрывалась апсайдом. По данным аналитика Майка ДелПрета, в ключевых рынках Zillow перепродавала дома с дисконтом ~6% к цене покупки. Рынок развернулся — и на балансе оказалось почти 10 000 домов, купленных дороже рынка. 📉 Алгоритм не умел в волатильность. Никто не заложил это в модель.
2 000 человек потеряли работу. Это 25% компании.
Это не технический сбой. Это управленческая ошибка в постановке задачи: стоимость ошибки модели не была строкой в бюджете. Ни в одном квартальном плане.
Пять признаков того же паттерна: 🔎 — AI принимает финансовое решение быстрее, чем человек успевает проверить — Модель обучена на одном рыночном сценарии — В ROI-модели нет строки на стоимость ошибки — Объём автоматических решений растёт быстрее системы их мониторинга — Регуляторный риск не посчитан
По данным McKinsey, меньше 30% AI-инициатив доходят до промышленного масштаба. 📊 Большинство — не из-за плохой технологии. Из-за того, что никто не спросил: сколько стоит, если модель ошибётся?
Сохраните пост — пригодится на следующем совещании по AI-бюджету. 💾
