День демо, день раздумий и день подведения итогов.

Сегодня поймал себя на мысли: ИИ в банке перестал быть игрушкой в песочнице. Он превратился в новый канал платежей со своим комплаенсом, безопасностью и любимым вопросом: «Кто за это отвечает?»

ЦБ выкатил рекомендации по безопасности ИИ в финансовых организациях и говорит простым языком:

• ИИ атакуют.
• ИИ утекает.
• ИИ галлюцинирует.
• ИИ дрейфует.

Самое вкусное для нас: если ИИ трогает критичные процессы вроде платежей, учета или операций с высоким риском, регулятор хочет видеть живого человека в цепочке. Агент, который решает все сам, пока остается фантастикой. У меня такая метафора. ИИ - стажер с доступом к продовой базе. Он умный и быстрый, но без наставника и логов страшно. Из этого вылезает новая дорожная карта. В ней появляются нефичи: политика по ИИ, модель угроз, мониторинг качества, требования к поставщикам, журналирование. Это тоже продукт, только без глянца на витрине.

И теперь главный вопрос. А вы знаете, где именно в критичном контуре сидит ваш ИИ, или он ведет себя как кот и живет где-то в системе, пока вы его не поймаете за хвост?