Локальный ИИ для финансиста: что он реально умеет 🔥 и сколько стоит 🔥

Вчера была на бизнес-завтраке, где собрались финансисты - представители из инвест-консалтинга, производства, Совкомбанка, Яндекса, 1 канала. И там в разговоре как раз затронули тему локального ИИ.

🌉 Стоимость: Один из участников — скептик, финдир производственной компании — задал вопрос в лоб: «Мне говорят, что агент, который будет лазить по моим данным, будет стоить полмиллиона в месяц. Это действительно так?» Партнёр технологической практики, который разворачивает такие системы для корпоративных клиентов, ответил конкретно: пилот на локальной инфраструктуре — около 300 000 рублей в месяц аренда видеокарт. Купить железо под 100 пользователей — от 4 миллионов. Лицензия на платформу — около 3 миллионов в год. Сложный агент под структурированные данные — 7-10 миллионов разработки. 🧮 Отдельно – про работу с цифрами: Там же прозвучал вопрос, который волнует многих: а как ИИ считает? Не ошибается ли? Ответ меня порадовал своей честностью: локальной языковой модели не доверяют считать. Совсем. Для любых арифметических операций агент вызывает отдельный калькулятор — детерминированный инструмент, который не ошибается. Для сложных задач — оптимизационную модель, написанную специалистами. Облачные же модели ИИ хорошо работает с Excel через код: модель не считает сама, она пишет скрипт на Python, который считает. А Python не галлюцинирует. 🔥 Что реально работает в финансовой функции: Из того же разговора и из материалов по локальным моделям, которые изучила на данный момент: Первичная документация: накладные, УПД, счета - распознаётся и загружается в 1С без участия человека. Анализ договоров: модель находит нестандартные условия, сравнивает с шаблоном. Поиск по внутренним регламентам: задаёшь вопрос, получаешь ответ со ссылкой на абзац. Консолидация отчётности, план-факт с аналитической запиской - всё это делается за минуты, данные при этом не покидают контур компании.

Главный вопрос, который там звучал Финдир-скептик сформулировал его так: «Где граница риска, который мы готовы принять?» И вот тут единого ответа нет. Для кого-то загрузить обезличенные цифры в облако - уже риск. Для кого-то, рабочий компромисс. Локальное развёртывание снимает вопрос про данные, но добавляет вопрос про бюджет и инфраструктуру. 🔥 Вывод, по теме, с которым я согласна: вопрос не в том, «можно или нельзя». Вопрос в том, «как организовать процесс так, чтобы и польза была, и риск был управляемым». Если у вас уже есть опыт: локальный контур, пилот, переговоры с вендорами - очень интересно услышать. А я продолжу изучать тему.