Локальный ИИ: зачем он нужен, если есть ChatGPT или Claude

Последнее время всё чаще слышу от финансистов и топов одно и то же: «Хочу использовать ИИ в работе. Но отдавать туда наши данные страшно».

И это не паранойя (хотя встречаются люди, которые переживают даже за обезличенные цифры). Это нормальная реакция человека, который понимает цену информации. Контрагенты, условия сделок, зарплаты, внутренние прогнозы - всё это улетает на серверы OpenAI или Anthropic, если вы загружаете файл в ChatGPT или Claude. Юридически это одна история. Репутационно - другая. А если у компании есть NDA или внутренняя политика по безопасности данных - третья.

Тут и появляется другой вариант, о котором пока мало говорят за пределами IT-тусовки.

Локальная языковая модель. Это та же нейросеть, только работает не на серверах где-то в Америке, а прямо на вашем компьютере или сервере компании. Данные никуда не уходят. Вообще. Интернет не нужен. Всё происходит внутри.

Звучит как решение всех проблем? Если бы все было так просто.

Качество таких моделей пока заметно уступает облачным флагманам. И оборудование нужно серьёзное - обычный ноутбук с задачами бизнеса не справится. Поэтому сейчас локальный ИИ - это не замена ChatGPT, а скорее отдельный контур под специфические задачи.

Технология становится доступнее с каждым месяцем. Модели - сильнее. И финансовым командам, на мой взгляд, уже стоит задаваться вопросом «может нам это нужно?».

Я сама сейчас изучаю эту тему именно с точки зрения применения в финансовой функции. Какие задачи они могут выполнять, насколько это дорого и сложно, что реально работает.

Буду делиться по мере того, как разбираюсь.

🏕 А вы вообще думали об этом? Или вопрос конфиденциальности данных при работе с ИИ для вас пока не стоит так остро?