Про нейросети и людей, которые уже всё внедрили в голове
Сейчас в любой компании обязательно находится человек, который узнал слово «нейросеть» и немедленно решил, что пора внедрять.
Не изучить задачу. Не понять, какие данные там будут. Не проверить, что вообще умеет выбранный инструмент. Не выяснить, где он работает, кто имеет к нему доступ, сколько это стоит и почему «локально» — это не название папки на рабочем столе.
Нет. Внедрять.
— Давайте поставим локальную нейросеть. Ну, этого… Искателя глубин.
Чудесный план. Осталось решить несколько мелочей: на чём она будет работать, кто её развернёт, кто будет обслуживать, какие данные туда можно загружать, кто отвечает за утечки и почему слово «локальная» не отменяет необходимость думать головой.
Но это, конечно, скучные вопросы. Они портят праздник технологического энтузиазма.
Гораздо приятнее представить нейросеть как корпоративного домового: поставил в серверную, покормил договорами, базой клиентов, внутренними переписками и парой таблиц «ФИНАЛ_ТОЧНО.xlsx» — и она, сверкая глазами, начинает приносить лиды, писать стратегию и, возможно, закрывать квартал.
А потом тот же человек, который просит нейросеть только перефразировать собственный текст, говорит мне:
— Ты так рассуждаешь, как будто с ИИ работаешь.
Да. Представляете. Именно поэтому мне почему-то не хочется скармливать случайному сервису всё, что плохо лежит в корпоративных папках.
Потому что ИИ — это не офисный шаман. Не умная кнопка «сделай хорошо». И не стажёр, которому можно без последствий выдать доступ ко всему, потому что он «быстро учится».
Если модель или агент получает доступ к файлам, почте, CRM, документам либо внешним инструментам, у вас появляются вполне взрослые риски: утечки чувствительных данных, ошибки доступа, несанкционированные действия и prompt injection — когда инструкции, спрятанные во внешнем тексте или документе, пытаются заставить систему сделать не то, что вы ей разрешали. Это не страшилка для тех, кто не любит прогресс; это базовый набор угроз, который отдельно описывают NIST и OWASP.
Здравые идеи по использованию ИИ у нас тоже есть. Иногда даже очень хорошие.
Но хорошая идея почему-то должна пройти чудовищно сложный путь: определить задачу, выбрать инструмент, проверить данные, ограничить доступы, провести пилот, посмотреть результат, решить, кто за это отвечает.
То есть, прости господи, проработку.
И тут инновационный энтузиазм обычно начинает выглядеть гораздо тише.
Потому что «давайте внедрим ИИ» звучит красиво. А «давайте сначала не сольём в него клиентские данные и не дадим агенту доступ к тому, что он сможет сломать» — почему-то воспринимается как токсичность.
Но ничего. Если что, всегда можно распечатать последствия, поставить печать, отсканировать и отправить обратно.
