Менеджер отправил клиенту ответ, который сгенерировала нейросеть. Ответ оказался неверным. Клиент понёс убытки. Кто отвечает?

Важно: под ИИ здесь я имею в виду любой нейросетевой инструмент: ChatGPT, Claude, Gemini, GigaChat, DeepSeek, YandexGPT и другие. Принцип одинаковый. Сегодня малый бизнес активно внедряет ИИ. Менеджеры отвечают клиентам, бухгалтеры проверяют расчёты, маркетологи пишут тексты, юристы анализируют договоры. Это ускоряет работу, но почти никто не думает о том, что произойдёт, если ИИ ошибётся.

А он ошибается. Вопрос не «если», а «когда».

Вот три типичные ситуации: - Менеджер копирует ответ нейросети и отправляет клиенту. В ответе неверные сроки поставки. Клиент перестраивает свои процессы и несёт убытки. - Бухгалтер доверяет расчёту ИИ, не перепроверяет его. В результате компания получает доначисления. - Юрист использует нейросеть для анализа договора. ИИ пропускает существенное условие, которое позже становится причиной судебного спора. Во всех случаях аргумент «так написал ИИ» не работает.

На сегодняшний день российское законодательство не перекладывает ответственность на нейросеть. Ответственность несёт человек, который принял решение, а также работодатель, если не установил правила использования таких инструментов.

Главная проблема в том, что в большинстве компаний использование ИИ никак не регламентировано. Когда возникает спор, сотрудник говорит: «Я не знал, что нужно перепроверять». Работодатель отвечает: «Ты должен был это понимать». Клиенту всё равно — отвечает компания.

Поэтому в должностных инструкциях уже сейчас стоит закрепить: ✔️ какие ИИ-инструменты разрешены; ✔️ как проверяются результаты работы ИИ; ✔️ какие данные запрещено загружать в открытые сервисы; ✔️ какие решения требуют обязательной ручной проверки; ✔️ ответственность за нарушение этих правил. Отдельный риск персональные данные.

Когда сотрудник загружает в нейросеть письмо клиента с ФИО, контактами или деталями сделки, возникает вопрос соблюдения требований законодательства о персональных данных. Этот процесс также требует внутреннего регулирования. Что можно сделать уже сейчас?

Узнать, кто и как использует ИИ в компании. Определить процессы, где ошибка может привести к финансовым или юридическим последствиям. Добавить в должностные инструкции понятные правила использования ИИ. За более чем 20 лет практики я много раз видела, как серьёзные проблемы возникали не из-за злого умысла, а потому, что никто заранее не определил правила. С искусственным интеллектом происходит то же самое. Одна страница в должностной инструкции может предотвратить проблему ещё до того, как она станет судебным спором.

Если хотите понять, какие риски уже есть в вашей компании, напишите мне «РАЗБОР» в личные сообщения.