Сотрудник вставил клиентский договор в ИИ. Кто виноват?

Представим обычную ситуацию.

Менеджеру нужно быстро подготовить письмо клиенту. В договоре много условий. Он копирует кусок текста в нейросеть и просит:

«Объясни простым языком, какие здесь обязательства сторон».

С точки зрения менеджера - он просто ускорил работу. С точки зрения компании - возможно, он только что передал во внешний сервис чувствительные данные.

Кто виноват? На мой взгляд, не только сотрудник.

Если компания не объяснила: - какие данные нельзя загружать; - какими сервисами можно пользоваться; - где проходит граница риска; - как обезличивать информацию; - кто отвечает за проверку результата,

то сотрудник будет действовать по своему пониманию. А понимание у всех разное.

Один считает, что договор - это конфиденциально. Другой считает: «я же только кусочек вставил». Третий вообще не задумывается, куда уходят данные.

Поэтому безопасность ИИ начинается не с запретов. Она начинается с понятных правил.

Минимум, который нужен компании: 1. Что можно загружать в ИИ. 2. Что нельзя загружать никогда. 3. Какие сервисы разрешены. 4. Как проверять ответ. 5. К кому идти, если непонятно.

ИИ не опасен сам по себе. Опасно, когда он используется вслепую.

Сотрудник вставил клиентский договор в ИИ. Кто виноват? | Сетка — социальная сеть от hh.ru