Microsoft не стала выпускать recall, функцию, которая была распиарена на презентации PC + Copilot. Напомню, что суть recall заключается в постоянном создании скриншотов действий пользователя на компьютере и возможности быстрого поиска по ним. Например, можно быстро найти слайд презентации, о котором мы помним только то, что там была красная стрелка в углу. Однако оказалось, что можно получить несанкционированный доступ к этим данным, не прикладывая особых усилий. При этом Microsoft выделяет «приватность и безопасность» на первое место в своих AI принципах.

Второй случай касается Slack, который выпустил ряд AI возможностей, таких как быстрый поиск по каналам и сообщениям, суммаризация по тредам, выделение важных моментов по каналам и ежедневные дайджесты. Slack также подчеркивает в своих AI принципах важность приватности, утверждая, что данные «не используются для обучения моделей». Однако, у пользователей возникли вопросы о том, как, например, создаются суммаризации без данных. Slack был вынужден выпустить отдельное разъяснение и описать, как работают их алгоритмы и функции.

AI функции в продуктах постепенно становятся общедоступными, и пользователи начинают задумываться, как используются их данные и зачем.

Оба примера подчеркивают не только важность сохранения данных в безопасности, но и необходимость понятного объяснения пользователям, даже если с точки зрения приватности и конфиденциальности все в порядке.