Почему «бесплатные» нейросети — это не подарок, а минус в карму

Решил проверить, как поживает Гигачат от Сбера. Может, отечественный ИИ наконец научился не только поддакивать, но и думать. Первое, что встречает — авторизация по номеру телефона.

Обычный пользак, конечно, скажет: «Удобно! Никаких паролей». А вот для тех, кто понимает, как устроены системы, это выглядит скорее как добровольная выдача ключей от цифровой квартиры.

Не пользователь, а поведенческий аватар

Любое взаимодействие с моделью — запрос, формулировка, интонация — сохраняется. Кнопка «удалить чат» работает только для успокоения. На деле всё ложится в профиль. Строится поведенческий портрет: что интересует, что бесит, где триггерит, какие темы цепляют. И даже как часто возвращается к одним и тем же вопросам.

Это не теория. Это обычная логика работы нейросетей, обучающихся на живом человеке — причём с полной привязкой к идентификатору в виде номера телефона.

Сегодня сервис, завтра экосистема, послезавтра — отказ

На первом этапе всё это живёт внутри одного продукта. Но речь идёт не о стартапе, а об экосистеме с десятками точек входа: банк, маркет, аптека, телемедицина. А далее данные просто метчатся друг с другом.

Если кто-то ищет, как обойти валютный контроль, заказывает валерьянку и одновременно берёт продукты по скидке — система не видит это как случайность. Она строит модель.

Через какое-то время тот же человек может обратиться за ипотекой — и получить отказ. Или ощутить на себе рост процента. Или попасть в категорию «наблюдать». Всё по алгоритму.

«Мне скрывать нечего» — до первой аномалии

Частый аргумент: «я обычный человек, что мне бояться». И действительно — всё работает нормально, пока поведение укладывается в шаблон. Но как только появляются нестандартные действия или «нежелательные» интересы, включаются триггеры. Кто и когда сочтет ваши интересы «нежелательными» — одному богу известно. А система не спорит и не объясняет. Она просто действует — автоматически и заранее.

Если не платишь рублём — платишь собой

Бесплатный высокотехнологичный сервис — это не благотворительность. Это способ сбора данных. Пользователь — не клиент, а обучающая выборка.

Он сам приходит, сам пишет, сам отдаёт себя в обработку. Улыбчивый интерфейс лишь прикрывает то, что происходит внутри: анализ, прогноз, профилирование.

Когда появляется кнопка «войти по номеру» — это не удобство, это точка входа. В профиль, в скоринг, в долгосрочную систему принятия решений, к которой у самого пользователя нет доступа.

Так что когда в следующий раз предлагают «бесплатную отечественную нейросеть» — стоит помнить: если кажется, что она просто умная, вежливая и бесплатная — значит, оплата уже идёт — просто не в рублях и не сразу. 🤔 👃