Спроси ChatGPT, как связаться с твоей компанией. Уверен, что он даст твой номер❓
Исследователи нашли схему, при которой мошенники подменяют контакты компаний прямо в ответах ИИ. Человек спрашивает у ChatGPT или Gemini телефон поддержки банка или авиакомпании и получает номер мошенников, поданный как официальный.
Под атакой оказались 374 компании: авиалинии Delta, Lufthansa, United, Emirates, банки Chase, Bank of America, Citi, сервисы Airbnb и TripAdvisor. Например, по запросу про поддержку Lufthansa ИИ-ответ Google выдавал номер, который контролировали злоумышленники.
👉 Как это работает
1️⃣ Создают контент под ИИ Мошенники пишут публикации с фейковыми телефонами, почтой и ссылками. Тексты специально составляют так, чтобы ИИ охотнее на них ссылался. Это называется GEO: то же SEO, только для нейросетей.
2️⃣ Маскируют номер Цифры разбивают пробелами, точками, эмодзи и словами: например, вместо «1» ставят 1️⃣. Спам-фильтры такой номер не распознают, а ИИ прекрасно понимает.
3️⃣ Размножают Один и тот же текст каждый день автоматически публикуют на сотнях площадок: в соцсетях, в описаниях YouTube, на Medium, на сайтах с PDF-документами, в отзывах. Удалить всё вручную невозможно.
ИИ видит одну и ту же информацию в десятках мест и начинает считать её правдой.
📌 Что ответили Google и OpenAI Исследователи сообщили о проблеме обеим компаниям. Google ответил, что дезинформация и фишинг в ИИ-ответах не входят в его программу поиска уязвимостей. OpenAI закрыл отчёт как невоспроизводимый: им нужно доказанное влияние на пользователей, а не теоретическая атака. При этом, по данным, на которые ссылаются авторы, 92% пользователей не проверяют ответы ИИ.
В обсуждении на Hacker News люди делятся реальными случаями. Например, пожилому человеку Gemini выдал фейковый номер поддержки Microsoft, и всё закончилось кражей личных данных.
🆘 Как защититься самому — Никогда не берите из ответа ИИ телефоны, ссылки на оплату и адреса поддержки, только с официального сайта или из приложения компании — Если ИИ дал номер, сверьте его с официальным сайтом, прежде чем звонить — Предупредите родителей и старших родственников: они чаще других доверяют «умному помощнику»
💼 Что сделать бизнесу прямо сейчас 1. Спросите ChatGPT, Gemini и Алису, как связаться с вашей компанией и посмотрите, какой номер и сайт они дают. 2. Убедитесь, что ваши актуальные контакты одинаково указаны везде: на сайте, в картах, в справочниках и соцсетях. Чем больше совпадающих официальных упоминаний, тем меньше шансов у подделки 3. Повторяйте такую проверку хотя бы раз в месяц, особенно если к вам часто обращаются в поддержку
ИИ не отличает правду от лжи, поэтому если о вас часто пишут неправду, он её повторит. А вы проверяли, что ИИ рассказывает о вашей компании?
#ИИ #безопасность #ChatGPT #предпринимателям #GEO ——————————— Кстати, как выстроить работу с ИИ под свои задачи с нуля, разбираем на НейроМаксе 👉 Забрать доступ
