Немного про безопасную работу с нейросетями
В новостях появилась история про то, как исследователь компании Permiso Security Анди Ахмети обнаружил новый вид угрозы под названием ChatGPhish — гибрид фишинга и инъекций промпта (так называется вид атак на нейросети с навязыванием чужих указаний).
Как работает атака Злоумышленник размещает на сайте скрытую инструкцию (например, белым или прозрачным шрифтом). Когда пользователь просит ChatGPT пересказать содержание конкретной страницы, нейросеть: • выдаёт обычный пересказ; • добавляет вредоносный блок — ссылку, QR‑код или трекинг‑пиксель.QR‑код особенно опасен: при сканировании он ведёт на мошеннический сайт, а браузерная защита не срабатывает — атака переходит на мобильное устройство. Трекинг‑пиксель позволяет получить IP‑адрес, данные о браузере и ОС.
Чем это опасно Некоторые нейросети (в данном случае ChatGPT) доверяют markdown‑ссылкам и картинкам с чужих страниц и встраивает их без проверки. Пользователь, видя знакомый интерфейс, переходит по ссылке — и рискует потерять пароли или данные карты. Ахмети сообщил об уязвимости через Bugcrowd 29 апреля 2026 года. OpenAI сначала не подтвердила проблему, затем отнесла её к уже известным. Но на 29 мая 2026 года исправление не подтверждено.
Как защититься 📌Ограничьте полномочия ИИ: не давайте доступ к почте, платежам, CRM и другим критическим API без необходимости. 📌Избегайте пересказа случайных страниц (особенно с GitHub, форумов и незнакомых сайтов). 📌Не переходите по ссылкам и не сканируйте QR‑коды из ответов ИИ, если не уверены в источнике. 📌Не отправляйте в чат с ИИ пароли, API‑ключи, реквизиты карт и другие конфиденциальные данные. 📌Проверяйте действия ИИ перед выполнением (отправка писем, скачивание файлов, изменение настроек и т. д.). Просите нейросеть показать план действий, а не выполнять их сразу.
#ЦифроваяГрамотность #ЦифровыеКомпетенции #ЦифроваяБезопасность #Кибербезопасность #DigiComp
