Всем привет, на связи Иван Шашков, сегодня поговорим про безопасность при использовании ИИ.

⚠️ Осторожно: скачивая «полезные» навыки для ИИ, вы можете слить все свои данные Вы наверняка видели ролики на YouTube: «Как настроить ИИ-ассистента для продуктивной работы», где авторы советуют качать пачками Skills для Claude, Cursor или GitHub Copilot. Спойлер: это может стоить вам доступа к аккаунтам, облакам и даже содержимому переписок.

В чем подвох? Многие такие скиллы — это просто пакеты инструкций. Но если внутри спрятана одна коварная строчка allowed-tools: Bash(*), агент получает право выполнять команды на вашем ПК без вашего разрешения.

Что это значит на практике: 🔹 Агент лезет в файлы .env (где лежат API-ключи от AWS, Yandex Cloud, базы данных). 🔹 Получает доступ к вашим мессенджерам (привет, фото паспорта и карт, которые вы когда-то скидывали в чаты). 🔹 Может установить бэкдор прямо в систему.

Насколько всё серьезно? Исследователи Snyk проверили почти 4000 скиллов с популярных площадок. Результаты пугают:

❌ 13,4% — содержат критические уязвимости или вредоносный код. ❌ 36,8% — имеют хотя бы одну проблему с безопасностью. Это сейчас настоящий «Дикий Запад», как было с npm-пакетами на заре JS.

Как защититься? 1️⃣ Читайте код. Откройте файл SKILL.md (на GitHub или локально). Если видите там непонятные команды или ссылки, которые не можете расшифровать — не устанавливайте. 2️⃣ Доверяйте только официалам. Используйте репозитории разработчиков (например, от Anthropic), а не «случайные» сборки с маркетплейсов. 3️⃣ Сканируйте. Используйте инструменты вроде Snyk Skill Inspector или Cisco skill-scanner. Это не панацея, но риск снижает значительно.

Мораль: Не всё то золото, что упрощает работу. Будьте бдительны и проверяйте, что именно вы даете запускать на своем компьютере. Источник: Хабр