🛠 ИЗ МОЕЙ РАЗРАБОТКИ | ИИ-агенту мало уметь работать. Нужно ещё уметь ему доверять Представьте интернет-магазин: покупатель оформил заказ, система проверила данные, обратилась к поставщику и обновила статус. Кажется, осталось добавить ИИ — и всё станет «умным». Но на практике самый интересный вопрос другой: что произойдёт, если агент ошибётся, получит лишние права или установит небезопасную зависимость? В своём проекте ResellFlow / Plexora я работаю над автоматизацией обработки заказов цифровых товаров. В основе — Node.js, TypeScript, интеграции с маркетплейсом и поставщиком, проверки входных данных и журналирование событий. Боевые автоматические закупки остаются отключёнными. Новости 20 октября подсказали мне четыре инженерных принципа. 🔒 1. Защищать нужно даже установку библиотек GitHub представил package firewall — фильтр между npm-реестром и средой разработки или CI/CD. Он может проверять пакеты на известные угрозы и учитывать период ожидания перед использованием свежей версии. Важная оговорка: сейчас это публичная предварительная версия для GitHub Enterprise Cloud, поддерживающая только npm. Мой вывод: безопасность начинается не с запуска приложения, а с того, какие зависимости в него попали. 🪪 2. Агент должен подтверждать, кто он и что ему разрешено AWS описала архитектуру идентификации AI-агентов с сертификатами X.509, ограниченными токенами и отзывом полномочий. Это технический пример, а не универсальная кнопка «включить безопасность». Для систем с заказами и платежами принцип особенно важен: прочитать статус и инициировать оплату — разные права. Нельзя выдавать агенту полный доступ только ради удобства. 👤 3. Автоматизация не отменяет человека В другом материале AWS показана архитектура, где агент объединяет сведения из нескольких систем поставок, предлагает действие, но изменение ожидает подтверждения конкретного сотрудника. Мне близка такая логика. В ResellFlow проверки, статусы и безопасные режимы нужны именно для того, чтобы не путать успешный тест с разрешением на реальную операцию. Сначала наблюдаем и проверяем. Только затем разрешаем действие. 📊 4. Малому бизнесу нужен результат, а не просто чат Google представила новые инструменты Gemini для предпринимателей: подключение рабочих сервисов, помощь с фирменным стилем и анализом финансовых таблиц. Развёртывание функций заявлено на ближайшие дни. Для меня здесь главное не количество возможностей. Пользователю важнее понять, какой заказ требует внимания, где возникла ошибка и какие решения безопасно принять. 🎯 Что беру в работу Из этих публикаций получается практический чек-лист: проверять зависимости, ограничивать права агентов, разделять тестовые и реальные операции, сохранять журнал действий и оставлять человеку контроль над критическими шагами. Сильный ИИ полезен. Но надёжная система важнее эффектной демонстрации. 💬 А вы доверили бы AI-агенту самостоятельно оплачивать заказы — или оставили бы обязательное подтверждение? #ИзМоейРазработки #AIAgents #Автоматизация #Разработка