Можно ли прописать «законы робототехники» для личного агента? 🤖
В комментариях к прошлому посту про «Джарвиса» прозвучал фундаментальный вопрос: «сможем ли мы прописать для агента правила, чтобы исключить ошибки?». Как законы Азимова, только для нейронки 🤪
Прежде чем отвечать, немного теории из мира разработки. Сейчас на смену простым чат-ботам приходят так называемые Agentic Workflows (агентные рабочие процессы).
В чем разница❓
Обычный ИИ-бот — это «черный ящик»: вы дали запрос, он выдал ответ, и вы не знаете, как он к нему пришел.
Агентный процесс — это прозрачная цепочка шагов: планирование ➡️ инструменты ➡️ критика ➡️ действие. Агент сам проверяет свой результат, прежде чем показать его вам.
Но мы понимаем, что даже самый умный процесс — это риск. Никто не хочет, чтобы агент в порыве «оптимизации» отменил встречу с инвестором ради сна или удалил семейный ужин 🥲 Как мы строим «Кодекс Lumi» на трех уровнях контроля ❓
Мы не просто даем ей свободу делать, что хочет. Мы строим систему из нескольких уровней контроля:
1️⃣ Жесткие «рельсы» Есть вещи, где ИИ не имеет права «творить». Если в календаре стоит блок «Семья», Lumi запрещено предлагать туда рабочие слоты, какой бы умной она ни была. Это прописано кодом, а не просто промптом.
2️⃣ Граф состояний Мы используем LangGraph. Это позволяет нам строить четкие сценарии с проверками: Шаг 1: Извлечь данные. Шаг 2: Проверить на коллизии. Шаг 3: Если есть конфликт —**обязательно** спросить подтверждение у человека. Агент не может перепрыгнуть через этап «Спросить Федора», если ситуация выходит за рамки стандартной.
3️⃣ Коэффициент уверенности У каждой задачи в Lumi есть «коэффициент уверенности». Если агент на 100% уверен, что это простая задача (например, поставить напоминалку), он делает это молча. Если есть сомнение (сложная логистика, перенос встречи) — он выводит карточку с вариантами.
Наш подход таков: Lumi — это не замена вашего мозга, это высокоточный исполнитель. Мы прописываем для нее свой «Цифровой Кодекс», где главный закон: Никаких действий без подтверждения в спорных зонах. В MVP мы начинаем с модели «человек всегда в цикле» (Human-in-the-loop). Вы — пилот, Lumi — автопилот, который умеет держать курс, но не меняет его без вашей санкции.
👇 Какие «законы» вы бы прописали для своего агента в первую очередь? Чего бы вы НИКОГДА не доверили ИИ решать самостоятельно?
