По истине великая новость. TLDR Курсор с клодом снес прод, проигнорировав инструкции. Проблема тут ни в ллм, ни в кривом сервисе, который для апи токенов не делает разделение скопов. Проблема куда глубже. Человек, к сожалению, при работе с агентами отдает им в руки буквально все. Потому что так ДеШеВлЕ и БыСтРеЕ катить фичи в релиз.

Ситуация тут ровно такая же, как и с отделом ИБ. Вы не понимаете зачем он вам нужен, пока вас не ломанут. С агентами у вас все дешево и просто, пока он не снес вам все, потому что вы дали ему прямые доступы, убрали прослойку в виде человека и катите фичи в релиз, как только получили уведомление в тг, что агент закончил работу.

Бизнес всегда будет стремиться к минимизации затрат, и пока что(да так оно будет и дальше) дешевле отдавать все на волю чатику, чем сделать нормальную систему работы с чатиками. Задача агента - собирать буквы в слова, а слова в предложения. На этом его полномочия должны заканчиваться. Ну то есть с кодом он пусть делает, что хочет. Удалять, править, добавлять - на все это у него разрешения есть. Но вот вызов инструментов, обращение к сторонним сервисам - это уже должно делаться программно. Да именно проргаммно, а не через mcp. Потому что mcp это не складывание буковок в предложения, а вполне себе конкретная операция во внешней системе.

Я не знаю, будем ли мы в будущем строить пайплайны исполнения агентов для написания кода, но хочется верить. Пайплайн как раз таки дает тот самый контроль, которого нам не хватает, где мы можем отделить складывание буковок от исполнения rm -rf. Нечто подобное я построил на прошлой работе, вызовом консольной команды(да, даже чатик открывать не надо) читается дока, пишется класс по доке + проводится ревью. Но надо так же создать несколько констант и миграций, вот их уже пайп создает программно. От них зависит, будет ли класс вообще работать или нет, без них программа даже не найдет новый класс.

В идеале такой я разработку с агентами и вижу. Ты пишешь спеку, создаешь пайп исполнения, где часть логики делается агентами, а часть программно. В итоге ты получаешь и контроль над исполнением, и экономию токенов, а взамен лишь тратишь чуть больше времени, чем если бы это все делал просто чатик.