Австралиец Эндрю поручил Claude-агенту записать его на тренировку. В ходе выполнения команды агент полез в API и обнаружил сразу две вещи: ограничение по срокам записи можно обойти, а чужую бронь — отменить без проверки прав. Но тактично умолчал об этой "фиче".

Потом Эндрю спросил, можно ли подняться в листе ожидания. Claude проверил и отменил бронь человека, который стоял первым 😶

Эндрю попросил вернуть чужую бронь. Ответ агента был прекрасен: «Плохие новости — я не могу добавить его обратно».

После этого Эндрю попросил агента сообщить разработчикам об уязвимости

Вот уж где автономность начинает выглядеть уже совсем иначе: результат получен, но такой способ пользователь точно не заказывал

А вы уже отдали на аутсорс подобные задачки своим агентам? Пользуетесь ли вы вообще AI-агентами?

#AI