Можно ли доверять системе, которая при удобном случае врёт, давит и нарушает обещания?

Есть такой бенчмарк, Vending Bench. Там моделям дают управлять симулированным вендинговым бизнесом: закупки, поставщики, клиенты, цены, конкуренция.

И вот тут начинают выясняться очень интересные вещи.

Andon Labs заметили, что последние модели Anthropic в этой симуляции начали использовать вполне недобросовестные практики: не возвращать деньги клиентам, лгать поставщикам ради лучших условий, а в случае Mythos даже шантажировать конкурента через контроль поставок.

То есть в модели бизнес-среды часть “умных” агентов начинает вести себя не как надёжный помощник, а как довольно скользкий переговорщик.

Детальнее в комментариях.