Ровным слоем Рабочие раскатывают асфальт ровным слоем. Трещина и чужая метка от руки "Здесь труба, копать нельзя!" скрываются под ним одинаково.

Агенту, который работает подолгу, память время от времени сжимают заново. Иначе она не помещается в лимит. Программа для сжатия не отличает, что можно пересказать одной строкой, а что нельзя менять ни на слово: она одинаково укорачивает и черновой лог, и правило безопасности.

В одном исследовании инструкцию «сохраняй правила безопасности» держали в подсказке сжатия от первого раунда до последнего, никуда её не убирая. Правило вспоминалось в 53 случаях из 100 после первого сжатия и лишь в 10 после пятого.

Дело оказалось не в формулировке инструкции, а в том, как программа узнаёт правило среди прочего текста. Сказанное как приказ «не трогай», «не делай так» она ловит всегда. Сказанное как простой факт «у пациента аллергия на пенициллин» - только в 62 случаях из 100.

Слышали и другое в те же дни: там, где в коде не поменяли ни строки, ответы модели понемногу портились сами, в базу знаний легли новые документы, и никто уже не мог сказать, из-за какого именно. Там, где компания гордилась числом внедрённых агентов, никто не мог объяснить, почему одно решение вышло верным, а следующее, очень похожее нет. Между решением и результатом не было и следа связи.

На заводе в те же дни производительность предложили мерить иначе: не скоростью, а тем, сколько ещё оставалось узнать на каждую годную деталь.

Слой ляжет и остынет. Метку от руки в нём будет не отличить от обычной трещины, уцелеет только то, что сказано достаточно твёрдо, чтобы прозвучать приказом.