А что, если бы модель управляла собственным контекстом?

Исследователи из Вашингтонского университета, Meta, MIT и Trillium Labs рассматривают контекст агента как файл, который модель может перезаписывать сама, вместо того чтобы полностью оставлять решения о сжатии и извлечении на усмотрение программного обеспечения. Их эксперименты проверяют, может ли передача этого управления модели улучшить как производительность, так и вычислительную эффективность.

Читать далее