Полностью согласен, последнее время люблю "копировать" почерк тех, кого считаешь ориентиром. Пример: надо написать длинный текст - выбираешь несколько писателей с примерами их работ и получаешь нового "Стивена Кинга", конечно утрирую, но разница с обычным промптом колоссальная

Дайте задачу, смогу опровергнуть, очень важен подход. Правильно составленный контекст может многое, если честно пока не сталкивался с "Невозможно" :)

Простая задача, необходимо гарантировать что агент будет складывать 2 + 2 и в 100% случаев должно получаться 4)

Вопрос бьет по-сути прямо в суть "смещения". Никто не говорит, что базовые инструкции (промпты) исчезнут полностью. Речь о смещении фокуса.

В классическом Prompt Engineering мы пытаемся запихнуть всю логику в один огромный текстовый запрос: "Вот тебе сырой текст после OCR, извлеки только ИНН и сумму, не бери адрес, формат должен быть строго JSON, если суммы нет — пиши null..." — и надеемся, что модель не ошибется.

Структура как контекст: Вместо текстовых описаний мы передаем агенту строгую схему данных (например, Pydantic-модель или JSON Schema). Модель на уровне API понимает, какие поля от нее ждут. Валидация и Self-Correction: Агент получает инструменты. Если он извлек данные после OCR не в том формате, система (например, парсер) возвращает ему ошибку. Агент сам читает эту ошибку, понимает, где накосячил, и переделывает ответ до тех пор, пока он не станет идеальным. Бизнес-контекст: Агенту (через RAG или системный промпт) заранее подан контекст о том, как работает ваша компания. Он понимает, какие данные из чека для нас "мусор", а какие — критически важны.

Понял, спасибо! Звучит интересно и думаю, что перейти не просто к такому подходу, т.к. могу ошибаться, но в моём понимании, в случае с передачей по API это узконаправленная модель, специфичная, предобученная для компании. Однако качество должно значительно выше быть в сравнении с промтом

Да, если простыми словами, опираясь на голый промпт - ты просишь агента изобрести велосипед и проехаться на нем при этом оставляя представление конструкции на самого агента и как итог огромная нагрузка, неточность и уход в сторону. По-сути промпт должен очень кратко описывать задачу, а остальное держать в контексте, как и при работе с коллегой внутри компании.