Планируй. Действуй. Рефлексируй!
Оказывается, чтобы повысить качество ответов LLM на ваши запросы, можно попробовать один трюк - попросить модель сначала составить план решения поставленной задачи, а потом следовать ему шаг за шагом.
Например, вместо: Как в БД реализовать параметр fast=true blal-bla-bla
можно уточнить задачу:
Реализуй в БД параметр fast=true Составь детальный план выполнения задачи, затем следуй по нему шаг за шагом
Уверен, вы итак в своих промтах все это делаете. Ну или, быть может, агенты в чатах ИИ наглядно показывают вам, как они составляют план, потом исполняют его. По крайней мере в Claude Code я такое точно видел.
Любопытна здесь причина такого поведения. А заключается она в том, что по умолчанию LLM не ведет внутренних рассуждений. Строго говоря, если вы читали предыдущие мои посты, ИИ вообще не думает. Он лишь подбирает наиболее вероятное продолжение текста. Как он это делает - отдельная, сложная история (многомерные графы и все такое).
Поэтому, когда мы просим составить план, исходная задача бьется на несколько подзадач. Которые модель может лучше проработать по отдельности (хотя бы потому, что сужается вероятностный диапазон следующего токена в ответе, но не только).
Но и это еще не все (мы же всегда стремимся к лучшему?). Если попросить модель после каждого шага проанализировать свой ответ, найти в нем слабые места и устранить их - есть вероятность, что результат станет еще лучше. Этот прием называется рефлексией.
Только не забывайте, что все это сжигает драгоценные токены.
/and stay tuned/
