arrow

назад

ask

Вопрос

Используете ли вы RAG или полагаетесь на большое контекстное окно (128k+) в современных моделях?

repost

386

input message

напишите коммент


3 коммента

Нсли вас не смутят галлюцинации в забитом окне) ну и плюс, если хотя бы пара договоров:регламентов - никакого окна не зватит

0

ответить

128к это не большое окно)) Сейчас часто даже 1кк не хватает. А RAG сейчас не использовать даже странно

0

ответить

Если я не ошибаюсь, но rag не расширяет контекст. Его вообще расширить нельзя, при обучении модели указывается размер контекста. С так да, mcp и full-llm.txt в курсоре

0

ответить

еще контент автора

пост закреплён — пока закрепить можно только один пост

trash bin
перейти к нему не получится