Алексей Никитаев
Программист, блоггер · 23.10
Статья о том, как из маленькой LLM выжать результат Chat GPT
По просьбе всех настоящих коммунистов и своего научного руководителя д.ф.-м.н. Соловьева А.Н. за один день написал статью как выжать из запорожца (7B модели Qwen-2.5 Code Instruct) результат не уступающий Chat GPT-4o/o1.
Факт в том, что это реально. Просто надо знать тонкости настройки БЯМ.
Фишка в том, что: 1. Нужен промпт отформатированный согласно правилам Markdown. 2. Нужны правильные настройки ограничений. 3. Нужен правильный шаблон промпта.
Выложил все эти тонкости в своём ЖЖ с картинками.
Теперь каждый не очень продвинутый начальник сможет сказать машине что он хочет и она сделает. А если будут неясности - на чистом английском языке скажет что необходимо уточнить.
Отладка также описана в статье.
Пример промпта приведен.
Просьба - распространяйте.
еще контент автора
еще контент автора
Алексей Никитаев
Программист, блоггер · 23.10
войдите, чтобы увидеть
и подписаться на интересных профи