На каком языке вы общаетесь с моделью?
Читаю прекраснейшую книгу по разработке прикладных приложений с помощью ИИ (AI Engineering от Chip Huyen)
Оказывается, есть исследования, что способность модели решать задачи, качество рассуждений и результатов ВЫШЕ, если все это происходит на английском языке. Т.е. берется несколько задач, переводятся на несколько языков, отправляются в модель. На англ - почти все решены. На экзотических языках, типа суахили и бенгальского - почти все не решены. Причина проста - чуть меньше 47% текста в обучающих данных - на англ. Русский язык на втором месте, порядка 5-7%.
Второе следствие - бюджет токенизации лучше на англ языке. Т.е. решение задачи на англ языке сожрет меньше токенов, чем на любом другом языке.
Это конечно решается тем, что в обучающую выборку добавляются больше такого языка, который нам интересен. T-tech (айти-подразделение Т-банка, экс Тинёк) в свое время так доучивал китайскую qwen на русский корпус, и получал результаты лучше, чем у недообученных моделей (хабр 2024, 2025, huggingface)
Так что я решил попробовать хотя бы ненадолго переключиться на вербальный (!) англ язык, посмотреть, че кого. И само собой, раз мы все равно тут, то и пусть моделька следит за грамматикой и поправляет меня. Становимся чуть лучше каждый день.
stay tuned