Как надо( не стоит) создавать шахматный движок . Часть 5
Пост 5. О количестве параметров: почему меньше — иногда лучше Пост 4 = https://set.ki/post/E4RaFah
В нашем движке число параметров намеренно уменьшено.
100–300 тысяч. Для сравнения: Leela Chess Zero и AlphaZero работают с миллионами.
Логика проста: при ограниченном объёме качественных данных увеличение числа параметров ведёт к переобучению. Модель запоминает шум вместо сигнала.
Утверждение «100 тыс. и 300 тыс. параметров бесполезны без качественного обучения» — методологически корректно. Дело не в том, сколько у вас ручек для настройки. Дело в том, есть ли у вас данные, чтобы их правильно настроить.
Но есть ограничение.
При таком объёме параметров модель существенно уступает современным аналогам. Это ограничивает верхнюю границу достижимого качества. Мы это признаём.
Это не тупик. Это осознанный выбор в пользу интерпретируемости и качества обучения над грубой вычислительной мощностью.