Microsoft выпустила Phi-3 Mini - свою новую малую языковую модель (SLM).
Phi-3 Mini обучается на более ограниченном объеме данных, чем крупные языковые модели типа GPT-4.
Преимущества Phi-3 Mini заключаются в том, что она более экономична в использовании и эффективнее работает на мобильных устройствах, таких как смартфоны и ноутбуки.
Эта модель является усовершенствованной версией Phi-2, выпущенной в декабре 2023 года, которая уже приближалась к функциональности более крупных моделей, например, Llama 2. Phi-3 Mini не уступает GPT-3.5, но при этом требует меньше ресурсов.
Это первая модель из новой серии малых языковых моделей Microsoft, которая включает в себя 3,8 миллиарда параметров. В дальнейшем компания также планирует выпустить модели Phi-3 Small (7 миллиардов параметров) и Phi-3 Medium (14 миллиардов параметров), где количество параметров определяет способность модели понимать сложные инструкции.