Исследование Принстона: локальные специализированные модели эффективнее общих решений

Анализ специалистов Принстонского университета показал, что выполнение сложных логических задач в облачных моделях потребляет в 79 раз больше энергии, чем простые запросы. В качестве решения для бизнеса предлагается использовать небольшие специализированные модели (параметрами от 1 до 15 миллиардов), обученные под конкретные профессиональные области.

Такой подход в сочетании со структурированными базами знаний позволяет достичь высокой точности в задачах автоматизации при значительно меньших затратах на инфраструктуру.

Ссылка: https://arxiv.org/abs/2603.14147 @AIandproducts