⏺ Ученые Центра практического искусственного интеллекта Сбербанка и МФТИ представили метод ускорения обучения распределенных и федеративных ML-моделей
Работа «Ускоренные методы со сжатыми коммуникациями для гомогенных задач распределённой оптимизации» принята на международную конференцию AAAI’25 (Association for the Advancement of Artificial Intelligence).
Основная идея исследования — сокращение времени, которое тратится на обмен данными между устройствами в распределенных системах обучения больших ИИ-моделей. За счет использования гомогенности локальных выборок и сжатия передаваемой информации метод позволяет реже синхронизировать устройства и передавать меньше данных при общении, не теряя в качестве модели. Это особенно важно для задач, где пропускная способность соединения ограничена, а задержки в передаче данных замедляют процесс обучения.
💬 Участвуйте в новом розыгрыше 💬 Читайте нас в: | Telegram | VK | Сайт |
В этом посте были ссылки, но мы их удалили по правилам Сетки
