Laya-MLX: сверхбыстрая классификация данных без облака

Опенсорсный инструмент Laya-MLX позволяет распределять текстовые данные по категориям в 50 раз быстрее на устройствах Apple Silicon. Модель потребляет меньше 1 ГБ оперативной памяти и работает полностью локально, что идеально подходит для моментальной сортировки обращений клиентов или модерации контента без затрат на API и задержек сети.

Ссылка: https://github.com/mizorewww/laya-mlx @AIandproducts