Фреймворк для запуска тяжелых моделей на смартфонах

Разработана открытая архитектура edge0, которая позволяет запускать модели среднего размера на обычных телефонах с минимальным объемом оперативной памяти. Это открывает путь к созданию приватных ИИ-приложений, которые работают полностью на устройстве пользователя, обеспечивая высокую скорость работы без передачи данных на внешние серверы.

Ссылка: https://github.com/Edge0-AI/edge0 @AIandproducts