Интересно выглядит, хотя, наверно, пока что сыро. Библиотека DL примитивов на rust с поддержкой cuda/cpu/metal бэкендов, которая при компиляции ищет наиболее эффективную комбинацию кастомных ядер перебором. После чего граф компилируется в единый rust бинарь. Уже работают Llama 3, Phi 3, Whisper and Yolo v8. Бенчмарков, правда, пока не видно. #разработка #ml