Core AI: свои модели на Apple silicon 👻
🧠 Свои модели на Apple silicon — с memory-safe Swift API. Core AI конвертирует PyTorch через coreai_torch, специализирует модель под конкретное железо и гоняет инференс на CPU, GPU и Neural Engine. Кастомную LLM можно даже подключить в LanguageModelSession. Пайплайн: конвертация → .aimodel → AIModel(contentsOf:) → loadFunction(named:) → run(inputs:) с NDArray на входе и выходе.
⚠️ Про задержку первого запуска: при первой загрузке идёт он-девайс специализация под чип. Лечится заранее — xcrun coreai-build compile на этапе сборки или прогрев через AIModelCache. Когда не надо: хватает встроенной модели Apple — это FoundationModels; маленькие классические модели и так хорошо живут в Core ML; и всё это только для iOS 27.