Экосистема Rust для ИИ
Посмотрел, что сейчас есть в экосистеме Rust для работы с ИИ.
Для работы с готовыми моделями: genai - единый интерфейс для OpenAI, Claude, DeepSeek, Ollama и других. Можно менять поставщика моделей без переписывания основной логики. Алису и GigaChat можно подключить, но с небольшой обвязкой. Rig - библиотека для создания ИИ-агентов. Поддерживает вызов инструментов, работу с памятью и поиск по данным. Swiftide - позволяет строить цепочки обработки документов, создавать агентов и системы RAG. rmcp - официальный набор инструментов для MCP.
Для локальных моделей: mistral.rs - запуск языковых моделей на своём оборудовании. Поддерживает квантование для снижения расхода памяти, CUDA и Metal. Candle (от Hugging Face) - выполнение нейросетей на CPU и GPU без Python. Можно встроить модель непосредственно в приложение. Burn - полноценный инструмент для машинного обучения. Поддерживает обучение нейросетей и разные вычислительные устройства.
Готовые проекты: Codex CLI (от OpenAI) - основная реализация написана на Rust (вот бы у них ещё VS Code расширение так же хорошо работало). Goose - полноценный ИИ-агент для работы в ОС (Linux, Windows, macOS). Qdrant - векторная база данных. Используется для поиска по смыслу, рекомендательных систем и RAG. Hugging Face Tokenizers - библиотека для быстрой обработки текста перед передачей в нейросети. Основная реализация на Rust.
Итог: Для себя пока выделил genai. Остальные для специфичных фич. Хотя Python всё ещё кажется удобнее, хорошо, что развиваются альтернативные экосистемы (многие из перечисленных инструментов появились в 2024–2025 годах).