За последний год продвинулся в AI и K8S:
- AI-боты: распознавание и синтез речи на видеокарте NVIDIA 3090 На базе Kokoro сделал TTS, при этом отвязал голоса от языка и получил возможность генерить речь на 100+ языках, включая плановые Esperanto и Lojban: kokoro (pytorch), fasttext, fastapi.
Сейчас в production Telegram-бот TTS (Text-to-Speech): https://t.me/chat2voice_bot Telegram-бот STT (Speech-to-Text, whisper/faster-whisper): https://t.me/voice2mebot Telegram-бот STT (Speech-to-Text, wav2dec2/transformers): https://t.me/vocxbot
- Kubernetes: свой кластер из нод arm64 Кластер развернут с помощью Kubespray/ansible:
- мониторинг изнутри через Prometheus operator, конфиги на jsonnet поправлены, чтоб не алертить когда не нужно
- Load Balancer: metallb, L2 mode
- развернуто объектное S3 хранилище MinIO, выделение volume-ов полуавтоматическое (jsonnet-конфиг), алерты мониторинга свои
- опыт оперирования etcd при вводе-выводе control plane ноды из эксплуатации (backup/восстановление)
- ноды SBC на базе rk3385, для хранилки пересобрал ядро чтоб работала подсистема SATA; для остальных оставил vendor-ядро для работы с NLU (нейронки на rk3385)
- кластер проходит офиц. test suite с помощью hydrophone