За последний год продвинулся в AI и K8S:

  • AI-боты: распознавание и синтез речи на видеокарте NVIDIA 3090 На базе Kokoro сделал TTS, при этом отвязал голоса от языка и получил возможность генерить речь на 100+ языках, включая плановые Esperanto и Lojban: kokoro (pytorch), fasttext,  fastapi.

Сейчас в production Telegram-бот TTS (Text-to-Speech): https://t.me/chat2voice_bot Telegram-бот STT (Speech-to-Text, whisper/faster-whisper): https://t.me/voice2mebot Telegram-бот STT (Speech-to-Text, wav2dec2/transformers): https://t.me/vocxbot

  • Kubernetes: свой кластер из нод arm64 Кластер развернут с помощью Kubespray/ansible:
  • мониторинг изнутри через Prometheus operator, конфиги на jsonnet поправлены, чтоб не алертить когда не нужно
  • Load Balancer: metallb, L2 mode
  • развернуто объектное S3 хранилище MinIO, выделение volume-ов полуавтоматическое (jsonnet-конфиг), алерты мониторинга свои
  • опыт оперирования etcd при вводе-выводе control plane ноды из эксплуатации (backup/восстановление)
  • ноды SBC на базе rk3385, для хранилки пересобрал ядро чтоб работала подсистема SATA; для остальных оставил vendor-ядро для работы с NLU (нейронки на rk3385)
  • кластер проходит офиц. test suite с помощью hydrophone