Локация: РФ

Задачи: Поэтапный перевод системы с графа сценариев и скиллов на управляемый LLM-based диалог. Отладка голосового пайплайна: поиск причин высокой задержки (high latency), галлюцинаций LLM, проблем с передачей аудио и графовых ошибок. Самостоятельное принятие архитектурных решений и их реализация в коде. Поддержка и отладка few-shot классификации сценариев на базе Qwen и классификаторов BERT. Работа с краевыми случаями и исправление ошибочных срабатываний интентов. При необходимости — finetuning локальных LLM для извлечения сущностей и удержания инструкций. Интеграция и поддержка ASR на базе GigaAMv2: отладка качества распознавания, VAD и передачи текста по пайплайну. Дообучение и настройка инференса собственных и open-source TTS-моделей и систем клонирования голоса для достижения необходимого качества звучания и скорости работы.

Требования: NLP и LLM: Уверенный опыт работы с LLM/SLM: Few-shot learning, Prompt Engineering. Опыт работы с BERT для классификации сценариев и интентов. Практический опыт Finetuning LLM с использованием PEFT, LoRA/QLoRA. Умение диагностировать ошибки LLM и исправлять их с помощью промптов, гиперпараметров или файнтюнинга.

Голосовые технологии: Опыт дообучения и оптимизации TTS-моделей. Опыт работы и интеграции современных ASR-систем, в частности GigaAMv2. Диалоговые системы и отладка: Опыт работы с графовыми и сценарийными диалоговыми движками, а также LLM-агентами. Навыки быстрой диагностики проблем в инференсе, локализации багов и принятия инженерных решений.

Языки программирования и Backend: Уверенное владение Python (PyTorch, Hugging Face, фреймворки инференса). Знание Go:

Базовое понимание проектирования сервисов. Знание принципов SOLID, DRY и KISS. Понимание типизации и базовых типов данных: строки, числа, слайсы, мапы. Понимание примитивов синхронизации и конкурентности: горутины, каналы. Знание указателей и работы с ними. Понимание Observability. Опыт оптимизации инференса под low-latency: vLLM, TensorRT-LLM, Triton Inference Server, ONNX Runtime. Практический опыт работы с потоковым аудио в реальном времени: Streaming ASR/TTS, gRPC-контракты.

Будет плюсом: Опыт работы с gRPC. Навыки настройки инфраструктуры, k8s/inventory. Знание принципов работы TCP.