Удаленка Локация - РФ

Чем предстоит заниматься: Поэтапный перевод системы с графа сценариев и скиллов на управляемый LLM-based диалог. Дебаг голосового пайплайна (поиск причин high latency, галлюцинаций LLM, проблем с передачей аудио, графовых ошибок и т.п.) Оперативное принятие архитектурных решений и их самостоятельная реализация в коде. Работа с диалоговым стеком и NLP: Поддержка и быстрая отладка few-shot классификации сценариев на базе Qwen и классификаторов на BERT. Учёт краевых случаев, исправление ошибочных срабатываний интентов. При необходимости — finetuning локальных LLM (извлечение сущностей, удерживание инструкций). Работа с речевым стеком: Интеграция и поддержка ASR на базе GigaAMv2 (отладка качества распознавания, работы VAD и передачи текста дальше по пайплайну). Дообучение и настройка инфереса собственных и опенсорсных TTS и систем клонирования голоса для достижения нужного качества звучания и скорости работы.

Требования: Экспертиза в NLP и LLM: Уверенный опыт работы с LLM/SLM (Few-shot learning, prompt engineering) и BERT (классификация сценариев и интентов). Практический опыт finetuning LLM (PEFT, LoRA/QLoRA) под узкие прикладные задачи. Уверенный дебаг LLM: умение быстро понять, почему модель ответила не так, и исправить это промптом, гиперпараметром или файнтюном. Экспертиза в голосовом стеке: Опыт дообучения и оптимизации TTS-моделей. Опыт работы и интеграции современных ASR-систем (в частности, GigaAMv2). Диалоговые системы и дебаг: Опыт работы как с графовыми/сценарийными диалоговыми движками, так и с LLM-агентами. Высокая скорость диагностики проблем в инференсе, локализации багов и принятия инженерных решений.

Языки и бэкенд: Уверенное владение Python (PyTorch, huggingface, фреймворки инференса) и Go. Опыт работы с оптимизацией инференса под low-latency (vLLM, TensorRT-LLM, Triton Inference Server, ONNX Runtime). Практика работы со потоковым аудио в реальном времени (streaming ASR/TTS, gRPC-контракты). GoLang: Базовое понимание по дизайну сервисов. Понимание SOLID, DRY и KISS паттерны. Типизация в Go, хотя бы базовые типы (строки, числа, слайсы и мапы) Примитивы синхронизации и конкуренция (Как синхронизировать горутины, как работать с каналами) Указатели и работа с ними Observability

Будет плюсом Опыт работы с GRPC Умение настроить инфраструктуру, k8s/inventory, знания работы TCP