LLM Platform — единая точка входа для работы с LLM в Яндексе. Мы помогаем командам эффективно использовать LLM в продуктах, внутренних сервисах и бизнес-процессах. Позиция подойдёт разработчику, которому интересно строить не просто продуктовые фичи, а внутреннюю платформу масштаба крупной компании.

Какие задачи вас ждут:

• Разработка системы управления квотами Система должна позволять задавать квоты на разные типы запросов, управлять лимитами, предоставлять аналитику, реализовывать биллинг и cost allocation.

• Интеграции с LLM-провайдерами и внутренними моделями Развивать единый API для работы с разными моделями и провайдерами: подключать LLM-провайдеров и собственные инференсы, унифицировать форматы запросов и ответов, разрабатывать механизмы маршрутизации запросов и т. д.

• Безопасное использование данных Проектировать механизмы безопасной передачи данных в публичные модели, разрабатывать фильтры и политики обработки запросов, интегрироваться с системами контроля.

Мы ждём, что вы: • Занимались бэкенд-разработкой на Go на промышленном уровне • Понимаете принципы построения распределённых систем • Проектировали API и интеграции сервисов • Понимаете observability (метрики, логи, алерты) • Готовы разбираться в области LLM

Почему у нас классно: Мы заботимся, чтобы вы были сыты, и компенсируем обеды. А на кофепойнтах всегда можно перекусить свежими фруктами. Это не все бонусы — полный список тут.

📩 Откликайтесь на вакансию на нашем сайте

#рекламные_технологии #бэкенд #python #go