❎ Год оптимизации инференса LLM: что мы чинили и зачем

Привет! Меня зовут Андрей Кириленко, я занимаюсь разработкой сервисов машинного обучения для Yandex AI Studio — платформы по созданию ИИ-решений.

Сегодня расскажу, как мы оптимизируем инференс больших языковых моделей.

➡️ Больше кейсов и подробностей в статье на Хабре.

❎ Год оптимизации инференса LLM: что мы чинили и зачем Привет! Меня зовут Андрей Кириленко, я занимаюсь разработкой сервисов машинного обучения для Yandex AI Studio — платформы по созданию ИИ-решений | Сетка — социальная сеть от hh.ru ❎ Год оптимизации инференса LLM: что мы чинили и зачем Привет! Меня зовут Андрей Кириленко, я занимаюсь разработкой сервисов машинного обучения для Yandex AI Studio — платформы по созданию ИИ-решений | Сетка — социальная сеть от hh.ru
❎ Год оптимизации инференса LLM: что мы чинили и зачем Привет! Меня зовут Андрей Кириленко, я занимаюсь разработкой сервисов машинного обучения для Yandex AI Studio — платформы по созданию ИИ-решений | Сетка — социальная сеть от hh.ru ❎ Год оптимизации инференса LLM: что мы чинили и зачем Привет! Меня зовут Андрей Кириленко, я занимаюсь разработкой сервисов машинного обучения для Yandex AI Studio — платформы по созданию ИИ-решений | Сетка — социальная сеть от hh.ru ❎ Год оптимизации инференса LLM: что мы чинили и зачем Привет! Меня зовут Андрей Кириленко, я занимаюсь разработкой сервисов машинного обучения для Yandex AI Studio — платформы по созданию ИИ-решений | Сетка — социальная сеть от hh.ru ❎ Год оптимизации инференса LLM: что мы чинили и зачем Привет! Меня зовут Андрей Кириленко, я занимаюсь разработкой сервисов машинного обучения для Yandex AI Studio — платформы по созданию ИИ-решений | Сетка — социальная сеть от hh.ru ❎ Год оптимизации инференса LLM: что мы чинили и зачем Привет! Меня зовут Андрей Кириленко, я занимаюсь разработкой сервисов машинного обучения для Yandex AI Studio — платформы по созданию ИИ-решений | Сетка — социальная сеть от hh.ru ❎ Год оптимизации инференса LLM: что мы чинили и зачем Привет! Меня зовут Андрей Кириленко, я занимаюсь разработкой сервисов машинного обучения для Yandex AI Studio — платформы по созданию ИИ-решений | Сетка — социальная сеть от hh.ru ❎ Год оптимизации инференса LLM: что мы чинили и зачем Привет! Меня зовут Андрей Кириленко, я занимаюсь разработкой сервисов машинного обучения для Yandex AI Studio — платформы по созданию ИИ-решений | Сетка — социальная сеть от hh.ru