Яндекс выложил в открытый доступ модель, которая отвечает на вопросы в его поиске — той самой пользуются 49 млн человек в месяц. Лицензия Apache 2.0: берите бесплатно даже для коммерческих продуктов.
Что с этим можно сделать прямо сейчас: скачать веса с Hugging Face, дообучить под свою задачу - ответы клиентам, разбор документов, классификация заявок — и крутить у себя, не платя за облачные API. Один нюанс: быстрая обвязка, с которой модель работает у Яндекса, закрыта, запускать придётся через стандартные инструменты Hugging Face.
Ну молодцы, ребята!