Прошлой осенью собрал себе пеку с RTX 5070, в том числе чтобы поиграться с локальными ИИ-моделями. Уже через пару часов после установки видеокарты на ПК была LM Studio: скачал модель, настроил инференс, порадовался такой умной штуке на одном лишь домашнем ПК. В тот период мне как раз надоело слушать гс, смотреть видео от заказчика и иногда копаться в записях созвонов. Тонны аудио поступали мне через Telegram, так что я начал думать себе личного бота, которому могу кидать эти файлы, а он будет выдавать расшифровку аудио оттуда с разделением по спикерам, а также саммари по полученной расшифровке.

Подобных решений уже тонны, но это либо платные сервисы, либо бесплатные с сомнительным соглашением; либо локальные, но неподходящие мне. Через некоторое время, всего пару сотен строк кода и несколько итераций у меня в распоряжении оказался свой бот, который стабильно делал то, что я от него ждал.

[to be continued=>]