WebLLM: Запуск модели локально в браузере

👋 Друзья, всем здравствуйте!

Несколько месяцев назад наткнулся на WebLLM, на каком то онлайн митапе, сейчас уже не вспомню каком. Заинтересовала технология, потыкался, сделал проектик маленький и заметил, что на русско-язычном ютубе почти нет ничего об этом - решил записать: уже лежит на канале с моими дотошными объяснениями реализации.

Интересно узнать стороннее мнение, применял ли это кто-то на практике в своих проектах, в реальных рабочих условиях? Если есть такие, расскажите пару слов о ваших успехах)

🚀 Посмотреть видео можно здесь, кому интересно)