Нейросеть на своем ПК 🤨
Какой же Автоматизатор без собственной нейросети на своем ПК? Исправляю ситуацию. Развернул на своем стареньком Intel Xeon E5-2666 v3 (10ядер20потоков) чистую модельку openchat_3.5.Q5_K_S. На рисунках работа сети и результат промпта "Напиши код на python для просмотра курса юаня".
Результат не слишком быстрый 30-40сек. Но так и железо не самое топовое. 🤷🏻♂️ Следующий эксперимент - дообучение (тюнинг) модельки. https://t.me/neuroautomatizator