Всё, что писал ранее про БП и нейросети оказалось неверно! Сегодня опять попробовал запустить. На 1650 не может загрузиться модель. На 1080 загрузилась. Попросил сделать рерайт. Можно было успеть попить кофий с пченюхами пока он выжимал из себя ответ по слогам. Но это прогресс!

А собака зарылась в одном каталоге: у меня временный каталог был в памяти для экономии ресурсов ssd. Естественно размер был ограничен и программе нехватало для полной загрузки. Обнаружил это случайно: запустил nvtop, и обратил внимание, что программа обращается в /tmp. На 2060 ответ идёт гораздо быстрее, но что есть пока, то и будем использовать. — Добавил данные по кухням, как просили клиенты.