Удар от чрезмерных скоростей в ИИ-кодинге
Так как я решаю задачи авто-кодинга (ИИ) на 90% локально, то вся нагрузка лежит на локальном железе. Как то повелось, что агент стоял на диске C. А там соответственно и Windows.
Начал строить собственный клиент для запуска моделей программирования и очень сильно оптимизировал систему. Скорости получились просто огромные, если сравнивать с LMStudio, Unsloth и прочими, что пробовал. На модели 27b достигает 150-200 токенов в секунду.
3 фактора по нагрузке: видеокарта; накопитель m.2, на котором установлен клиент и Windows; ОЗУ с процессорами. Резервного копирования не предусмотрел - откладывал на потом. Немного подстраховался - распределив сохранение проектов на диск D. Но все навыки и память агента хранились на C.
Произошёл сбой. Все соответственно потеряно. И я не знаю, в результате чего. Предполагаю, что перегрев. Обычно в генерациях видео и картинок мне вполне всегда хватало просто радиатора на м.2, без проветривания. А может просто сам по себе, накопитель ресурс выработал. Не отслеживал, пропустил момент, т.к. был занят борьбой за живучесть видеокарты… Вот так вот, удар с фланга пропустил, откуда и не ждал, в принципе. Восстановление не удалось.
Делайте резервы по расписанию…