Проресс по LLM

Настроил связку Unsloth (Gemma4) + OpenCode, как по мне костыли на костылях.

Перед этим перебрал много вариантов, обратил внимание. что каждая софтина имеет явные ограничения и облачно-подписочный сервис, который их обходит уже зан денюжку.

Связка выше хорошо подойдет для “закрытого” контура. ИМХО.

Хотелось бы конечно либо видеокарт побольше или компов побольше. Но имеем, что имеем.

Так что будем аккуратней пайплайны крутить на одной модели. Щас тестирую варианты как максимально приструнить gemma в качестве генератора промптов для создания описаний графов материалов Unreal Engine. Еще наверное Flux добавлю , для картинок и текстур, хотя GPT спорит, что Flux будет дрифтить сильно. Посмотрим. До уровня бесплатного chatGPT дотянул - тесты проходит. По началу конечно был - “робот”. Сейчас сильнее Алисы и ГигаЧат в части архитектурного размышления и контролируемого кода (я про бесплатные версии продуктов). Но чувствуется недообученность, которую компенсирую поиском в интернет.

А так, сутки чистого времени на создание классического CI/CD с тестами логами. Грязь конечно полная, но у меня пока нет возможности развернуть инфру на том что есть, так что … все на “венде” и PowerShell. Если кто то начнет спорить или говорить почему не GitLab в докере и прочу лабуду… потому что могу :) Вопрос же в конечной эффективности под конечную задачу :) В докере поисковый прокси сидит , чтобы LLV модель сидя в “песочнице” могла в интернетах искать. :)

Зря что ли учили весь тулинг писать самостоятельно с нуля :)

Похохмили, как собрать консольный winamp плеер под венду. Чтобы был текстовый но с UI. И чтобы exe шник и чтобы не углубляться в .net и тд., ну не хочет человек. VLC+PowerShell … UI сделать можно, собрать в exe тоже. Просто бесполезное упражнение :)

Возвращаясь к Unsloth и OpenCode качество документации оставляет желать лучшего. Ну и Архитектурный хаос, который в том числе влияет на UI, который реально не удобен.

Вывод после всех этих упражнений - технические интервью на ЗНАНИЕ или ручные навыки уже бесполезны. Проверять надо наличие любопытности, причинно следственные связи, умение разбить задачу на этапы. А дальше ИИ. У “стариков” пока преимущество они лучше знают, как заставить ИИ быть более эффективным и экономным, а не просто “долбить” промптами и сжигать деньги.