Сегодня сам Владимир Владимирович заявил, что раз народ не хочет плодиться и множиться - то давайте делать ИИ и роботов:

«Да, нас мало, надо это исправлять» — Путин о демографии

В вопросе о нехватке кадров президент не мог не коснуться демографических проблем, которые остро стоят в России. Рождаемость должна повышаться, нужно, чтобы государство заботилось о семьях, чтобы люди хотели создавать большие и крепкие семьи, а многодетные семьи должны стать новой модой.

Чтобы это происходило, надо не только вести работу по обеспечиванию семей субсидиями, но и повышать производительность труда, чтобы больше людей могли себе позволить больше заниматься строительством семьи — для этого должны внедряться в производство ИИ, роботизация. Надо и готовить одновременно новые кадры, повышать качество образования, заниматься биологией и генетикой. https://t.me/readovkanews/86246

Господа и дамы! Давайте поднажмём! Я уверен, что эту площадку можно использовать с толком именно помогая друг другу. Тут до построения коммунизма рукой подать. Давайте научимся формулировать ТЗ для ИИ и он будет всё делать, а мы спокойно сможем вести беседы о Высоком.

Мой блог в ЖЖ: https://nikitayev.livejournal.com/

Планирую скоро ещё одну статью о тонкостях настроек локальных LLM с LM-STUDIO написать для кодогенерации.

Если коротко: 1. Нужен компьютер с 64ГБ+ ОЗУ 2. Установить LM-STUDIO 3. В нём найти и скачать LLM Athene-70B с допустимым квантованием типа 5bit 4. Токенов = 8192 5. Если видеокарта Nvidia, то разгрузку 50% 6. Размер пакета оценки = 8192 7. Системный Промт: You are assistant to programmer. Realize full code for program. 8. Потоки CPU = максимум доступных потоков для вашего ЦПУ 9. Температура = 0 10. Штраф за повторение = 1.1 11. Min P = 0.000001 12. Top P = 0.00001 13. Top K = 500

Техзадание перевести на английский язык.

И можно стартовать.

Результат ждать не скоро, но качество кода впечатляет! Ещё можно использовать LLM Llama-3.1 70B и серьезнее.

Будут вопросы - пишите и сюда и в телеграмм.