Руководитель колл-центра
· 30.08 · ред.
Вопрос
Привет! Пользуетесь ли вы автономными локальными LLM? Если да то какие из них более мощные? 🤔
напишите коммент
4 коммента
Привет! Пользуетесь ли вы автономными локальными LLM? Если да то какие из них более мощные? 🤔
напишите коммент
4 коммента
можете перейти, но сначала проверьте ссылку и будьте аккуратны: не вводите по ссылке пароли, номера телефонов и банковских карт, и другие личные данные
https://
уверены, что хотите выйти?
придется авторизоваться заново, а заполненные данные будут удалены
пост закреплён — пока закрепить можно только один пост
что-то пошло не так — попробуйте снова чуть попозже
· 30.08
Все зависит от вашего оборудования. Наличие/отсутствие карт с GPU. Размер видео памяти, также размер памяти оперативной. Сейчас вышло несколько хороших моделей, но для нормальной, вменяемой работы нужно от 16-32 GB памяти на GPU + 64-... CPU
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён
· 30.08
Да я немного знаком с этим. Спасибо буду учитывать это. :)
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён
· 30.08
Лучше смотреть в сторону APU старо как мир гда память у всех одна Unifide , тут выигрывают маки и всякие ARM но памяти надо много.
А так же видео ограничена своим VRAM , а при гибридах нет, потери как показала практика не столь большие
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён
· 30.08
Ну, сейчас китайцы разрабатывают свои системы обучения ИИ, карты с их чипами стоят гораздо дешевле, но с софтом от NVIDIA не работают. AMD активно включилась в гонку и дышит в затылок NVIDIA - конкуренция увеличивается, что для нас хорошо. Уходит монополизм.
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён