Новости за последний час
Meta тоже решила меньше зависеть от Nvidia и AMD: компания собирается в сентябре начать выпуск собственного ИИ-чипа Iris. Параллельно Meta хочет удвоить вычислительную мощность своих дата-центров до 14 ГВт в следующем году, а расходы на ИИ в этом году могут дойти до 145 млрд долларов. Это уже не про PR-«суверенитет», а про обычную экономику больших моделей: когда счёт за инфраструктуру становится слишком жирным, чипы начинают проектировать сами.
И ещё один любопытный контраст: энтузиаст JustVugg запустил GLM-5.2 с 744 млрд параметров на ноутбуке с 25 ГБ ОЗУ. Colibri держит основную часть весов на NVMe и подгружает экспертов по требованию — медленно, около 0,05 токена в секунду, зато сама идея впечатляет сильнее, чем цифра скорости. Похоже, MoE-модели всё настойчивее лезут из дата-центров в обычные машины.
Источники: AI Post, Habr AI
Все новости: ai.popovs.tech
В этом посте были ссылки, но мы их удалили по правилам Сетки
