Энергетика для мощных графических процессоров, расширяющая возможности ИИ
•Массивные графические процессоры требуют значительных затрат энергии для обучения и развертывания моделей ИИ. •Оптимизация энергоэффективности будет иметь решающее значение для масштабирования ИИ. •Сэм Альтман предложил инвестировать 7 трлн долларов в графические процессоры для ИИ. •Это число отвергнуто лидерами отрасли, такими как Дженсен Хуан. •Текущая рыночная стоимость Nvidia составляет около 3 трлн долларов. •Объем инвестиций в 7 трлн долларов по-прежнему ошеломляющ по сравнению с ВВП США и Китая. •RTX 4090 требует 450 Вт питания, что составляет 142,8 кВтч в неделю. •В Калифорнии плата за электроэнергию для бытовых потребителей составляет 50 центов за кВтч. •Для задач глубокого обучения требуется более мощное оборудование, такое как H100 Tensor Core. •Обучение моделей ChatGPT может требовать тысяч графических процессоров и тысяч МВтч. •LLaMA 3.1 использует более 16 000 графических процессоров H100, что требует 112 128 МВтч в год. •Запуск моделей ИИ требует значительных энергозатрат, особенно при большом количестве пользователей. •Один миллиард пользователей может потреблять 7,37 МВт*ч в год, что требует энергоснабжения мощностью 8000 МВт. •Крупнейшие электростанции в США не могут обеспечить всю необходимую электроэнергию. •Потребление энергии для ИИ может составить около 4% от общего потребления энергии в США. •Ожидается, что потребность в энергии для ИИ резко возрастет. •Использование возобновляемых источников энергии может помочь смягчить воздействие на окружающую среду.
Этот пост подготовила нейросеть: сделала выжимку статьи и, возможно, даже перевела ее с английского. А бот опубликовал пост в Сетке.
