Новый компьютер для офисных работников c ИИ

Новый компьютер для офисных работников должен стоить 3+ миллиона рублей. Глядите, в работе всем конечно же нужны нейросети. Можно работать с ними по API, но это заставляет вас все данные добровольно слить в компаниям типа Microsoft. Но недавно вышла MacOS Tahoe. Она принесла так называемое rdma-over-thunderbolt, которое позволяет связать Mac Mini или Mac Studio между собой. Собираем 4 мака в стойку, и запускаем поверх проект Exo (оргнизация Exo-Explore на GitHub). Они используют технологии, специально заточенные для работы на железе Apple. В частности, запускают модели c тензорным параллелизмом на фреймворке MLX. Теперь считаем деньги. MacMini - максимум 64G RAM в одной коробке, 2.5 килобакса штука. Кластер GPU на 256 гигабайтов стоит 10 килобаксов. MacStudio - максимум 512G RAM, 9.5 килобакса штука. Кластер GPU на 2 терабайта стоит 40 килобаксов (по курсу 77 - это чуть больше 3 миллионов рублей). Для сравнения, 2 терабайта памяти на решениях Nvidia - 85 штук RTX 4090 (24 ГБ), или 11штук B200 (192 ГБ), которые жрут электричество, шумят, требуют обслуживания и огромных площадей для установки - 40 миллионов рублей. На B200 может быть в 2-3 раза дороже, потому что Россия же. 3 миллиона Apple против 40 Nvidia, как вам разница? И эти 3 ляма стоят в маленькой этажерке на столе, шумят минимально, и жрут 600 ватт под нагрузкой Конечно, в production эта штука работать не будет. Но это можно рассматривать как индивидуальный личный компьютер. Помните времена, когда PDP-10 изменил мир тем, что это был первый дешевый настольный компьютер для профессионалов? Он стоило ВСЕГО 10000$. Если пересчитать на современные деньги, 10 килобаксов в США 1970-ого года - это $89,000 нашего времени. С тех пор компьютеры подешевели в два раза! Прогресс! Кажется, это новый формат лакшери рабочего места для сотрудников корпораций и других мест, где могут себе позволить. Новому сотруднику нужно купить стол и стул (суммарно 50 тысяч рублей), ну и компьютер (3+ миллиона). Дома, конечно, не поработаешь - но это дополнительный аргумент для работодателей, которые хотят загнать всех в офис!

Новый компьютер для офисных работников c ИИ | Сетка — социальная сеть от hh.ru