TorchTPU позволяет моделям PyTorch работать непосредственно на TPU от Google. Google и Meta открыли исходный код TorchTPU, нативного бэкенда PyTorch, который заменяет PyTorch/XLA, поэтому портирование может быть таким же простым, как замена model.to ("cuda") на model.to ("tpu"). Meta планирует перенести более крупные рабочие нагрузки LLM на TPU, хотя для достижения максимальной производительности по-прежнему потребуется настройка. Читать далее →