谷歌开源TorchTPU！TPU成PyTorch原生设备，CUDA最深的护城河开始松动
2026.10.24 · 事件 · 开源项目 · 媒体报道
谷歌与Meta联合开源TorchTPU，让PyTorch原生跑在TPU上，一行代码即可迁移。
谷歌在PyTorch Conference 2026上宣布开源TorchTPU，让TPU与GPU、CPU并列成为PyTorch原生选项，项目由谷歌与Meta联合开发，vLLM、SGLang、Hugging Face等主流项目同步接入。报告显示约4917个Hugging Face模型中98%可跑通，Qwen3 235B MoE在64颗TPU v7上吞吐达JAX方案MaxText的约94%。
- TorchTPU基于PyTorch的PrivateUse1接口注册为C++后端，开发者拿到普通PyTorch张量，无需子类或包装器。
- 即时执行分Strict、Debug、DeferAndFuse三档，DeferAndFuse比Strict快50%以上并降低峰值显存。
- torch.compile走StableHLO交给XLA生成TPU程序，不走Inductor，因Triton难移植到TPU架构。
- 覆盖约4917个Hugging Face模型、500多个架构族，98%跑通不崩溃，657个代表性架构中97%输出与GPU数值一致。
- Qwen3 235B MoE在64颗TPU v7上吞吐达MaxText约94%，从1024扩展到8192颗芯片每TensorCore吞吐仅降约6%。
为什么值得看
看清AI芯片竞争从硬件转向框架生态的关键一步。
适合谁关注
AI基础设施、PyTorch开发者与算力采购决策者。