Hugging Face Blog·· 13 天前精选AI 评分75
Hugging Face 原生支持 TPU:TorchTPU 发布与生态整合
Hugging Face ❤️ TorchTPU: TPUs, Natively
AI 导读
Hugging Face 推出 TorchTPU,将 TPU 作为 PyTorch 原生后端,Transformers 和 Diffusers 现在可直接在 TPU 上运行,无需 PyTorch/XLA。TPU 上运行 Qwen3-30B-A3B 等模型时,结合 Pallas 内核可实现最高 21.5 倍的解码加速,目前 96.5% 的测试通过。
推荐理由
Hugging Face 官方介绍 TorchTPU 后端及 Transformers、Diffusers 的 TPU 原生支持,读者可了解迁移成本与性能收益。
来源:Hugging Face Blog · huggingface.co