跳到正文
Hugging Face Blog·· 13 天前精选AI 评分75

Hugging Face 原生支持 TPU:TorchTPU 发布与生态整合

Hugging Face ❤️ TorchTPU: TPUs, Natively

AI 导读

Hugging Face 推出 TorchTPU,将 TPU 作为 PyTorch 原生后端,Transformers 和 Diffusers 现在可直接在 TPU 上运行,无需 PyTorch/XLA。TPU 上运行 Qwen3-30B-A3B 等模型时,结合 Pallas 内核可实现最高 21.5 倍的解码加速,目前 96.5% 的测试通过。

推荐理由

Hugging Face 官方介绍 TorchTPU 后端及 Transformers、Diffusers 的 TPU 原生支持,读者可了解迁移成本与性能收益。

来源:Hugging Face Blog · huggingface.co