Hugging Face Blog·· 18 小时前精选AI 评分78
Hugging Face 宣布 TorchTPU 原生支持 TPU
Hugging Face ❤️ TorchTPU: TPUs, Natively
AI 导读
Hugging Face 宣布 TorchTPU 作为 PyTorch 原生后端,让 Transformers、Diffusers 和 Kernels 直接在 TPU 上运行,模型只需指定 device_map="tpu" 或 pipe.to("tpu"),不再需要 torch_xla 或 Optimum TPU。
推荐理由
原文给出了安装命令、Transformers 与 Diffusers 的接入方式及 TPU 实测数据,可据此判断迁移成本。
来源:Hugging Face Blog · huggingface.co