跳到正文
Hugging Face Blog·· 18 小时前精选AI 评分78

Hugging Face 宣布 TorchTPU 原生支持 TPU

Hugging Face ❤️ TorchTPU: TPUs, Natively

AI 导读

Hugging Face 宣布 TorchTPU 作为 PyTorch 原生后端,让 Transformers、Diffusers 和 Kernels 直接在 TPU 上运行,模型只需指定 device_map="tpu" 或 pipe.to("tpu"),不再需要 torch_xla 或 Optimum TPU。

推荐理由

原文给出了安装命令、Transformers 与 Diffusers 的接入方式及 TPU 实测数据,可据此判断迁移成本。

来源:Hugging Face Blog · huggingface.co