Google联合Meta开源TorchTPU，一行代码将PyTorch从CUDA迁移至TPU

过去十几年，Google持续研发TPU，但多数AI开发者仍选择昂贵的英伟达GPU。核心原因是旧版PyTorch/XLA没有真正的原生动态图，只要改动动态控制流，就会触发长达几十分钟的重新编译，开发体验极差。

在刚结束的PyTorch大会上，Google联合Meta在GitHub开源了TorchTPU，彻底解决了这一历史问题。

TorchTPU内置约450个原生ATen算子，彻底摆脱运行时JAX依赖，开发者只需将代码中的。to("cuda“)改为。to(”tpu“)即可运行。官方实测4917个模型中98%无需修改代码即可直接运行，Transformers v5还支持通过device_map=”tpu"一键启动TPU推理。

TorchTPU首创DeferAndFuse混合执行模式，既保留Eager模式随写随调的开发体验，又能在后台自动融合算子，降低HBM显存峰值，速度提升50%以上。同时配套三级缓存机制，进一步减少重复编译开销。

TorchTPU实现了全栈生态首日对齐，同步开源了原生适配的vLLM、SGLang、TorchTitan和强化学习框架VeRL。在8192块TPU v7x组成的集群上训练Qwen 3 8B模型，MFU（模型算力利用率）达到52%，配合llm-d 1.0分布式路由，批量推理吞吐提升4倍。

目前TorchTPU已在GitHub开源，同时发布了官方博客、交互式教程与配套文档。