Google、TPU向けTorchTPUをオープンソース公開

Googleは現地時間20日に開かれた「PyTorch Conference 2026」で、TPU向けPyTorchソフトウェアスタック「TorchTPU」をオープンソースとして公開しました。MetaのPyTorch開発チームと共同開発したツールで、既存のPyTorch APIを保ちながら、TPUでモデルの学習、推論、デプロイを支援します。開発者はコードを最小限変更するだけで、既存アプリケーションをTPU上で実行できます。

TorchTPUは通常実行モードでモデルのエラーを確認し、「torch.compile」で性能を最適化する機能や、分散学習、診断ツールを備えています。GoogleはHugging Faceと協力し、Transformers v5で「device_map="tpu"」を設定するとモデルをTPUに配置できるようにしました。画像生成ツールのDiffusersは通常実行とコンパイル最適化に加え、複数のチップにモデルを分けるテンソル並列処理に対応しました。Hugging FaceのモデルをTPUインフラで継続的に試験する仕組みも整えています。

GoogleはInferact、RadixArkと協力し、大規模モデルの推論ツールであるvLLMとSGLangのTPUバックエンドも構築しました。既存のスケジューラーとAPIサーバーを維持しながら、TPUに合わせて計算を最適化します。複数のサーバーに推論リクエストを振り分けるKubernetesベースのシステム「llm-d」は、バージョン1.0として公開されました。すでに文脈が保存されているサーバーへリクエストを送り、入力処理のプリフィルと回答生成のデコードを分離します。Google CloudのKubernetes Engine（GKE）では、共通インターフェースを通じてGPUとTPUを利用できます。

学習フレームワークTorchTitanにもTPU対応が統合されました。Googleによると、「Qwen 3 8B」の学習で、実際の学習に使われた理論上の計算性能の割合を示すモデル演算利用率（MFU）は最大52％でした。また、Ironwood TPUを最大8192個に増やした際、チップ数の増加にほぼ比例して性能が向上したと説明しています。強化学習フレームワークVeRLにはTPUバックエンドと参考構成が加わりました。RayはCPU、GPU、TPUをデータ処理、学習、強化学習、推論の各段階に割り当て、ひとつのワークフロー内で併用できるようにします。

Googleは初期設定、エラー診断、利用方法の質問、推論性能の調整を支援する「TPU Agent Suite」のプレビューをGitHubで提供しました。オンデバイス推論ツールLiteRTとPyTorchモデルを接続するLiteRT-Torchも公開しました。モデルを変換し、Android、iOS、Windows、macOS、Linux、ウェブ、IoT機器で実行できます。各機器のCPU、GPU、NPU（ニューラルネットワーク処理装置）を活用します。

Amazonは前日、自社AIチップTrainiumでPyTorchコードを実行する「TorchNeuron」を発表し、20日からパブリックベータとして提供すると明らかにしました。設定をひとつ変えれば、コードを書き直さずにTrainiumを使えると説明しています。PyTorchはAIモデルの開発と学習に広く使われるオープンソースのフレームワークです。NVIDIAのGPUとCUDAに対応したコードやツールが多いため、別のチップに移す際には追加作業が必要でした。GoogleとAmazonはこの移行の負担を減らし、自社チップの利用を広げようとしています。

Googleは現地時間20日に開かれた「PyTorch Conference 2026」で、TPU向けPyTorchソフトウェアスタック「TorchTPU」をオープンソースとして公開しました。MetaのPyTorch開発チームと共同開発したツールで、既存のPyTorch APIを保ちながら、TPUでモデルの学習、推論、デプロイを支援します。開発者はコードを最小限変更するだけで、既存アプリケーションをTPU上で実行できます。

TorchTPUは通常実行モードでモデルのエラーを確認し、「torch.compile」で性能を最適化する機能や、分散学習、診断ツールを備えています。GoogleはHugging Faceと協力し、Transformers v5で「device_map="tpu"」を設定するとモデルをTPUに配置できるようにしました。画像生成ツールのDiffusersは通常実行とコンパイル最適化に加え、複数のチップにモデルを分けるテンソル並列処理に対応しました。Hugging FaceのモデルをTPUインフラで継続的に試験する仕組みも整えています。

GoogleはInferact、RadixArkと協力し、大規模モデルの推論ツールであるvLLMとSGLangのTPUバックエンドも構築しました。既存のスケジューラーとAPIサーバーを維持しながら、TPUに合わせて計算を最適化します。複数のサーバーに推論リクエストを振り分けるKubernetesベースのシステム「llm-d」は、バージョン1.0として公開されました。すでに文脈が保存されているサーバーへリクエストを送り、入力処理のプリフィルと回答生成のデコードを分離します。Google CloudのKubernetes Engine（GKE）では、共通インターフェースを通じてGPUとTPUを利用できます。

学習フレームワークTorchTitanにもTPU対応が統合されました。Googleによると、「Qwen 3 8B」の学習で、実際の学習に使われた理論上の計算性能の割合を示すモデル演算利用率（MFU）は最大52％でした。また、Ironwood TPUを最大8192個に増やした際、チップ数の増加にほぼ比例して性能が向上したと説明しています。強化学習フレームワークVeRLにはTPUバックエンドと参考構成が加わりました。RayはCPU、GPU、TPUをデータ処理、学習、強化学習、推論の各段階に割り当て、ひとつのワークフロー内で併用できるようにします。

Googleは初期設定、エラー診断、利用方法の質問、推論性能の調整を支援する「TPU Agent Suite」のプレビューをGitHubで提供しました。オンデバイス推論ツールLiteRTとPyTorchモデルを接続するLiteRT-Torchも公開しました。モデルを変換し、Android、iOS、Windows、macOS、Linux、ウェブ、IoT機器で実行できます。各機器のCPU、GPU、NPU（ニューラルネットワーク処理装置）を活用します。

Amazonは前日、自社AIチップTrainiumでPyTorchコードを実行する「TorchNeuron」を発表し、20日からパブリックベータとして提供すると明らかにしました。設定をひとつ変えれば、コードを書き直さずにTrainiumを使えると説明しています。PyTorchはAIモデルの開発と学習に広く使われるオープンソースのフレームワークです。NVIDIAのGPUとCUDAに対応したコードやツールが多いため、別のチップに移す際には追加作業が必要でした。GoogleとAmazonはこの移行の負担を減らし、自社チップの利用を広げようとしています。