Google、LiteRTを更新しGPU推論を高速化

Google AI Edge TeamとAndroid ML Teamは2026年10月28日、Google Play開発者サービス内のLiteRTが、従来のGPUデリゲートより約1.4倍速いGPU推論に対応したと発表しました。Android端末上の推論ランタイムは、数十億台の端末で1日あたり1兆回を超える推論を処理しています。今回の更新ではCompiledModel APIを通じてML Driftを使います。Googleはこれを、従来のInterpreter APIを引き継ぐ現代的な仕組みと説明しています。

Googleのテストでは、アプリに同梱したランタイムからPlay開発者サービス内のLiteRTへ切り替えたアプリは、サイズが約8MB小さくなりました。ランタイムとGPUアクセラレーターは各アプリに入れる代わりに、Play開発者サービスを通じて一度配信されます。現在、10万本を超えるAndroidアプリがLiteRTまたはTensorFlow Liteのランタイムを同梱しています。Googleによると、共有ランタイムへの切り替えが広がれば、ストレージとメモリーを節約できます。性能改善、バグ修正、セキュリティ修正は、アプリ更新なしで段階的に配信されます。LiteRTはAndroid 7（APIレベル24）以降のスマートフォン、Wear OS 4以降、Android 11以降のAndroid Automotive OSに対応します。

LiteRTは.tflite形式のモデルを維持し、CPUとGPUの両方を使う共通の手順を提供します。利用可能な場合はOpenCL、それ以外はOpenGLを使い、要求されたGPUが使えない場合はCPUに切り替えます。同じモデル形式はAndroid、iOS、デスクトップ、ウェブに対応しています。従来のInterpreter APIもCPU向けに引き続きサポートされるため、段階的な移行が可能です。Googleは、Subject SegmentationやDocument Scannerを含むML Kit VisionおよびText APIが、この基盤を数十億台のAndroid端末で既に利用していると説明しています。

導入するには、開発者はcom.google.android.gms:play-services-litert:17.0.0以降を追加し、存在する場合は同梱版のlitert依存関係を削除して、Play開発者サービスのLiteRT環境を初期化し、CompiledModelに渡します。切り替え後も既存のInterpreterコードはCPUで動作しますが、GPUを使うにはCompiledModelへの移行が必要です。Googleは、Interpreterの呼び出しを書き換えてGPUアクセラレーションとCPUへの切り替えを設定するAndroid Studio向けスキルも提供しています。生成された変更を確認し、ビルドしたうえで実機で出力を比較するよう開発者に勧めています。

Googleは従来のGPUデリゲートとカスタムデリゲートAPIを非推奨とし、CompiledModelによるGPUアクセラレーション、Compiler Plugin、Dispatch APIへの移行を案内しています。NNAPIの削除は2027年に始まり、旧SDKには重大なセキュリティ修正のみが提供されます。非推奨APIを使うコードは最新SDKでコンパイルできなくなります。Googleによると、配信済みアプリは引き続き動作しますが、移行を計画する必要があります。Play開発者サービスでのNPU対応にも取り組んでいます。

Google AI Edge TeamとAndroid ML Teamは2026年10月28日、Google Play開発者サービス内のLiteRTが、従来のGPUデリゲートより約1.4倍速いGPU推論に対応したと発表しました。Android端末上の推論ランタイムは、数十億台の端末で1日あたり1兆回を超える推論を処理しています。今回の更新ではCompiledModel APIを通じてML Driftを使います。Googleはこれを、従来のInterpreter APIを引き継ぐ現代的な仕組みと説明しています。

Googleのテストでは、アプリに同梱したランタイムからPlay開発者サービス内のLiteRTへ切り替えたアプリは、サイズが約8MB小さくなりました。ランタイムとGPUアクセラレーターは各アプリに入れる代わりに、Play開発者サービスを通じて一度配信されます。現在、10万本を超えるAndroidアプリがLiteRTまたはTensorFlow Liteのランタイムを同梱しています。Googleによると、共有ランタイムへの切り替えが広がれば、ストレージとメモリーを節約できます。性能改善、バグ修正、セキュリティ修正は、アプリ更新なしで段階的に配信されます。LiteRTはAndroid 7（APIレベル24）以降のスマートフォン、Wear OS 4以降、Android 11以降のAndroid Automotive OSに対応します。

LiteRTは.tflite形式のモデルを維持し、CPUとGPUの両方を使う共通の手順を提供します。利用可能な場合はOpenCL、それ以外はOpenGLを使い、要求されたGPUが使えない場合はCPUに切り替えます。同じモデル形式はAndroid、iOS、デスクトップ、ウェブに対応しています。従来のInterpreter APIもCPU向けに引き続きサポートされるため、段階的な移行が可能です。Googleは、Subject SegmentationやDocument Scannerを含むML Kit VisionおよびText APIが、この基盤を数十億台のAndroid端末で既に利用していると説明しています。

導入するには、開発者はcom.google.android.gms:play-services-litert:17.0.0以降を追加し、存在する場合は同梱版のlitert依存関係を削除して、Play開発者サービスのLiteRT環境を初期化し、CompiledModelに渡します。切り替え後も既存のInterpreterコードはCPUで動作しますが、GPUを使うにはCompiledModelへの移行が必要です。Googleは、Interpreterの呼び出しを書き換えてGPUアクセラレーションとCPUへの切り替えを設定するAndroid Studio向けスキルも提供しています。生成された変更を確認し、ビルドしたうえで実機で出力を比較するよう開発者に勧めています。

Googleは従来のGPUデリゲートとカスタムデリゲートAPIを非推奨とし、CompiledModelによるGPUアクセラレーション、Compiler Plugin、Dispatch APIへの移行を案内しています。NNAPIの削除は2027年に始まり、旧SDKには重大なセキュリティ修正のみが提供されます。非推奨APIを使うコードは最新SDKでコンパイルできなくなります。Googleによると、配信済みアプリは引き続き動作しますが、移行を計画する必要があります。Play開発者サービスでのNPU対応にも取り組んでいます。