Google AI Edgeは2026年10月8日、端末上でAIや機械学習の推論をGPUで処理するオープンソースエンジン「ML Drift」を公開しました。Apache 2.0ライセンスで提供され、OpenGL ES、OpenCL、Metal、WebGPUに対応します。LiteRTのアクセラレーターとしても、単独ライブラリーとしても利用できます。Googleによると、Chrome、YouTube Shorts、Photos、Meet、AI Edge Galleryを通じて、すでに数百万台の端末で毎日稼働しています。

ML Driftは、端末ごとに異なるGPU構造、ドライバーの版、低水準APIに対応します。テンソル仮想化（論理上のデータ表現とGPU上の割り当てを分離する仕組み）により、共通のシェーダーテンプレートを複数の処理基盤で使えます。独自演算の枠組みでは開発者が低水準のシェーダーにアクセスでき、付属のエージェント向けSKILL.mdガイドは、コーディングエージェントによるシェーダーの作成、登録、検証を支援します。LiteRTアクセラレーターは5次元テンソルにも対応し、3D畳み込みネットワークや、YOLO 11n、MobileViT v2、Swin Transformer v2などの時空間モデルを処理できます。

大規模言語モデルでは、入力文脈を処理するプレフィルと、トークンを1つずつ生成するデコードで、カーネルとデータ配置を切り替えます。デコードでは畳み込みに適したKVキャッシュ配置と、カーネル内の活性化量子化を使い、繰り返し発生するメモリー転送を減らします。GoogleはGemmaのベンチマークで、他のフレームワークよりメモリー使用量を最大12％削減したとしています。デスクトップ向けプレビューでは、同じWebGPUコードがWindowsとLinuxでDawnを通じてネイティブに動作し、macOSではMetalを使います。主な対象は引き続きモバイル端末とエッジ端末です。

Googleが示した導入先の実績では、YouTube Shortsのセグメンテーション効果でAndroidとiOSの平均フレーム遅延が最大40％低下し、Google Photosの編集処理は旧GPU委譲機能より最大2秒短縮しました。ChromeはPrompt、Summarize、Writerの各APIで、端末上のGemini NanoモデルにML Driftを使っています。Adobeによると、モバイル版LightroomとPhotoshopの機能は端末上で最大30％高速化し、SnapはAndroidの顔・スタイル効果でモデル遅延が30％低下したとしています。Snapは、アクセラレーターにより、より大規模な拡散モデルにも対応できると述べています。

GoogleはArmとMaliおよびImmortalis GPU向けカーネルを、IntelとはWebGPUとXe3グラフィックス搭載Core Ultraプロセッサ向けXe Matrix Extensionsを、QualcommとはAdreno GPU向けOpenCLカーネルを開発しました。旧TensorFlow Lite GPU委譲機能は新機能の追加を終了し、Googleは後方互換性のあるLiteRT ML Drift GPUアクセラレーターへの移行を推奨しています。単体のLiteRTパッケージでは、ランタイムを別途組み込むAndroid開発者向けにML Driftをすでに提供しています。Google Play Services経由のLiteRT対応は近日中に始まる予定です。開発者はLiteRTアクセラレーターを使うか、ML Driftの単独C++ APIで独自の計算グラフを構築できます。

Google AI Edgeは2026年10月8日、端末上でAIや機械学習の推論をGPUで処理するオープンソースエンジン「ML Drift」を公開しました。Apache 2.0ライセンスで提供され、OpenGL ES、OpenCL、Metal、WebGPUに対応します。LiteRTのアクセラレーターとしても、単独ライブラリーとしても利用できます。Googleによると、Chrome、YouTube Shorts、Photos、Meet、AI Edge Galleryを通じて、すでに数百万台の端末で毎日稼働しています。

ML Driftは、端末ごとに異なるGPU構造、ドライバーの版、低水準APIに対応します。テンソル仮想化（論理上のデータ表現とGPU上の割り当てを分離する仕組み）により、共通のシェーダーテンプレートを複数の処理基盤で使えます。独自演算の枠組みでは開発者が低水準のシェーダーにアクセスでき、付属のエージェント向けSKILL.mdガイドは、コーディングエージェントによるシェーダーの作成、登録、検証を支援します。LiteRTアクセラレーターは5次元テンソルにも対応し、3D畳み込みネットワークや、YOLO 11n、MobileViT v2、Swin Transformer v2などの時空間モデルを処理できます。

大規模言語モデルでは、入力文脈を処理するプレフィルと、トークンを1つずつ生成するデコードで、カーネルとデータ配置を切り替えます。デコードでは畳み込みに適したKVキャッシュ配置と、カーネル内の活性化量子化を使い、繰り返し発生するメモリー転送を減らします。GoogleはGemmaのベンチマークで、他のフレームワークよりメモリー使用量を最大12％削減したとしています。デスクトップ向けプレビューでは、同じWebGPUコードがWindowsとLinuxでDawnを通じてネイティブに動作し、macOSではMetalを使います。主な対象は引き続きモバイル端末とエッジ端末です。

Googleが示した導入先の実績では、YouTube Shortsのセグメンテーション効果でAndroidとiOSの平均フレーム遅延が最大40％低下し、Google Photosの編集処理は旧GPU委譲機能より最大2秒短縮しました。ChromeはPrompt、Summarize、Writerの各APIで、端末上のGemini NanoモデルにML Driftを使っています。Adobeによると、モバイル版LightroomとPhotoshopの機能は端末上で最大30％高速化し、SnapはAndroidの顔・スタイル効果でモデル遅延が30％低下したとしています。Snapは、アクセラレーターにより、より大規模な拡散モデルにも対応できると述べています。

GoogleはArmとMaliおよびImmortalis GPU向けカーネルを、IntelとはWebGPUとXe3グラフィックス搭載Core Ultraプロセッサ向けXe Matrix Extensionsを、QualcommとはAdreno GPU向けOpenCLカーネルを開発しました。旧TensorFlow Lite GPU委譲機能は新機能の追加を終了し、Googleは後方互換性のあるLiteRT ML Drift GPUアクセラレーターへの移行を推奨しています。単体のLiteRTパッケージでは、ランタイムを別途組み込むAndroid開発者向けにML Driftをすでに提供しています。Google Play Services経由のLiteRT対応は近日中に始まる予定です。開発者はLiteRTアクセラレーターを使うか、ML Driftの単独C++ APIで独自の計算グラフを構築できます。