Googleは2026年7月9日、ウェブブラウザ上でAIモデルを高速に実行するためのJavaScript向けランタイム「LiteRT.js」を発表した。この技術により推論処理を端末内で完結させることで、プライバシー保護の強化、サーバーへのデータ送信に伴う通信遅延の解消、および運用コストの削減が可能となる。LiteRT.jsは、Googleが提供するオンデバイスAI向け実行基盤「LiteRT（旧TensorFlow Lite）」をウェブブラウザへ拡張したものであり、開発者はJavaScriptやTypeScriptを用いたウェブアプリにテキスト生成や物体検出、音声処理機能を組み込める。

技術アーキテクチャの面では、「.tflite」形式のモデルをブラウザ内で実行可能とする。CPUでの推論にはWebAssemblyを介したXNNPACKを、GPU処理にはWebGPUおよびGoogleの「ML Drift」を活用する。また、NPU向けの対応としてWebNNの導入を進めているが、現時点では実験的な段階にある。PyTorch、JAX、TensorFlowで構築されたモデルはLiteRT形式へ変換が可能であり、既存のTensorFlow.jsパイプラインと連携させることで、アプリ全体を再構築せずに推論部分のみを高速化できる設計となっている。

Googleが2024年モデルのM4チップ搭載MacBook Proを用いて実施した性能評価において、LiteRT.jsはONNX Runtimeと比較してCPU・WebGPUの双方で最大約3倍の性能を示した。さらにCPU実行を基準とした比較では、WebGPUやWebNNを利用することでモデルによって5～60倍の高速化を実現したとする。なお、これら数値は社内環境での測定結果であり、使用するデバイスのGPU性能やブラウザの最適化状態によって変動する可能性がある。Googleは、軽量な埋め込みモデル「EmbeddingGemma」を用いたベクトル検索や、YOLOによる物体検出、画像高解像度化のデモを公開しており、npmパッケージとして開発者に提供を開始した。今後は端末上で動作する生成AIへの最適化や、ブラウザでの大規模言語モデル実行に向けた「LiteRT-LM.js」の展開を予定している。

Googleは2026年7月9日、ウェブブラウザ上でAIモデルを高速に実行するためのJavaScript向けランタイム「LiteRT.js」を発表した。この技術により推論処理を端末内で完結させることで、プライバシー保護の強化、サーバーへのデータ送信に伴う通信遅延の解消、および運用コストの削減が可能となる。LiteRT.jsは、Googleが提供するオンデバイスAI向け実行基盤「LiteRT（旧TensorFlow Lite）」をウェブブラウザへ拡張したものであり、開発者はJavaScriptやTypeScriptを用いたウェブアプリにテキスト生成や物体検出、音声処理機能を組み込める。

技術アーキテクチャの面では、「.tflite」形式のモデルをブラウザ内で実行可能とする。CPUでの推論にはWebAssemblyを介したXNNPACKを、GPU処理にはWebGPUおよびGoogleの「ML Drift」を活用する。また、NPU向けの対応としてWebNNの導入を進めているが、現時点では実験的な段階にある。PyTorch、JAX、TensorFlowで構築されたモデルはLiteRT形式へ変換が可能であり、既存のTensorFlow.jsパイプラインと連携させることで、アプリ全体を再構築せずに推論部分のみを高速化できる設計となっている。

Googleが2024年モデルのM4チップ搭載MacBook Proを用いて実施した性能評価において、LiteRT.jsはONNX Runtimeと比較してCPU・WebGPUの双方で最大約3倍の性能を示した。さらにCPU実行を基準とした比較では、WebGPUやWebNNを利用することでモデルによって5～60倍の高速化を実現したとする。なお、これら数値は社内環境での測定結果であり、使用するデバイスのGPU性能やブラウザの最適化状態によって変動する可能性がある。Googleは、軽量な埋め込みモデル「EmbeddingGemma」を用いたベクトル検索や、YOLOによる物体検出、画像高解像度化のデモを公開しており、npmパッケージとして開発者に提供を開始した。今後は端末上で動作する生成AIへの最適化や、ブラウザでの大規模言語モデル実行に向けた「LiteRT-LM.js」の展開を予定している。