はじめに
Google が公式ブログで、ブラウザ上で機械学習モデルを直接実行できる新しい推論ランタイム「LiteRT.js」を発表しました。これは Google のエッジ AI ランタイムファミリー「LiteRT」（旧 TensorFlow Lite 系統）の新メンバーで、これまでモバイルやデバイス向けが中心だったエッジ AI 実行環境を、いよいよ Web ブラウザにまで拡張するものです。
サーバー側で LLM や画像認識モデルを推論するのではなく、ユーザーのブラウザ内で直接モデルを動かすという発想は、レイテンシ削減・プライバシー保護・サーバーコスト削減といった観点で近年注目度が高まっています。LiteRT.js はこの領域に Google が本格参入したことを示すアップデートであり、Web フロントエンドに機械学習機能を組み込みたい開発者にとって見逃せないニュースです。
📌 影響を受ける人
- ブラウザ上でオンデバイス推論（画像処理・音声処理・軽量 LLM 推論など）を実装したい Web 開発者
- 既に TensorFlow.js や ONNX Runtime Web を使っている開発者で、より高性能な代替手段を探している人
- PWA やクライアントサイド完結型のアプリを設計している人
変更の全体像
LiteRT.js は、LiteRT ファミリーの中で「Web 向け」という新しいレイヤーを担います。バックエンドとして WebGPU を第一候補とし、対応していない環境では WebAssembly(CPU) にフォールバックする設計です。将来的には WebNN 対応も予定されています。
推論処理がすべてブラウザ内で完結するため、サーバーへのデータ送信なしに ML 機能を提供できる点がアーキテクチャ上の大きな特徴です。
変更内容
| 項目 | 内容 |
|---|---|
| 名称 | LiteRT.js |
| 位置づけ | LiteRT ファミリーの Web/JavaScript 版 |
| 対象開発者 | JavaScript / Web フロントエンド開発者 |
| 主要バックエンド | WebGPU（高性能推論） |
| フォールバック | WebAssembly（CPU実行） |
| 将来対応予定 | WebNN |
| 提供情報 | 公式ブログにクイックツアー・導入ガイドを掲載 |
| Severity（本記事評価） | High（新機能・エコシステム拡張） |
ポイントは、単一の API でハードウェア環境に応じた最適な実行パスが選ばれるように設計されている点です。GPU が使えるモダンブラウザでは WebGPU を通じてネイティブに近い推論速度を狙いつつ、GPU 非対応や制限された環境（一部のモバイルブラウザや企業管理端末など）でも WebAssembly により動作を継続できます。
影響と対応
💡 Tips
既存のオンデバイス推論スタック（TensorFlow.js、ONNX Runtime Web など）を使っている場合でも、すぐに置き換える必要はありません。まずは公式ブログのクイックツアーで対応モデル形式や API 設計を確認し、パフォーマンス比較を行った上で採用可否を判断するのが安全です。
現時点で action_required: false（今すぐの対応必須ではない）という評価ですが、以下のようなケースでは早めのキャッチアップを推奨します。
- 新規に Web 上でのオンデバイス推論機能を設計している場合は、選択肢の一つとして比較検討する価値があります。
- 既に LiteRT（旧 TFLite）でモバイルアプリ向けモデルを運用しているチームは、同じモデル資産を Web にも展開できる可能性があるため、モデル互換性を確認する価値があります。
- プライバシー要件が厳しいプロダクト（医療・金融など、データをサーバーに送りたくない領域）では、クライアント完結の推論基盤として検討候補になります。
一方で、WebGPU 自体がブラウザによって対応状況にばらつきがあるため、本番投入前に対象ブラウザでのフォールバック挙動（WebAssembly 時のパフォーマンス）を必ず検証することが重要です。
コード例
公式のクイックツアーで示されている典型的な利用イメージは、次のような流れになります（概念的なサンプルであり、実際の関数名やインポートパスは公式ドキュメントを参照してください）。
Before（サーバー推論に依存する構成）
// クライアントは推論をサーバーAPIに委ねる
async function classifyImage(imageBlob) {
const formData = new FormData();
formData.append("image", imageBlob);
const res = await fetch("https://api.example.com/infer", {
method: "POST",
body: formData,
});
return res.json(); // ネットワーク往復が発生し、レイテンシ・サーバーコストが発生
}
After（LiteRT.js によるブラウザ内推論のイメージ）
// ブラウザ上でモデルをロードし、その場で推論を実行するイメージ
import { loadModel } from "litert-js"; // ※実際のパッケージ/APIは公式ドキュメントを確認
async function classifyImage(imageTensor) {
// WebGPUが使えればWebGPUで、使えなければWasmに自動フォールバック
const model = await loadModel("model.tflite", {
backend: "webgpu", // fallback: "wasm"
});
const output = await model.run(imageTensor);
return output; // ネットワーク往復なし、サーバー不要
}
サーバーへの通信が不要になることで、オフライン動作やレイテンシの大幅な削減、サーバー運用コストの抑制といったメリットが生まれます。
まとめ
- Google が LiteRT ファミリー初の Web 向けランタイム「LiteRT.js」を発表
- WebGPU による高速推論を軸に、非対応環境では WebAssembly に自動フォールバックする設計
- 将来的には WebNN への対応も予定
- ブラウザ内で ML 推論を完結できるため、レイテンシ削減・プライバシー保護・サーバーコスト削減を狙う Web 開発者にとって有力な選択肢になりうる
- 今すぐの必須対応はないが、オンデバイス推論を検討しているチームは公式クイックツアーを一読しておく価値がある
Web フロントエンドに機械学習を組み込む選択肢が着実に増えてきています。TensorFlow.js や ONNX Runtime Web と並ぶ新たな選択肢として、LiteRT.js の今後のアップデートにも注目していきたいところです。