0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

OmniRoute vs LiteLLM:60,112スターと57,827スターのAIゲートウェイを、READMEとLICENSEを実際に読んで比較する

0
Posted at

「モデルプロバイダを全部まとめる1本のエンドポイントが欲しい」と探し始めると、必ずこの2つの名前に行き当たります。OmniRouteとLiteLLMです。2026年9月2日時点でGoogleトレンドの「omniroute」が急上昇(Breakout)しているのを機に、両方のリポジトリを取得し、READMEの主張とLICENSEファイルの中身を突き合わせて比較しました。結論から書くと、OmniRouteは開発者個人のマシンに置く無料ゲートウェイ、LiteLLMはチームで共有するインフラで、用途が重なっているようで実はほとんど競合しません。

数字で見る2つのゲートウェイ(2026-09-02時点)

OmniRoute LiteLLM
GitHubスター 60,112 57,827
ライセンス リポジトリ全体がMIT コアはMIT、enterprise/配下は別の商用ライセンス
インストール npm install -g omniroute pip install litellm
動作形態 ローカルゲートウェイ+ダッシュボード+デスクトップアプリ Python SDKまたは共有プロキシサーバー
プロバイダ数(作者の主張) 352プロバイダ、1,312のモデルID(README) 100以上のLLM API(リポジトリ説明文)
エージェントからの使い方 リポジトリに46個のスキルを同梱、MCP+A2Aサーバー SDK、プロキシ設定、MCPサーバー
差別化のポイント トークン圧縮(RTK、Cavemanモード) Rustコアのスループット、エンタープライズ機能

スター数はGitHub API、ライセンスは両リポジトリのLICENSEファイルを直接読んだ結果です。プロバイダ数の「352対100+」はどちらも作者のカウントなので、比較の物差しにはしないでください。実際に常用するプロバイダは数個、という人がほとんどではないでしょうか。

OmniRouteとは何か

diegosouzapw氏によるMITライセンスの無料AIゲートウェイで、http://localhost:20128 にOpenAI互換のエンドポイントを1本立てます。READMEはクォータを検知して自動フォールバックする19種のルーティング戦略と、ツール実行結果を20〜40%圧縮すると主張するトークン圧縮を掲げています(数値は作者のベンチマークです。ゲートウェイに依存しないトークン削減の手法はトークン使用量を減らすClaudeスキルのガイドにまとめています)。特徴的なのは、リポジトリ自体が46個のエージェントスキル(SKILL.mdファイル)を同梱している点で、skills.shではインストール数上位20個が各308〜388インストールに達しています(全期間、2026-09-02時点)。

APIの入口にあたるスキルは、認証まわり(Bearerキー、OIDC、30日セッションJWT)を1ファイルで教える構成で、中身はomni-authのディープダイブで1行ずつ読みました(連載のディープダイブ一覧もあります)。サーバー自体の起動は姉妹スキルのOmniRoute CLI Serveが担当です。

LiteLLMとは何か

BerriAI社によるゲートウェイの定番です。リポジトリの説明文いわく「RustコアとPython SDKで100以上のLLM APIをOpenAI形式(またはネイティブ形式)で呼ぶ。コスト追跡、ガードレール、ロードバランシング付き」(リポジトリ説明文、拙訳)。pip install litellm で入り、チームで1本のプロキシを共有する構成が基本です。LICENSEを読むと、enterprise/ ディレクトリ配下だけが別の商用ライセンスで、企業向け機能をここで売る構造になっています。エージェントから使う手段としてはLiteLLM MCPサーバーのリスティングもあります。

Claude Codeで使うならどちらか

どちらも仕組みは同じで、OpenAI互換のベースURLとしてエージェントの前に立つだけです。選び方はエージェントではなく体制で決まります。

  • 1人で開発していて、無料プロバイダを跨いだ自動フォールバックとダッシュボードが欲しいならOmniRoute。設定は環境変数2つだけです。
export OMNIROUTE_URL=http://localhost:20128
export OMNIROUTE_KEY=...   # ダッシュボードで発行
curl $OMNIROUTE_URL/api/health   # {"ok":true} が返れば設定完了
  • チームでプロキシを共有し、キー単位でコストを追跡し、将来エンタープライズ機能を買う可能性があるならLiteLLM。Pythonスタックとの親和性も高いです。

コミュニティにはLiteLLM経由でClaude Codeを動かすこのスキルのリスティングも登録されています(13インストールと小規模ですが、経路が実在する証拠にはなります)。

注意点を3つ

  1. プロバイダ数を比較指標にしない。352対100+は各作者の数え方の違いを測っているだけです。
  2. OmniRouteは認証情報を混ぜると401になる。APIはBearerキー、ダッシュボードはパスワード+セッションクッキーで、別物です。
  3. ゲートウェイは通過する全プロンプトを見る。どちらもセルフホストが基本なので自分のマシンに閉じますが、リモートに置くなら信頼の判断が必要です。参考までに、2026年8月時点のエージェントスキルのセキュリティ調査では、79,848件のリスティングのうち87.8%が一度も監査されていませんでした。

同じ比較を英語でより詳しく書いた初出記事はOmniRoute vs LiteLLMにあります。実インストール数で並ぶ全体像はスキルのリーダーボードへどうぞ。

ソース: diegosouzapw/OmniRoute / BerriAI/litellm(いずれもコミット時点の実ファイルを参照)。

開示: 本記事はスキルディレクトリSkillselionの運営によるものです。カタログはskills.sh、GitHub、MCPレジストリから毎日更新し、実インストール数でランキングしています。

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?