AIアプリ開発中の出来事。

先輩エンジニア「そういえば、エージェントの入り口から出口までの間に各種モデルが何をやっているか監視する仕組みって整ってる？」
私「整っていません！」

「（どのモデルに何を投げて何が返ってきたのかは見えるようにしたい）」
「（トークンやコスト、レイテンシも見られたらモデル選定の判断材料にもなりそう）」
「（とはいえ、その基盤を自作するのは大変そう）」
「（そんな都合のいいものをCloudflareが用意してくれていないだろうか）」

こうして見つけたのがCloudflare AI Gatewayでした。

Cloudflare AI Gatewayとは

一言でいうと「アプリとLLMの間に挟むプロキシ」です。
リクエストをこのゲートウェイに通すだけで、ログの記録・キャッシュ・レート制限・リトライなど、AIアプリの可視化と制御を担ってくれます。

本記事では、その中でもログ機能に注目します。
リクエスト、レスポンスの情報が自動で記録され、Cloudflareの管理画面から確認することができます。

使い方

既存のリクエストに一行追加するだけです。

// Before
await env.AI.run(MODEL, inputs);

// After
await env.AI.run(MODEL, inputs, {
  gateway: { id: "default" }
});

default は準備なしで使えるゲートウェイIDです。（初回リクエスト時に自動生成されます）
新しいゲートウェイは管理画面から作成することができます。

Cloudflare管理画面の AI > AI Gateway > [対象のゲートウェイ] > Logs を開きます。

AI呼び出しが1リクエスト1行で一覧表示されます。

各行をクリックすると詳細を確認することができます。

一覧で表示される項目

詳細で表示される項目

一覧では目的のリクエストを見つけることが難しいです。
これを解消するために Custom metadata を使います。

ここでは、リクエストがlocalとdev、どちらの環境から送られてきたものかを区別できるようにしてみます。

オプションに metadata を追加します。

await env.AI.run(MODEL, inputs, {
  gateway: {
    id: "default",
    metadata: { environment: env.ENVIRONMENT || "unknown" },
  },
});

リクエストを送ると、ログにMetadataの情報が追加されていることがわかります。

Metadataの値で絞り込みをすることで、該当のリクエストのみが表示されるようになります。

このように任意のCustom metadataを追加することで、様々な識別に対応できます。
リクエストごとに最大5つのCustom metadataを渡すことができます。

永続ログ機能は無料で使えます。（2026年6月現在）

プラン	ログ保存制限
Workers 無料プラン	全ゲートウェイ合計で10万件のログ
Workers 有料プラン	ゲートウェイあたり1000万件のログ

上限に達した場合は、「古いログを自動削除する」もしくは「新しいログの保存を停止する」から選択することができます。

Cloudflare AI Gatewayはログ以外にも、キャッシュ・レート制限・リトライ・フォールバックなど、アプリを制御するための機能を備えています。

詳しくは公式ドキュメントをご覧ください。