8
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

Cloudflare Workers AIのログ管理にAI Gatewayを使ってみた

8
Last updated at Posted at 2026-06-16

AIアプリ開発中の出来事。

先輩エンジニア「そういえば、エージェントの入り口から出口までの間に各種モデルが何をやっているか監視する仕組みって整ってる?」
私「整っていません!」

「(どのモデルに何を投げて何が返ってきたのかは見えるようにしたい)」
「(トークンやコスト、レイテンシも見られたらモデル選定の判断材料にもなりそう)」
「(とはいえ、その基盤を自作するのは大変そう)」
「(そんな都合のいいものをCloudflareが用意してくれていないだろうか)」

こうして見つけたのがCloudflare AI Gatewayでした。

Cloudflare AI Gatewayとは

一言でいうと「アプリとLLMの間に挟むプロキシ」です。
リクエストをこのゲートウェイに通すだけで、ログの記録・キャッシュ・レート制限・リトライなど、AIアプリの可視化と制御を担ってくれます。

本記事では、その中でもログ機能に注目します。
リクエスト、レスポンスの情報が自動で記録され、Cloudflareの管理画面から確認することができます。

使い方

既存のリクエストに一行追加するだけです。

// Before
await env.AI.run(MODEL, inputs);

// After
await env.AI.run(MODEL, inputs, {
  gateway: { id: "default" }
});

default は準備なしで使えるゲートウェイIDです。(初回リクエスト時に自動生成されます)
新しいゲートウェイは管理画面から作成することができます。

ログの確認方法

Cloudflare管理画面の AI > AI Gateway > [対象のゲートウェイ] > Logs を開きます。

AI呼び出しが1リクエスト1行で一覧表示されます。

スクリーンショット 2026-06-15 15.01.02.png

各行をクリックすると詳細を確認することができます。

スクリーンショット 2026-06-15 14.57.18.png

項目詳細

一覧で表示される項目

項目 内容
Time リクエストが処理された日時
Status リクエストの成否
Model 呼び出されたモデル
Usage 入力 / 出力トークン数(in / out)
Cost トークン数から推定された概算コスト
Duration リクエストにかかった所要時間

詳細で表示される項目

項目 内容
Request リクエスト内容
Response レスポンス内容
Type 接続方法
Model Type モデルの種別
User Agent リクエスト元のユーザーエージェント

Custom metadataでリクエストを識別する

一覧では目的のリクエストを見つけることが難しいです。
これを解消するために Custom metadata を使います。

ここでは、リクエストがlocalとdev、どちらの環境から送られてきたものかを区別できるようにしてみます。

オプションに metadata を追加します。

await env.AI.run(MODEL, inputs, {
  gateway: {
    id: "default",
    metadata: { environment: env.ENVIRONMENT || "unknown" },
  },
});

リクエストを送ると、ログにMetadataの情報が追加されていることがわかります。

スクリーンショット 2026-06-15 15.23.37.png

Metadataの値で絞り込みをすることで、該当のリクエストのみが表示されるようになります。

スクリーンショット 2026-06-15 15.24.02.png

このように任意のCustom metadataを追加することで、様々な識別に対応できます。
リクエストごとに最大5つのCustom metadataを渡すことができます。

利用料金

永続ログ機能は無料で使えます。(2026年6月現在)

プラン ログ保存制限
Workers 無料プラン 全ゲートウェイ合計で10万件のログ
Workers 有料プラン ゲートウェイあたり1000万件のログ

上限に達した場合は、「古いログを自動削除する」もしくは「新しいログの保存を停止する」から選択することができます。

最新の情報は公式ドキュメントで確認してください。

その他できること

Cloudflare AI Gatewayはログ以外にも、キャッシュ・レート制限・リトライ・フォールバックなど、アプリを制御するための機能を備えています。

詳しくは公式ドキュメントをご覧ください。

まとめ

  • Cloudflare AI Gatewayを通すだけで、リクエストやレスポンス、コストなどの情報が自動で記録される
  • 無料で始められる
  • ログ以外にも、キャッシュやリトライなどアプリを制御する機能がある
8
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
8
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?