LLM API ゲートウェイで予算上限を本気で守る設計 — Cloudflare D1 アトミック UPDATE の予約方式
LLM API ゲートウェイで予算上限を本気で守る設計 — Cloudflare D1 アトミック UPDATE の予約方式 この記事の概要 LLM API の予算管理は、並行リクエスト下の R...
1
1
Comment1
2 search resultsShowing 1~2 results
Stocked
You need to log-in
8 プロバイダ統合 LLM ゲートウェイを Cloudflare Workers + D1 + KV だけで作った話 — 4 軸アーキテクチャの設計判断
この記事の概要 日本企業向けの LLM API ゲートウェイを、Cloudflare Workers + D1 (SQLite) + KV だけ で実装した。本記事はその設計判断を 4 つの軸に...
0
0
Comment0
2 search resultsShowing 1~2 results
Qiita is a knowledge sharing service for engineers.
- You can follow users and tags
- You can stock useful information
- You can make edit suggestions for articles