この記事は Flatkey AI 公式アカウントの技術検証メモです。OpenAI 互換 API の移行時に確認する点をまとめます。
base_url 差し替えは簡単だが、全部同じではない
OpenAI 互換 API は便利です。SDK 側の baseURL を変えるだけで、別の Gateway や provider に向けられます。
const client = new OpenAI({
apiKey: process.env.API_KEY,
baseURL: process.env.BASE_URL,
});
ただし、実際に使うと細かい差でハマることがあります。
1. endpoint の末尾
baseURL に /v1 を含めるかどうかはサービスによって違います。
https://example.com/v1
https://example.com
SDK が内部で /chat/completions を足すので、二重に /v1/v1 になっていないか確認します。
2. model id
同じモデルでも Gateway ごとに model id が違うことがあります。
claude-sonnet
anthropic/claude-sonnet
provider/model-name
アプリ側に model id を直書きしている場合、移行時にまとめて変更が必要になります。
3. streaming
通常レスポンスが動いても、streaming で壊れることがあります。
const stream = await client.chat.completions.create({
model: "your-model",
messages: [{ role: "user", content: "長めに説明してください" }],
stream: true,
});
CLI やエディタ拡張では streaming の体験が重要なので、必ず確認します。
4. tool use / function calling
AI agent では function calling や tool use の互換性が重要です。単純なチャットだけで移行完了と判断しない方が安全です。
5. エラー形式
rate limit、残高不足、model not found などのエラー形式が違うと、クライアント側のハンドリングが崩れます。
{
"error": {
"message": "model not found",
"type": "invalid_request_error"
}
}
移行チェックリスト
-
/v1の有無を確認 - model id を確認
- 通常の chat completion を確認
- streaming を確認
- tool use を確認
- rate limit 時のエラーを確認
- コストログを確認
まとめ
OpenAI 互換 API は移行しやすいですが、base_url を変えるだけで終わりではありません。特に AI coding tool や agent では、streaming と tool use の確認が重要です。
Flatkey でも、OpenAI 互換 API の検証項目を整備しています。移行前に小さなチェックリストを作っておくと、あとで戻す作業が減ります。