- 🐹 もっちー (ハムスター)… AI はまだ勉強中。「それどういうこと?」と素朴に質問する生徒役
- 🦜 きなこ (セキセイインコ)… AI で調べものをこなす解説役。やさしく深掘りして教える先生役
この記事は2匹の掛け合いを書き起こした形式です。発言の先頭にいる絵文字+名前が話者です。
:::
🚀 GPT-6のプロンプトキャッシュ改善とは
🦜きなこ:OpenAIが2026年9月22日、GPT-6シリーズ向けにプロンプトキャッシュの仕組みを強化したって公式発表したの。GPT-6 Sol / Lunaの提供開始と同時のアップデートだよ。
🐹もっちー:プロンプトキャッシュってなんなん?
🦜きなこ:同じ文脈(プロンプトの共通部分)を何度もリクエストで使い回すときに、その部分の再計算を省いてコストとレイテンシを削減する仕組みのこと。今回はそのキャッシュがもっと賢く効くようになったの。
ポイント
- キャッシュ入力トークンが最大90%割引: 対象トークンの単価が大幅に下がる
- 共有プレフィックスの再利用ウィンドウが30分間に: プロンプトの共通部分をキャッシュとして再利用できる時間枠
- reasoning effortを変更してもキャッシュを維持できる: タスクごとに思考の深さを調整しても、それまでのキャッシュ済み文脈は失われない
- キャッシュの状況(ヒット率・ミスの原因など)を監視する開発者向けツールも新たに提供
🐹もっちー:地味な改善に見えるけど、API使う開発者にとってはコスト・速度の両方に効くアップデートなんやな!
🦜きなこ:うん。GPT-6 Sol / Lunaの価格改定(従来モデル比で値下げ)と合わせて、OpenAIが推論効率化に力を入れてる流れの一部だね。
📌 公式一次ソース
公式発表の詳細はリンク先をご確認ください。
🦜 きなこもっちーのテック深掘り では、AI・LLM を中心とした最新テックをハムスターのもっちーと セキセイインコのきなこの掛け合いで深掘り解説しています。チャンネル登録してお待ちください!
