何が起きたか
OpenAI が10月20日、API（Responses API）にプロンプトキャッシュの保持期間として「12時間」を選べるオプションを追加しました。これまでのデフォルトは30分です。
あわせて、Codex と ChatGPT Work のログイン済みユーザーでは、会話のキャッシュが無期限に保持されるようになりました。数時間後に古い会話に戻ってきてもペナルティはなく、キャッシュヒットが保証される、というのが Codex 責任者 Tibo 氏のポストです（Codex の「28日間、毎日改善を出す」企画の16日目）。
プロンプトキャッシュを一言で
AI は応答のたびに、文脈（指示、コード、会話の履歴）を読み直しています。プロンプトキャッシュは、その「読み直した部分」を覚えておく仕組みです。ヒットすれば読み直しの計算が省けるので、速くなり、料金も下がります。
X の返信にあった本のたとえが分かりやすかったです。一度読んだページはだいたい思い出せる。だから再読に料金はかからない——キャッシュはそれを機械側でやっている、という話です。
数字の話（良いことばかりではない）
- 12時間キャッシュへの「書き込み」は、通常の入力料金の2.5倍（30分キャッシュの書き込みは1.25倍）
- キャッシュからの「読み取り」は、どちらの保持期間でも0.1倍
つまり「長く保持できる＝常に得」ではありません。数時間おきに何度も戻ってくる文脈でだけ、書き込みの割増し分が回収できます。OpenAI 自身の説明も「一日中、同じ指示と文脈を使い回す常駐エージェント向け」という位置づけでした。
開発の現場では何が変わるか
エージェント型の作業は、文脈がとにかく大きいです。リポジトリ全体、長い指示書、ツール定義。これまでは昼休みを挟むだけでキャッシュが切れて、再開のたびに「全部読み直し」から始まっていました。
保持が12時間、そして製品側では無期限になると、AI との作業の単位が「セッション」から「一日」に広がります。自分の開発でも、Codex に大きめのコードベースを何日も触らせるような使い方だと、朝の再開コストが目に見えて変わってくるはずです。
眺めていて思うこと
キャッシュが長生きするほど、エージェントは「毎回、初対面の相手」から「ずっと隣にいる相棒」に近づいていく気がします。文脈を覚えたまま戻ってくる、という体験の変化です。
みなさんの開発では、この変更で何が変わりそうですか。長時間セッションの使い方や、コストの実感など、聞かせてもらえると嬉しいです。