AIエージェント開発に携わる中で、最近痛感していることがあります。エージェントをストレスなく開発するためには、モデルが真に「ステートフル（状態保持可能）」になるのを待つ必要があるのではないか、という点です。
例えば、私が作成したある「テキスト分析エージェント」のワークフローは以下の通りです。
- 毎日、テキストデータを自動収集する
- 内容を分析し、要点をまとめる
- その要点に基づいて、社内ドキュメントを検索する
- 最終的なレポートを作成する
AIの手を借りれば、とりあえず動くプロトタイプを作るのは簡単です。しかし、いざ本番環境に投入しようとすると、頻繁にエラーが発生することに気づきます。正直なところスマートさに欠け、「エージェントとしての自律性（Agency）」が不足していると感じるのです。よくある問題は以下の通りです。
無関係な出力: レポートの結論が支離滅裂。ログを確認すると、検索フェーズで無関係な情報を拾ってしまっている。
フォーマット違反: モデルが指示に従わず、指定したフォーマットで出力してくれない。
無限ループ: 同じツールを繰り返し呼び出し、何度もエラーを出し続ける。
これらは一見バラバラな問題に見えますが、根本原因は共通しています。それは、私たちとAIのコミュニケーションがいまだに「ターン制」であり、かつ「完全なコンテキストの提示が必須」であるという点です。
会話が長くなればモデルの注意力が散漫になり、指示やドキュメントが混在すれば「JSONで出力」という命令もノイズに埋もれてしまいます。また、モデルは「さっき自分が間違えたこと」を覚えていないため、リトライしても同じ間違いを繰り返します。
要するに、現在の対話方式はあまりに原始的です。話しかけるたびに、事の経緯をすべて最初から説明し直さなければならないのですから。これではトークンコストも嵩みますし、履歴管理や異常処理のパッチ当てに忙殺され、肝心のコアロジックを磨く時間が削がれてしまいます。
そんな中、OpenAIの「Harmony」レスポンスフォーマットに一筋の光を見ました。最大の特徴はレスポンスの「構造化」です。思考（analysis）、ツール操作（commentary）、最終回答（final）が明確に分離されたことで、開発者はcommentaryの指令だけをハンドリングすればよくなり、デバッグが格段に楽になりました。
とはいえ、本質的にはまだ「ターン制」です。私が抱く理想は、モデル自体が「ステート（状態）」を持つことです。
人間の同僚のように、一度依頼すれば文脈や進捗を記憶し、差分情報だけでコミュニケーションが成立する――そんなモデルがネイティブに実現すれば、コストも速度も劇的に改善するはずです。現状はvLLMなどのキャッシュ機能で凌ぐしかありませんが、真のステートフルな推論が待ち望まれます。
また、モデルの基礎能力だけでなく、「ツール呼び出しの信頼性」も重要です。モデルが苦手な計算処理などは、無理にやらせるのではなく、コード実行というツールを使って確実に解決させる。開発者はマイクロマネジメントをするのではなく、号令だけかければエージェントが自律的に動く「チームリーダー」のような存在になるべきです。
まとめると、優れたエージェント開発には以下の進化が必要です。
- 構造化されたコミュニケーション: 指示を明確にし、デバッグを容易にする。
- ステートフルなサービス: モデルが履歴と進捗を記憶する。
- 信頼性の高いツール呼び出し: 関数呼び出しのように、挙動が予測可能であること。