Google DeepMindは2026年6月18日にAI Control Roadmapを公開した。このタイミングは重要だ。エージェントの波はデモから実務へ移った。コード変更、研究計画、サイバー防御の整理、文書作成、製品運用まで対象になっている。以前の問いはエージェントがどこまで有能になるかだった。今のより鋭い問いは、目標、推論、失敗の形がまだ不完全なシステムに、どの範囲のアクセスを許すべきかである。
このロードマップは、強力な内部エージェントを内部者脅威に近い慎重さで扱う。表現は強く聞こえるが、意味は実務的だ。役に立つエージェントには道具、データ、認証情報、行動する権限が必要になる。システムがファイルを編集し、APIを呼び、実験を走らせ、意思決定に影響できるようになると、チャットボット中心の安全枠だけでは足りない。Google DeepMindは、行動を評価し、エージェントの軌跡を監視し、信頼できるシステムを監督者として使い、リスクが高まるほど遅延レビューから即時の防止へ移る多層的な制御を提案している。
これはAI安全性の語り方における重要な変化だ。長い間、安全性の議論はモデルの整合、ベンチマーク、拒否行動、アシスタント内部の方針に集中していた。新しいロードマップは、モデルを取り巻く運用環境へ視線を移す。権限、ログ、サンドボックス、監視、エスカレーション経路、復旧手順が、モデル品質と同じくらい重要に見え始める。
自律性はリスクの形を変える
テキストアシスタントは主に提案を生む。エージェントは結果を生む。ファイルを削除し、作業の流れを予約し、設定を変え、コード変更を承認し、機密資料を置くべきでない場所へ移す可能性がある。モデルに敵意がなくても、損失は大きくなりうる。エージェントは複数の段階で行動を続けるよう設計されているからだ。
Google DeepMindは、内部の取り組みですでに百万件のコーディングエージェント作業を分析したという。重要な教訓は冷静だ。多くの検知事例は敵対的な行動よりも、指示の読み違いや過度な熱心さから生まれているように見える。この点は大切だ。エージェントリスクの最初の波は、よくある業務上の事故のように見えることが多いからである。システムは曖昧な指示を満たそうとして行き過ぎる。誤った目標を最適化する。一時ファイルを捨ててもよい材料だと考える。閲覧権限を変更権限のように受け取る。
リスクの一部は、言語モデルで増幅された普通の自動化にある。エージェントは推論し、計画し、即興で対応できるため、その失敗は古いスクリプトより遠くまで進みうる。壊れやすいスクリプトはたいてい狭い形で失敗する。柔軟なエージェントは誰も予想しなかった経路を見つけ、その経路が役に立つように見えながら損害を生むこともある。
監視は製品の一部になる
ロードマップで最も興味深いのは、監督が能力に合わせて拡張されるべきだという考えだ。影響の小さい作業なら後からの確認を許せる。影響の大きい作業には即時の確認、狭い権限、実行前に止める能力が必要になる。モデルはもはや製品全体ではない。周囲の制御層が製品体験の一部になる。
ここには新しい設計課題がある。監視が緩すぎると、エージェントは道を外れる。監視が厳しすぎると、エージェントは遅く使いづらくなる。監視者が別のAIシステムである場合、業界はその監督者がどのように試験され、何を見られ、人間がその判断をどう監査するのかを問う必要がある。信頼は、指示、行動、観察、介入、記録という全体の循環に依存し始める。
エージェントを導入する企業では、調達と評価も変わるべきだ。タスクを完了するデモは有用な証拠だが、それだけでは足りない。チームは、エージェントが何に触れられたのか、何をしそうになったのか、何を拒否したのか、危険な段階で誰が承認したのか、悪い行動の後にシステムがどう回復するのかも知る必要がある。
日常の研究作業への教訓
同じ制御の感覚は、フロンティア研究所の外でも役に立つ。研究者、学生、分析者、製品チームは、すでに自分の仕事の周りに小さなエージェント的作業の流れを作っている。ChatGPTで論証を点検し、Geminiで資料を比較し、Miss Formulaで数式のスクリーンショットを変換し、Editable FigureでAI生成の論文図を整えることで、図表を編集可能なベクトル図として保てる。
この流れが強いのは、各ツールの役割が限定されているからだ。ChatGPTは構成や表現を揺さぶる。Geminiは資料比較の幅を広げる。Miss Formulaは数学表記を復元する摩擦を減らす。Editable Figureは論文図に丁寧な人間の修正が必要なとき、視覚的な証拠を編集可能な状態に保つ。利用者は主張に責任を持ち、根拠を確認し、最終成果物に何を入れるかを決める。
これがAI制御の実務的な形だ。巨大なセキュリティ部門がなくても始められる。出発点は明確な境界である。各ツールには必要なアクセスだけを与える。原資料を残す。下書きと検証を分ける。修正を見える形にする。判断が重要な場所では強いモデルを使い、精度が重要な場所では狭い道具を使う。目標は、支援によって速度を上げながら責任を薄めない作業の流れを作ることだ。
次の競争は運用上の信頼
AIエージェント競争は通常、能力で語られる。どのシステムがコードをよりうまく書くか。どのシステムがブラウザ操作をより安定して行うか。どのシステムがより長いタスクを完了するか。DeepMindのロードマップは別の採点軸を示している。最良のエージェントプラットフォームは、どれだけ安全に権限を得られるかで評価されるようになる。
ここでAIはインフラに似てくる。調子のよい日だけ印象的なデータベースを望む人はいない。監査ログのないクラウドサービスを望む人もいない。エージェントが研究、セキュリティ、エンジニアリング、金融、運用へ入るにつれて、利用者は同じ成熟度を求める。取り消せる行動、制限された認証情報、可能な範囲で見える推論、証拠の履歴、人間への明確な引き渡しを求めるようになる。
未来のエージェントは、入館証、管理者、タスクログ、慎重に定められたアクセス範囲を持つ有能な同僚のように感じられるかもしれない。自律知能という言葉より地味に聞こえるが、組織が実際に共存できる姿はこのほうに近い。
実務的な結論
Google DeepMindは、AI制御を工学分野として扱うことで有用な論点を示した。整合は重要であり続けるが、実際の展開はシステムが何に触れられるか、人間や信頼できる監視者が異常にどれだけ速く反応できるかにも左右される。中心の問いは、このモデルに何ができるかから、観察可能な条件のもとでこのシステムに何を許すべきかへ移っている。
日常の知識労働者にも、この教訓はすぐ使える。道具を有用でありながら境界内に保つ作業の流れを作ることだ。AIに下書き、比較、数式復元、図の編集を助けさせながら、主張と意思決定への人間の責任を残す。エージェントはさらに有能になる。最も恩恵を受けるのは、信頼を測定された段階で与える方法を学ぶチームである。