0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

@sin-aiagent

「AI企業の自己採点」から一歩先へ――AnthropicがMETRへ社員相当の内部アクセスを付与

0
Posted at

サムネイル：独立評価者がAI研究所の内部証拠へ安全にアクセスする様子

AIの安全性について、開発企業が「きちんと確認しました」と発表するだけでは、外部から確かめられる範囲に限界があります。

2026年10月15日、Anthropicは外部評価団体METRの6人へ、社内のリスク評価チームとおおむね同等の内部ツール・システムへのアクセスを付与したと発表しました。会社支給の機器と執務スペースも用意されます。

重要なのは、評価結果が出たことではありません。外部評価者が、公開情報だけでは見えない内部の証拠を調べられる運用へ移ったことです。

何が変わったのか

Anthropicは以前から、外部評価者を社内へ入れ、内部プロセス・システム・データへアクセスさせる方針を示していました。今回の変更は、その構想が「6人への機器・スペース・内部ツールの提供」という具体的な運用になった点です。

図1：構想から内部アクセス、調査、公開報告へ進む流れ

Anthropicが10月15日に公表した条件は次のとおりです。

  • METRの6人がAnthropicの会社支給機器を使用
  • 社内の執務スペースを提供
  • Anthropic内部のリスク評価チームと、おおむね同等のツール・システムへアクセス
  • リスク、事故、安全対策について、Anthropicの事前承認なしに独立評価を公開可能
  • 顧客データ、法的秘匿情報、一部のモデル構造などは限定的な編集・削除の対象

この条件が機能すれば、モデル単体のベンチマークだけでなく、開発現場の監視、事故対応、リスク管理まで調べられる余地が広がります。

「内部へ入れる」だけで独立評価になるのか

ここは慎重に分ける必要があります。

独立性には少なくとも、アクセス、公開権、編集・削除の扱い、資金や利害関係という複数の層があります。METR自身も10月14日の方針文書で、調査範囲・期間、アクセス制限、編集・削除、公式・非公式の圧力を公開すべきだと説明しています。

図2：独立評価を支えるアクセス・公開・編集・利害関係の4層

METRは、最先端AI企業からリスク評価業務の報酬を受け取らないとしています。一方で、無償のモデルアクセスや企業側の協力なしには調査できず、現在の自主的な枠組みでは企業が調査範囲やアクセスを左右し得るとも認めています。

つまり今回の仕組みは、完全な規制監査と同じではありません。外部評価者がどこまで見られ、何を公表でき、何が伏せられたのかを一緒に示すことが、評価結果の信頼性を判断する鍵になります。

現時点で確認できたこと、まだ確認できないこと

図3：確認済みの運用条件と、未確認の評価結果

確認できたのは、内部アクセスと公開条件の整備です。まだ確認できていないのは、Anthropicの安全対策が実際に十分か、METRが重大な問題を発見したか、指摘後に改善が完了したかという結果です。

METRは、AIの制御不能リスクについて科学が成熟しておらず、安全を保証できる標準もないため、今回のような調査を「安全の保証」にはしないと説明しています。目的は、社員、取締役会、外部研究者、政策担当者が自分で判断できる証拠を増やすことです。

MORI／Human OSとの接続

MORIが重視してきたのは、AIの自己申告をEvidenceにせず、外部状態・記録・第三者検証から判断を更新できる仕組みです。

今回の発表は、その考え方を組織レベルで具体化しています。

  1. 内部証拠へアクセスできる人を定める
  2. 調査対象と権限を記録する
  3. 企業側の編集・削除を可視化する
  4. 外部評価者が独立して報告する
  5. 報告を受け、組織が改善したかを追う

特に面白いのは、Evidenceそのものだけでなく、Evidenceがどの条件で取得され、何が見えなかったのかまで評価対象にしている点です。AIエージェントの権限・検証・継続性を設計するHuman OSにとって、そのまま再利用できる視点です。

まとめ

AnthropicとMETRの取り組みは、AI安全性の「自己採点」から、外部評価者が内部証拠へ触れる仕組みへの前進です。

ただし、これは監査完了や安全認定の発表ではありません。6人へのアクセス、独立した公開権、限定的な編集・削除条件が整った段階です。今後の評価では、発見内容だけでなく、調査範囲、アクセス制限、編集・削除、改善措置まで確認する必要があります。

AIが長時間働き、別のAIへ仕事を委任し、自ら次世代AIの開発を助ける時代ほど、「誰が中を見られるか」「何を証拠として外へ出せるか」が大きな意味を持ちます。

出典

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
Sign upLogin
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?