本記事は筆者が運営する AI Quotidia の海外ニュース解説記事です。
Anthropic の CEO、Dario Amodei (ダリオ・アモデイ) 氏が9月12日(土)、個人サイトにエッセイ「We Must Pace the Frontier」を公開し、AI モデルの能力を向上させるペースを落とすべきだと提言しました。
要点
- AIモデルの能力向上のペースを落とすべきと提言し、訓練や技術進歩の停止ではないと明記
- 計画は3段階。第1段階はMETRなど外部組織の常駐評価者に社員並みのアクセス (社内デスク・入館バッジ・会社支給PC) と所見の公表権を与える。開始は「近い将来」でAnthropicが単独で実施
- 同日、OpenAI CEO Sam Altman氏がXで賛同し「社員並みアクセスの独立評価者をOpenAIも置く」と表明。Elon Musk氏は「Dario is right」と投稿。協定・共同声明は存在せず、各人のX投稿のみ
完全版では「日本の読者にとっての意味」の解説と FAQ、Quotidia の視点 (全文) を掲載しています。続きを読む。
一次ソース
Quotidia の視点 (抜粋): 速度を落とす、と言った Amodei 氏の会社 Anthropic が、月の初めに新しいモデルを出したばかりだ。