定額の裏側(5) 危険性という名の堀 — ナラティブの経済学と観測プロトコル
連載「定額の裏側」第5回。ここまで価格表を読んできたが、フロンティアラボの価格戦略には、価格表に載らないもう一つの層がある。「このモデルは危険である」「一部の承認された組織にしか公開しない」「開発を加速すべきではない」——安全性のナラティブだ。本稿はこれを、冷笑でも擁護でもなく、構造として分解する。
先に立場を明示しておく。本稿の分析対象には、私自身が日常的に使い、本稿の執筆支援にも使っているベンダーが含まれる。利害関係者ではないが、利用者としてのバイアスは差し引いて読んでほしい。
連載「定額の裏側 — APIとサブスクの価格差から読むフロンティアモデルの経済構造」
-
第5回 危険性という名の堀 — ナラティブの経済学と観測プロトコル
-
[第6回 漏出を前提に設計する — 価値と組織の結合問題]
観測上の同値性 — この議論はなぜ水掛け論になるのか
「安全性の主張は本心か、マーケティングか」という論争は、SNS 上で延々と続いている。だがこの論争には構造的な欠陥がある。どちらが本心でも、外から見える行動がほぼ同一になるのだ。
仮にラボが心底危険性を懸念しているとしよう。合理的な行動は:能力の限定公開、アクセスの階層化、規制への支持、安全性研究への投資。
仮に冷徹な事業戦略だとしよう。合理的な行動は:希少性の演出としての限定公開、プレミアム価格を正当化する階層化、参入障壁としての規制支持(コンプライアンス要件は体力のある既存企業に有利)、人材獲得の磁力としての「最も強力なものを作っている」という物語。
**行動リストが一致してしまう。**ゲーム理論の言葉で言えば一括均衡(pooling equilibrium)——タイプの異なるプレイヤーが同じ行動を取るため、行動からタイプを推定できない状態にある。「本心を詮索する記事」が必ず水掛け論に終わるのは、論者の不誠実のせいではなく、この均衡の構造のせいだ。
これは新しい現象でもない。2019年、OpenAI は GPT-2 のフルモデルを当初公開せず小型版のみを出し、同年11月に最終的に最大版を公開した。この段階的公開は当時から、責任ある公開なのか、それとも「危険性」を用いた宣伝なのか、という受け止めの分裂を生んだ。つまりこのパターンは7年続いており、最上位モデルの承認組織限定公開はその最新形として位置づけられる。
ナラティブの経済的副産物 — 意図と無関係に発生するもの
意図が判定できないなら、判定できるものを見ればいい。危険性ナラティブが経済的に何を生むかは、意図と無関係に観測できる。
1. 希少性レント。 「誰でも買えるものではない」という事実そのものが価格を支える。限定公開は供給制限であり、供給制限は教科書通りに価格を上げる。
2. 規制という参入障壁。 安全性規制が法制化されれば、コンプライアンスコストを払える大手に有利に働く。規制支持は、結果として新規参入者への堀になる。
3. 人材と資本の磁力。 「危険なほど強力なもの」を作っている組織という物語は、研究者にとっての意味と投資家にとっての期待を同時に供給する。
4. 蒸留防壁。 これは技術者として最も注目すべき副産物だ。蒸留——モデルの出力から能力を抽出して別モデルに移す技術——に対する有効な防御の一つは、出力へのアクセス面積を絞ることである。承認組織限定の公開は、対人類の安全装置であると同時に、構造的にはきわめて強力な対蒸留防壁としても機能する。稼働中の設備から価値を抜かれる面積を、安全性の名の下に最小化できる。もっとも、漏出経路は API 出力だけでなく提携先・ログ・人材など複数あるため、これは「完璧な遮断」ではなく「面積の最小化」である。
繰り返すが、これらは意図がどちらでも副産物として自動的に発生する。だからこそ「整合性が高すぎること自体」が、観測者を判定不能の中に置く。
公平性のために — 純マーケティング説で説明しにくい事実
一括均衡の議論を本気でやるなら、冷笑側に都合の悪い事実も並べる必要がある。短期利益と逆行する行動は実在する:収益機会を放棄する自主的な能力制限、競合もそのまま使える安全性研究の公開、自社をも縛る方向の規制への支持表明。
もちろん冷笑側はこれらも「長期ブランド投資」と再解釈できる。そしてこの再解釈可能性こそが問題の核心だ——**どんな反証も吸収できる仮説は、仮説として機能していない。**読者に提示すべきは結論ではなく、自分が反証不能性のループの中に置かれているという事実そのものである。
観測プロトコル — 本音が分離する3つのショック
ただし、判定不能は永遠ではない。一括均衡は均衡の内側でのみ成立する。均衡外のショックが来た瞬間、タイプによって行動が分離する(分離均衡への移行)。経済学者が自然実験を待つように、我々はどんなショックが来たら何を見るべきかを、先に列挙しておける。
ショック1:オープンウェイトが最上位に追いついたとき。 希少性レントが消滅する瞬間だ。戦略なら、差別化価値が消えた限定公開を静かに緩めて収益化に走るはず。真摯なら、レント消滅後も制限を維持するはず(収益を捨ててでも)。同じ「限定公開」の意味が、レント消滅の前後で反転する。
ショック2:資本市場の圧力。 前連載の影6は、ここでは試金石として再登場する。資金繰りが締まったとき、安全性を理由とした収益放棄を続けられるか。資本の選別圧は、嘘を維持するコストを引き上げる装置である。
ショック3:外生的な規制。 全ラボに同一の制限が法律で課されれば、「自主的に制限している」ことの差別化価値はゼロになる。真摯派は歓迎するはずだ(望む状態が無料で実現する)。戦略派は適用除外を求めてロビイングするはずだ。規制への賛否そのものより、条項の細部への態度に本音が出る。
そして、この第3のショックは抽象論ではない。本連載を書いている最中の2026年6月12日(日本時間13日)、まさにそれが起きた。米国政府が国家安全保障を理由とする輸出管理指令を発し、Anthropic は最上位の Fable 5 / Mythos 5 を全ユーザー向けに——自国の外国籍従業員すら含めて——即時アクセス停止した(他モデルは影響なし)。背景には Fable 5 のセーフガードを迂回する手法をめぐる報告があったが、その実体は慎重に扱う必要がある。Anthropic 公式は政府が「ジェイルブレイク手法を把握した」と理解していると説明する一方、Anthropic 自身はそれを真のジェイルブレイクとは認めておらず、報道では Amazon の研究者による実証が政府の対応を誘発したともされる。原因の細部より重要なのは、外生的な力(政府)が介入した瞬間、ラボの「危険だから限定する」という自主ナラティブと、強制された供給停止が、区別可能な別物として分離したことだ。前者はレントを生むが、後者はレントを破壊する——アクセス停止は収益機会の純粋な喪失であり、戦略では説明しきれない。一括均衡を割るショックがどんな形で訪れるか、その生きた標本がリアルタイムで得られたことになる。もっとも、留保も同じだけ重い。これは「危険性ナラティブが本物だった」ことの証明ではなく、「危険性をめぐる主導権がラボの手を離れうる」ことの証明である。本音の分離ではなく、本音を語る権利の所在が動いた、と読むのが正確だろう。(この事件の時系列・法理・地政学的背景の詳細は、別稿「Anthropic『Fable 5 / Mythos 5』全面停止事件が示したもの」にまとめた。)
二つ留保を付ける。第一に、ショック下の行動すら再解釈の余地は残る——可能なのは確定ではなく確度の更新まで。第二に、より本質的な留保として、組織に単一の「本音」が存在するという前提自体が怪しい。ラボは研究者・経営層・投資家の連立政権であり、ショックは隠れた本音を「暴く」のではなく、内部の勢力均衡を組み替えるのかもしれない。観測されるのは固定された本性ではなく、圧力下での連立の再編だ——実際の組織の挙動は、こちらの読みのほうがよく説明できる。
実務への含意 — アクセス階層は調達リスクである
抽象論に見えるかもしれないが、これは調達実務に直結する。私は官公庁入札の現場でシステムを納める側の人間であり、この観点で言うべきことがある。
**「承認組織のみ」「能力階層別アクセス」は、今後増える。**最上位モデルの限定提供はすでに現実であり、規制が進めばこの構造は法的根拠を持って固定化される。前節で見た Fable 5 / Mythos 5 の即時停止は、その固定化が「いつか起こりうる話」ではなく「すでに一夜で起こる話」であることを示した(詳細は別稿)。特定モデル・特定アクセス階層を前提に組まれたシステムは、ベンダーの戦略変更(またはショック1〜3のどれか)が納品物の死を意味する構造を抱え込む。しかも今回の事例が示す通り、その引き金はベンダーの意思ですらなく、外部からの一通の指令でありうる。
調達側・受注側の双方への提言:
- 仕様書に代替可能性条項を入れる。 「同等性能の代替モデルへの切替手順を文書化し、切替時の検証方法を定義すること」。第4回の自社評価セットは、ここでは検収・保守要件の道具になる
- 性能要件は固有名詞ではなく測定で書く。 「○○モデルを使用すること」ではなく「本件評価データセットにおいて精度△△以上」。固有名詞での指定は、ナラティブとアクセス階層の変動リスクをそのまま発注者が背負う書き方だ
- 提供継続性をベンダー評価項目に入れる。 モデルの提供終了・階層変更・地域制限の履歴は、財務諸表と同じ重みで見るべき与信情報である
- エクスポート可能性を確認する。 ファインチューニング資産、評価ログ、運用データが、提供形態の変更時に持ち出せる契約か
ナラティブの真偽は判定できなくても、ナラティブが動く可能性は設計に織り込める。それが技術者にとっての、この問題の正しい持ち方だと思う。
最終回は、ここまでの全てを制度の問題として束ねる。「社会は、価値と組織の結合を約束してやれるのか」——ファイバー敷設業者の亡霊と一緒に考える。