6月9日、米AnthropicはMythosのセーフガード版であるFable5の一般提供を開始した。
そして、3日ごにMythosも巻き込んで政府の裁量で提供停止が言い渡された。
https://qiita.com/Kanade_dev/items/c775be0dd4f86e8b74f8
復活したFable,そしてMythos。
6月30日、米国政府はFable5及びMythosの輸出規制を解除しました。
これを受け、Anthropicは7月1日から2日にかけて段階的に提供を再開しました。
強くなったセーフガード
一連の出来事の鍵となったのはAmazonの研究員が米国政府に対し、Fable5には脱獄しうる脆弱性があると報告したことだった。
Anthropicはこの輸出規制期間中に米国と協議を重ね、Fable5のセーフガードをさらに強くすることで、輸出規制解除に至りました。
この強化されたセーフガードはAmazonの研究員が報告した脱獄方法を99%以上ブロックし、Opus4.8に処理を引き継ぐようになりました。
強すぎたセーフガードと誤検知
この19日間でAnthropicはFable5に何を加えたのか。
それは、前セクションで記述したように、「セーフガード」の強化。
しかし、それは単なる強化だけには留まらなかった。
というのも、少しでもサイバーセキュリティに関する質問であっても、普通のコーディングであっても、高確率でセーフガードが発動し、Opus4.8に処理を引き継ぐようになってしまった。
Fable5という、超効率なコーディング、開発環境を求めてAnthropic Claudeに課金したのに、頻繁にハイクラスモデルである、Opusに引き継がれてしまう。
政府の裁量で製品の運命が決まる時代。
タイトルにもあるように、今回のFable5の輸出規制。
これは、法整備が追いついておらず、政府のさじ加減で製品を公開できるかどうかが決まる。
実際、Anthropicは今回の一件で、今後のフロンティアモデルに相当するモデルは政府との協議で公開できるかどうかが決めることに落ちついた。
法整備が追いつくよりも、技術の進歩の方が早かった。
これは、いいことだが、その反面で法整備が追いつかず、政府の裁量で製品の運命が決まってしまう。