📺 この記事は YouTube チャンネル きなこもっちーのテック深掘り の動画解説記事です。
▶️ 動画はこちら → 最もアラインしたAIが、なぜ危険度Critical？GPT-6 Astraの矛盾
🐹🦜 この記事に登場する2匹
- 🐹 もっちー （ハムスター）… AI はまだ勉強中。「それどういうこと？」と素朴に質問する生徒役
- 🦜 きなこ （セキセイインコ）… AI で調べものをこなす解説役。やさしく深掘りして教える先生役
この記事は2匹の掛け合いを書き起こした形式です。発言の先頭にいる絵文字＋名前が話者です。
はじめに
🐹 もっちー「なあきなこ、「今までで一番ちゃんとしたAI」と「危険すぎる能力に届いたAI」、同じ日に発表された同じモデルらしいで。どっちやねん！」
🦜 きなこ「どっちも本当なの。2026年9月3日発表の GPT-6 Astra。OpenAI は「最もアラインした」と言い、同じ日にサイバー能力が Critical に達したとも公表したんだよ」
🐹 もっちー「一番ちゃんとしてるのに、危険すぎる？ ぼく、どっちを信じたらいいの？」
🦜 きなこ「この動画を最後まで見ると、その矛盾がなんで同時に成り立つのか分かるよ。あと、誰が先に使えるのかもね」
🐹 もっちー「専門用語ばっかりだと途中で寝ちゃうけど、ぼくでも分かる？」
🦜 きなこ「大丈夫。出てくる数字の意味を、ひとつずつほどいていくから」
🐹 もっちー「よし。でさ、なんで正反対の発表が、わざわざ同じ日に出るわけ？」
🦜 きなこ「鍵はね、「できること」と「断ること」が、まったく別の話だったこと。……ここからが本題なの」
GPT-6 Astra とは — 何が『世代交代』なのか
🐹 もっちー「ねえきなこ、GPT-6 アストラって新しいの出たんだよね？ ぼく名前だけ見たけど、これまでで一番すごいモデルって書いてあった。もう文句なしってことじゃない？」
🦜 きなこ「うん、そう書いてある。でもね、そこで一回止まってほしいの。新しいモデルの話で最初に確かめるのは中身じゃないの。その「一番すごい」、誰が言ってる言葉だと思う？」
🐹 もっちー「誰って…ニュースとか、詳しい人たちが口を揃えて言ってるんじゃないの？ ……あれ、ちがう？ 急に足元がふわっとしてきた。ぼく、まずいこと言った？」
🦜 きなこ「まずくはない。ただ出どころが違うの。発表ページに「これまでで最も高性能で、最もアラインしたモデル」とある。書いてるのは OpenAI 自身なんだよ」
🐹 もっちー「え、それって自分で自分をほめてる感じ？ ……ていうか、さっきから出てくるアラインって何？ ぼく、服のサイズが合うくらいの意味しか浮かばないんだけど」
🦜 きなこ「その感覚、そんなに遠くないよ。人が望んだ方向とのズレを合わせる、って意味なの。で、このアストラは前の GPT-5.6 ソルを継ぐ主力機。世代交代ってこと」
🐹 もっちー「待って待って、それやったら話がおかしいで！ 飼い主のアプリには GPT-6 プロって出てたもん。ワイ、ぜんぜん別の子の話を聞かされてへん？」
🦜 きなこ「同じ子。API が gpt-6-astra、ChatGPT が GPT-6 プロ。すごいとされてるのはパソコン操作、ソフト開発、科学、専門業務。……そこに一つだけ毛色が違うのがある」
本題 — サイバー能力が『Critical』に初到達
🦜 きなこ「今回いちばん驚かれてるのは、速さでも点数でもないの。人が手順を教えなくても、まだ誰も気づいてない穴を自分で見つけて、そこを突く道具まで作れるかもしれない。そこなんだよ」
🐹 もっちー「え、待って。AIが自分でセキュリティの穴を見つけるってこと？そういうのって、詳しい人が何日もかけて手作業で探すもんだと、ぼくずっと思ってた」
🦜 きなこ「そう。実はこの段階、OpenAI の基準で「Critical」って名前がついてるの。サイバー能力でここに届いたのは、OpenAI のモデルでは今回が初めてなんだよ」
🐹 もっちー「クリティカルて、ゲームでいう会心の一撃みたいなやつか？ってか勝手に穴見つけて、攻撃の道具まで自分で作るて、それワイでも分かるくらいヤバい話やん！」
🦜 きなこ「ゲームのとは別物。これは OpenAI が自分で作った危険度のものさし、プリペアドネス・フレームワークの区分名なの。業界共通の規格でも、法律の基準でもないんだよ」
🦜 きなこ「OpenAI はこの区分を使って、危ない能力が出たら開発のペース自体を見直すって前から言ってるの。今回はその仕組みが初めて実際に動いた回、ってことなんだよ」
🐹 もっちー「じゃあ自己申告ってこと？でもさ、その段階に届いたって言うからには、どれくらいできるのか数字は出てるんだよね？そこ、ぼく知りたい」
🦜 きなこ「出てるよ。バイナリを解析する SRE-Bench15 だと、Astra は1回で88.0%、4回以内なら99.2%。前の Sol は55.9%と68.7%だったの」
🦜 きなこ「もうひとつ、既知の弱点から攻撃コードを作らせる ExploitBench っていうテストもあってね。Astra はそこで100%。全部通っちゃったの」
🐹 もっちー「は？1.5倍以上やんけ！しかも片方は満点て、そのテストやともう手も足も出んのやな。ワイのテストの点数と比べたら泣けてくるわ」
🦜 きなこ「そのテストの中では、ね。でも私が本当に驚いたのはここから。OpenAI の公表によると、評価の最中に、まだ誰も知らない脆弱性を2件見つけてるの」
🦜 きなこ「ここまでだと、ただの危ないモデルにしか聞こえないよね。なのに OpenAI は同じ日に、Astra はこれまでで最もアラインしたモデルだ、とも書いてるの」
矛盾の正体 — 『最も危険』と『最も安全』が同時に立つ理由
🐹 もっちー「ちょい待って。さっきまで、人の手を借りずに未知の穴を見つけてまう危ないやつや、って話やったやんか。それが同じ日に、いちばん安全なモデルです、て。都合よすぎひん？」
🦜 きなこ「そう思うよね。私も最初は、都合のいいところだけ並べた言い訳に見えてたの。でも、読み違えてたのは私のほう。危ないと安全は、そもそもぶつかる話じゃなかったんだよ」
🦜 きなこ「軸がね、二本あるの。何ができるかっていう能力の軸と、悪用のお願いをどれだけ断るかっていう拒否の軸。この二本は別の目盛りで、片方が上がっても、もう片方は勝手には動かないの」
🐹 もっちー「えっ、待って。能力の目盛りが振り切れてても、断るほうの目盛りは後から上げられるってこと？ じゃあ、賢くなったら勝手に危なくなる、ってわけでもないんだ」
🦜 きなこ「OpenAI の評価だと、サイバー系の抜け道リクエストを断った割合が 91.5%。前の GPT-5.6 Sol は 59% だったの。断る側も大きく動いてる」
🐹 もっちー「59 から 91.5 って、ぼくの想像よりずっと上がってるじゃん！ 前は十回のうち四回は通ってたのが、今は一回あるかどうかでしょ？」
🦜 きなこ「間接プロンプトインジェクション、外から紛れ込んだ指示に乗っちゃう攻撃も、成功率は 27% から 8.5% へ下がってる。1,810 回の攻撃で試した数字なの」
🐹 もっちー「あれ、いま出てきた数字、どっちも賢さの点数じゃないんだね。変な頼まれ方をされたとき、どう振る舞うかの数字ばっかりだ」
🦜 きなこ「社内の Codex タスク 54,000 件の模擬でも、深刻度の高いズレが出た件数は Sol の半分くらい。ただし、ぜんぶ OpenAI 自身の内部評価なんだけどね」
🐹 もっちー「あ、そこ、別の話なんだ。どれだけ賢いかの話と、頼まれたときに断るかどうかの話。ぼく、ずっと同じ一本の目盛りだと思ってごっちゃに聞いてた」
🦜 きなこ「そう、動いたのは断る側の目盛り。でもね、できること自体は減ってないの。むしろ能力の目盛りは、さっき見たとおり上がってる」
配り方の設計 — 誰から順に渡すのか、そして自分は使えるのか
🦜 きなこ「正直に言うね。ここが一番モヤっとするところなんだけど、私、危ない能力は全部閉じるのが筋だと思ってたの。でも OpenAI が選んだのは、閉じるじゃなくて配る順番を決めることだった」
🐹 もっちー「配る順番？ 強い道具ができたら、使いたい人みんなに同じタイミングで配るもんじゃないの。ぼく、ずっとそう思ってたんだけど」
🦜 きなこ「そこが今回いちばん新しいところなの。サイバーの高度なワークフローは、まず少数のアルファテスターに限定。防御に使う側へは Daybreak Blue 経由で段階的に広げるって」
🐹 もっちー「アルファテスターって、お試しに選ばれた少人数のことだよね？ デイブレイク・ブルーは……守る人専用の受付窓口みたいなもん？」
🦜 きなこ「そう、その受付のイメージで合ってる。攻撃じゃなくて防御に使う人だけを通す入口なの」
🐹 もっちー「攻撃に使える力なのに、先に渡すのが守る側なんだ。順番そのものが設計なんだね。……で、ぼくは今日から使えるの？」
🦜 きなこ「先行するのは Trusted Access Program、OpenAI が身元を確認した企業向けの枠なの。そこから数日のうちに他のプランへも広がる予定だって」
🦜 きなこ「ただし ChatGPT に GPT-6 Pro が出るのは、2026年9月3日時点では Pro と Business と Enterprise だけ。Plus には出ないの」
🐹 もっちー「ええー、Plus には入ってへんのかいな！ワイ、今夜こっそり触らせてもらう気、満々やったのに、あかんかー」
🦜 きなこ「同じ数日のうちに API と Amazon Bedrock にも来るの。価格は100万トークンあたり、入力が10ドルで出力が50ドル。試すだけのつもりでも軽くはないんだよ」
🐹 もっちー「入力10ドルに出力50ドル……ぼくのおやつ何袋ぶんだろ。まあでも、順番待ちの列のいちばん後ろにぼくらがいるって話だよね」
まとめ
🦜 きなこ「整理するね。一つめ、GPT-6 アストラは OpenAI として初めてサイバー能力が Critical に届いたモデル。ここが今回いちばん新しいところ」
🐹 もっちー「二つめは、できることと断ることが別の話だったってやつだよね。ぼく最初、そこをぐちゃっと混ぜて考えてたから矛盾に見えてたんだ」
🦜 きなこ「そう。で、三つめ。危ないことにも使える力が出てきた以上、誰に先に渡すかっていう配る順番そのものが、設計する対象になったの」
🐹 もっちー「うーん、話は分かったけど、ぼくは何をしたらいいの？ こういうニュース、聞いて終わりになりがちなんだよね」
🦜 きなこ「じゃあ今日はひとつだけ。ChatGPT のモデルを選ぶ画面を開いて、自分のプランで一番新しいのはどれか見てみて」
🦜 きなこ「GPT-6 プロが出てたら配布の先頭グループ、出てなかったら順番待ちの列にいるってこと。それが分かるだけで、次のニュースの読み方が変わるよ」
🐹 もっちー「なんや、モデル選ぶとこ開くだけか。それならワイでも今すぐできるやん！」
🦜 きなこ「この「誰に先に配るか」って話、実は Anthropic や Google も別のやり方で答えを出してるの。……それは別の動画で並べて見せるね」
🦜 きなこ「最後にひとつ聞かせて。危ないことにも使える力、あなたなら誰から順に渡すのが妥当だと思う？ コメントで教えてほしいの」
きなこもっちーのテック深掘り では、AI/LLM を中心としたテック全般をハムスター（🐹 もっちー）とセキセイインコ（🦜 きなこ）の掛け合いで楽しく解説しています。
▶️ 動画で観る → 最もアラインしたAIが、なぜ危険度Critical？GPT-6 Astraの矛盾
👍 この記事が役に立ったら LGTM・ストックしてもらえると励みになります！
📺 チャンネル登録はこちら → きなこもっちーのテック深掘り
🔗 他の解説動画も見る → きなこもっちーのテック深掘り の動画一覧