0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

NTTのAI脆弱性解析が48%→63%に改善:ソースコードを外部に出さない「ソブリンAI」とは

0
Posted at

個人開発しているもの

日々の開発で得た知識を発信しながら、「あったら便利」「作ってみたい」と思ったアイデアを形にしています。

これまでに、グループ旅行アプリ Trip Supporter、スコア管理サービス PointPia、リアルタイム共有サービス JustNow などを開発しました。

さらに、刺繍やオリジナルキャラクターを中心としたアパレルブランド MAD TOMMY WITH... も運営しています。

開発したサービスや技術記事は chicchi.work で紹介しています。

2026年11月16日、何が発表されたのか

NTTは2026年11月16日、検査対象のソースコードを外部AIサービスに送信せず、脆弱性(悪用されるおそれのあるソフトウェアの欠陥)を解析するAI技術を開発したと発表しました。

公式発表では、従来の解析ワークフローの成功率48%に対し、改良後は63%。15パーセントポイント改善したと報告されています。「15%向上」ではなく、48%から63%への差である点に注意が必要です。

出典:NTTニュースリリース(2026年11月16日)
https://group.ntt/jp/newsrelease/2026/11/16/261116a.html

今回のテーマは「大きなAIモデルを使えば安全になる」という話ではありません。コードを外部へ出せない環境で、AIの調べ方を改善することで実用的な発見能力を高めた点が重要です。

そもそもソブリンAIとは

**ソブリン(sovereign)**は、自分たちが選択や管理の主導権を持つという意味です。ここでは、AIモデルや解析環境を組織が選び、管理できることを指します。

企業のコードには、公開前の製品仕様や機密の業務ロジックが含まれることがあります。外部のAIサービスを利用する場合、入力データの扱い、契約条件、送信先、保存・学習への利用条件などを確認する必要があります。

NTTが目指すのは、こうしたコードを外部AIサービスへ送らずに解析できる構成です。ただし、「外部送信しない」だけで情報漏えいが起きなくなるわけではありません。ローカルでの権限制御、モデル・ツールの供給元、ログへの機密出力などは別途管理が必要です。

なぜAIモデルだけではなく「調査手順」を改善したのか

一般的なAIによる脆弱性解析では、次のような作業を繰り返します。

  1. ソースコードを読み、危険そうな箇所を推定する
  2. 入力値や実行経路から、問題が起こる条件を考える
  3. 検査ツールや実験で仮説を検証する
  4. 結果に応じて仮説や検査方法を修正する

一連の作業を行う仕組みをAIエージェント、作業の順番やツールの使い方をワークフローと呼びます。

NTTは複数のオープンウェイトモデル(モデルの重みが公開され、利用条件に従って自分たちの環境で動かせるモデル)に、脆弱性研究の知見を取り入れた解析手順とワークフロー制御を組み合わせました。脆弱性が発生しやすい箇所への着眼点を与えることで、モデルの能力を引き出す設計です。

これは、アプリケーション開発でLLMを利用するときにも共通する考え方です。モデルの入れ替えだけでなく、与える情報・使うツール・検証工程の設計が結果を左右します。

成功率63%は、何を検証した数字なのか

NTTが利用したのは、AIエージェントの脆弱性解析能力を測るCyberGymというベンチマーク(共通の評価課題)です。

公式発表によれば、約1,500件の課題のうち、メモリ破壊に関する150件を選んで比較しています。

比較対象 解析成功率
従来の解析ワークフロー 48%
改良した解析ワークフロー 63%
差 +15ポイント

この数字を「すべての脆弱性の63%を発見できる」と読み替えてはいけません。評価対象は選定された150件であり、一般の企業システム全体に同じ割合で当てはまるとは限りません。

また、NTTは規模の異なるモデルを使った評価から、中規模モデルの組合せによって性能を改善できる可能性にも言及しています。ただし、モデルごとの詳細な運用コストや、あらゆる種類の脆弱性に対する性能が証明されたという発表ではありません。

開発現場では、どう活用できそうか

今回の研究成果は、すぐに誰でも導入できる製品の一般提供を知らせる発表ではありません。NTTは今後、脆弱性の発見だけでなく、組織固有のリスク判断や対処まで支援する技術へ発展させる方針を示しています。

一方、研究の考え方は現在の開発現場でも参考になります。

  • 外部送信の境界を明確にする:解析対象のソースコード、設定ファイル、秘密情報の扱いを決め、外部AIツールの送信仕様を確認する。
  • AIの指摘は必ず検証する:AIが示した脆弱性候補は、再現手順、静的解析、テストなどで確認し、誤検知を除外する。静的解析は、プログラムを実行せずコードを調べる手法。
  • 重大度と実際の影響を分ける:発見された欠陥を、外部公開状況、到達可能性、保存データなどと照合して対応の優先順位を決める。
  • 自動修正に承認工程を置く:AIが生成したパッチ(修正差分)も、レビュー・CI(自動テストと検証)・段階的な適用を通す。

例えば、セキュリティ調査用AIにリポジトリを読ませる場合も、最初から本番環境の書き込み権限を与える必要はありません。コードの読み取り、隔離環境での再現、修正提案、レビューという順序にすれば、調査の自動化と変更の安全性を分離できます。

今後の注目点

NTTは、この成果を「NTT R&D FORUM 2026」に展示する予定です。さらに、外部で公表される脆弱性情報と組織のシステム構成を照合し、対応の優先順位や対処まで支援する研究を進めるとしています。

今後確認したいのは、メモリ破壊以外の欠陥への適用、誤検知・見逃し、処理時間、実運用の必要リソース、導入・公開条件です。これらは2026年11月16日時点の公式発表だけでは断定できません。

AIによる脆弱性調査の進化は、モデル性能だけではなく「機密を守る実行環境」と「調査・検証のワークフロー」をどう設計するかという競争にもなってきています。

一次情報

情報確認日:2026年11月16日(日本時間)。この記事の評価数値・開発状況は上記NTT公式発表に基づき、解釈・実務上の提案は区別して記載しました。

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?