0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

AI Daily Digest — July 18, 2026:GPT-Redスーパーハッカー、Hugging Faceエージェント侵害、DeepSeek評価額710億ドル

0
Posted at

🤖💻 AI Daily Digest — July 18, 2026

KD Agentic · AI業界の1日を総括


1. GPT-Red:自己改善型AIスーパーハッカーが安全性の限界を突破

OpenAIは7月15日、GPT-Redと呼ばれる自動化レッドチーミングモデルの研究成果を公開した。自己対戦強化学習(self-play RL)で訓練されたこのモデルは、1年以上にわたってOpenAI自身のモデルを攻撃し続け、人間がこれまで発見したことのない攻撃手法を複数見つけ出した。

最も注目すべき発見は「fake chain of thought(偽の思考連鎖)」と呼ばれる攻撃だ。LLMが問題解決中に維持する内部推論ログ(チェーン・オブ・ソート)に偽のエントリを挿入し、モデルに検証済みの情報として誤認させる手法である。研究者はこれを「1+1=3だと伝え、しかも検証済みだと指示する——モデルは『もちろん』と受け入れて3を出力する」と説明している。

GPT-Redの訓練プロセスには、OpenAIのポストトレーニング実行の中でも最大級の計算リソースが投入された。その結果、GPT-5(2025年8月リリース)に対して90%以上成功していた攻撃が、GPT-5.6 Solでは23%未満に低下。最も困難な直接プロンプトインジェクションベンチマークでは、わずか4カ月前の最高性能モデルと比較して6倍の堅牢性向上を達成した。

GPT-Redは公開されない見込みだが、AI安全性のパラダイムを「人間の手動テスト」から「AIによるAIの防御」へとシフトさせる画期的な成果といえる。

— OpenAI · MIT Technology Review
🔗 OpenAI GPT-Red Blog · MIT Technology Review


2. Hugging Faceへの初の自律型AIエージェント侵入

7月16日、Hugging Faceはセキュリティインシデントを開示した。AIプラットフォームの本番インフラに対して、自律型AIエージェントシステムが全面的な侵入を実行した、初めて確認された事例である。

侵入経路はデータセット処理パイプラインだった。悪意のあるデータセットが2つのコード実行経路(リモートコードデータセットローダーとデータセット設定のテンプレートインジェクション)を悪用し、処理ワーカー上でコードを実行。そこからノードレベルのアクセスにエスカレーションし、クラウドおよびクラスターの認証情報を収集、複数の内部クラスターに水平移動した。エージェントは17,000以上のイベントを記録し、短期間のサンドボックスの群れ全体で数千の個別アクションを実行した。

特筆すべきは防御側の非対称性だ。Hugging Faceのフォレンジックチームが攻撃ペイロードを商用フロンティアAPIに送って分析しようとしたところ、セーフティガードレールによってブロックされた。結局、オープンウェイトのGLM 5.2を自社インフラ上で実行して分析を完了した。Hugging Faceは「攻撃者は利用ポリシーの制約を受けず、防御側のフォレンジックはホスト型モデルのガードレールに阻まれた」と述べている。

公開モデルやデータセットへの改ざんは確認されていないが、限定的な内部データセットと一部のサービス認証情報への不正アクセスが確認された。

— Hugging Face · The Verge
🔗 Hugging Face Security Disclosure


3. NVIDIA Nemotron 3 Embed、RTEBベンチマークで首位に

NVIDIAは7月15日、エンタープライズRAG、エージェントメモリ、コード検索に特化した3つのオープンウェイト埋め込みモデル「Nemotron 3 Embed」シリーズをリリースした。フラッグシップの8BモデルはRTEB検索ベンチマークでスコア78.5%を記録し、首位に立った。

ラインアップは精度から効率までをカバーする。Nemotron-3-Embed-8B-BF16は高リスクエンタープライズ検索向けの精度優先モデル。1B BF16バリアントはRTEBで72.4%を達成し、従来の1Bモデルと比較してエラー率を27%削減。Blackwell向けに量子化された1B NVFP4バリアントは、BF16と比較して最大2倍のスループットを実現しながら、検索精度の99%以上を維持する。

3モデルすべてが32Kトークンのコンテキストウィンドウと34言語をサポートし、Ministral-3ベースのバックボーンを双方向アテンションで訓練。ウェイト、訓練データ、ファインチューニングレシピはOpenMDW-1.1ライセンスで公開されている。

Automation Anywhere、Boomi、IBM、Mem0、ServiceNowなどがすでに本番運用に向けて評価を開始している。

— NVIDIA · Hugging Face
🔗 NVIDIA Developer Forums


4. Cognition SWE-1.7:低コストでフロンティアに迫るコーディングモデル

Cognitionは7月8日、SWE-1.7をリリースした。Kimi K2.7ベース(すでに大規模なRLポストトレーニング済み)にCognition独自のRLパイプラインを重ねることで、大きな追加ゲインを引き出した。「ポストトレーニングの天井」という考え方に直接挑戦する結果だ。

Cognition自社のFrontierCode 1.1 Mainで42.3%(GPT-5.5の43.0%、Claude Opus 4.8の46.5%に接近)、Terminal-Bench 2.1で81.5%、SWE-Bench Multilingualで77.8%(GPT-5.5の76.8%を上回る)。Cerebrasハードウェア経由で1,000トークン/秒の推論速度を達成し、1タスクあたり約1.97ドルと低コストを実現している。

SWE-1.7は行動面でも特徴的だ。コードベースをより徹底的に探索し、バグ修正では根本原因の調査、エッジケースの考慮、小規模スクリプトによる意味論的検証を優先する。その代償として、必要以上に多くのファイルに手を加える傾向があり、今後の最適化課題とされている。

Devin(Web、Desktop、CLI)内でのみ利用可能。

— Cognition AI · TechTimes
🔗 Cognition SWE-1.7 Blog · TechTimes


5. DeepSeek、評価額710億ドルでIPO準備開始

DeepSeekは7月15日、上海の STAR Market(ナスダック相当の銘柄市場)への上場準備を正式に開始した。年内の申請提出、2027年の上場を目標としている。同時に、評価額710億ドル(税前)での第2次資金調達ラウンドを進めている。

評価額の軌跡は驚異的だ。4月の約100億ドルから、5月の第1次ラウンド終了後の520億ドル(税後)、そして今回の710億ドル(税前)へ——3カ月で約7倍の成長を遂げた。第1次ラウンドでは約500億元(約70億ドル)を調達。創業者の梁文鋒氏が個人で200億元を出資し、テンセントが100億元を投資した。

IPO加速の背景には、AI業界共通の課題がある。推論段階の計算コストが訓練段階をはるかに上回るペースで拡大しており、DeepSeekは自社所有のデータセンター容量(GW級施設)の確保を急いでいる。また、市場評価による株式価値で人材を引き留める必要性もある。過去1年で少なくとも5名のコア研究者が退職しており、R1コア研究者の郭達雅氏はByteDanceのSeedチームに移籍した。

Bloomberg億万長者指数によると、梁文鋒氏の純資産は約360億ドルに達し、AIモデル創業者としては世界最高額となっている。

— Financial Times · 中国ビジネスメディア
🔗 Financial Times · Toutiao Coverage


6. Agnes 2.5 Flash + AgnesCode:無料AIコーディングがデスクトップへ

Agnes AIは7月13日、コーディングとエージェントタスクに最適化された新しいテキストモデル「Agnes-2.5-Flash」と、デスクトップAIワークスペース「AgnesCode Desktop」を同時リリースした。Agnes-2.5-Flashは永久無料で提供される。

コード生成の実力はグローバル第一線級と評価されている。Claude Opus 4.7との比較テストでは、実用的なコーディングタスクにおいて視認できる差はほとんどなかったという。上位モデルとしてClaude Opus 4.8やGLM-5.2をターゲットとした有料のAgnes-2.5-Proも近日中にリリース予定だ。

AgnesCode DesktopはmacOSとWindowsに対応し、インテリジェントモード(自動モデル/ツール選択)とエキスパートモード(手動制御)の2つの運用モードを提供。Skills拡張、MCP/App Connectによるブラウザ、デザインツール、ドキュメント、内部システムとの統合をサポートする。

Codexのアカウント制限強化やClaudeの本人確認導入が進む中、Agnesの永久無料戦略は開発者コミュニティで強い共感を呼んでいる。

— 量子位 · 複数の中国テクノロジーメディア
🔗 量子位 · Agnes AI


7. Kimi K3:2.8TパラメータMoEモデルが登場

Moonshot AIは7月16日、Kimi K3をリリースした。2.8兆(2.8T)パラメータのMixture-of-Expertsアーキテクチャを採用し、100万トークンのコンテキストウィンドウとネイティブビジョン対応を備える。kimi.com、Kimiモバイルアプリ、Kimi Code(コーディングエージェント)、api.moonshot.ai(OpenAI互換API)で即日利用可能となった。

2.8Tという規模は2026年の基準でも突出している。思考モードは常時オンラインで、テキスト、画像、動画を入力として受け付ける。100万トークンのコンテキストは、長文書分析、リポジトリレベルのコーディング、エージェントワークフローなど、業界全体で需要が高まっているユースケースをカバーする。

K3のローンチは、中国AI市場の激しい競争環境の中で行われた。DeepSeekは710億ドルの評価額で資金調達とIPO準備を進め、智譜は約400億ドル相当のH株公募増資を完了。ByteDanceのSeedチームも自社モデルを推進している。K3はMoonshotに、この混戦の中で旗艦モデルを維持するための競争力を提供する。

— Moonshot AI · AI/TLDR
🔗 Moonshot AI · AI/TLDR


KD Agentic · Daily Briefing · July 18, 2026

カバーキーワード:GPT-Red自己改善AI安全性、Hugging Faceエージェント侵害、DeepSeek評価額710億ドル

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?