0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

Midnight AI Groove 26-06-30 Claude Sonnet 5、エージェント時代、ローカルLLM、そして中国勢・推論基盤の静かな加速

0
Posted at

DJミオ
こんばんは。「Midnight AI Groove」、ナビゲーターのDJミオです。

DJレン
そして僕はDJレン。今夜は、表向きには「not much happened today」、つまり「今日は大したことなかった」っていう空気の一日を、むしろ丁寧に掘っていきます。

DJミオ
そう。実際にはかなりいろんなことが起きていて、特に中心にあったのが AnthropicのClaude Sonnet 5のローンチ。でもそれだけじゃなくて、周辺には Fable 5をめぐる噂、Linux版Claude Desktop、Managed Agentsの更新、価格と実効コストの議論、中国系モデルと推論基盤の進展、ハードウェア、エージェント評価、ローカルLLMコミュニティの熱量 まで、一見バラバラに見えて実は一本の線でつながっていました。

DJレン
今夜はそれを、単なるニュースの羅列じゃなくて、「いまAI業界が何を価値と見ているのか」という観点で整理していきます。


1. トップストーリー:Claude Sonnet 5のローンチ

DJレン
まず一番大きな話題。Anthropicが Claude Sonnet 5 を発表しました。位置づけとしては、新しい標準の中位フロンティアモデル。しかも、リリースと同時に Claude本体、Claude Code、API、そして各種エコシステムパートナー製品 に一気に展開されています。

DJミオ
Anthropic自身の言い方では、Sonnet 5は “our most agentic Sonnet yet”、つまり「これまでで最もエージェント的なSonnet」。
ここでいう“agentic”は、単に会話が上手いとかじゃなくて、計画を立てる、ブラウザやターミナルを使う、ツールを横断して自律的にタスクを進める という性質を指しています。

DJレン
しかもAnthropicは、そうした自律実行の水準が、少し前までは より大型で高価なモデルが必要だったレベル だとアピールしている。要するに、これまで上位モデルでしかできなかったような作業を、Sonnet帯の価格で提供したいというメッセージですね。

DJミオ
開発者向けアカウントの説明でも軸はかなり明確でした。

  • コーディング性能
  • ツール使用性能
  • 1Mトークンのコンテキストウィンドウ
  • Sonnet価格帯での提供
    そして Claude Code Proでは新しいデフォルトモデル になっている、という点です。

2. 価格:見た目は安い、でも本当に安いのか?

DJレン
価格面では、標準のリスト価格が

  • 入力 $3 / 100万トークン
  • 出力 $15 / 100万トークン
    です。

DJミオ
ただし、期間限定のプロモ価格も出ています。

  • 入力 $2 / 100万トークン
  • 出力 $10 / 100万トークン
    期間表記は投稿によって 8月31日まで あるいは 9月1日まで と少し揺れがあります。

DJレン
この時点だけ見ると、「高性能なのにかなりお得」という印象になりやすいんですけど、今回の議論で面白かったのは、本当に見るべきは“トークン単価”ではなく“タスク完了あたりの実効コスト”だ という話がかなり強く出てきたことです。


3. ローンチ前の空気:Sonnet 5よりFable 5を待っていた人たち

DJミオ
ここで重要なのが、Sonnet 5単体の性能だけじゃなくて、その前にどんな期待が形成されていたか なんです。

DJレン
そう。ローンチ前にはかなり大きな 噂のサイクル がありました。中心にあったのは Sonnet 5 + Fable 5 という組み合わせの観測です。

DJミオ
アプリ内文字列の解析から、Anthropicが “Fable 5”を既存プランとは別の利用クレジット制で出すのではないか、しかも近くに 本人確認(ID verification) を示唆する文言があった、という話が広がっていました。

DJレン
それで一気に、「Fable 5は既存プラン外・本人確認あり・地域制限あり・より厳しく統制された形で提供されるのでは」という見方が強まった。特に 欧州など地域アクセス制限 を心配する声が出ていたわけです。

DJミオ
その結果、ユーザーの一部は “Sonnet 5は広く使えるけど弱い相棒、本命はFable 5” みたいな構図を想定していた。
だから実際の発表で Fable 5に関する本格的なニュースが出なかったこと が、むしろ最大の“非ニュース”として受け取られたんですね。

DJレン
「結局FableじゃなくてSonnet 5だった」「Fable 5がBANされてから18日経った」みたいな反応が象徴的でした。つまり、Sonnet 5の内容そのものへの評価以前に、期待管理に失敗した状態で発表日を迎えた という側面がある。


4. ローンチはモデルだけじゃない:プラットフォーム更新の塊だった

DJミオ
しかも、今回のリリースって単純な「新モデル1本」ではないんですよね。

DJレン
そう。Anthropicは同時に Linux向けのClaude Desktopベータ を出しました。対象は Ubuntu / Debian。有料プランで Claude Code、Claude Cowork、Chat が利用可能。ただし Computer UseはLinux版にはまだ含まれていない です。

DJミオ
さらに Managed Agents のアップデートもかなり充実していました。

  • セッション差分のストリーミング
  • セッションごとのオーバーライド
  • webhookイベント
  • reverse pagination
  • credential injectionのスコープ制御
  • トークン数やツール使用量を見られるobservabilityタブ

DJレン
これ、かなり重要です。つまりSonnet 5の発表は、「モデル性能が上がりました」だけではなくて、エージェントを本番運用するための基盤整備 とセットなんです。
言い換えると、Anthropicは「チャットボットの派手なデモ」ではなくて、プロダクション環境で回るエージェントのデフォルト・ワークホース を売りにきている。


5. 公式の位置づけと、外部の見方

DJミオ
ここからは、Anthropicがどう言っているかと、外部がどう受け止めたかを分けて見ていきましょう。

5-1. 公式・ベンダー側の framing

DJレン
公式の主張は一貫しています。

  • 最もagenticなSonnet
  • コーディングとツール使用でトップクラス
  • 1Mコンテキスト
  • Sonnet価格帯
  • 広範なプラットフォーム展開

DJミオ
それに加えて、安全性面では Sonnet 4.6より全体として安全幻覚やおべっかが減っているサイバー分野の安全策がデフォルトで有効 といった説明も流れています。
ただし同時に、本格的なサイバー用途ではOpusの方がまだ強い という整理もされていました。

DJレン
さらに開発者向けには移行ツールやドキュメントも用意されていて、claude-api skill によって、プロンプト調整、effort levelの推奨、advisor modeの設定などができるという案内もありました。

5-2. 第三者の framing

DJミオ
一方、第三者の見方は少し複雑です。多くの人は “Sonnet 4.6からは確かに良くなっている” と認めています。でも同時に、

  • 本当に“5.0”と呼ぶほどの世代跳躍なのか
  • 実効コストは本当にいいのか
  • Opusや競合モデルと比べてどうか
    という点では意見が割れました。

6. ベンチマーク:確かに前進、でも“圧勝”ではない

DJレン
具体的な評価を見ていきましょう。

DJミオ
まず CursorBench では、Sonnet 5が 57%、Sonnet 4.6が 49%。これはかなりわかりやすい改善です。

DJレン
Cognition は自社の FrontierCode Extended で、Sonnet 5が 53.8%スコア、57.6%パス率 と報告していて、現行評価では Opus 4.8を上回る としています。
ただし彼ら自身も、今後評価系の調整で順位が多少動くかもしれないと含みを持たせている。

DJミオ
Artificial Analysis Intelligence Index では、Sonnet 5は 53。これはSonnet 4.6から +6 の改善で、全体順位では 5位、そして GPT-5.5 high reasoningとほぼ同水準
ただし、Opus 4.7 / 4.8の後ろ ではあります。

DJレン
ほかにも改善が報告されています。

  • Terminal-Bench v2.1+9
  • Humanity’s Last Exam+10
  • SciCode+7
  • CritPt frontier physics benchmark では 17%。前モデルより +14ポイント だけど、GLM-5.2、Claude Opus、Fable、GPT-5.5系にはまだ及ばない

DJミオ
つまり、まとめると “4.6からの改善は実在するし、しかもかなり意味のある改善”。でも、“フロンティア全体を書き換えるほどの爆発的進歩”ではない。ここが今回の温度差の核心ですね。


7. 実効コストの問題:安いはずなのに、高くつく?

DJレン
今回もっとも技術的に筋の通った批判が、この コスト・パー・タスク問題 でした。

DJミオ
Artificial Analysisの報告では、Sonnet 5は 平均で1タスクあたり約69k出力トークン を使っていて、これは Sonnet 4.6より約40%多い

DJレン
その結果、標準価格で換算した Intelligence Indexの1タスクあたりコスト$2.29。これが

  • Sonnet 4.6の約2倍
  • Opus 4.8より約15%高い
    という結果になっている。
    つまり トークン単価では安いのに、たくさんしゃべってたくさん手数を使うので、実作業では高くつくことがある

DJミオ
しかもArtificial Analysisは、Sonnet 5が AA-BriefcaseやGDPval-AAでSonnet 4.6の約3倍のagentic turn数 を使ったと報告しています。さらに max effortはlow effortの約6倍のターン数 を使うケースもある。

DJレン
ここで出てくるのが、「エージェント性能が高い」と「効率がいい」は同じじゃない、という話です。
自律的に試行錯誤して最終的に良い結果を出すモデルでも、その過程で 長文・多ターン・多トークン になれば、実運用コストは上がる。


8. トークナイザーの罠

DJミオ
さらに見落とされがちな技術ポイントが トークナイザー です。

DJレン
Simon Willisonの指摘では、新しいトークナイザーの影響で、Sonnet 5は

  • 英語では約1.4倍高くつく
  • スペイン語では約1.33倍
  • 簡体字中国語ではほぼ同程度
    という見方が出ています。

DJミオ
これも重要ですよね。ユーザーはついリスト価格だけを見て「安い」と思いがちだけど、実際には どう分割されてトークン化されるか で請求額の感覚が変わる。
だから評価者やパワーユーザーは “1トークンいくら”ではなく“1つの仕事を終えるのにいくらか” を見るようになっているわけです。


9. 事実と意見、噂と推測の線引き

DJレン
ここで一回整理しましょう。今回の話題は、事実と意見と噂がかなり混ざりやすい。

9-1. 比較的確かな事実

DJミオ
事実として押さえてよいのは、

  • Sonnet 5が正式にローンチされたこと
  • Claude、Claude Code、API、Managed Agents、各種パートナー製品で利用可能なこと
  • 1Mトークンのコンテキストウィンドウ
  • 標準価格 $3/$15、期間限定で $2/$10
  • 第三者評価でもSonnet 4.6から有意な改善が見られること
  • ただし実効コストはOpus 4.8より高くなる場合があること

9-2. 未検証・噂

DJレン
一方で、

  • Fable 5の請求方式変更
  • 本人確認必須
  • 規制や輸出管理と結びついた地域制限
  • Sonnet 5の事前リークとしての知識カットオフ2026年1月説
    こういったものは アプリ文字列の解釈やユーザー推測が多く、公式発表で確定したわけではない

9-3. 解釈・意見

DJミオ
さらに、

  • 意図的に弱くされた
  • Opusを超えないように自己蒸留した
  • フロンティア能力が“禁止”されたから出た代替モデルだ
    このあたりは 証拠のある事実というより解釈・推測 に属します。

10. Sonnet 5への賛否

10-1. 支持する見方

DJレン
支持派の主張はかなり実務寄りです。

  • 長時間走るエージェント
  • コーディングループ
  • ツールの信頼性
  • 並列ワークフロー
    このあたりでは、小さめ・安め・広く使えるモデルが強くなる意義が大きい、と。

DJミオ
特に「安価なデフォルト層の強化」を高く評価する声がありました。
最上位モデルだけが強くても、実際の業務で複数エージェントを並列で回すにはコストが重い。だから “少し安いモデルがかなり賢くなる”ことの価値 は、派手なベンチマーク以上に大きい、という考え方ですね。

DJレン
それに、CursorやCognitionのコーディング系ベンチマーク結果、Clineが強調した プロンプトインジェクションやハイジャック耐性の改善 も、エージェント運用ではかなり重要です。

10-2. 批判的な見方

DJミオ
批判の軸は主に3つ。

  1. 命名
  2. Fable 5不在への失望
  3. タスク単位のコスト効率の悪さ

DJレン
命名批判はわかりやすいですね。“Sonnet 5”と名乗るなら大幅な世代進化を連想するのに、実態は4.8とか4.9に近いのでは、と。

DJミオ
あと、「広い知能指標ではまだOpus 4.8に及ばない」「全評価で上回っているわけではない」という批判もある。
加えて、verbosityとターン数の多さのせいで、現実にはOpusや場合によってはFableより高くつく というのが、もっとも地に足のついたネガティブ意見でした。

10-3. 中立・混合的な見方

DJレン
中立派の一言を要約すると、
「プロダクションの人は喜ぶ。でも個人的な“うわっ”感は弱い」
ですね。

DJミオ
期待値の設定が悪かっただけで、製品としては良い、という見方も多かった。
あと、「長期タスクにおける“working mind”、つまり作業中の思考の持続性みたいなものは、従来ベンチマークでは過小評価されているのでは」という意見もあったのが興味深いです。


11. エコシステムの異様な速さ

DJレン
今回かなり印象的だったのは、Sonnet 5の周辺ツールへの採用スピード です。

DJミオ
本当に速かったですね。

  • Cursor が対応し、CursorBench差分を公開
  • Devin Desktop / CLI が追加し、FrontierCode ExtendedでのOpus超えを主張
  • Cline が対応し、Terminal-Benchやサイバー耐性を強調
  • FactoryAI Droid が8月末まで1/3引き
  • Perplexity がPro/MaxおよびComputer orchestratorとして追加
  • VS Code / @code でも展開
  • Agent Arena にも追加

DJレン
このパターンは、Sonnet 5が “チャットの話題性”より“ソフトウェア・エージェント基盤の実用品”として見られている ことの証拠なんですよね。

DJミオ
市場が「これをデフォルト・ワークホースにしたい」と判断している、ということです。


12. なぜ反応が割れたのか

DJレン
ここまでの話をまとめると、Sonnet 5に対して反応が割れた理由は、見る軸が人によって違うからです。

DJミオ
整理すると、

  • Sonnet 4.6との絶対比較 では明確に改善
  • OpusやFableを含むフロンティア期待値 では失望
  • リスト価格 だけ見れば手頃
  • タスク単位の実効コスト では割高に見える場合がある
  • エコシステムでの有用性 は非常に高い

DJレン
そして、その背後には市場全体の価値基準の変化があります。
今の競争軸は、単にチャットが賢いかではなく、

  • 長時間のツール使用
  • エージェントの信頼性
  • トークン効率
  • 完了タスクあたりコスト
  • 仕事環境への統合
    になってきている。

13. Sonnet以外の大きな話題:中国モデル、インフラ、オープンウェイト

DJミオ
ここからはSonnet以外の話題も拾っていきます。実はかなり大きかったのが、中国系モデルとインフラの存在感 です。

13-1. Meituanの1.6T open-weightsモデル

DJレン
特に注目されたのが、Meituanによる1.6兆パラメータのopen-weightsモデル
大手中国デリバリー企業がこれだけの規模のモデルを出してきた、という事実そのものが、「誰がフロンティア級の研究を資金面で支えられるのか」という話につながっています。

DJミオ
技術的な論点としては、CloudMatrix 384 podsを“910B mode”で使った という話が出ていて、これが GPU換算5万枚ではなく約2.5万チップ規模ではないか、みたいな読み解きもあった。
一方で批判的な見方として、将来の Huawei 950DT SuperPodの8192チップ構成 の方が、全体としてそれを超えるのでは、という比較もありました。

13-2. DeepSeek系インフラ

DJレン
さらに DSpark / DeepSeek系のインフラ も継続して話題。

  • TPOT 2.9–5.2 ms
  • 中国系プロバイダで50%のスループット向上、あるいは60%のインタラクティビティ向上の可能性
  • DeepSeekのインフラ公開が経済的波及を生んでいる
    といった話が出ている。

13-3. Huawei / Pangu

DJミオ
HuaweiやPanguの勢いも続いています。
Pangu 92B / 6B activeのMoE や、7月予定の より大きいPro版 の話があり、中国国内ハードウェア上で 準フロンティア級モデルを学習できるソフトウェア・アーキテクチャ成熟度 が出てきたのでは、という見方もありました。


14. 推論ハードウェアとシステムの話

14-1. Etchedのステルス終了とハードウェア論点

DJレン
ハードウェアでは Etched の動向が目立ちました。
同社は

  • 8億ドル調達
  • 10億ドル超の顧客契約
  • A0 tapeout成功
  • 顧客テストで早期SOTA級のスループット/レイテンシ/電力効率
  • 今夏から初期ラック出荷
    を主張しています。

DJミオ
ここで注目されたアイデアは2つ。

  1. 低電圧推論で長時間負荷時のサーマルスロットリングを避けること
  2. SRAM並みのアクセス感を狙うクラスタ規模メモリ
    後者は特に 長コンテキストや巨大モデル推論 に効く可能性があります。

14-2. OpenAIの推論最適化報道

DJレン
OpenAIについては、推論コストを半分以上削減する最適化 を見つけたという報道もありました。
ログアウト状態のChatGPTトラフィックが一時 “数百GPU”規模まで落ちた という話もあり、正確な手法は不明だけれど、利益率やAPI価格戦略に直結する話 として注目されました。

14-3. NVIDIAプログラミングの進化

DJミオ
そしてかなり技術寄りの話として、VoltaからBlackwellに至るNVIDIAプログラミングモデルの進化 を解説する投稿も注目されていました。
同期的でスレッド中心のCUDAから、非同期データフロー、Tensor Core、メモリエンジン、barrier、TMA/TMEMなどを使う世界へ移っていて、V100、A100、H100、B100の計算/帯域比の変遷や、FlashAttention-3、FlashMLAの例まで含めて整理されていました。


15. エージェント、ループ、評価、メモリ

15-1. “Loop engineering”の台頭

DJレン
AI Engineer World Fair周辺で強く共有されていたキーワードが、loops、あるいは loop engineering です。

DJミオ
Andrew Ngも、AIネイティブな製品開発の実運用モデルとして、

  • エージェント的コーディング
  • 開発者からのフィードバック
  • 外部世界からのフィードバック
    という ループ構造 を強調していたんですよね。

DJレン
この言葉は会議全体でも繰り返し出ていて、OpenAIやMicrosoftの登壇者、Peter Steinberger周辺でも使われていた。
要するに、「一発で賢い答えを返すモデル」より、試行・修正・観測のループをうまく回せるシステム が重要になっている。

15-2. エージェント評価基盤

DJミオ
評価基盤の進化もありました。LangChainがHarborをDeep Agents、LangSmith Sandboxes、Observabilityと統合
これで、長時間・状態保持型のエージェントを、再現可能な環境ベースで評価する という方向が、ますます標準になりそうです。

15-3. メモリ

DJレン
メモリについては、Harrison Chaseらが wiki-style memory をかなり有望なパターンとして強調していました。
DeepWiki、AutoWiki、LLM Wikiなどの例が挙がっていて、ポイントは「バックエンド保存先」よりも、どう要約し、どう再取得するか にあると。


16. モデル、ベンチマーク、メディア生成系の他ニュース

DJミオ
ここも簡潔にいきましょう。

16-1. Googleのメディアモデル

  • Nano Banana 2 Lite:画像生成
  • Gemini Omni Flash:動画生成・編集
    報告スペックとしては、
  • 4秒未満の画像生成
  • 画像1,000枚あたり $0.034
  • 動画は $0.10/秒
    さらにArenaでの初動も良好とのこと。

16-2. Open-weightモデル

DJレン
GLM-5.2 は、いくつかの知能・エンタープライズ系ベンチマークで 最強のopen modelの一角 として繰り返し言及されていました。
ただし批判として、verboseで出力トークンが多い という点も挙がっている。

16-3. MicrosoftのGUI agent

DJミオ
Microsoftが 4BのGUI agent を出したという話もあり、ある要約では 39.8%から82.9%へタスク成功率向上 とされていましたが、元ツイートには十分なソース詳細がないので、その点は慎重に見る必要があります。

16-4. OpenAIの新ベンチマーク

DJレン
OpenAIは GeneBench-Pro を導入。これは単なる生物学QAではなく、計算生物学エージェントの実作業 を測る方向のベンチマークです。
さらにOpenAI Devsからは、1年かかったインフラクラッシュ調査のデバッグ記録 も公開されていました。


17. オープンソース/ローカルAIのツールと潮流

DJミオ
ローカルAI・オープン系では、Hugging Faceが ハードウェアフィルタ を追加したのが地味に大きいです。
GPU、CPU、Apple Siliconの互換性でモデル検索しやすくなって、ローカルモデル利用の実用性が上がったと評価されていました。

DJレン
あと、ローカルモデルはプラットフォーム規制や本人確認への耐性になる という文脈でも語られていましたね。
つまり、商用閉鎖系サービスがID制限や地域制限を強めるほど、“自分の手元で動かせること”の戦略的価値 が高まる。

DJミオ
新しいオープンベンチマークやツールとしては、

  • IFStruct:出力妥当性/スキーマ追従
  • CS2-10k:60万超の一人称ゲームプレイ動画、1万時間超、世界モデルや行動条件付き生成向け
  • Buckets S3 API:Hugging Faceストレージ互換
    などが挙がっていました。

DJレン
教育系コンテンツでは、Sebastian Raschkaの “Build a Reasoning Model (From Scratch)” がかなり盛り上がっていました。
440ページのフルカラー本 で、推論時スケーリング、強化学習、蒸留を扱う、というものです。


18. Redditまとめ:ローカルLLM界隈の熱点

DJミオ
ここからはRedditまとめです。まずは /r/LocalLlama/r/localLLM

18-1. LongCat-2.0

DJレン
大きな話題は LongCat-2.0

  • 総パラメータ1.6T
  • 1トークンあたり約48B active
  • OpenRouterでは“owl-alpha”として出ていたステルスモデル
  • 35T超のトークンで学習
  • その中には数千億規模の1Mコンテキスト学習データ
  • AI ASIC superpodsで訓練・配備されたとされる

DJミオ
技術的には、

  • LongCat Sparse Attention (LSA)
  • 3-step MTPによるspeculative decoding
  • 6D parallelism / CP scaling
  • KV-cache sharding
  • 135Bの5-gram embedding module
    などが注目点でした。

DJレン
そして興味深いのが、著者側の主張として MoE sparsityがすでに約97%で、これ以上expertパラメータを増やしても効果が薄い という話。
これは「ただ大きくするだけではもう伸びにくい」という示唆として読まれていました。

DJミオ
ただし、コミュニティは手放しではしゃいでいるわけではなくて、Hugging Faceへの実際の重み公開、llama.cpp対応、Q4 GGUF化 を待っている段階。
Q4でも 1TB級のメモリが必要そう という見積もりも出ていました。

18-2. NVIDIAのQwen3.6-27B-NVFP4

DJレン
次に、nvidia/Qwen3.6-27B-NVFP4
NVIDIAがHugging Faceで公開した NVFP4 / mixed precision量子化版 です。
話題になったのは、NVIDIA版が約22GB で、Unsloth版が約26GB と、けっこうサイズ差があること。

DJミオ
ただし「27Bで4-bitっぽい名前なのに22GBはまだ大きいよね?」という疑問も出ていました。
その理由として、混合精度、スケールやメタデータのオーバーヘッド、全部が純粋4-bitではない可能性、さらに F8_E4M3というFP8形式 などが話題になっていました。

DJレン
ユーザーの関心は、結局

  • 32GB VRAMで実用的か
  • Unsloth版より本当に良いのか
  • MTP対応はあるのか
  • GGUF化されるのか
    このあたりでしたね。

18-3. HuaweiのOpenPangu-2.0-Flash

DJミオ
Huaweiも OpenPangu-2.0-Flash を公開。

  • 92B total / 6B activeのMoE
  • 512K context
  • 重み、推論コード、学習オペレーションも公開
    さらに7月には 505B total / 18B activeのPro版 も予定されています。

DJレン
コミュニティの関心は、ベンチマークの一位どうこうより、むしろ Huaweiアクセラレータだけで学習されたモデル/スタックが見えてきたこと にありました。
輸出規制下で、NVIDIA依存なしに学習スタックが成立しうるか という意味が大きい。

DJミオ
ただし、「Gemma 4以上」といった主張が どのGemma変種とどの条件で比べたのか不明確 という批判も出ていました。

18-4. DeepSeek V4がllama.cppに

DJレン
DeepSeek V4対応PRがllama.cpp本流にマージされた というのも嬉しいニュースでした。
ただ、みんなの関心は実務的で、

  • どのGGUFが本流で動くのか
  • fork不要なのか
  • 実際どんなハードでどれだけ速度が出るのか
    というところに集中していました。

19. Redditまとめ:GLM-5.2のローカル推論実験

19-1. 2台のM5 Maxで753Bを回す

DJミオ
GLM-5.2の話もかなり面白いです。
あるユーザーが、2台のM5 Max Mac(各128GB統合メモリ)をThunderbolt 5ケーブル1本で接続 して、GLM-5.2 753BのIQ1_S量子化 をローカル動作させた、と報告していました。

DJレン
条件としては、

  • llama.cpp RPC
  • 実効約2.1 bpw
  • ディスク上で202GB
  • 16k context
  • q8 KV cache
  • ノード間ホップ0.5ms未満
  • 生成速度は 約16 tok/s
    かなり驚異的です。

DJミオ
当然、「それって品質はどうなの?」という疑問も出ます。
超巨大モデルの超低ビット量子化 と、より小さいけど高精度量子化モデル を比べたとき、どちらが賢いのか、という論争ですね。

19-2. GLM Q1_S vs Qwen 27B Q8

DJレン
別の比較では、GLM-5.2 Q1_SQwen3.6-27B Q8 をThree.jsのゲーム生成タスクで比べた話もありました。
Qwenは

  • 約60 tok/s
  • 合計約42kトークン
  • 初回+3回修正
    で速かったけれど、最初から完全なゲームにはならなかった。

DJミオ
一方GLM Q1_Sは

  • 6→3 tok/s と遅い
  • 75kトークン
  • 何時間もかかる
    でも 初回から音付きの完成度の高いゲームを出した とされる。
    さらにLLM-as-judgeではOpusやGPTがGLM Q1_Sを高く評価した、という報告もありました。

DJレン
ただし、これも一例に過ぎないので過剰一般化は禁物です。
コメント欄では、より良いGLM量子化版、たとえば Q2_K_XL 211GB の方がいいのでは、という提案もあったし、Qwen側でも Q5_K_XL + MTPで1回生成+1回修正でPlayableなCodePenを作れた という反例が出ていました。


20. “Less Technical”系サブレディットの話題

20-1. Sonnet 5とLinux版Claude Desktop

DJミオ
より一般寄りのサブレディットでは、やはり Sonnet 5Linux版Claude Desktop が大きな話題でした。

DJレン
Sonnet 5の発表画像には、

  • SWE-bench Pro 63.2%
  • Terminal-Bench 2.1 80.4%
  • Humanity’s Last Exam 43.2% / ツールあり57.4%
  • OSWorld-Verified 81.2%
  • GDPval-AA v2 1618
    といった数字が示され、Sonnet 4.6より安く、Opus 4.8に迫るagentic性能 という構図が強調されていました。

DJミオ
コメントは軽めで、「Opus 4.8が冗長すぎるので、それに近い性能で短く答えてくれるなら嬉しい」とか、「Haikuは放置されてるの?」とか、「Fableまだ?」みたいな反応が中心でした。

DJレン
Linux版Claude Desktopについては、ベータで Ubuntu / Debian対応
でも反応はかなり辛辣で、「Electronアプリなのに今さら?」というツッコミや、「非公式パッケージをやっと卒業できる」といった実務的な声、さらには「Archは?」という定番の話も出ていました。

20-2. Anthropicのモデル制限とClaude Codeのプライバシー論争

DJミオ
もう一つ大きかったのが、Anthropicのモデル制限やプライバシーに関する不安 です。

DJレン
Fable 5に関しては、さっきも出た通り、

  • 本人確認が必要になるのでは
  • 利用クレジットが別請求になるのでは
  • US onlyあるいはUS firstになるのでは
    という憶測がかなりネガティブに受け止められていました。

DJミオ
さらに強い言い方の投稿として、Claude Codeに“スパイウェア”が埋め込まれていたのでは という告発も話題になっていました。
その主張によれば、Claude Codeのあるバージョン以降、

  • 中国タイムゾーンなら日付表記が YYYY-MM-DD から YYYY/MM/DD に変わる
  • “Today’s date is” のアポストロフィを微妙なUnicode文字に置き換えて、プロキシ分類を符号化する
  • Asia/Shanghai、Asia/Urumqi、中国系プロキシドメイン、中国AIラボ関連URLなどをチェックする
  • 一部はXOR難読化されている
    といったロジックがあり、これを 隠れた環境シグナル送信 だと解釈していました。

DJレン
ただし、コメント欄はそこまで一枚岩ではなくて、
「その程度は普通のテレメトリでは」
「そもそもローカルのファイルシステムやシェルに広範アクセスを許すAIコーディングツールを入れている時点で、怒る場所が違うのでは」
という反応も多かった。

DJミオ
ただ、技術的に本質なのは、エージェント型コーディングツールはブラウザよりずっと深い権限を持つ ことです。
だから、単なるWebトラッキングと同列にはできない、という問題提起には一定の重みがあります。

20-3. BCIとヒューマノイド

DJレン
さらに一般層では、

  • Metaの Brain2QWERTY 改良版
  • UBTechの “感情を持つ”ヒューマノイドロボット
    も話題になっていました。

DJミオ
Brain2QWERTYは、MEGやEEGのような非侵襲型計測で文字入力を解読する 方向の研究。
UBTechは 約1.5万ドルから の感情表現型ヒューマノイドを打ち出していたようですが、どちらもリンク先の動画は取得できず、詳細な技術評価まではできていません。


21. Discordは静かに幕を下ろす

DJレン
そして最後に、AI Discordsについては “a quiet day.”
というより、Discord側のアクセス遮断で、この形式での収集は終了とのことでした。

DJミオ
「また別の形で新AINewsを出す」とされていて、ひとつの時代の区切りみたいな空気もありましたね。


22. 総括:「何も起きなかった日」の本当の意味

DJミオ
さて、ここまで全部つなげると、今日の本質って何だったと思います?

DJレン
僕はこう見ています。
“フロンティアの派手な一発”より、“実務で回るエージェント基盤”の価値が前面に出た日
Sonnet 5はその象徴でした。

DJミオ
うん。
Sonnet 5自体は、Sonnet 4.6から見ればかなり良いアップグレード
でも、OpusやFableに期待していた人にとっては肩透かし
しかも、リスト価格は魅力的でも、タスク単位では高くつくことがある
だから評価が割れた。

DJレン
でもエコシステムの反応を見ると、市場はすでに答えを出しつつある。
“最高に驚くモデル”より、“大量に組み込みやすく、長く動かせるモデル”が欲しい と。

DJミオ
そして同時に、中国勢は open-weights、推論基盤、国産アクセラレータ学習 で静かに前進。
ローカルLLM界隈は 巨大モデルの低ビット推論、分散Mac推論、量子化比較、llama.cpp対応 に熱狂。
ハードウェア側では 推論最適化・低電圧・メモリ階層・非同期プログラミング が進み、
エージェント界隈では loop engineering、環境ベース評価、wiki型メモリ が固まり始めている。

DJレン
つまり「何も起きなかった日」どころか、実際には
AIの勝負軸が“賢さの演出”から“仕事を完了させる系統設計”へ移っていることが、はっきり見えた日 だったわけです。

DJミオ
派手な革命じゃない。
でも、こういう日こそあとから振り返ると、潮目だったりするんですよね。

DJレン
今夜の「Midnight AI Groove」はここまで。

DJミオ
Sonnet 5をめぐる熱狂と失望、その両方が示していたのは、みんながもう “次のすごい会話モデル” ではなく、“次の使えるAIシステム” を見ている、ということかもしれません。

DJレン
それではまた次回、深夜のAIの波間で。

DJミオ
おやすみなさい。


ChatGPT Image 2026年7月6日 09_32_02.png

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?