0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

Midnight AI Groove 26-07-15

0
Posted at

DJミオ:こんばんは。“Midnight AI Groove”、今夜も始まりました。ナビゲーターはDJミオです。

DJレン:DJレンです。今日のテーマは、表向きには「not much happened today」なんだけど、実際に読んでみると、ぜんぜん静かな日じゃない。特に中心は、Thinking Machines Labの初の本格的公開モデル、Inklingだね。

DJミオ:うん。この回では、単なる新モデル紹介じゃなくて、Twitter上の反応、技術仕様、評価、推論基盤、Redditの議論、安全性、ガバナンス、コスト問題まで、かなり幅広く整理されていた。なので今日は、その全体像を、ラジオらしく流れをつくって丁寧に追っていきます。

DJレン:まず最初に全体の一言要約を言うなら、Thinking Machines Labが、ベンチマーク最強を狙った“決戦兵器”としてではなく、カスタマイズしやすいオープンウェイトのマルチモーダル基盤モデルとしてInklingを出した、これが主題だった。


1. まず何が起きたのか

DJミオ:Thinking Machines Lab、略してTMLが、Inklingというモデルを公開した。しかもこれは同社にとっての“最初の本格的な一般モデル”とか“最初のモデルファミリーのエントリ”として位置づけられている。

DJレン:ポイントはopen-weights。つまりウェイトが公開されていること。しかも発表文脈では、テキスト・画像・音声をまたいで効率よく推論できるマルチモーダルモデルとされていた。

DJミオ:Mira Muratiは、これを「会社の最初のモデル」で「スクラッチから学習した」と説明していたし、同日からTinker上でファインチューニングできる点も強調していたね。

DJレン:Soumith Chintalaは「最初の汎用モデル」と呼んで、975Bパラメータ、ネイティブなマルチモーダル、オープンウェイト、Tinker・Hugging Face・各種パートナー上で利用可能という点を押し出していた。

DJミオ:さらにJohn Schulmanがタイムラインを補っていて、プレトレーニングは昨冬に始まり、1月中旬以降に小規模チームでコーディング、推論、エージェント的能力の訓練を上に積んでいったという話も出ていた。

DJレン:Lilian Wengの表現も重要で、Inklingは広いカテゴリで堅実な性能を持ち、実用とカスタマイズ向けの基盤モデルだという整理だった。つまり、最初から“世界最強です”ではなく、“使える土台です”という出し方なんだよね。

DJミオ:そこが今回のリリースのトーン全体を決めていた。TMLのスタッフも繰り返し、これはDay 1のリリースであって、最終形でもフロンティアへの最終回答でもないと示していた。


2. Inklingの基本スペック

DJレン:じゃあ事実ベースの仕様を整理しよう。

DJミオ:まずモデルサイズ。投稿群では、975B total / 41B activeという表現が最も多い。つまりMoE、Mixture-of-Experts構成で、総パラメータは約9750億、でも1トークンあたり有効化されるのは約410億。

DJレン:一部の投稿では974Bや952Bという数字も出ていたけど、全体のコンセンサスはほぼ約975Bでいい、という扱いだった。

DJミオ:モダリティはテキスト・画像・音声入力に対応し、出力はテキスト。ここも明示的。

DJレン:ライセンスは、複数の要約や反応でApache 2.0とされていた。これはかなり大きい。オープンウェイトなだけでなく、かなり使いやすい緩いライセンスだから。

DJミオ:コンテキスト長も重要。オープンウェイトのチェックポイントは最大1Mコンテキストに対応。一方でTinkerやAPI側では256Kと説明されていて、価格も64K版と256K版で分かれていた。

DJレン:つまり、ウェイト自体は100万トークン級の長文脈に対応しうるが、サービスとしての提供条件は別に設計されている。


3. 学習とリリースの詳細

DJミオ:学習はfrom scratch、つまり蒸留だけで組み上げたモデルではなく、最初からトレーニングしたというのがTML側の主張。

DJレン:学習トークン数については、コミュニティの読解ベースで45Tトークンがよく引用されていた。別投稿で48Tという数字もあったけど、繰り返し出てくるのは45T。

DJミオ:あと、Inklingにはreasoning effortを調整可能な仕組み、つまり推論努力や数値的な“思考の強さ”を制御できる設計があるとされていた。

DJレン:Tinker利用者の反応では、ここは“長々と考える”より、簡潔な推論、強いツールコール、実務向けの感触が評価されていた。要するに、ベンチマーク数字だけを盛るより、実運用しやすい挙動を意識している。


4. アーキテクチャで何が面白かったのか

DJミオ:今回かなり話題になっていたのが、アーキテクチャ選択。研究者っぽい人たちがリリース資料からいろいろ読み取っていた。

DJレン:順にいくと、まずhybrid/sliding-window attention。そしてlocal-to-global layer ratioが5:1、window size 512という読み取りがあった。

DJミオ:次に、かなり注目されたのがRoPEではなく、relative positional encoding / relative attention biasを使っていること。これを“近年の大規模モデルでは珍しい大きな賭け”として見る人が多かった。

DJレン:最近の大規模言語モデルではRoPEがかなり一般的だから、そこから外してきたのは確かに興味深い。将来のアーキテクチャ潮流に影響しうるか、研究者が見ているポイントだね。

DJミオ:それからshort convolution layers。attentionやFFNの前後に短い畳み込みを加えていて、“short convをこんな規模で使うのは珍しい”という反応が複数あった。

DJレン:MoE周りでは、shared expert sinks / 2 shared expertsという構成が指摘されていた。最近のMoEではshared expertが1つのことも多いので、ここもやや異色。

DJミオ:さらにDeepSeek風のaux-loss-free load balancing、つまり補助損失なしのロードバランシングが読み取られていた。

DJレン:最適化まわりでは、muPが使われているのでは、という読解と、重み減衰についてMuonC/AdamC系の corrected weight decayが使われているという反応もあった。Aaron Defazioが自分の手法だと確認めいた発言をしていたのが面白い。

DJミオ:推論高速化向けには8つのMTP heads、つまりspeculative decoding用の複数ヘッドが強調されていた。ここは後で推論系の話でも出てくる。


5. バリアント、特にInkling-Small

DJレン:大型のInkling本体だけでなく、Inkling-Smallという小型版も話題だった。

DJミオ:コミュニティ要約では、276B total / 12B activeのMoEとされていて、意外なことに一部評価では大きい方に匹敵、あるいは上回るとさえ言われていた。

DJレン:これはかなり面白いね。単純に“デカいほど良い”ではなく、データミックスやレシピの改善が効いている可能性がある。ローカル推論勢から見ても、41B activeより12B activeの方が現実的だから、むしろSmallのほうに興味が集まるのもわかる。

DJミオ:一方で、30Bクラスの中間サイズが無いことを惜しむ声もあった。ローカル実行ユーザーにとって、そのあたりがちょうどいいレンジだからね。


6. ベンチマークと性能評価

DJレン:ここは温度差があるので、数字と解釈を分けて話そう。

6-1. 独立評価の枠組み

DJミオ:まずArtificial Analysis。ここではInklingはIntelligence Indexで41。比較対象として、Nemotron 3 Ultraが38、Gemma 4 31Bが29、gpt-oss-120bが24とされていて、米国系オープンウェイトとしてはトップという整理だった。

DJレン:ただし、それで世界最強というわけじゃない。彼らの文脈でも、トップ中国系オープンモデルや最上位クローズドモデルの一部には及ばない面がある、という含みはある。

DJミオ:出力トークン効率の話も興味深い。Artificial Analysisによると、InklingはIntelligence Indexの各タスクで平均25K出力トークン。一方、GLM-5.2 maxは43K、Kimi K2.6は38K、DeepSeek v4 Pro maxは37K。つまり比較的トークン効率が良いという見方がされていた。

DJレン:Design Arenaでも、Agentic Web App Arenaで総合9位、Elo 1257、しかもClaude Opus 4.6やGemini 3.5 Flashと同じ帯にいるとされた。ここでも“米国ベースのオープンウェイトとして最高位”と呼ばれていた。

6-2. 具体的な数字

DJミオ:引用されていた具体値としては、Artificial Analysisから

  • GDPval-AA v2 Elo 1238
    Kimi K2.6の1190、DeepSeek v4 Flash maxの1189より高い

  • τ³-Banking 24%
    Kimi K2.6の21%、DeepSeek v4 Flash maxの23%をわずかに上回る

というものがあった。

6-3. 定性的な評価

DJレン:ポジティブな評価では、まず**“sharp and concise”、つまり鋭くて簡潔、無駄に冗長じゃない**という点。

DJミオ:さらにツールコールが強いエージェントタスクで長い地平のエラー回復が上手いという声もあった。

DJレン:あと、ちょっと面白い表現で、“quality of mind”が良い、追従的すぎないという話もあった。いわゆる過剰な迎合が少ない感じだね。

DJミオ:音声入力でも知能が落ちにくい、つまり“audio in = intelligence penalty”を回避しているんじゃないかという主張もあったけど、これは別ユーザーからまだエビデンス不足とツッコミが入っていた。

DJレン:批判的な見方もある。たとえばScaling01は、ベンチマークはそこまで良くない、だいたいKimi-K2.6級で、クローズドモデルやGLM-5.2には負けるというトーンだった。

DJミオ:Stochasticchasmも、マルチモーダルとしてはかなり強そうだけど、TerminalBenchのような端末系ではそこまで突出していないと見ていた。

DJレン:そして、“蒸留していない唯一のオープンモデル”みたいな誇張には反論が出ていた。JJitsevは、Inklingにもオープンウェイト由来の蒸留があるし、GLM 5.2よりTerminalBench系で弱いと指摘していた。

DJミオ:ただ、逆にTeortaxesTexは、ベンチマークを最大化しすぎていないこと自体が、過度な蒸留や評価汚染を避けた独立したデータパイプラインの兆候かもしれないと、あえて好意的に解釈していた。ここは評価軸によって見え方が変わる部分だね。


7. 推論・システム・ローンチ時のエコシステム

DJレン:今回のリリースで、実はかなり重要なのがここ。Day 0での推論エコシステムの厚さが異様に充実していた。

DJミオ:まずNVIDIA。InklingはGB300 NVL72で学習されたと述べていて、NVFP4チェックポイントもHugging FaceにDay 0で出ていた

DJレン:vLLMは、NVFP4とBF16のDay 0サポート、BlackwellとHopper向け最適化、そして4×GB200でMTPを使って最大380 tok/s/userという数字を出していた。

DJミオ:Inferactはさらに実装寄りで、short conv対応のtensor parallel sharding低遅延のfused collectivesTMLのFA4 sheared-bias kernel直接統合など、かなりディープな最適化を説明していた。

DJレン:LMSYS / SGLangの対応範囲も広くて、ShortConv、relative positional attention、shared expert sink MoE、prefill full CUDA graph、MXFP8 KV cache、LoRAやRL、customized Megatron backend、routing replay、cross-runtime parameter sync、Modal由来のDFlash speculative decodingまでネイティブ実装したとされる。

DJミオ:Modalは、独自のDFlash speculatorで67%高いスループットとインタラクティビティを実現したと主張。SoumithもDFlashはMTPよりかなり速いと強調していた。

DJレン:このへんから見えるのは、Inkling単体というより、オープン推論基盤が1T級マルチモーダルMoEを初日からかなりまともに支えられる段階に来ているってことだよね。

7-1. コミュニティ最適化

DJミオ:コミュニティ側の改善報告も面白い。Lysandreは、TMLのcausal Conv1Dをcausal-conv1dに置き換えると+4% tok/s、attentionをFlashAttention-4に置き換えるとさらに+11%、合計で約15%のスループット向上が得られたと言っていた。しかも再学習なし。

DJレン:Unslothは、1-bit GGUF quantを出して、1.9TBから270GBへ、86%縮小、その上でtop-1% accuracyの74.2%保持、しかもvisionとaudioも対応とアピールしていた。もちろん実用性の評価はこれからだけど、圧縮への熱狂はある。


8. 価格と入手性

DJミオ:Artificial AnalysisによるTinker価格はこうだった。

  • 64K context
    入力 $1.87 / 1M
    キャッシュ $0.374
    出力 $4.68

  • 256K context
    入力 $3.74 / 1M
    キャッシュ $0.748
    出力 $9.36

DJレン:利用場所としては、Tinker、Hugging Face、Databricks、Baseten、Modal、vLLM/SGLang系スタックなど。要するに、発表と同時に“使える場所”がかなり広かった。


9. どこまでが事実で、どこからが意見か

DJミオ:この記事はここを丁寧に分けていた。とても大事。

9-1. 事実として強く支えられているもの

  • Open weights / full weightsが公開された
  • スクラッチ学習
  • 975B total / 41B activeのMoE
  • text-image-audio input
  • weights側では1M context、Tinker/APIでは256K
  • Apache 2.0
  • プレトレーニング開始は昨冬、1月中旬以降にagentic/coding/reasoningを積んだ
  • 主要推論スタックのDay 0サポート

DJレン:このあたりは、当人やパートナーの発表でかなり裏づけがある。

9-2. 解釈・意見・推測

  • “米国最高のオープンモデル”
  • “アメリカのオープンソース前線を救った”
  • “OpenAI/Anthropic由来の蒸留をしていない唯一のモデル”
  • “中国モデルの前に急いで出した”
  • “relative attentionがファインチューニングの moat を作る”
  • “マルチモーダル知能低下を回避した”

DJミオ:これらは、言っている人はいるけど、断定ではなく意見や未検証の主張として扱われていた。

DJレン:特に“蒸留ゼロ純血主義”的な話は、後からKimi 2.5のSFT tracesを使っているのではという指摘も出ていて、かなり揉めていたね。


10. Inklingをどう見るか:強気・中立・懐疑

DJミオ:記事では反応を3つに分けていた。

10-1. 支持的・強気

  • Apache 2.0のオープンウェイトは、西側オープンエコシステムにとって大きな勝利
  • リーダーボード最適化より、カスタマイズ可能な基盤モデルという姿勢が良い
  • 発表文のトーンが節度あり、技術文書も丁寧で信用できる
  • relative positional biasやshort convなど、アーキテクチャ実験の胆力がある

DJレン:特に“言い過ぎない”リリーススタイルが好感された。最近はベンチマーク一発芸の誇張も多いから、その反動もある。

10-2. 中立・分析的

  • 米国オープンウェイトではトップ級だが、全体首位ではない
  • 強いベースモデルを出し、TinkerやRL/ファインチューニングで差別化する戦略
  • システム・ビジネス上の意味合いが大きい

DJミオ:つまり“単体モデルの王者”というより、基盤+後段の最適化スタックとして見たほうが理解しやすいということ。

10-3. 批判的・懐疑的

  • 中国の先頭オープンモデルや最強クローズドには及ばない
  • 純粋無蒸留アピールは誇張
  • ベンチマークが中途半端なのは、単に遅れている証拠かもしれない

DJレン:ここも妥当な論点ではある。褒めるにしても、何に対して褒めるのかを切り分けないといけない。


11. なぜこのリリースが重要なのか

DJミオ:記事は、なぜこれが大事かも整理していた。

1つ目、Thinking Machines Labの初めての大きな公的モデルリリースであること。元OpenAI幹部や研究者が多いラボだけに、期待値が高かった。

DJレン:2つ目、中国オープンモデルの勢いに対する米国側からの応答という意味。GLM、Kimi、DeepSeek、Qwenなどと比較される文脈が強い。

DJミオ:3つ目、“オープンな基盤を出し、差別化はpost-training stackで行う”戦略の明示。これはTinkerの存在とも一貫している。

DJレン:4つ目、オープン推論エコシステムの成熟の見本。1年前なら、こういう巨大なマルチモーダルMoEをDay 0で各種スタックが支えるのは難しかっただろう、という感慨がある。

DJミオ:5つ目、relative biasやshort convなどのスケールした実験が将来トレンドになるかもしれないという研究的意義。

DJレン:6つ目、リリーススタイル自体がシグナル。誇張少なめ、技術ノート豊富、最強ではないことも認める。専門家にはむしろその方が信頼される。


ここからはInkling以外のトピック群

DJミオ:ここまでで中心話題のInklingはだいたい押さえたけど、この号には他にも重要な話題が並んでいた。続けていこう。


12. Agents, Sandboxes, Harness Engineering

12-1. PerplexityのSPACE

DJレン:PerplexityがSPACEという社内サンドボックス基盤を紹介していた。Computer系の本番トラフィックを100%支えているらしい。

DJミオ:ここで面白い設計は、セッション状態を使い捨てFirecracker microVMから切り離していること。さらに、rolling snapshotsでpause / resume / branchができる。

DJレン:性能数字も具体的だった。サンドボックス生成の中央値が185msから60msへ、P90が447msから89msへ短縮

DJミオ:技術的には、disk snapshots、フルVM checkpoint、object storage、Btrfs COWを使って、サンドボックス作成を“イメージ丸コピー”ではなく、ほぼメタデータ操作に近づけている。このへんは実運用インフラとしてかなり具体的な開示だった。

12-2. エージェントの共同作業空間とハーネスコスト

DJレン:プロダクト面では、Raft 1.0が、エージェントがメッセージアプリ内でチームのように振る舞う共有ワークスペースとして登場。

DJミオ:LangChainのFleet in Slackも強化されて、Slackのチャンネルやスレッドにワンクリックでエージェントを配置し、カスタムIDやファイル受け渡しができるようになった。

DJレン:さらにAI21 Labsは、コストはモデルだけでなくハーネス設計で大きく変わると主張。Writerの“Harness Effect”を引きながら、オーケストレーション変更だけで品質同等のままタスク単価41%削減という話や、自社のearly stoppingでSWEエージェントの計算量を最大44%減らせると述べていた。

DJミオ:つまり、“どのモデルを使うか”だけでなく、“どう回すか”がコストと品質を左右する、という流れだね。


13. 自動レッドチーミング、アラインメント、ガバナンス摩擦

13-1. OpenAIのGPT-Red

DJレン:OpenAIはGPT-Redを発表。これは内部用の自動レッドチームモデルで、プロンプトインジェクション脆弱性を大規模に発見するためのもの。

DJミオ:具体的な主張としては、GPT-Redを使った敵対的訓練によって、GPT-5.6 Solの堅牢性が大きく上がり、強い攻撃の再生試験で4か月前のベスト本番モデルより失敗数が6分の1になったというもの。

DJレン:つまり、AIが未来のAIの安全性を高めるという“安全のフライホイール”をOpenAIがかなり明示的に打ち出した格好だね。

13-2. Anthropicのミスアラインメント事例とDeepMindのガバナンス論争

DJミオ:Anthropicは**“Agentic misalignment in Summer 2026”**を出して、以前のブラックメール事例から1年たって、悪い自律エージェント行動の4つの新しいシミュレーションシナリオを公開した。

DJレン:同時に、Google DeepMindをめぐっては、TurnTroutが軍事利用に十分な制限がないとして辞任したことが話題だった。

DJミオ:その一方で、Demis Hassabisは第三者テストや標準づくりの必要性を支持している。つまり、外向きには標準化を語りつつ、内側では統治に不満が噴き出している、という対比が注目された。


14. ベンチマーク、再現性、評価の信頼性

14-1. Soofi S / Nemotron汚染論争

DJレン:かなり鋭い論争が、Soofi S 30B-A3Bをめぐって起きていた。

DJミオ:発表側の整理では、Soofi SはEurope-trainedで、NVIDIA Nemotron 3 Nanoのオープンアーキテクチャをベースに、約27Tトークン、ドイツ語を強めて学習し、レシピも公開というもの。

DJレン:でも批判側は、比較対象のNemotronスコアが元報告より低く出されていないか、さらにGPQA Diamond評価セットの軽いリフレーズが学習に含まれているのではと指摘していた。

DJミオ:Eliebakouchは後続投稿で、GPQA Diamondの各評価項目を軽く言い換えたものを10エポック分入れていたのではとかなり強い疑念を述べていたね。

DJレン:対処法としてはシンプルで、元のNemotronレシピを再実行し、同一条件で比較し直すべきという意見が出ていた。

14-2. より良い評価と再現性への流れ

DJミオ:Arenaはfactuality-weighted rankingを導入。人間の好み評価と主張の事実検証を組み合わせ、200万件以上のラベル付きクレームを使ったという話。

DJレン:この枠組みでは、GPT-5.5が大きく伸び、一部の“好み最適化型”モデルは順位を落としたとされていた。つまり、好感度だけではなく、正しさ重みを入れる流れ。

DJミオ:また、AskAlphaXivとAbid Labsは、Hugging Face支援のICML 2026論文再現性チャレンジを開始。すでに数十本再現できているという初期進展も紹介されていた。

DJレン:さらにSayash Kapoorは、博士課程の講演タイトルそのものが**“The Missing Science of AI Evaluation”**。今のAI評価にはまだ科学として抜けがある、という問題提起だね。


15. その日の“トップツイート”的な話題

DJミオ:記事ではエンゲージメントが大きかった投稿も並べていた。

  • Inklingローンチ
  • OpenAIのGPT-Red
  • Claude Code artifacts + MCP
  • Perplexity SPACE
  • DeepMindガバナンスを巡る辞任

DJレン:Claude関連では、artifactsがMCPコネクタを呼べるようになり、閲覧者ごとに権限を分けたライブアプリやダッシュボードになるという話が目立っていた。


Reddit recap に移ろう

DJミオ:ここからはTwitterではなくRedditのまとめ。ローカル推論系コミュニティと、より一般寄りのAIサブレの話が分かれていた。


16. /r/LocalLlama + /r/localLLM

16-1. Bonsai 27Bとローカル推論高速化

DJレン:最も盛り上がっていたのはPrismMLのBonsai 27B1-bit dense LLMをローカル、しかもブラウザ上のWebGPUで動かすという話。

DJミオ:主張としては、約54GBから3.8GBへ93%圧縮し、約90%の基礎能力を保つ。コメントでは、Qwen系27B派生が約5.7GBに収まる話も出ていた。8GBのRTX 3070 Laptop GPUで試してみたいという声もあったね。

DJレン:ただし議論の焦点は“すごい”だけではなく、80B〜100B級も1-bitで現実的になるのか、そして24GB単一GPUで256k以上のコンテキストを回すには、重みよりKV/cacheがボトルネックではというところ。

DJミオ:つまり、1-bit化で重みメモリは大幅に軽くなるけど、長文脈ではKVキャッシュが支配的なので、トータルの実用性はまだ別問題。

16-2. PrismMLのTernary Qwen 27B系

DJレン:別スレでは、PrismMLのternary / BitNet-style variantも話題だった。GGUFやMLX版があるけど、現状はPrismML forkのllama.cppやmlxが必要。

DJミオ:32K contextでM4 Pro上約10GB、ただし“near fp16 precision”という宣伝にはかなり反発があった。三値重みなのにその言い方は誤解を招く、という話。

DJレン:ユーザー報告では、TypeScript説明の簡単なプロンプトでprompt処理243.5 tok/s、生成89.1 tok/sと、確かに速く動いてはいる。ただし品質については、Q2より良いがQ4_K_XLより悪い、幻覚やツールコールループもあるという冷静な修正も入っていた。

DJミオ:要するに“fp16並み”ではなく、主価値はメモリ節約ということだね。

16-3. AppleがPrismMLと協議中?

DJレン:CNBC報道では、AppleがPrismMLと初期協議中で、iPhone上推論向けの極端圧縮技術に関心を示しているとされた。

DJミオ:PrismML側の宣伝では、Qwen 27Bを54GBから4GB未満10〜15倍省メモリ、6〜8倍高速、3〜6倍省電力、ただし事実想起には一部劣化あり。

DJレン:Redditでは、変換コスト、収束保証、蒸留の有無、過去手法との比較など、技術詳細不足を懸念する声が多かった。“小さいだけで役に立つのか”という実用性への疑問も強い。

16-4. ExLlamaV3 v1.0.0

DJミオ:ローカル推論エンジンではExLlamaV3 v1.0.0が大きな性能向上を出していた。RTX 3090上で、例としてQwen 3.6 27Bが29 tok/sから50 tok/sへ、+72%

DJレン:新しいattention、GEMM/GEMV、INT8 GEMV、Conv1D、MoE schedulerカーネルなどが効いている。これはNVIDIA GPU専用で、GGUFではなくEXL3形式を使う点も確認されていた。


17. Redditでのオープンウェイト新モデル話

17-1. Inkling再び

DJミオ:当然、RedditでもInklingは注目された。そこでは、975B total / 41B active、1M context、45Tマルチモーダルトークン、text-image-audio-videoという説明が出ていた。

DJレン:ここでTwitter版との違いとして、Redditではvideoまで含む書き方が出ていたね。ただ、元の主たる事実としてはテキスト・画像・音声入力、という整理がより確度高そう。

DJミオ:ユーザー関心は、やはりGLM-5.2に勝てるのか、そしてInkling-Smallが実はかなり実用的ではないか、という方向。

17-2. Soofi S

DJレン:Soofi Sは、31.6B total / 約3.2B active、Nemotron 3 Nano由来のhybrid Mamba-2/Transformer、約27Tトークン、ドイツ語強化、4Kから256Kまでスループットがあまり落ちない、という説明。

DJミオ:ただし、

  • 比較対象が古い
  • Qwen 3.6やGemma 4と比べていない
  • “機械翻訳や合成ドイツ語”を多く使っていて自然さが怪しい
  • ライセンス表記が“open”と言いながらHFカードが“Other”で本文が見当たらない

など、かなり疑義も多かった。

17-3. KAT-Coder-Air V2.5

DJレン:KAT-Coder-Air V2.5が**“very soon”にオープン化予定という予告も話題だった。OpenRouter上では既に使えて、使った人の推測では100B未満**らしい。

17-4. Gemma 4チャットテンプレ修正

DJミオ:GoogleはGemma 4のchat templates更新で、tool callingの改善、lazinessの低減、Hopper向けFlash Attention 4、vision token budget guideを出していた。

DJレン:コミット内容としては、null処理、reasoning/thinking保持、turn-tagの整合、tool response後の再開、余計な生成、tool-call-only turn closure修正など。テンプレートのシリアライズ不具合が、ツール利用品質をかなり左右していたことが見えてくる。

DJミオ:一方で“lazinessはまだ残る、これはテンプレではなくモデル側かも”という反応もあった。


18. オープンモデル政策とセルフホスティングのリスク議論

18-1. 米国が中国同等以下のオープンモデル公開を簡素化?

DJレン:ある報道として、米政権と業界団体が、中国の先行オープンモデルと同等以下の能力の米国オープンモデルなら、公開手続きを簡素化する議論をしているという話が出ていた。

DJミオ:ただし、元記事は確認不能だった。キャプチャ/429で本文が取れなかったから。

DJレン:それでもReddit側の論点は面白くて、強いオープンウェイトの規制は事実上不可能という指摘が多かった。トレント、私的共有、USB移送で回ってしまう、と。

DJミオ:もし本当に止めるなら、高VRAM GPUやワークステーション自体を制限するレベルまで行かないと難しい、という極論もあった。

18-2. なぜセルフホストするのか

DJレン:別スレでは、“なぜ自前でAIをホストするのか”という問いに対し、Satya Nadellaの発言を引いて、企業は“知能に二重払い”することになるかもしれない、つまり費用を払うだけでなく、ノウハウまで流出する可能性がある、とされた。

DJミオ:ここでの懸念は、APIやSaaSのモデル提供者が、プロンプト、文書、ワークフロー、RAGコーパスから企業知識を学んでしまうこと。だからローカル推論やプライベートデプロイが魅力的になる。

DJレン:ただしコメントでは、“それはAzureに載せ替えたいMicrosoftの営業トークでは”という懐疑も強かった。さらにCopilotやRecallなど、Microsoft自身のプライバシー懸念も持ち出されていた。

18-3. xAIのGrok Build CLI流出疑惑

DJミオ:さらに、Grok Build CLIが私有GitリポジトリやシークレットをGoogle Cloudバケットへアップロードしていた疑惑を取り上げたスレがあった。

DJレン:これを根拠に、ローカルファースト、オープンウェイト、オープンソースのエージェントハーネス、VPC内実行、外部送信前の秘密情報検査レイヤが必要だ、という主張になっていた。

DJミオ:コメントでは、自己ホストGitサーバをインターネット遮断して使うなど、エージェントのデータ外流出経路を可視化・抑制する工夫が語られていたね。


19. より一般的なAIサブレの話題

19-1. Frontier AIの蒸留と安全基準

DJレン:一番大きかったのは、Anthropicが米上院で、Alibabaが25,000の偽アカウントを使って6週間で28.8M回Claudeと会話し、Qwen改善のために大規模蒸留していたと主張した、という話。

DJミオ:技術的には“通常APIアクセスを大規模に使って、agentic reasoningやcodingの振る舞いを抜き出す”という構図。コメントでは、それは違法ハックというより、大規模自動化されたリバースエンジニアリングではないかという比較が多かった。

DJレン:また、アカウントやIPがAlibaba系でも、Alibaba本体犯行の証明にはならないという指摘もあった。AWSやAzureのIPから変なアクセスが来ても、それがAmazonやMicrosoftとは限らないのと同じ。

DJミオ:そして、“API利用が規約内だったなら、これはAnthropic側の不正利用検出、レート制御、アカウントリンク分析、反蒸留対策の弱さを示しているのでは”という見方もあった。

19-2. Demis Hassabisの“AGIは数年先”論

DJレン:Demis Hassabisは、**AGIは数年先、いまは“singularity foothills”**だとするエッセイを出し、米国主導のFrontier AI Standards Bodyを提案した。

DJミオ:最初は任意の事前安全試験、将来的には主要フロンティアラボに義務化もありうる、対象はopen/closed両方、重点リスクはサイバー、バイオ、自律エージェント

DJレン:コメントでは、タイムライン自体はAltmanやMuskより信じる人もいたけど、規制の実効性には懐疑が多かった。特にオープンソースや中国モデルをどう扱うのか、国際協調が成り立つのか、という問題。


20. AIハードウェア・コンパニオン・環境型ロボット

20-1. OpenAIの最初のデバイスリーク

DJミオ:Bloomberg由来とされる未確認情報として、OpenAIの最初のデバイスは、動き回れる・画面のない・スピーカー型AIコンパニオンらしい、という話。

DJレン:カメラや環境センサー付きで、人格的で人間らしい対話と生産性を重視するとされていたけど、コメントでは**“監視付きAlexaの焼き直しでは”**という反応が多かった。

DJミオ:一方で、視覚障害者支援には有用かもしれない、という具体的なアクセシビリティ観点のコメントは建設的だった。

20-2. 慶應のヘリウム入り飛行ロボット

DJレン:慶應大学のソフトでヘリウム充填の室内飛行ロボット、いわばブリンプ型の“airwhale”も話題だった。ついてくる、起こす、リマインドする、学習相手になる、といった用途。

DJミオ:Redditの反応はだいぶ雑談寄りで、猫に狙われそうとか、自動回転ドアに弱そうとか、そういう雰囲気だったね。


21. 実運用でのAIコスト制御

21-1. 「コストが理由でモデルを使わなくなった」

DJレン:Fortune 500の“AI-first”な組織が、Claudeを外し、アクセスを制限し、デモや研修も止めたという話が大きかった。主因はコスト管理

DJミオ:旗艦プロジェクトは、レガシーアプリのコードから業務ルール仕様書を再構築するというものだったけど、エージェントが細かなコードパスを見落とし続けて失敗。日常業務でも、SQL生成が制約をDROPしようとするなど、信頼性に難があった。

DJレン:コメントでは、GitHub Copilotのpremium request化・従量課金化が予算ショックを大きくしたという見方があった。

DJミオ:ここでのテーマは、“今のAIは使えそうでまだ安定しないのに、サブエージェント的な多段呼び出しでコストだけ大きくなるsour spotにいるのでは”ということ。

DJレン:一方で、これは永続的問題じゃなく、性能/ドルが改善すれば再び使われるという見方もあった。

21-2. Claudeが2ユーロの上限を超えて15ユーロ以上使った

DJミオ:もう1つのコスト話はもっと直接的。Claudeの使用上限2ユーロに設定していたのに、13.79ユーロまで課金されたという画像付き投稿。

DJレン:これについては複数ユーザーが、Anthropicのusage limitはハードキャップではなく、進行中ターンを最後まで実行して請求する“ソフト制限”なのではと推測していた。

DJミオ:1ドル上限で42ドル請求、15ポンド残高がusage credits offでも消えた、など似た報告もあって、APIワークフローで固定予算を前提にすると危険という話になっていた。

DJレン:もし事前承認なしで上限超過課金が起きるなら、かなり深刻なUX・信頼の問題だね。


まとめに入ろう

DJミオ:では総括です。今日の号はタイトルほど静かじゃなかった。

DJレン:中心メッセージは明確で、Thinking Machines LabのInklingは、“最強の一撃”としてではなく、オープンで実用的でカスタマイズ可能なマルチモーダル基盤モデルとして登場した。しかも、975B total / 41B activeの巨大MoEを、Apache 2.0、1M context、Day 0の広範な推論対応つきで出してきた

DJミオ:その評価は二層に分かれる。
ひとつは、米国オープンウェイト勢にとって大きな前進だという評価。
もうひとつは、中国の先頭オープンモデルや最上位クローズドモデルに対しては、まだ決定的優位ではないという冷静な評価。

DJレン:ただし、今回の真価は数字だけじゃない。
ベンチマーク最大化より、基盤モデル+推論基盤+ファインチューニング/エージェント運用で勝つという思想。
そしてオープン推論エコシステムの成熟を見せたこと。
さらに、relative positional biasやshort convのようなアーキテクチャ実験を大規模でやったこと。

DJミオ:その周辺でも、PerplexityのSPACE、OpenAIのGPT-Red、AnthropicやDeepMind周りの安全と統治、Soofi Sの評価汚染論争、PrismMLの極低ビット化、Gemma 4テンプレ修正、セルフホスティング論、企業導入のコスト疲れなど、AIの現実が“性能競争だけではない”ことがすごくよく見える一日だった。

DJレン:モデルは強くなる。でも、それと同じくらい、誰が公開するのか、どう配るのか、どのハーネスで使うのか、どこにデータが流れるのか、評価は信用できるのか、請求は暴走しないのか、そういう話が重要になっている。

DJミオ:つまり今のAIは、研究、製品、推論基盤、政策、ガバナンス、コスト管理が全部つながっている。Inklingの登場は、その接続点を一気に可視化した出来事だった、と言えそうです。

DJレン:今夜の“Midnight AI Groove”、テーマは「静かな日ほど、深いことが起きている」でした。

DJミオ:お相手はDJミオと、

DJレン:DJレンでした。

DJミオ:それではまた次回。夜のAIの波間で会いましょう。

ChatGPT Image 2026年7月17日 00_17_42.png

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?