0
1

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

最強を狙わないInkling、Muratiのラボが975Bを公開して賭けた『正直さ』

0
Posted at

フロンティアラボが新しいモデルを出すとき、普通は「これが今いちばん強い」と胸を張る。ところが7月15日に公開されたInklingの告知には、こう書いてある。

Inkling is not the strongest overall model available today, open or closed.

作ったのは元OpenAI CTOのMira Muratiが率いるThinking Machines Lab。同社にとって初の自社モデルであり、しかもオープンウェイト(重みを誰でもダウンロードして改変できる)で、ライセンスはApache 2.0だ。最強を名乗らないモデルを、なぜ「初手」に選んだのか。ここが今回いちばん面白いところなので、そこから解いていく。

賭けているのは強さではなく「わからないと言える」こと 🎯

現在のLLMがハルシネーション(もっともらしい嘘)を垂れ流す根っこには、訓練の報酬設計がある。多くのモデルは「答えを出すこと」に報酬が付くよう学習される。すると、確信がなくても何か言ったほうが得、という行動が刷り込まれる。試験で空欄より当てずっぽうのほうがマシ、というのと同じ理屈だ。

Inklingはここに逆の圧をかけている。Thinking Machinesは後訓練で、解決済みの実世界の問いに対してproper scoring rule(確率予測の正直さを測る採点法)を報酬に使い、さらに「棄権を許す報酬(abstention-aware rewards)」を導入した。公式の表現がわかりやすい。

answering only pays off when the model is likely to be right

つまり「正解しそうなときだけ答えが得になる」。自信がなければ黙る、あるいは「わからない」と返すほうが報酬上は合理的になる。これはベンチマークのスコアを1点上げる話ではなく、モデルの出力を業務で信頼できるかどうかに直結する。RAGやエージェントの中で、根拠のない断定を平気で返すモデルほど扱いに困る、というのは現場感覚とも一致する。ここを訓練レベルで手当てしてきたのが、Inklingのいちばんの主張だと私は読んでいる。

中身:975Bを積んで41Bだけ使うMoE

アーキテクチャはオーソドックスなようで、細部に手が入っている。モデルカードによれば、Inklingは66層のデコーダ専用Transformerで、フィードフォワード部がスパースなMixture-of-Experts(MoE、トークンごとに一部の「専門家」ネットワークだけを起動する仕組み)になっている。

総パラメータは975B(約1兆)だが、各トークンで実際に動くのは41Bだけ。256個のエキスパートのうち6個をルーティングで選び、加えて常時2個の共有エキスパートが動く。推論コストは総数ではなく「起動している」41Bにおおむね比例するので、名目1兆パラメータの割にはずっと軽い、というのがMoEの旨みだ。

差分として目を引くのは注意機構まわりだ。位置エンコーディングに主流のRoPEではなく相対位置埋め込みを採用し、局所を見るスライディングウィンドウ層とグローバル層を5対1で交互に挟む。さらにkey/value射影の後段に短い畳み込み(short convolution)を入れて局所的な並びを補強している。学習はMuonとAdamのハイブリッド(大きな行列にMuon、その他にAdam)、後訓練は数学・コード・音声・画像・チャット・安全性にわたり3000万回超のロールアウトを回したとされる。

入力はテキスト・画像・音声の3モダリティに対応し、出力はテキストのみ。文脈長は最大100万トークン。訓練データは45兆トークン規模のマルチモーダルコーパスだと告知にある(※モデルカード側では具体的なトークン数は明示されていない)。ベンチマークは効果測定用に一部だけ挙げると、AIME 2026が97.1%、GPQA Diamondが87.2%、SWEBench Verifiedが77.6%。数字だけ見れば十分に上位だが、本人たちが「最強ではない」と言っているのは、GPT-5.6やKimi K3といった最前線と横並びにしたときの話だと理解しておけばいい。

「考える量」をダイヤルで回す ⚙️

もう一つ実務的なのが、テスト時の計算量を呼び出し側から制御できる点だ。Hugging Faceの解説記事によると、reasoning_effortというパラメータにnone / minimal / low / medium / high / xhigh / maxを渡して、推論に使うトークン量を段階的に増減できる。

効きは軽視できない。公式は、コーディング系のTerminal Bench 2.1でNemotron 3 Ultraと同等のスコアを「約3分の1のトークン」で出したと述べている。速度とコストが欲しい場面ではダイヤルを絞り、難問だけhighmaxに上げる、という運用ができる。APIから触るなら、Together AIがday-0対応していて、OpenAI互換で呼べる。

from together import Together

client = Together()

response = client.chat.completions.create(
    model="thinkingmachines/inkling",
    messages=[{"role": "user", "content": "この問題を丁寧に解いて答えを出して"}],
    reasoning_effort="medium",
)
print(response.choices[0].message.content)

手元で動かせるのか

オープンウェイトとはいえ、素のInklingは巨大だ。Hugging Faceの解説によると、BF16のフルウェイトは約2TBのVRAM(Hopper世代以降)を要求する。NVFP4量子化版なら約600GB(Blackwell)まで下がり、さらにllama.cpp/Unslothの1ビット量子化GGUFなら概ね50〜100GBまで落ちる。ここまで来ると、高VRAMの1台構成で個人でも試せる射程に入ってくる。

形式 必要VRAMの目安 想定ハード
BF16 フルウェイト 約2TB Hopper以降
NVFP4 約600GB Blackwell
1ビット量子化(GGUF) 約50〜100GB llama.cpp / Unsloth

量子化版を試すなら、Unslothが配布するGGUFをllama.cppでそのまま引ける。

llama serve -hf unsloth/inkling-GGUF:UD-IQ1_S

そしてThinking Machinesが本命に据えているのは、この重みを組織ごとに微調整する使い方だ。同社の学習プラットフォームTinker上で、64K/256Kの文脈長を選んでファインチューニング・蒸留・強化学習ができる。彼らがInklingを「完成品ではなく出発点」と位置づけ、最強を名乗らないのは、この一貫した戦略の裏返しだと見ると腑に落ちる。汎用の一等賞を1個配るのではなく、各社が自分の用途に削り込むための素材を配る、という賭けだ。総パラメータ276B/起動12Bの軽量版Inkling-Smallもプレビュー公開されており、まずこちらで感触を掴むのが現実的だろう。

強さのランキングで語られがちなこの分野で、「正直さ」と「調整のしやすさ」を前面に出したモデルが米国最大級のオープンウェイトとして出てきたこと自体が、一つの立場表明だ。ベンチマークの数字より、自分のデータで棄権挙動がどう変わるか。そこを触ってから評価したいモデルだと思う。

0
1
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
1

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?