0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

@Yushi88(使える最新テック)

毎秒1,009トークンのMercury 2:速さは163モデル中2位、知性は中の上

0
Posted at

独立系ベンチマークのArtificial Analysisでは、Mercury 2は速度で計測対象163モデル中2位に位置する。一方、知性の総合指標は22。全モデルの中央値が17なので、真ん中よりやや上——同サイトの区分でも「above average(平均をやや上回る)」止まりだ。米国のInception Labs(インセプション・ラボ)が2026年2月に公開した推論モデルMercury 2は、LLMの大前提だった「1トークンずつ左から右へ書く」手順を捨てて、この位置に着いた。LLMをAPIで一度でも叩いたことがあるなら、この偏った強さがどの工程に効くのかを考える材料になる。

Mercury 2とは:タイプライターをやめ、下書きを何度も直すエディタになる

Mercury 2は、画像生成でおなじみの拡散モデルの仕組みをテキスト生成に持ち込んだ拡散LLM(diffusion LLM、dLLM)の一つだ。
従来のLLMは、直前までのトークン列をもとに次の1トークンを左から右へ順に出す、自己回帰(autoregressive)という方式を採る。計算結果を使い回すKVキャッシュ(過去の文脈を覚えておく領域)を挟んでも、1トークンごとに新しい計算が要る点は変わらない。Inception Labsは発表記事で、レイテンシは一度きりでは現れず "It compounds across every step, every user, every retry"(すべてのステップ、ユーザー、リトライで積み重なる)と書く。1回はわずかでも、推論を何度も連鎖させるエージェントや検索パイプラインでは積み上がる。
Mercuryはこの順番ごと捨てる。各トークンを「マスク」で隠した状態から始め、そのマスクを段階的に埋めていく、マスク型拡散(masked diffusion)と呼ばれる方式だ。共同創業者Volodymyr Kuleshov(ヴォロディミル・クレショフ)氏らの技術ブログによれば、各ステップで文全体の下書きを持ったまま複数の位置を同時に直せるのが自己回帰との違いだ。穴だらけの原稿を手元に置き、あちこちの穴を同時に埋めては全体を見直す。それを何度か繰り返す。Inception Labs自身は "Less typewriter, more editor revising a full draft at once"(タイプライターというより、下書き全体を一度に推敲するエディタに近い)と表現する。

速さは163モデル中2位、知性は中央値の少し上

公式発表によれば、Mercury 2はNVIDIA Blackwell GPU上で 1,009トークン/秒 を記録し、自己回帰型の同クラスモデル比で5倍以上速い。ただし「同クラス」が何を揃えた比較なのかは公表されていない。最適化目標も平均のスループットではなく "p95 latency under high concurrency" 、多数のリクエストが同時に来たときの、遅い方から5%の応答時間の安定だという。ただし高い同時実行数での実測値は執筆時点で出ていない。品質のほうはInception Labs自身が「主要な速度最適化モデルと同水準」と控えめだ。

Mercury 2・DiffusionGemma・Open-dLLM:同じ拡散でも狙う場所が違う

GoogleのDiffusionGemma(ディフュージョン・ジェマ)は学習済みの重みを公開しており、クエリ数の多いクラウド提供では速度の優位が縮むと公式ブログが明記する。Open-dLLMは学習データや学習コードまで公開したOSSだ。速さを本番で買うならMercury 2、手元で試すならDiffusionGemma、仕組みを追うならOpen-dLLM。

Mercury 2 APIの使い方:diffusing=Trueで拡散の途中が見える

Mercury 2はOpenAI互換のREST APIで提供されている。仕組みは自己回帰と根本から違うのに、呼び出し方は普通のチャット補完とほとんど変わらない。以下は公式ドキュメントのSDKページに沿って公式SDK(inceptionai)で書いた最小構成だ。

from inceptionai import Inception

client = Inception()  # 環境変数 INCEPTION_API_KEY を自動で読む

# 通常のチャット補完。呼び出し方はOpenAI互換APIとほぼ同じ
response = client.chat.completions.create(
    model="mercury-2",
    messages=[{"role": "user", "content": "拡散LLMの仕組みを一言で説明して"}],
    max_tokens=200,
)
print(response.choices[0].message.content)

# diffusing=True にすると、マスクされたトークン列が
# 徐々に文章へ収束していく denoising の過程(reverse process)を
# そのままストリーミングで受け取れる
stream = client.chat.completions.create(
    model="mercury-2",
    messages=[{"role": "user", "content": "拡散LLMの仕組みを一言で説明して"}],
    max_tokens=200,
    stream=True,
    diffusing=True,
)
for chunk in stream:
    # 各chunkは差分ではなく「その時点で精緻化された全文」。
    # 通常のストリーミングと同じ「画面に追記していく」書き方をすると
    # 似た文章が何度も積み重なるので、同じ行を上書きして表示する
    draft = chunk.choices[0].delta.content or ""
    print("\r" + draft, end="", flush=True)

つまずくのは受け取り方だ。通常のストリーミングは各chunkが差分なので、届いた順に画面へ足せばいい。diffusing=True では各chunkがその時点の全文なので、同じ書き方で足すと似た文章が何度も並ぶ。文全体を繰り返し直す拡散の手順が、受け取り方に出ている。

主役ではなく、裏方の一工程を渡す

モデルホスティングのBasetenは公式ブログで、コーディングエージェントのAugment Code(オーグメント・コード、米国)によるMercury 2採用を紹介している。渡したのは、長い会話履歴を要約して短くするコンテキスト圧縮の工程だ。ここを置き換えて最大 90%のコスト削減 と 82%のレイテンシ削減 を確認し、この工程を含むタスクでは処理時間が150秒から27秒まで縮んだ。
Inception Labsの発表記事にも、同じ「裏方の速さ」を買った会社が名前入りで並ぶ。コードエディタのZed(ジー・イーディー)は編集予測にMercury Coderを使い、共同創業者のMax Brunsfeld(マックス・ブランズフェルド)氏は "Suggestions land fast enough to feel like part of your own thinking"(提案が十分速く届くので、自分の思考の一部のように感じられる)と語る。エンタープライズ検索のSearchBloxは検索応答を1秒未満に、ブラウザ自動化のSkyvern、電話応対の音声AIのOpenCallも使い、音声入力のWispr Flowは採用を検討中だ。どれも会話の主役ではなく、遅れると体験が壊れる細かい工程だ。

渡していい工程、渡してはいけない工程

渡していいのは、要約・整形・補完のように答えの形がだいたい決まっている工程だ。Augment Codeが最初に切り出したのも会話履歴の要約だった。渡してはいけないのは、複雑な推論や厳密さが要る工程。dev.toに載った実機テストでは、初代Mercury Coder Smallが公称737トークン/秒に対し実測370トークン/秒程度、コーディングのベンチマークでも同規模の小型モデル並みで、チェスでは反則手を連発したという。
賢さを上げる以外にも打ち手はある。それがMercury 2の言い分で、数字も採用例もその線に沿う。最高の賢さは要らないのに遅れだけが積み上がっている工程は、あなたのシステムのどこだろうか。まず1つ見つけて、そこだけ切り出せるかを確かめるところからだ。

参考文献

  1. Introducing Mercury 2 - Inception Labs公式ブログ - https://www.inceptionlabs.ai/blog/introducing-mercury-2
  2. Mercury: Ultra-Fast Language Models Based on Diffusion(原論文) - arXiv - https://arxiv.org/abs/2506.17298
  3. How to Build a Diffusion Language Model - Kuleshov Group技術ブログ - https://kuleshov-group.github.io/blog/blog/2026/how-to-build-a-diffusion-language-model/
  4. Welcome to the Inception Platform(APIクイックスタート) - Inception Platform公式ドキュメント - https://docs.inceptionlabs.ai/get-started/get-started
  5. SDKs - Inception Platform公式ドキュメント - https://docs.inceptionlabs.ai/get-started/sdks
  6. Streaming & Diffusion - Inception Platform公式ドキュメント - https://docs.inceptionlabs.ai/capabilities/streaming
  7. Diffusion Gemma: An update to text diffusion research - Google公式ブログ - https://blog.google/innovation-and-ai/technology/developers-tools/diffusion-gemma-faster-text-generation/
  8. Open-dLLM(GitHubリポジトリ、透明性比較表) - https://github.com/pengzhangzhi/Open-dLLM
  9. Zed: Edit Prediction Providers - Zed公式ブログ - https://zed.dev/blog/edit-prediction-providers
  10. Mercury 2 is now available on Baseten - Baseten公式ブログ - https://www.baseten.co/blog/mercury-2-is-now-available-on-baseten/
  11. Mercury 2 - Artificial Analysis(独立ベンチマーク) - https://artificialanalysis.ai/models/mercury-2
  12. Mercury Coder: A Quick Test of Diffusion Language Model - dev.to(Maxim Saplin氏) - https://dev.to/maximsaplin/mercury-coder-a-quick-test-of-diffusion-language-model-12b2
  13. Mercury 2: Fast reasoning LLM powered by diffusion - Hacker News - https://news.ycombinator.com/item?id=47144464
0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
Sign upLogin
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?