0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

2.4兆パラメータのQwen3.8-Max、実際に動くのは950億という設計

0
Posted at

新しい巨大モデルが出るたびに総パラメータ数が話題をさらう。だが Qwen3.8-Max の「2.4兆」という数字は、エンジニアが実務で最初に気にすべき指標ではない。8月3日に Alibaba が一般公開したこのモデルで、1トークンを生成するのに実際に動くのは全体のごく一部だからだ。報道各社が伝える活性パラメータは950億。総量2.4兆のうち、計算に関与するのは約4%にすぎない。

🧩 「2.4兆」は看板、実際に動くのは950億

これは Mixture of Experts(MoE、専門家混合)という構造による。モデル内部を多数の小さな「エキスパート」に分割し、入力ごとに関連する一部だけを起動する。膨大な知識を抱えつつ、1トークンあたりの計算量とレイテンシは中規模モデル並みに抑える、というのがねらいだ。フロンティア級の応答品質を、フルサイズのモデルより軽い足回りで借りているイメージに近い。

この活性数については、報じ方に温度差がある。testingcatalog は MoE で950億が動くと明記し、Qwen3.5 アーキテクチャをベースにすると伝える。一方 MarkTechPost は、Alibaba が活性パラメータ数を前面に出していない点を指摘した。数字そのものより、「総量ほどには計算しない」という設計思想を押さえておけばいい。文脈長は最大100万トークンで、200ページ超の文書や100時間規模の動画を1リクエストで扱えると説明されている。

💰 価格表に隠れたもう一つの主役

料金表を開くと、入力100万トークンあたり2ドル、出力6ドルという、フロンティア級としては手頃な水準が並ぶ。ただ本当に効くのは、その隣にある cached input の行だ。

項目 100万トークンあたり
入力(通常) $2.00
出力 $6.00
入力(暗黙キャッシュのヒット) $0.25
明示キャッシュの作成 / 読み出し $2.50 / $0.17

LLM の API は、同じ前置き(システムプロンプトや長い文脈)を毎回送ると、毎回フルで課金される。プレフィックスキャッシュは、直前のリクエストと共通する冒頭部分の計算結果を再利用し、その分を大きく割り引く仕組みだ。Qwen3.8-Max では暗黙キャッシュにヒットした入力が通常入力の8分の1、つまり0.25ドルまで下がる。

この差は、エージェントのように長い指示や履歴を抱えたまま同じ前置きで何十回もモデルを叩くワークロードで請求額を左右する。総パラメータのインパクトより、この0.25ドルの行のほうが月末の数字に効く、というのが実務で回してきた側の実感だ。

🔌 乗り換えコストは base_url とモデルID の2箇所

移行を検討する側にとって大きいのが互換性だ。Qwen3.8-Max は OpenAI 互換の chat completions と Responses API に加え、Anthropic 互換インターフェースまで備える。既存の OpenAI SDK のコードなら、差し替えは接続先とモデル名だけで済む。

Alibaba Cloud Model Studio supports API calls to models through OpenAI-compatible interfaces and the DashScope SDK.
(Alibaba Cloud Model Studio ドキュメント)

公式ドキュメントで確認できる最小の呼び出しは、次の形になる(米国リージョンの例。他リージョンでは base_url のホストが変わる)。

pip install openai
from openai import OpenAI
import os

client = OpenAI(
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    base_url="https://dashscope-us.aliyuncs.com/compatible-mode/v1",
)

completion = client.chat.completions.create(
    model="qwen3.8-max",
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "Who are you?"},
    ],
)
print(completion.model_dump_json())

OpenAI()base_url を DashScope 互換エンドポイントに向け、API キーを DASHSCOPE_API_KEY から読むだけ。あとはモデルIDに qwen3.8-max を指定する。推論の深さは xhigh / medium / low で切り替えられ、code_interpreterweb_search など5種の組み込みツールも用意される。

来週来る27B、そして留保しておきたい点

公開時点で使えるのはホスト版のみだが、Qwen は来週にも Hugging Face と ModelScope で重みを公開すると予告している。しかも2.4兆の本体に加えて、Qwen3.8-27B という小型チェックポイントも同時にオープンウェイト化される。2.4兆版を自前の GPU に載せられる現場はほぼないので、実際に手元で回せる本命は27B のほうだと見ている。ここが検証の起点になる。

性能面では、ターミナル操作の Terminal-Bench 2.1 で86.6、GUI 操作の OSWorld-Verified で86.1、コーディングの FrontierSWE が前世代の40.7から73.5へ大きく伸びたとされる。ただしいずれも Qwen 自身の公表値であり、第三者による追試を待ちたい。「Claude Fable 5 に次ぐ」といった位置づけも、現時点ではベンダー側の主張だと受け止めておくのが安全だ。

巨大モデルのニュースは総パラメータ数で殴り合いになりがちだが、Qwen3.8-Max を触るときに見るべきは、活性950億という計算量、暗黙キャッシュの価格、そして接続先一行で入れ替わる互換性の3点に尽きる。長文脈を回し続けるエージェント用途なら、来週のオープンウェイト、なかでも27B が出そろってから本命の検証を始めるのが筋がいい。

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?