小米（Xiaomi）が 2026-09-22 に公開した MiMo-V2.6-Flash は、前世代 V2.5-Pro と比べて「全モーダル対応＋より小さく賢く＋価格そのまま」のアップグレード版です。この記事では「自分の GPU で動かす」という観点に絞って、パラメータ削減の実態と VRAM 要件を整理します。
なぜローカル運用を考えるのか
API の従量課金で十分なケースは多いですが、次のような状況では自前での稼働が現実的です。
- データプライバシー：社内文書や顧客の録音・動画を外部エンドポイントに出したくない場合
- 高並行・低遅延：自前インフラでスループットを上限まで叩き、応答を安定させたい場合
- 規模の経済：月間トークン消費が一定を超えると、自部署のほうが従量課金より安くなる場合
V2.6-Flash は MIT ライセンスで重みが公開されており、こうした自部署が合法的に可能です。
V2.5-Pro と V2.6-Flash のパラメータ比較
| 项目 | V2.5-Pro（前世代） | V2.6-Flash（現行） |
|---|---|---|
| 総パラメータ / 活性パラメータ | 1.02T / 42B | 309B / 15B |
| モダリティ | テキストのみ | テキスト・画像・動画・音声 |
| コンテキスト長 | 1M | 1M |
| API 価格（国内目安） | ¥1 / ¥2 per M tok | 据え置き |
| 状態 | API は 2026-10-21 廃止、重みのみ | 稼働中 |
総パラメータは 1.02T から 309B へと 3 分の 1 以下に削減されています。しかし「小さくなったから自部署は楽になる」と単純には言えません。次で具体に計算します。
VRAM 要件を実数で整理する
309B のモデルを FP16（2 bytes/param）でそのまま保持すると、309B × 2 ≈ 618 GB。実運用ではフラグメントや KV キャッシュのオーバーヘッドを含め、約 640 GB が目安となり、公式も 8×H100 80GB を SGLang TP8 で分割する構成を推奨しています。
量子化で圧縮する場合の目安は次の通りです。
| 精度 | 必要 VRAM（目安） | 備考 |
|---|---|---|
| FP16 | 約 640 GB | 8×H100 80GB（TP8）など |
| INT8 | 約 309 GB | 4×H100 クラス |
| Q4_K_M（GGUF） | 約 180 GB | 3×80GB または CPU オフロード併用 |
Q4_K_M GGUF なら約 180 GB まで下がるため、複数枚のコンシューマ級 GPU や、CPU オフロードと組み合わせた単機での稼働の余地が出てきます。
MoE の「罠」：活性 15B ≠ 必要 VRAM 15B
V2.6-Flash は MoE（混合専門家）であり、各トークンで活性するのは 256 専門家中 8 専門家だけ（活性 15B）です。だからこそ推論計算は軽いのですが、すべての専門家の重みをメモリに載せておく必要があります。
言い換えると「活性 15B だから 15B 分の VRAM で済む」は誤算です。309B 分の重み保持が前提であり、スループットは 15B 相当でも、メモリフットプリントは 309B クラスです。この点を押さえておかないと、見積もりが 1 桁ズレます。
マルチモーダル分の追加メモリ
V2.6-Flash は言語モデル本体とは別に、681M パラメータの MiMo ViT（視覚エンコーダ）と、308M の AudioTokenizer ＋ 127M の音声パッチエンコーダを抱えています。これらは画像・音声をトークン化するための前処理系であり、FP16 なら数 GB 程度の追加、量子化時も言語本体とは別に乗るため、メモリ計画に含めておく必要があります。
起動手順の概要
重みは公式の HuggingFace リポジトリ（MIT）から取得します。
- SGLang / vLLM：TP8 で 8 枚の GPU に分割して 309B をロード。長コンテキスト（1M）を活かすには、スライディングウィンドウ＋グローバル注意の構成をそのまま活かす設定が重要です。
- GGUF ルート：llama.cpp 系で Q4_K_M を指定。メモリが足りない場合は CPU オフロードを有効化し、レイヤーを GPU/CPU に分割します。
どちらも「重みを取って来て、互換ランタイムでロードする」という手順で、特別な独自処理は不要です。
結論：どう選ぶか
- 個人・小規模：API か、Q4_K_M GGUF（約 180GB）のどちらかが現実的。自前で 8 枚の H100 を抱えるのは非現実的です。
- チーム・プライバシー重視：マルチ GPU で FP16 自部署。データを外に出さず、スループットを自分で叩けます。
- 新規に自前で動かすなら V2.6 系一択：前世代 V2.5-Pro は API がすでに廃止されており、手元に残るのは重みだけ。同じ労力を払うなら、マルチモーダル対応の V2.6-Flash を選ぶほうが明らかに有利です。
価格は V2.5 世代から据え置き（国内目安 入力 ¥1 / 出力 ¥2 per M tok）で、マルチモーダルという大きな追加能力が「そのまま」手に入る点は、自部署コストを考える上でも見逃せません。
参考リンク
- 小米 MiMo の全モデル一覧（モデルページ）：Xiaomi MiMo models
- チャットモデル総括（タスク分類ページ）：chat models
数値・価格・ベンチマークは小米公式モデルページ・リリースノート・公開技術資料に基づき、主観評価は行っていません。モデルの迭代が早いため、正確な数字は公式最新ページを確認してください。