Strata で Qwen3.8-Flash-Next iq2_xs を試す

メモリさえあればかなりの速度で動くと評判の Strata を試してみた

結論

• 50トークン/秒程度で動いた。DDR4(64GB)＋RTX2080Ti(22GB)という古い構成でここまで動くのは素晴らしい
  → 追記で書いた通りバージョンアップによって67トークン/秒で動作するようになりました。
• コンテキスト長が長くなっても速度低下はQwen3.8 27Bより小さい
• メモリを大量消費しても大丈夫な環境がすでにあるならStrataは良い選択肢になる。ただ、既に27Bが動いている環境があるなら、今からメモリを買い足してやるほどかといえば悩む
  

環境

• CPU：Intel Core i5 14500
• メモリ：64GB DDR4
• GPU：NVIDIA GeForce RTX 2080 Ti（22GB）
• VSCode + Claude Code for VSCode + Strata/llama.cpp

ちなみに、HDDにインストールしたらトークン速度が遅すぎて使い物になりませんでした（あたりまえだけど）
SSDに必ず入れましょう

Strataの設定

• モデル：Qwen3.8-Flash-Next
• 量子化：iq2_xs
• max-context：262144
• kv：q4_0
• ビジョン：有

テストに使用したプロンプト

HTMLファイル1つだけで動作する、高品質なインタラクティブ3Dシーンを作成してください。

テーマは「深海に存在する幻想的な都市」です。

Three.jsを使用してください。
Three.jsはCDNから読み込んで構いませんが、HTML・CSS・JavaScriptはすべて1つのHTMLファイルにしてください。

外部の3Dモデルや画像ファイルは使用しないでください。
建物、サンゴ、魚、粒子、海底などはすべてJavaScriptから生成してください。

シーン全体を深海にしてください。

中央には巨大な幻想的な海底都市を配置してください。

都市：
- ガラスのような透明感のある巨大なドーム
- ドームの内部に小さな建物
- 建物の窓から青白い光が漏れる
- 複数の塔
- 発光する道路
- 都市の周囲に発光する植物
- 建物の一部がゆっくり浮遊している

海底：
- 岩
- サンゴ
- 海藻
- 発光するキノコのような生物
- 小さな発光する植物
- 起伏のある海底

生物：
- 小さな魚の群れ
- 魚は単純なモデルでもよいが、それぞれが自然に泳ぐ
- 魚の群れが一方向に進んだ後、ゆっくり方向を変える
- 数種類の魚を異なるサイズ・速度で配置する

水中表現：
- 無数の小さな粒子が上方向にゆっくり移動
- 水中に光の筋が差し込む
- 全体に青い霧
- 遠くのオブジェクトほど薄く見える
- 水中に漂う小さな泡
- 泡は上昇しながら少し左右に揺れる

発光表現：
- 青、シアン、紫、緑の生物発光
- 発光オブジェクトの周囲にGlow
- 都市の窓がゆっくり明滅
- 海底植物が呼吸するようにゆっくり明るくなったり暗くなったりする

アニメーションは非常に滑らかにしてください。

特に以下を重視してください。

1. 魚の群れが自然に泳ぐ
2. 海藻が水流で揺れる
3. 泡が上昇する
4. 粒子が水中を漂う
5. 発光植物がゆっくり明滅する
6. 都市の光がランダムに明滅する
7. カメラがわずかに浮遊する

カメラ操作：
- 左ドラッグ：視点回転
- 右ドラッグ：パン
- ホイール：ズーム
- ダブルクリック：初期位置に戻す

カメラを自由に動かして、海底都市を360度観察できるようにしてください。

見た目は「ゲームのタイトル画面」や「映画のワンシーン」のような品質を目指してください。

画面上には控えめに

「ABYSSAL CITY」

と表示してください。

UIは最小限にしてください。

技術要件：
- HTML 1ファイル
- Three.jsを使用
- requestAnimationFrameを使用
- WebGL
- レスポンシブ対応
- ウィンドウサイズ変更対応
- 60fpsをできるだけ維持
- 大量の粒子にはTHREE.Pointsなどを使用
- 不要なDOM操作を避ける
- JavaScriptを適切に関数分割する
- エラーなくブラウザの「file://」で実行できること

html ファイルを1つ作成して報告してください

上記のプロンプトの結果 - Strata + Qwen3.8-Flash-Next IQ2_XS

• 出力トークン速度（t/s）：50前後
• プロンプトで「重視しろ」と指示した7項目
  △：魚の群れが自然に泳ぐ
  ○：海藻が水流で揺れる
  ○：泡が上昇する
  ○：粒子が水中を漂う
  ○：発光植物がゆっくり明滅する
  ○：都市の光がランダムに明滅する
  ○：カメラがわずかに浮遊する
  

上記のプロンプトの結果 - llama.cpp + Qwen3.8 27B UD-IQ4_XS

• 出力トークン速度（t/s）：26前後
• プロンプトで「重視しろ」と指示した7項目
  ×：魚の群れが自然に泳ぐ
  ○：海藻が水流で揺れる
  ○：泡が上昇する
  ○：粒子が水中を漂う
  ○：発光植物がゆっくり明滅する
  ○：都市の光がランダムに明滅する
  ○：カメラがわずかに浮遊する

上記のプロンプトの結果 - llama.cpp + Qwen3.6-35B-A3B UD-Q4_K_M

Qwen3.6-35B-A3B は1度のプロンプトで対応できなかったため、再チェックするように追加指示をする必要がありました

• 出力トークン速度（t/s）：36前後
• プロンプトで「重視しろ」と指示した7項目
  △：魚の群れが自然に泳ぐ
  ×：海藻が水流で揺れる
  △：泡が上昇する
  ○：粒子が水中を漂う
  ○：発光植物がゆっくり明滅する
  ○：都市の光がランダムに明滅する
  ×：カメラがわずかに浮遊する

上記の結果から

• トークン速度：Strata + Qwen3.8-Flash-Next IQ2_XSが圧勝
• 指示の順守：Qwen3.8-Flash-Next IQ2_XS ≒ Qwen3.8 27B UD-IQ4_XS >>> Qwen3.6-35B-A3B UD-Q4_K_M
• メモリ消費：あたりまえながら Qwen3.8-Flash-Next IQ2_XS は大量消費。VRAM+RAMで約60GB消費した。
  

私の環境での印象としては、

• トークン速度がとにかく欲しいなら、Strataはとても良い
• 性能としては27Bと大きな差を感じない（IQ2_XSとUD-IQ4_XSで比較しているから対等な比較ではないけど）
• 今の27Bで特に不満が無いなら、わざわざメモリを買い足してStrataにするほどのメリットは無さそう（出費なく、Strataが使えるならアリ）

補足－Strataのインストール場所の変更

最初、うっかりHDDにインストールして遅かったので、SSDに再インストールした
が、なぜか古い設定の場所にモデルがダウンロードされ続けた。
以下の場所に設定ファイルがあるので、書き換えればOKだった。

C:\Users[ユーザ名]\AppData\Roaming\Strata\settings.json

例えば、上記のファイルで
"data_dir": "D:\Strata\Strata-data",
になっている行があれば
"data_dir": "C:\Strata\Strata-data",

のようにパスを書き換えればOKでした。

なお、モデルの設定が終わった後であれば Strata-main の中に「strata-iq2_xs.json」のようなファイル名で設定ファイルがあるので、この中を書きかえればOK

追記2026.10.08

Strataのバージョンアップ（v0.1.40.3）で、さらに速度が上がった
上記の試験をしたときは54トークン/秒程度だったが、67トークン/秒程度まで出るようになった。

ツールで処理を回し続ける場合は、1回で精度の高い回答をするよりそこそこの速度が出続けるのは大きなメリット
私のように、Strata＋Qwen3.8 Flash Next と Qwen3.8 27B が両方とも使える環境であれば、Strataを使った方が良さそう

参考：他の記事

Strataのバージョンアップが急速に行われていることもあり、条件違いで検証するなど記事を追加しています。
もし良ければ、この記事の後に書いた記事もどうぞご覧ください