0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

Gemini 4 Argon の思考レベルと long decode:設定方法とハマりどころ

0
Last updated at Posted at 2026-10-14

この記事は AIHubMix が作成しました。情報は2026年10月13日時点のものです。Gemini 4 Argon は同日に一般提供(GA)が始まり、AIHubMix でも gemini-4-argon として利用できます。まだ検証できていない点は「TBD」として残し、確認でき次第追記します。

Gemini 4 Argon は2026年10月13日に一般提供(GA)が始まりました。リクエストの料金と所要時間を決めるのは、thinking_level(low・medium・high、デフォルトは medium)と max_output_tokens(デフォルト65,536、long decode を使うと最大1,048,576)の2つの設定です。どちらもドキュメントが公開されましたが、どちらにも落とし穴があります。

公開ベンチマークはすべて high で測られていますが、レベルを指定しないリクエストは medium で動きます。上限が低すぎると、空の回答が返ってきても料金はかかります。64Kトークンを超える出力には long decode が必要で、バックグラウンド実行で動き、区切りごとに課金されます。この記事では、これらの設定、AIHubMix 経由のクライアント、long decode の書き方、ハマりどころと対処法を順に紹介します。

TL;DR

  • 思考レベルは low・medium(デフォルト)・high の3つで、思考をオフにはできません。OpenAI SDK では reasoning_effort の minimal/low が low、medium が medium、high が high に対応します。
  • 公開スコアはすべて high の Argon です。medium と low の結果は公開されていません。
  • max_output_tokens は思考と回答の合計の上限です。32,768以上にし、トークンを減らしたいときは上限ではなくレベルを下げます。
  • 同期呼び出しの上限は65,536です。それを超えるには long decode を使い、Interactions API で background=True にしたうえで max_output_tokens を65,536より大きくします。
  • temperature・top_p・top_k は無視されます。クライアントのタイムアウトは15分以上にします。
  • long decode は64Kトークンごとの区切り(hop)のすべてのトークンに課金され、各 hop でそれまでの出力が入力として読み直されます。この部分はキャッシュで95%割引になります。

設定の一覧

設定 Gemini 4 Argon
思考レベル low、medium、high
デフォルトのレベル medium
思考をオフにする できない
同期呼び出しのデフォルト・最大出力 65,536トークン
long decode 時の最大出力 1,048,576から入力を引いた値
コンテキストウィンドウ 1,048,576(入力・思考・出力で共有)
temperature、top_p、top_k 無視される
推奨するクライアントのタイムアウト 15分以上

出典は Google の What's new in Gemini 4 Argon と Gemini の思考に関するガイドです。reasoning_effort との対応は Google の OpenAI 互換ガイドにもとづいています。

レベルの選び方

レベル トークン使用量 Google が推奨する用途
low 最少、レイテンシ最小 単純な作業、コスト重視の作業
medium バランス型 複雑なコードやエージェントを含むほとんどの作業
high 最多、最初のトークンが最も遅い 最も難しい推論・数学・コード

レベルの選び方について、Google は次のように書いています。

Run your evaluations at all three levels, then pick the lowest level that meets your quality bar.

(3つのレベルすべてで評価を実行し、品質の基準を満たす最も低いレベルを選んでください)

この評価は自分で行う必要があります。公開データがすべて high だからです。Google は「最も高い思考設定」で評価し、Artificial Analysis と Vals AI も high で測定しています。[TBD:思考レベルごとの精度とトークン数]

比較するときの注意点があります。GPT-6 Astra と GPT-6.1 Sol は、high より一段上の「max」で測られています。「Argon(high)」と「Astra(max)」が同点でも、それぞれの上限の設定で出したスコアです。

high のコスト

Artificial Analysis、同社のプロバイダー別の速度測定、Vals AI の数字です。すべて high で測られています。

指標 Gemini 4 Argon(high) 比較
AA のタスク1件あたり出力トークン 約6.2万 GPT-6 Astra(max):約2.7万
AA インデックス全体の出力トークン 1.1億 モデルの中央値:8,500万
出力速度 毎秒99.5〜116.5トークン AI Studio/Vertex AI
最初の回答トークンまでの時間 約45秒 思考時間を含む
Vals Index の1テストあたり時間 46分33秒 —

出力料金には思考トークンが含まれ、使用量には total_thought_tokens として表示されます。タスク1件あたり約6.2万出力トークンなら、Google の導入価格(100万トークンあたり$10)で約$0.62、12月1日からの価格($20)で約$1.24です。毎秒99.5〜116.5トークンなら、6.2万トークンの生成におよそ9〜10分かかります。

事前準備

  • AIHubMix の API キーを AIHUBMIX_API_KEY に設定します。Argon は AIHubMix で gemini-4-argon として提供されています。
  • 通常のリクエストには OpenAI SDK を使い、https://aihubmix.com/v1 に接続します。
  • long decode には Google GenAI SDK を使い、https://aihubmix.com/gemini に接続します。AIHubMix の Gemini ガイドに、ネイティブでの呼び出し方と、バックグラウンドモードを含む Interactions API の説明があります(google-genai 2.0.0以上)。
setup.sh
pip install -U openai google-genai
export AIHUBMIX_API_KEY="your-aihubmix-key"

リクエストの実装

argon_client.py
import os
from openai import OpenAI

client = OpenAI(
    base_url="https://aihubmix.com/v1",
    api_key=os.environ["AIHUBMIX_API_KEY"],
    timeout=900,
)

resp = client.chat.completions.create(
    model="gemini-4-argon",
    reasoning_effort="medium",
    max_tokens=32768,
    messages=[
        {"role": "user", "content": "この決済サービスのリトライ処理に競合状態がないか確認してください。\n\n<source code>"},
    ],
)
print(resp.choices[0].message.content)
print(resp.usage)

それぞれの設定の意図は次のとおりです。

  • reasoning_effort="medium":デフォルトを明示しておくと、あとで変えるときに1語の修正で済みます。ベンチマーク並みの挙動がほしいときは "high" にします。
  • max_tokens=32768:上限を設定するアプリに Google が推奨する最低値です。思考と回答の合計を制限します。
  • timeout=900:難しいプロンプトでは15分以上にするという Google の推奨に合わせています。
  • temperature と top_p は渡しません。Argon では無視されます。

long decode

詳しくは long decode のガイドを参照してください。long decode は、Google が発表時に Long Decode Continuation と呼んでいた機能です。Interactions API では、続きを書くループをサーバーが担当します。background=True(store=true が必要)にし、max_output_tokens を65,536より大きくします。サーバーは最大64Kトークンずつの hop に分けて最長24時間生成し、hop ごとに model_output ステップが追加されます。

次のコードは、Google のドキュメントの書き方を AIHubMix の Gemini エンドポイントに向けたものです。AIHubMix 経由ではまだ検証していません。[TBD:AIHubMix 経由で long decode が使えるか]

argon_long_decode.py
import os
import time
from google import genai

client = genai.Client(
    api_key=os.environ["AIHUBMIX_API_KEY"],
    http_options={"base_url": "https://aihubmix.com/gemini"},
)

interaction = client.interactions.create(
    model="gemini-4-argon",
    input="この決済モジュールのテストを、すべての境界ケースを含めて書いてください。\n\n<source code>",
    background=True,
    generation_config={"max_output_tokens": 262144, "thinking_level": "high"},
)
while interaction.status in ("in_progress", "queued"):
    time.sleep(5)
    interaction = client.interactions.get(id=interaction.id)

text = "".join(
    part.text
    for step in interaction.steps
    if step.type == "model_output"
    for part in step.content
    if part.type == "text"
)
print(interaction.status, interaction.usage)

もう1つの方法は、generateContent でクライアント側が続きを要求するやり方です。各 hop は最大64Kトークン(ストリーミングしない REST では32K)を返し、finish_reason: CONTINUATION と continuation_token で終わります。このトークンを付けて同じリクエストを送り直します。google-genai 2.30.1、@google/genai 2.29.1以降なら自動で処理されます。1リクエストの制限時間は20分です。

ストリーミングで受け取る場合は、interaction の ID とすべての event_id を保存し、切れたら last_event_id で再接続します。ステータスを確認する前にストリームを最後まで読み、読み取りのタイムアウトは15〜20分にします。最初の64Kトークン以降は、約5,000トークンずつ届きます。

Google が示している使いどころは次のとおりです。

ワークロード long decode を使うか
難しい数学・科学・証明 使う
最も難しいコーディング・エージェント 使う
上限で止まる評価ハーネス 使う
チャット・Q&A・要約・抽出 使わない(32K以内で終わる)
長さを指定するリクエスト 使わない(長さの指定に従わない)
短いツール呼び出しを繰り返すエージェント 使わない
入力が100万トークン近い 使わない
レイテンシ重視の呼び出し 使わない

ハマりどころ

空や途中で切れた回答なのに課金される

思考の段階で max_output_tokens に達しています。ステータスは incomplete になり、テキストは途中で切れるか空で、思考トークンには課金されます。対策:上限を32,768以上にするか、思考レベルを下げます。お金を節約するために上限を小さくしてはいけません。

400: max_output_tokens greater than 65536 is not yet supported with background=false

同期呼び出しで65,536を超える出力を指定しています。対策:background=True にするか、上限を65,536に収めます。

400: store=true is required for background interactions

バックグラウンド実行では interaction の保存が必要です。対策:バックグラウンド呼び出しで store=False を指定しないでください。

出力がちょうど64Kで止まる

background が false、max_output_tokens が65,536より大きくない、または generateContent で自動継続しない古い SDK を使っています。対策:background=True にして上限を65,536より大きくするか、google-genai 2.30.1以降に更新します。

公開スコアと結果が合わない

ベンチマークは high で、指定しないリクエストは medium で動きます。対策:ベンチマーク並みの挙動がほしいときは reasoning_effort="high"(または thinking_level="high")を指定し、medium で足りるかも測ります。

temperature を変えても何も変わらない

Argon は temperature・top_p・top_k を無視します。対策:これらを削除し、思考レベルとプロンプトで挙動を調整します。

コンテキストの圧縮が早すぎるタイミングで始まる

long decode 中の total_input_tokens はすべての hop の入力の合計なので、コンテキストを実際より大きく示します。Google の例では、1,000トークンのプロンプトから20万トークンを生成すると4 hop になり、入力は約39.7万トークンと表示されますが、実際のコンテキストは約20.1万トークンです。対策:プロンプトの長さに total_output_tokens と total_thought_tokens を足して見積もります。

long decode の請求額

思考だけの hop も含め、すべての hop のすべてのトークンに課金され、各 hop で繰り返される入力は暗黙キャッシュで95%割引になります。Google の例を導入価格で計算すると、20万出力トークンが$2.00、繰り返される約39.6万入力トークンは100万あたり$0.10で約$0.04です。キャンセルや失敗した interaction も、それまでの処理分は課金されます。対策:上の表の用途に限って long decode を使い、max_output_tokens は作業に必要な分にとどめます。

セッションの途中でキャッシュが効かなくなる

Argon は4,096トークン以上のプロンプトで暗黙キャッシュを使い、95%割引になります。AIHubMix の Gemini ガイドによると、キャッシュがヒットするには内容・モデル・パラメーターがすべて同じである必要があるため、途中でレベルを切り替えるとヒットしなくなることがあります。対策:ワークフローごとにレベルを1つに固定します。

まだ検証できないこと

  • medium と low で、精度とトークン使用量がどう変わるか。公開結果はすべて high です。[TBD:思考レベルごとの精度とトークン数]
  • AIHubMix の Gemini エンドポイント経由で long decode が最後まで動くか。AIHubMix はバックグラウンドの interaction に対応していますが、Argon の long decode はまだ検証していません。[TBD:AIHubMix 経由で long decode が使えるか]

まとめ

  • 思考レベルは low・medium・high の3つで、デフォルトは medium です。公開ベンチマークはすべて high です。
  • max_output_tokens は思考と回答の合計です。32,768以上にし、節約したいときはレベルを下げます。
  • 65,536トークンを超える出力には long decode(background=True と大きな max_output_tokens)を使います。
  • long decode はすべての hop に課金され、繰り返される入力はキャッシュで95%割引になります。
  • temperature などのサンプリングパラメーターは無視され、タイムアウトは15分以上が推奨です。

まずは上のクライアントで、AIHubMix 経由の Argon を medium と high の両方で試し、自分のタスクで結果を比べてみてください。Argon の AIHubMix のモデルページに、対応する入力・機能と現在の料金が載っています。

あわせて読みたい:Gemini 4 Argon シリーズ

参考

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?