0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

Gemini 4 Argonのトークナイザーを実測:日本語・韓国語は7〜8%減、インドの言語は最大19%増

0
Posted at

Gemini 4 Argonではトークナイザーが変わりました。同じ文章でもGemini 3.xとトークン数が違います。トークン数はそのままAPI料金とコンテキストの上限に効くので、何がどれだけ変わったかを41言語で測りました。

先に結論です。

  • 同じ文章で、日本語は7%、韓国語は8%トークンが減りました。英語は1トークンも変わっていません。
  • 逆に、ヒンディー語・タミル語・カンナダ語などインドの言語は12〜19%増えました。
  • 41言語を合計すると変化は+0.7%だけです。全体で良くなったわけでも悪くなったわけでもなく、言語の間で負担が移ったと見られます。

測り方

  • 日常的な依頼10本(関数を書く、旅行の計画、商品説明、会議メモの整理など)を41言語に翻訳した410文
  • Google AI Studioのトークンカウンターで、Gemini 4 ArgonとGemini 3.8 Flashを計測(2026-10-21)。Gemini 3.8 Flashと3.1 Proは以前の計測でトークン数が同じだったので、3.xとしてまとめています
  • カウンターが足す固定値は引きました。Argonは1文字の「a」が32と出るので31、3.8 Flashは2と出るので1です
  • 比較用のGPT(o200k)とClaude Haiku 5.5は、同じ410文で以前に測った値です

結果1:同じ10文で何が変わったか

言語 Gemini 3.x Gemini 4 Argon 変化
英語 373 373 0%
中国語(簡体字) 360 354 -2%
日本語 417 387 -7%
韓国語 498 456 -8%
ヒンディー語 470 528 +12%
カンナダ語 679 794 +17%
タミル語 568 675 +19%

大事なのは向きが一貫していることです。英語は10文すべてで同じ数でした。日本語と韓国語は10文すべてで減り(1文ごとに-3%〜-15%)、ヒンディー語・カンナダ語・タミル語は10文すべてで増えました(+6%〜+31%)。特定の文のせいではなく、トークナイザーそのものの変化です。

文字数に直すとわかりやすくなります。日本語は1トークンあたりの文字数が1.80字から1.94字に増えました。同じコンテキストに日本語の文章を約8%多く入れられる計算です。逆にカンナダ語は2.71字から2.32字に減りました。

結果2:文字体系ごとにまとめるとパターンが見える

41言語すべて(依頼文1本ずつ)を文字体系ごとにまとめました。数字はGemini 3.xからの変化の中央値です。

文字体系 言語数 変化(中央値) 範囲
インド系文字(ヒンディー語、ベンガル語、タミル語など) 10 +17% -8%〜+24%
日中韓 4 -6% -15%〜-3%
タイ語 1 -9%
アラビア・ペルシア・ヘブライ文字 3 -5% -6%〜-3%
ラテン文字(英語、スペイン語など) 20 -2% -10%〜+3%
キリル文字、ギリシャ文字 3 0%

インド系文字の10言語のうち9言語が増え(例外はパンジャブ語の-8%)、日中韓の4言語はすべて減りました。ラテン文字では英語・ドイツ語・フランス語は変わらず、フィンランド語(-10%)、ハンガリー語(-8%)、ポーランド語(-7%)のように語形変化で単語が長くなる言語が減りました。ロシア語・ウクライナ語・ギリシャ語は1トークンも変わっていません。

解釈:総量は同じで、配分が変わった

41文のトークンを合計すると、Gemini 3.xは2,069、Argonは2,083で、差は+0.7%です。英語に対する追加トークン(言語税)の中央値も、どちらも+41%で同じです。

トークナイザーは決まった大きさの語彙リストで文章を区切ります。ある言語のよく使う文字の組み合わせがリストに多く入っていれば、その言語はトークンが少なく済みます。今回の結果は、語彙の一部がインド系文字から日中韓の文字や一部のヨーロッパ言語に移ったときに出る形とよく合います。Googleは変更の中身を公表していないので、これは計測結果からの推定です。

インドの言語でのGeminiの強みが小さくなった

Gemini 3.xはインドの言語でとくに効率が良いモデルでした。Argonではその強みがかなり失われています。依頼文1本のトークン数です。

言語 GPT(o200k) Gemini 3.x Gemini 4 Argon
ヒンディー語 51 41(GPT比-20%) 48(-6%)
ベンガル語 57 39(-32%) 46(-19%)
タミル語 67 52(-22%) 63(-6%)
カンナダ語 61 58(-5%) 72(+18%)
マラヤーラム語 63 65(+3%) 71(+13%)

ヒンディー語はGPTより20%少なかったのが6%少ない程度まで縮まり、カンナダ語とマラヤーラム語はGPTより多くなりました。

ほかのモデルと並べると

同じ10文のトークン合計です。

言語 Gemini 4 Argon GPT(o200k) Claude Haiku 5.5
英語 373 350 520
日本語 387 570 684
韓国語 456 534 935
ヒンディー語 528 565 1,223
カンナダ語 794 679 3,276

英語だけならGPTのほうが6%少ないのに、日本語では順位が入れ替わり、ArgonはGPTより32%、Claudeより43%少なくなります。ただしトークン単価はモデルごとに違うので、トークンが少ない=安いとは限りません。

実際に何が変わるか

  • 日本語・韓国語でGeminiを使う場合: トークン単価が同じなら入力コストは7〜8%下がり、同じコンテキストにより多くの文章を入れられます。トークン数で決まる上限や無料枠も、そのぶん長持ちします。
  • インドの言語のサービスを3.xからArgonに移す場合: 同じトラフィックで入力トークンが10〜20%増える前提で予算を見直すのが安全です。カンナダ語やマラヤーラム語なら、GPTのほうがトークンが少なくなりました。
  • 英語中心のサービス: トークン数の面では変化はありません。
  • コストの見積もり: 3.xに合わせた「文字数÷定数」のような目安は、日本語・韓国語やインドの言語では合わなくなります。モデルごとに測り直す必要があります。

今回の限界

  • 入力トークンだけを測りました。出力も同じトークナイザーの可能性が高いですが、確認はしていません
  • Gemini 3.xとの10文比較は7言語のみです。41言語の比較は1文なので、言語ごとに数ポイントぶれることがあります。その文では日本語が-9%、韓国語が-15%でした
  • AI Studioのカウンターの値です。APIのcountTokensとは数トークン違うことがあります
  • 語彙が移ったという解釈は計測結果からの推定で、Googleが認めたものではありません

41言語の全表とCSV(CC BY 4.0):https://tokensave.app/data/language-tax-index
自分の文章のトークン数を測る:https://tokensave.app/ja/

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?