@milaexplore

Are you sure you want to delete the question?

If your question is resolved, you may close it.

Leaving a resolved question undeleted may help others!

We hope you find it useful!

Kimi K3 vs K2.7 Code:API料金とContext Cachingを比較してモデルルーティングを考える

結論から言うと、すべて置き換える必要はなさそうです。

K3は1Mトークンのコンテキストを利用できますが、K2.7 CodeよりAPI単価が高いため、モデルルーティングとの相性が良いと感じました。

料金比較

Moonshot AI公式APIの料金です。

Model Cache Hit Cache Miss Output Context
kimi-k3 $0.30 $3.00 $15.00 1,048,576
kimi-k2.7-code $0.19 $0.95 $4.00 262,144
kimi-k2.7-code-highspeed $0.38 $1.90 $8.00 262,144

単価だけを見ると、標準K2.7 Codeのほうがかなり安いです。

特にOutputは、

K2.7 Code: $4 / 1M
K3: $15 / 1M

なので、出力が多いワークロードでは差が大きくなります。

それでもK3を使いたいケース

K3の最大の違いは1M Contextです。

以下のようなタスクではK3が候補になります。

Large Repository
Long Agent History
Multimodal Input
Complex Tool Calling
Context > 256K

逆に、通常のコード生成や小規模なリポジトリ編集でK2.7 Codeが安定しているなら、無理にK3へ移行する必要はありません。

Cache Hitでどれくらい変わる?

K3の入力料金は以下です。

Cache Miss: $3.00 / 1M
Cache Hit: $0.30 / 1M

例えば600K Input + 20K Outputの場合:

Cold Request
Input = 0.6 × $3 = $1.80
Output = 0.02 × $15 = $0.30

Total = $2.10

入力がすべてCache Hitした場合:

Input = 0.6 × $0.30 = $0.18
Output = $0.30

Total = $0.48

この例ではかなり差が出ます。

Agentを作る場合、毎回変わらない部分をできるだけ安定したPrefixとして維持する設計も重要になりそうです。

モデルルーティングを考える

個人的には次のような構成が分かりやすいと思います。

        ┌──────────────┐
        │ K2.7 Code    │
        └──────┬───────┘
               │
    Context > 256K ?
      Yes ─────┴────→ K3
               │ No
               ▼
          Run + Validate
               │
           Success?
      No ──────┴────→ K3
               │ Yes
               ▼
            Return

K3をDefaultにするのではなく、K2.7 Codeでは処理しづらいタスクだけK3へ送ります。

API呼び出し

OpenAI互換APIであれば、例えば次のように呼び出せます。

from openai import OpenAI

client = OpenAI(
base_url="YOUR_OPENAI_COMPATIBLE_BASE_URL",
api_key="YOUR_API_KEY",
)

response = client.chat.completions.create(
model="kimi-k3",
messages=[
{
"role": "system",
"content": "You are an expert software engineer."
},
{
"role": "user",
"content": "Review this codebase and identify potential bugs."
}
],
reasoning_effort="max",
)

assistant_message = response.choices[0].message

K3では現在Reasoningが常時有効で、reasoning_effort="max"のみ利用可能です。

また、multi-turnやtool callingでは、表示されたcontentだけではなくAssistant Message全体を保持する必要があります。

評価時に見るべき指標

単純にToken Priceだけを比較するのではなく、以下も記録したほうが良いと思います。

Task Success Rate
Retry Count
Cache Hit Tokens
Output Tokens
Tool Errors
p50 / p95 Latency
Human Review Time

最終的には、

Cost per Successful Task

Total Workflow Cost / Successful Tasks

で比較するのが現実的です。

CometAPIで試す場合

公開時点では、CometAPI上のKimi K3はMoonshot AI標準API料金より20%低い価格です。

Moonshot AI
Input: $3.00 / 1M
Output: $15.00 / 1M

CometAPI
Input: $2.40 / 1M
Output: $12.00 / 1M

モデルページ:

まとめ

K3は「K2.7 Codeの完全な置き換え」というより、

K2.7では難しいタスクを処理する上位ルート

として使うのが面白そうです。

特に、

K2.7 Code → Validation → K3 Escalation

のような構成であれば、コストを抑えながらK3の1M Contextを活用できます。

モデルのToken Priceではなく、タスクを成功させるための総コストで比較することが重要だと思います。

0 likes

Your answer might help someone💌