Llama 4 Maverick API入門 — MetaのオープンモデルをPythonで試す

export COMETAPI_KEY="your_api_key_here"
export LLAMA_MODEL_ID="llama-4-maverick"

python3 -m venv .venv
source .venv/bin/activate
python -m pip install --upgrade openai

import os
import time

from openai import OpenAI


api_key = os.environ.get("COMETAPI_KEY")
model_id = os.environ.get("LLAMA_MODEL_ID", "llama-4-maverick")

if not api_key:
    raise RuntimeError("COMETAPI_KEYを環境変数に設定してください。")

client = OpenAI(
    api_key=api_key,
    base_url="https://api.cometapi.com/v1",
    timeout=60.0,
    max_retries=2,
)

prompt = """
次の要件を満たすPython関数を作成してください。

- 入力は文字列のリスト
- 前後の空白を削除
- 空文字列を除外
- 重複を削除し、元の順序を維持
- 型ヒントと短い説明を付ける
""".strip()

started = time.perf_counter()

response = client.chat.completions.create(
    model=model_id,
    messages=[
        {
            "role": "system",
            "content": "あなたは安全で読みやすいPythonコードを書くアシスタントです。",
        },
        {"role": "user", "content": prompt},
    ],
    temperature=0.2,
    max_completion_tokens=1_000,
)

elapsed = time.perf_counter() - started
answer = response.choices[0].message.content or ""

print(answer)
print(f"\nmodel: {response.model}")
print(f"elapsed: {elapsed:.2f} sec")

if response.usage:
    print(f"input tokens: {response.usage.prompt_tokens}")
    print(f"output tokens: {response.usage.completion_tokens}")

python llama4_maverick_quickstart.py

import json

response = client.chat.completions.create(
    model=model_id,
    messages=[
        {
            "role": "user",
            "content": (
                "次の問い合わせを分類し、JSONオブジェクトだけを返してください。"
                "必須キーはcategory、priority、summaryです。\n"
                "問い合わせ: CSVエクスポートが空になり、今日の給与処理を完了できません。"
            ),
        }
    ],
    temperature=0,
    max_completion_tokens=300,
)

raw = response.choices[0].message.content or ""
data = json.loads(raw)

required = {"category", "priority", "summary"}
missing = required - data.keys()
if missing:
    raise ValueError(f"不足しているキー: {sorted(missing)}")

print(json.dumps(data, ensure_ascii=False, indent=2))

入力: 2,000 × 0.60 / 1,000,000 = $0.00120
出力:   800 × 1.80 / 1,000,000 = $0.00144
合計:                              $0.00264