watsonx OrchestrateはIBMが提供するAIAgentの基盤で、外部のLLMを利用してAgentを実装することもできますが、watsonx Orchestrate自身がLLMも提供していており、利用することが可能です。この記事では、watsonx Orchestrate自身が提供するLLM(gpt-oss-120b)をAgent Development Kit(以下、ADK)を使用してカスタムLLM登録することにより、より柔軟に使用する方法について説明します。
watsonx Orchestrateが提供するLLM
この記事を執筆している2025/8/21時点では、以下のモデルが利用可能です。
- watsonx/meta-llama/llama-3-2-90b-vision-instruct
- watsonx/meta-llama/llama-3-405b-instruct
- watsonx/ibm/granite-13b-instruct-v2
- watsonx/ibm/granite-3-1-8b-base
- watsonx/ibm/granite-3-2-8b-instruct
- watsonx/ibm/granite-3-2b-instruct
- watsonx/ibm/granite-3-3-8b-instruct
- watsonx/ibm/granite-3-8b-instruct
- watsonx/ibm/granite-8b-code-instruct
- watsonx/ibm/granite-guardian-3-2b
- watsonx/ibm/granite-guardian-3-8b
- watsonx/ibm/granite-vision-3-2-2b
- watsonx/meta-llama/llama-2-13b-chat
- watsonx/meta-llama/llama-3-1-8b
- watsonx/meta-llama/llama-3-2-11b-vision-instruct
- watsonx/meta-llama/llama-3-2-1b-instruct
- watsonx/meta-llama/llama-3-2-3b-instruct
- watsonx/meta-llama/llama-3-3-70b-instruct
- watsonx/meta-llama/llama-4-maverick-17b-128e-instruct-fp8
- watsonx/meta-llama/llama-guard-3-11b-vision
- watsonx/mistralai/mistral-large
- watsonx/mistralai/mistral-medium-2505
- watsonx/mistralai/mistral-small-3-1-24b-instruct-2503
- watsonx/mistralai/pixtral-12b
- watsonx/openai/gpt-oss-120b
先日発表されたばかりのgpt-oss-120bですが、実は既にwatsonx Orchestrate自身が提供するLLMに含まれ、利用することが可能です。
Agent Builderから指定可能なLLM
上記の様ににたくさんのモデルが利用可能ですが、Agent Builder（ノーコードでAgentを開発する画面）からは、以下の2つのモデルのみ選択することが可能で、それ以外のモデルについては、ADKを用いて指定する必要があります。
- watsonx/meta-llama/llama-3-2-90b-vision-instruct
- watsonx/meta-llama/llama-3-405b-instruct
Custom LLMの登録
せっかくgpt-oss-120bが利用可能なのですから、gpt-oss-120bもここから選択出来たら便利です。ADKを用いることで外部のLLMをCustom LLMとして登録可能なのですが、実はwatsonxのプロバイダーを使用するときに、api_keyをgatewayという値にすることで、外部のwatsonx.aiではなく、内部のプロバイダーのLLMを使用するという機能が提供されています。
具体的には以下のコマンドによってgpt-oss-120bを利用可能です。
orchestrate connections configure -a wx_gw_creds --env draft -k key_value -t team
orchestrate connections set-credentials -a wx_gw_creds --env draft -e "api_key=gateway"
orchestrate models add --name "watsonx/openai/gpt-oss-120b" --app-id wx_gw_creds
Agent Builderから以下の様にgpt-oss-120bがリストされるようになります。
正しく回答を生成してくれました。
注意
Agent Builderから2つのモデルしか選択できない様になっているのは、それなりに理由があります。それは、現時点では、watsonx Orchestrateという製品はこれら2つのモデルでの動作を前提にテストが行われているという事です。ですので、他のモデルを使用する際には、ToolCallingが正しく動作しなかったり、プロンプトを調整したりする必要があります。実際にgpt-ossを使用した際にはTool呼び出しが動作しません。（こちらは問題として認識されており、今後修正される可能性が高いです。）
まとめ
watsonx Orchestrateでは、様々なLLMを内部LLMとして提供し、消費Token数を気にすることなく利用することが可能です。ADKで内部LLMをカスタムLLMとして登録することにより、これまでADKを使用しないと選択できなかった様々なモデルを選択できるようになり、より、開発の利便性が高まります。
現時点では、gpt-oss-120bではTool呼び出しができませんが、この部分が修正されればAgent実装のためのLLMとしての有力な候補になると思われます。