日本語に特化したNTTの生成AI「tsuzumi」のデプロイ方法について書いています。
「難しいことはわからないけど、とにかく最速でtsuzumiを使いたいよー」という方に向けて書いています。
はじめに
自己紹介やAzure AIについての概要を書いています。併せてお読みください。
ここでは、Azureのモデルカタログに新しく加わった「tsuzumi」をデプロイする方法について簡単にまとめています。
tsuzumiのデプロイ
手順のみ簡潔に説明していきます。
この説明ではAzure利用経験が1度でもある方を対象としています。
アカウントやサブスクリプションの登録方法等については別途お調べ下さい。
-
Azure Portalを開きます
-
「リソースの作成」 から検索で「tsuzumi」と入力します
-
検索結果の 「NTTDATA tsuzumi-7B Instruct」 を選択し、「購読する」 を押下します
-
「Azure AI モデルカタログに進む」 を押下します
-
Azure AI Studio改め Azure AI Foundry のモデルカタログページへ遷移したら、表示されているtsuzumiのモデルをデプロイします
-
ここで、モデルカタログにあるモデル利用のためには 「プロジェクト」 を作成しなくてはならないため、新規プロジェクトを作成します
-
ここでは以下のように項目を入力し、プロジェクトを作成します
プロジェクト名 ：tsuzumi-deploy（名称任意）
ハブ名 ：tsuzumi-01（名称任意）
サブスクリプション ：（既存のものを選択）
リソースグループ ：（既存のものを選択、または新規作成）
場所 ：East US 2（日本だと利用できません）
Azure AIサービスまたはAzure OpenAIを接続する ：（新規作成）
Azure AI検索に接続する ：（スキップ）
-
少し経って画面が 「tsuzumi用のサーバーレスAPIデプロイ」 に切り替わったら、 「サブスクライブとデプロイ」 を押下します
-
少しして 「tsuzumiをデプロイ」 画面になったら 「デプロイ」 を押下します
-
これでデプロイが完了し、Azure AI Foundryのプロジェクト内でモデルを動かせるようになりました。チャットボット機能を利用するには 「プレイグラウンドで開く」 を押下します
-
チャットボットとしてtsuzumiを利用できます
おわりに
Azureでtsuzumiを利用する方法が分かりました。
少し前から、仕様がいろいろと変わっているため、いきなり利用しようとすると混乱するかと思います。
Azure上で手軽にtsuzumiを使いたいという人は参考にしてみてください。
tsuzumiはAzure上でリリースされてからまだ日の浅いモデルです。
説明の足りない部分もあるかと思いますので、補足や修正、追記事項等いつでもお待ちしています。