この本『Azure OpenAI ServiceではじめるChatGPT/LLMシステム構築入門エンジニア選書』（通称『AOAIドーナツ本』）を読んだので、
学んだことや調べたことを軽くメモしていきます。

（つよつよエンジニア７名によって書かれた、すごく良い本でした！おすすめです！）

発売日：2024/01/24(水)

追記

著者の方からツイートいただきました、素晴らしい本をありがとうございます！

本のもくじ

充実していますね…！！

第1部 Microsoft AzureでのChatGPT活用

第1章生成AIとChatGPT
第2章プロンプトエンジニアリング
第3章 Azure OpenAI Service

第2部 RAGによる社内文章検索の実装

第4章 RAGの概要と設計
第5章 RAGの実装と評価

第3部 Copilot stackによるLLMアプリケーションの実装

第6章 AIオーケストレーション
第7章基盤モデルとAIインフラストラクチャ
第8章 Copilotフロントエンド

第4部ガバナンスと責任あるAI

第9章ガバナンス
第10章責任あるAI

この記事では

内容盛りだくさんなので、
今回は、とくに第三章から勉強メモを引っ張ってこようと思います。

第3章 Azure OpenAI Service

3.1 Azure OpenAI Serviceとは
3.2 Azure OpenAIの始め方
3.3 チャットプレイグラウンドでChatGPTアプリを開発する
3.4 考慮するポイント
3.5 まとめ

次の記事で第四章のメモを書こうと思います。（本当は１つの記事にまとめるつもりだったけど、長くなりすぎたので分けた）

第4章 RAGの概要と設計

4.1 ChatGPTの問題点と解決手法
4.2 Retrieval-Augmented Generation とは
4.3 検索システム
4.4 Azure AI Search
4.5 オーケストレータ
4.6 Azure OpenAI on your data
4.7 Azure Machine Learningプロンプトフロー
4.8 大規模言語モデル
4.9 Azure OpenAI API
4.10 まとめ

Azure OpenAI Service

Microsoft は、OpenAI とパートナーシップを組んでおり、
ChatGPT をはじめとした OpenAI モデルの機能を API として提供する「Azure OpenAI Service」を展開しています。

製品ページ

https://azure.microsoft.com/ja-jp/products/ai-services/openai-service

開発者用の公式ドキュメント

https://learn.microsoft.com/ja-jp/azure/ai-services/openai/

OpenAI 本家と Microsoft Azure OpenAI との簡単な比較

OpenAI 社本家でも API を提供していますが、
Microsoft Azure のほうを使ったほうが、

例えば：（Azure OpenAI のメリット）

Azure の 優れたセキュリティスタックを使えたり（Microsoft Entra ID による認証など）
プライベートネットワークとの統合（閉域化）
他の Azure サービスとの連携 (Azure 上に立てたデータベースとの連携とか) がめちゃくちゃ簡単だったり、
SLA (サービスレベルアグリーメント)(品質保証) 稼働率 99.9 % 以上が設定されている (OpenAI 本家には SLA は無い (現在 2024/3/7 時点))
サポートへの問い合わせができる

など、Azure のほうが色々安心なので、

本番製品に組み込んだりエンタープライズでの利用なら Azure OpenAI を使ったほうが安全 かなあ、と思います。

ただ、OpenAI 社（本家）のほうが新しいモデルが降ってくるのが早い ので、
個人開発者としては OpenAI 本家を使うほうが楽しいという人も少なくないと思います。私も最初は OpenAI 本家の方でいじり倒したのが初めでした。
(新しいモデルは、本家でまず使えるようになった後、Azure OpenAI では Azure インフラ上で安定した提供環境を整えたあとに提供されます。)

ちなみに両者 値段は同じ です。(この記事の下の方に詳細を書きました)

↑図の引用元『Azure OpenAI ServiceではじめるChatGPT/LLMシステム構築入門』 (p. 27) より

AOAI の SLA について

(↑『Microsoft Online Services のサービスレベル契約 2024 年 3 月 1 日』より)

OpenAI 本家の SLA について

(↑ OpenAI 価格ページの『FAQ』より)

We will be publishing an SLA soon.

(SLA はそのうち設定します)
のままで、現在は存在しません。

結論

本からそのまま引用します。

このように、それぞれ特長を持った両サービスではありますが、実開発においては2つのAPIの仕様がほとんど同じで相互乗り換えが容易ですので、最新モデルの技術検証はOpenAI社のAPI、本番稼働はAzure OpenAIとするなど、用途に合わせて使い分けると良いでしょう。

引用元『Azure OpenAI ServiceではじめるChatGPT/LLMシステム構築入門』 (p. 26) より

Azure OpenAI はじめかた

Azure OpenAI は、Azure の他の多くのサービスと異なり、事前申請が必要になります。
（利用規約に同意します、とか、会社のメアドとか入れるやつ）

申請フォーム： https://aka.ms/oaiapply

（余談：私が大昔申請した頃は使用用途を書かされた気がするんだけど、いま見たらその項目は無くなってたね。簡単になってて羨ましい）

２－３日して申請が通ったら、
あとは普通に Azure ポータルからリソース作成していけば大丈夫です。

↑ 「リソースの作成」画面で OpenAI で検索したら出てきます。

その後の詳しい手順は本『Azure OpenAI ServiceではじめるChatGPT/LLMシステム構築入門』 30P あたりから画面のスクショ付きで丁寧に説明されているのでぜひ。

（注：私は今回はリージョンにスウェーデン中部を指定しました）（リージョンによってデプロイできるモデルが違う）

Azure OpenAI Studio

Azure OpenAI で ChatGPT の API を利用するには、リソースを準備するだけでなくモデルのデプロイという作業が必要です。
モデルのデプロイを実行する手段はいくつかありますが、本書では Azure OpenAI Studio という GUI を使って進めていきます。
先ほど作成したリソースの管理画面から、［Azure OpenAI Studioに移動する］をクリックすると画面遷移します
(引用元『Azure OpenAI ServiceではじめるChatGPT/LLMシステム構築入門』 (p. 35) より)

こんな画面になります！（現在は public preview 中なんですね）

左のメニューの「デプロイ」からモデルをデプロイしていきます。

モデルは GPT-4 Turbo や GPT-3.5 Turbo (ChatGPT) など色々ありますが、

今回は本通りに GPT-3.5 Turbo を選んでみました。
お金もだいぶ違うし…

参考）1000 トークンごとにかかる費用

モデル	インプット	アウトプット
GPT-4-Turbo	¥1.505	¥4.513
GPT-3.5-Turbo	¥0.0753	¥0.2257

だいぶ違う…！
（値段は公式ページ『Azure OpenAI Service の価格』より）

Azure OpenAI Studio のチャットプレイグラウンド

Azure OpenAI は、プロンプトや各種パラメータのテストのため、Azure OpenAI Studio 内に チャットプレイグラウンド という Web GUI ベースの開発環境が用意されています。

コード書いて API 叩いて動作を確認する、よりも、はるかに簡単お手軽なので、まずはここから試してみましょう。左側のメニューから行けます。

C# のコードから動かす

2023年09月の記事ですが、C# から .NET SDK for Azure OpenAI で API 叩く記事を書きましたので、ぜひ参考にしてみてください！（そのうちアップデートしたい）

Semantic Kernel (Microsoft が OSS で開発している LLM 用の SDK) を使った場合はこちら↓です (C#)
2023/12/19 に書いたものです。

参考) AOAI 言語モデル価格 (2024/3/7 時点)

やはり無料で試せないとなるとお値段が気になりますので、
Azure OpenAI Service の言語モデルの価格をまとめてみました。

1000 トークンあたりの価格が出ています。

(リージョン：スウェーデン中部指定)

(リージョン：東日本指定)

東日本リージョンは現時点ではまだ GPT-4 Turbo (gpt-4-1106) など一部のモデルが使えないようですね。

本家と価格の比較

OpenAI 社本家と価格を比較してみます。
本家は日本円の表記はなくて USD しか無いので、両方 USD で比較します。

OpenAI 社本家

モデル GPT-4 Turbo (gpt-4-1106) は 1000 トークンあたり
インプット $0.01
アウトプット $0.03

Microsoft の Azure OpenAI