Azure OpenAI Serviceを何に利用したか

技術研修中は新卒に毎日日報を書いてもらってます。
日報にはその日どんなことを学んだのか、気づきや分からなかったこと、何に何時間使ったのかを記載してもらってます。
そこで日報に書かれている内容を取得して、GPT-4に投げて学んだ内容から問題を作成してもらうようにしました。
目的は新卒が学んだ内容を理解できているかのチェックと、ちゃんと言語化して説明できるようにしてもらうため、また社内でのChatGPT・GPT-4の利用事例を増やすためです。

使うサービス・ツール

1. Azure OpenAI Service

ChatGPT・GPT-4は通常のOpen AI社からのではなく、Azure OpenAI Seriviceのを利用します。
Open AI社のChatGPTは質問・リクエスト内容がAIの学習に利用されたりと、会社の機密情報などを入力することができないのですが、
Azure OpenAI Serviceを利用することで、セキュリティ・プライバシー的に安全に使うことができます。
弊社では社内で利用できる専用のリソースが作成されてますので、そちらを利用していきます。
利用可能なモデルはGPT-3.5やGPT-4、またcodexなどがあります。

こちらの記事で詳しく記載されてます。

2. Power Automate

One Noteから新卒の日報情報の取得や、Azure OpenAI Serviceへのリクエスト、Teamsへの投稿など裏側の処理に利用します。
ローコードツールでMicrosoft社のサービスとの連携がとても簡単です。

3. One Note

新卒が毎日日報を書いているツールです。
こちらに書かれている内容を取得して、GPT-4にリクエストを送ります。

4. Microsoft Teams

GPT-4から出題された問題を投稿するために利用します。

実装

1. Power Automateで新しいフローの作成、スケジュール設定

平日の17時に実行されるようにします。
タイムゾーンを日本時間に設定することを忘れずに。

2. One Noteの日報データを取得

ここが若干大変です。

One Noteの日報は以下のようになってます。
新卒ごとにセクションを作成して、その中に毎日新しいページを作成します。
ページタイトルは日付「yyyy/MM/dd」になるようにしてもらってます。

やることとしては

現在時刻からページタイトルを作成

ノートブック（新卒技術研修の日報）のセクション一覧を取得

セクション一覧をループ処理して、各セクション内のページ一覧を取得

さらにページ一覧をループしてページタイトルがマッチする、現在日時と同じのページを取得

「4.」　でマッチしたページのコンテンツを取得

ページコンテンツ内のHTMLを行ごとに分割して配列データにする

変数配列に追加

上記1~7を順にやっていきます。

2-1. 現在時刻からページタイトルを作成

現在時刻を取得して、9時間追加した時間を「yyyy/MM/dd」にフォーマットします。
formatDateTime(addHours(body('現在の時刻'),9), 'yyyy/MM/dd')

2-2. ノートブック（新卒技術研修の日報）のセクション一覧を取得

以下のフローで一覧取得できます。

2-3. セクション一覧をループ処理して、各セクション内のページ一覧を取得

Apply to eachを使って新卒一人一人のセクション情報を取得します。
ここはセクションの数（つまり新卒の数）だけループされることになります。
・valueには「2-2」で取得したセクション一覧情報のvalueという値を選択
・ノートブックのセクションにはセクションキーを選択

2-4. さらにページ一覧をループしてページタイトルがマッチする、現在日時と同じのページを取得

Apply to eachの中でさらにApply to eachを行います。
ちょっと複雑なので、こまめにテストしながらどんなデータが取得できるか確認することをお勧めします。

ここはページの数だけループ処理が走ることになります。
そしてページタイトルが「2-1」で作成したページタイトルと等しいかをチェックしてます。

今回はApply to eachでページの数だけループしてますが、本来はDo untilを使った方が良いかなと思います。
※ Do untilというのは特定の条件になるまで何回もループしてくれます。今回だとページタイトルが見つかったらループを抜ければ良いので無駄な処理が省かれます。

・以前の手順から出力を選択にはセクション内ページの値オブジェクトを選択
・ページタイトルにはセクション内ページの値オブジェクトページタイトルを選択

2-5. 「2-4」　でマッチしたページのコンテンツを取得

・ページIDにはセクション内ページの値オブジェクト　応答の一意識別子を選択

2-6. ページコンテンツ内のHTMLを行ごとに分割して配列データにする

Apply to eachを実行する前の段階で改行コードを変数で定義しておいてください。
ちなみに改行コードは「\n」とかではなく、シンプルに値の中で1行改行するだけで大丈夫です。

splitを使うことで指定の文字列ごとに分割して配列に変換してくれます。
split(outputs('ページ_コンテンツを取得_2')?['body'],variables('改行'))

2-7. 変数配列に追加

ここまで来たら一度変数配列に格納しておきます。
こちらもApply to eachを実行しているフローの前にまず、変数配列を定義しておいてください。

・nameにはセクション名なのでループ処理中の新卒の名前が入ります
・htmlには直前でHTMLを行ごとに分割された配列データを選択

一連の処理後このようなデータが入ってきます。
nameには新卒の名前が、htmlには配列でhtmlが1行ごとに文字列となって入っているのが確認できます。
html内のところはこのあとさらに整形していきます。

3. Azure OpenAI ServiceのGPT-4にリクエストを投げる

「2.」で新卒一人一人のその日の日報データをHTML形式で取得できました。
ここでようやくそのデータをGPT-4にリクエスト処理するフローを書いていきます。

やることとしては、

Azure OpenAI ServiceのGPT-4にリクエスト投げるための設定

「2-*.」で取得したhtml形式の日報データをさらに整形

リクエスト文を作成

GPT-4のAPIのエンドポイントにリクエスト（POST）

返ってきた値を取得

上記1~5をやっていきます。

3-1. Azure OpenAI ServiceのGPT-4にリクエスト投げるための設定

こちらはセキュリティの問題上中身は見せられませんが、以下の情報を変数で定義してください。

3-2. 「2-*.」で取得したhtml形式の日報データをさらに整形

ここでは無駄なhtmlタグの削除と、htmlを全て連結して一つの長い文字列とします。

まず先ほど追加した「ユーザー名と本文HTML」の配列をループ処理します。
ここだと新卒は4人いるので4回ループしてます。

そしてkeyのhtmlには配列で行ごとのhtmlが文字列として入ってるので、ループ処理して不要なhtmlタグを削除していきます。

条件式には不要なhtmlタグが含まれているかをジャッジしています。

全ての条件をクリアしたら文字列に追加していきます。
ここもApply to eachをする前に文字列を追加していく変数を定義しておいてください。

Trueの時は以下のように文字列に追加されていきます。

最終的に以下のような長い文字列のhtmlが作成されました。

3-3. リクエスト文を作成

ここがとても大事で実際にGPT-4に投げるリクエスト文を作成していきます。

今回は以下のようにしました。

利用するモデルはGPT-4なのでroleをつけます。

GPT-4側はベテランのエンジニアであることを伝え、自分が新卒技術研修中で日報をhtml形式で書いた旨を記載します。

そして日報の内容から問題を作って欲しいことと、レスポンスの条件をいくつか記載します。
　・ Teamで投稿するために文末には改行コードの<br>を入れてもらうこと
　・答えは出さないこと(これを伝えないと答えまでついてくる時があります)
　・問題だけでなくプログラミングに関する雑学も一つ添えること
　・日報のレビューもしてあげること
　・新卒は日々頑張って学習してるので方弁で応援してあげること
　・レスポンスのフォーマットを固定していること

最後に「3-4」で作成した日報データを加えています。

これで準備が整いました。

↓systemロール

↓userロール

3-4. GPT-4モデルのAPIのエンドポイントにリクエスト（POST）

青色で隠されているところにはモデル名を入れましょう。

エンドポイントの設定はAzureのドキュメントを見るとわかります。

3-5. 帰ってきた値を取得

実行すると数秒後にレスポンスが返ってきました！
choices配列のmessageのcontent内に文字列として入ってきています。

ここまできたらあとはTeamsに投稿するだけです。

4. Teamsに投稿

Teamsに投稿するために対象の新卒にメンションをつけてあげたいです。
Apply to eachで実行する前に新卒一覧の変数配列を定義してください。

現在ループ処理中の新卒の名前に紐づくメールアドレスを取得してメンションを生成します。
variables('新卒一覧')[items('Apply_to_each_4')['name']]

投稿したいchanelにメンションとGPT-4のレスポンスをつけて投稿します。
投稿者は融通が利く「ユーザー」にしてます。
※ボットとかだとGPT-4から投稿されて感があって良いのですが。。。

こんな感じで投稿されます。

これでTeamsに投稿するところまでできました。

最終的なフロー一覧

最後に

今回は新卒向けに問題を作成するフローを紹介しましたが、日報データを取得できているので日報のレビューとかフィードバックもGPT-4にしてもらってます。
GPT-4に送るリクエスト文はもう少し精査が必要かなと思います。

現在会社で社内専用のGPT-4・ChatGPTを利用できる状態ですので色んなケースに導入していければと思います。