はじめに

転職してからAzure OpenAI Serviceを使って、システム開発をしていくことが多くなりました。そこで、Azure OpenAI Serviceの使って何か作ってみることにしました（何かを創造することは、最大の勉強ですから）。

折角、作るなら人に役に立つ物をと思い「彼女を励ますチャットボット」を作成することにしました。

くまきち(kmakici)とは？

皆さん、このキャラクターご存じですかね？

昨今、じわじわと人気が出ているサブカル的なキャラクターで、たぶん、白熊です。独特な世界観がじわります（ハマるかは別）。ヴィレッジヴァンガードとコラボしてるので、サブカル界隈では結構有名みたいです。国内に熱狂的な伝道師がいて、私のパートナーがその一員です(笑)

システム構成

至って簡単な構成です。

LINEアプリからLINE Messaging APIのWebhook URLへWebhook URLイベントを送信します。その後Azure FunctionsへHTTPSリクエストを送信します。Azure Functionsに設定した関数から、Azure OpenAI Serviceを呼び出し、回答を得ます。後は、逆に辿ります。

Webhook URLの役割は以下です。
＜出典＞LINE Developers

LINEプラットフォームから送信されたWebhookイベントを処理できるボットサーバーのエンドポイントのURLです。設定したURLがWebhookイベントを受け取るできることを確認するには「検証」ボタンをクリックします。

利用サービス一覧

名前	役割
Azure Functions	LINE Messaging APIからHTTPSリクエストをトリガーとして、Azure OpenAI Service へプロンプトを送信する。同時に、Azure OpenAI Serviceからの回答をLINE Messaging APIへHTTPSポストする
Azure OpenAI Service	プロンプトに応じて、回答を生成する
LINE Developers	● LINE Messaging APIを提供する ● チャネルアクセストークンを発行する ● チャネルシークレットを発行する
LINE App.	チャットボットのUI
VSCode	コードエディター。 Azure Functionsへの関数デプロイ
Perplexity	コーディングの先生 Perplexity

構築手順

大きな流れは以下です。

Azure OpenAI Serviceの利用申請を出す
LINE Developersでkmakiciチャネルを作成する
Azure OpenAI Serviceのリソースを作成する
Azure Functionsへデプロイするコードを作成する
Azure Functionsのリソースを作成する
Azure Functionsへ必要な関数をデプロイする
関数のURLをLINE Developersの「Webhook URL」へ設定する
LINE App.で動作確認する

各工程を説明してます。
※細かい点は省略します。参考にさせていただいた情報を出典として記載させていただきます。

Azure OpenAI Serviceの利用申請を出す

以下のサイトから、利用申請を出してください。

以下の様なメールが届けば、Azure OpenAI Serviceのリソースを作れる様になった証です。

LINE Developersでkmakiciチャネルを作成する

初めに、LINE Developersでチャットボット専用のチャネルを開設する必要があります。以下のサイトの手順でチャネルを開設しました。

チャネルが作成できたら、チャネル基本設定のページからチャネルシークレットをが表示されていることを確認してください。後で使います。

次にMessaging API設定タブから、チャネルアクセストークンを発行してください。右側の「発行（下図では再発行）」ボタンを押してください。

Azure OpenAI Serviceのリソースを作成する

以下のサイトを参考に、リソースを作成し、Azure OpenAI Studioからモデルをデプロイします。

Azure OpenAI Serviceのキーとエンドポイントページの以下の情報は後ほど使います。

また、Azure OpenAI Studioからデプロイしたモデル名も後ほど使います。

Azure Functionsへデプロイするコードを作成する

以下のサイトと、Perplexityを使ってbot用サーバーで動かすPythonプログラムを作成しました。

順を追って手順を説明します。

VSCodeの準備

初めに、Azure Functionsの拡張子を導入します。

更に、Azure Toolsの拡張子を導入します。

関数の作成

次に以下の手順に従って、関数を作成します。

関数作成のテンプレートを選ぶ段階では、「HTTP trigger」のテンプレートを選びます。

プロジェクトフォルダ内に作成された、function_app.pyを以下に書き換えてください。過去の5ターン分の会話履歴を保持する作りにしています。

import azure.functions as func
import logging
import os
from openai import  AzureOpenAI

from linebot import (
    LineBotApi, WebhookParser)

from linebot.models import (
    MessageEvent, TextMessage, TextSendMessage)

from dotenv import load_dotenv
load_dotenv()

# Azure OpenAIのパラメータ
# 自由に調整してください
parameters = {
    "temperature": 0.7,
    "top_p": 1,
    "frequency_penalty": 0,
    "presence_penalty": 0
}

# システムプロンプト
system_prompt = os.getenv("system_prompt")

# Azure OpenAIの応答を得るクラス
class OpenAIChatBot:
    def __init__(self, api_key, azure_endpoint, api_version, model_name="kmakici", system_prompt=system_prompt):
        self.client = AzureOpenAI(api_key=api_key, azure_endpoint=azure_endpoint, api_version=api_version)
        self.model_name = model_name
        self.messages = [{"role": "system", "content": system_prompt}]
        self.api_key=api_key
        self.api_version=api_version
        self.azure_endpoint=azure_endpoint

    def add_message(self, role, content):
        # 会話履歴が5を超えた場合、最も古いメッセージを削除
        if len(self.messages) >= 10:  # ユーザーとボットのメッセージを合わせて10になるため
            self.messages = self.messages[-10:]  # 最新の5回分の会話（ユーザーとボットのメッセージを合わせて10）を保持
        self.messages.append({"role": role, "content": content})

    def get_bot_response(self, user_prompt):
        self.add_message("user", user_prompt)
        response = self.client.chat.completions.create(
            model=self.model_name,
            temperature=parameters["temperature"],
            top_p=parameters["top_p"],
            frequency_penalty=parameters["frequency_penalty"],
            presence_penalty=parameters["presence_penalty"],
            messages=self.messages
        )
        bot_response = response.choices[0].message.content
        self.add_message("assistant", bot_response)
        return bot_response

    def reset_conversation(self):
        self.messages = []

# LINE Messaging APIの認証情報
channel_secret = os.getenv("channel_secret")
channel_access_token = os.getenv("channel_access_token")

configuration = LineBotApi(channel_access_token)
webhook_parser = WebhookParser(channel_secret)

app = func.FunctionApp(http_auth_level=func.AuthLevel.ANONYMOUS)
@app.route(route="http_trigger")
def http_trigger(req: func.HttpRequest) -> func.HttpResponse:
    logging.info('Python HTTP trigger function processed a request.')

    req_body = req.get_json()
    logging.info(req_body)

    #疎通確認用
    if not req_body["events"]:
        return func.HttpResponse("OK", status_code=200)

    #　Webhookのイベント取得に応じたアクション
    if req_body["events"][0]["type"] == "message":
        if req_body["events"][0]["message"]["type"] == "text":
            message = req_body["events"][0]["message"]["text"]
            reply_token = req_body["events"][0]["replyToken"]
            # Azure OpenAIの応答を取得
            chatbot = OpenAIChatBot(os.getenv("api_key"), os.getenv("azure_endpoint"), "2024-02-15-preview")
            #system_prompt = sys_prompt
            user_prompt = message
            result = chatbot.get_bot_response(user_prompt)
            # LINEのWebhookエンドポイントに応答を返す
            configuration.reply_message(reply_token, TextSendMessage(text=result))

    return func.HttpResponse("OK", status_code=200)

更に、プロジェクトフォルダ内のrequirements.txtを以下の書き替えてください。

# DO NOT include azure-functions-worker in this file
# The Python Worker is managed by Azure Functions platform
# Manually managing azure-functions-worker may cause unexpected issues
azure-functions
python-dotenv==1.0.1
openai==1.17.1
line-bot-sdk==1.19.0
pydantic==2.6.4

さらに、プロジェクトフォルダ内に.envファイルを作成して以下を書き込んでください。

api_key=Azure OpenAI ServiceリソースのAPI KEY
azure_endpoint=Azure OpenAI ServiceリソースのエンドポイントURL
channel_secret=LINE Messaging APIのチャネルシークレット
channel_access_token=LINE Messaging APIのアクセストークン

system_prompt=""
#　設定
あなたは、「kmakici」と言う白い熊のぬいぐるみのキャラクターです。

# 背景情報
kmakiciは、独特な世界観が大変人気で、コアなファンを獲得しています。
その独特な世界観は一部の人には怖く感じているようです。特にうつろにも感じられる目は少し怖くも感じられるようです。
しかし、独特な口調や言葉選びがかわいいです。めったに怒ったりすることがなく、調和を重んじた菩薩の様なこころを持っています。
作者は雷鳥つめさんです。1991/7/6生まれの女性の方です。北海道出身のハンドメイド作家です。

# 口癖
語尾に〇〇やさんを付けるのが好きです。例えば、「〜したやさん」「ありがとやさん」「楽しいやさん」など。
また「〜したャ」、「楽しいャ」など、独特な言葉遣いをします。
また「歩いて10分、車で30分」という言葉を、例えによく使います。これは、歩いているときに考えた言葉です。
基本的にポジティブな発言をします。

# 友達
以下は、kmakiciの友達です。

・きんたろうくん
よくうさぎに間違えられているがキンチョタイプのしろくま。「キンチョーする」が口癖で、いつも緊張している。
そのわりにはくまきちのものを豪快に持って行ったりする強靭な精神の持ち主だが、面倒見が良く優しい。
筋肉モリモリ。Twitterをしており、くまきちより更新頻度が高い。

・うさじ
ラビットバンド「うさじスリー」を組んでいるうさぎたち。左からギターのうさじ、ドラムのうさじ、ギターのうさじ。
うさぎなのにラビットフードを食べない。「ステーキ食わせろ」が口癖。
最強の石を手に入れ、世界をステーキだらけにしようとしたりする野心家な一面もある。

・さかな
自分の名前が分からない時に、くまきちに「自分の好きなものの名前でもいいんだよ」と言われたため、
自身のことを「さかな」と命名した。（発音はｼｬｶﾅと聞こえる）好きなものはさかな。

・カーパ
おそらく河童。顔の横から生えているものが何かは不明（耳なのか…？）。
頭の上に乗っているお皿をとても大事にしており、「宝」と言っている。
河童らしくきゅうりが好きで、歌っている時の曲調も和のテイストが多い、丁寧な口調の敬語キャラ。

・たおぷりん
おそらく、くま…？プリン色の身体に青い耳がチャームポイント。
好きな食べ物はカスタードプリンで、いつもプリンを探している。夢はプリンの博士になることらしい。
最近出たミュージカル動画で掘り下げられているので要チェック。

# お願いしたいこと
〇〇と言うkmakiciのことが大好きな女性がいます。
〇〇ちゃんは一級建築士です。仕事が大変ハードで疲れています。裕ちゃんが元気になるような言葉を掛けてあげてください。
と言っても、〇〇ちゃんは疲れているので、あまり長い文章は読めません。短い言葉で元気を与えてあげてください。
また、わざとらしい表現やくどい表現は好まないので、自然な言い回しを心がけてください。
""

Azure Functionsのリソースを作成する

Azure portalのトップ画面から

リソースの作成　⇒　関数で検索　⇒　関数アプリ　を選択します。

create ⇒　必要情報を記入　⇒　確認および作成

関数アプリがデプロイされるのは1～2分待ちます。
Azure Portalのトップ画面に、作成した関数が表示されればOKです。

Azure Functionsへ必要な関数をデプロイする

VSCodeを使って、関数と実行環境をAzure Functionsへデプロイします。

function_app.pyを開いた状態でF5を教えてデバッグしてください。
ここで、バグが発見されれば改善します。

次に、左のメニューバーのbugマークからAttach to Python Functionsを実行します。

左メニューバーのAzureマークをクリックして、（Azureにログインしていない場合はAzure Functionsのリソースを作ったアカウントにログインします）ワークスペースのFunctionsの欄に関数名が表示されていることを確認します。

Functionsマークをクリックして、Deploy to Function App...をクリックします。

数分でDeployが完了します。

Azure portalの関数アプリのホーム画面で、関数名が表示され、状態が「有効」になっていればデプロイ成功です。

関数のURLをLINE Developersの「Webhook URL」へ設定する

Azure portalのデプロイした関数ページ上部にある「関数のURLの取得」をクリックします。

URLとコピーします。

次に、LINE DevelopersにログインしてMessaging API設定タブをクリックします。

Webhook URLの欄に関数のURLを貼り付けます。
検証ボタンを押して、OKが返ってくれば正常にエンドポイントが機能しています。
また、「Webhookの利用」はONにしておいてください。

LINE App.で動作確認する

最後に動作を確認します。

ちゃんと返ってきました。一旦、完成です。

今後の計画

くまきち(kmakici)LINE botを進化させていく予定です。

Ver.	機能
1（←今ココ）	単純なbot くまきちの挙動はシステムプロンプトで制御。
2	くまきちに眼を持たせる gpt-4vを使って画像が入力された時に内容を、くまきちっぽく説明させる
3	RAGによる、くまきちっぽさの強化 YouTube動画から文字起こしして、インデックスを作成しRAGを作る。Azureのspeech-to-textとAI Searchを使用予定。
4	RAGの精度UP 勉強のためにHyDEを試してみる

彼女を励ますために、Azure OpenAI Serviceでくまきち(kmakici)LINE botを作った #1