はじめに

企業での生成AI活用では、GPT-4などのLLMをそのまま利用するのみではなく、企業内の様々なナレッジや特定ドメインの追加情報を活用したいという要望がほとんどです。その場合の方法として、RAG(Retrieval-Augmented Generation) とファインチューニングという選択肢があると思いますが、ファインチューニングに関しては機械学習やプロンプトエンジニアリングに関する専門知識が無いと太刀打ちできない、ということでまずはRAGに取り組んでいる事例が多いと思います。
一方、RAGの精度に関しては課題も多く、Vector検索のみではなくハイブリッド検索を試す、ナレッジグラフを使う、クエリ拡張を行う、など様々な手法で精度向上に取り組んでいることかと思います。

ファインチューニングに関しても、今やる必要は無いと思っていたところ、各社機械学習の専門家でなくてもノーコードでモデルをチューニングできますよ、と謳っているツールを出してきたので少し触ってみよう、いうのがこの記事の趣旨です。

今回は、Google AI Studio でモデルをチューニングする例を紹介します。

データセットの準備

まずは学習させる内容のデータセットを作成します。
公式ドキュメントによると、20個のサンプルデータで学習を開始できるとあります。タスクによりますが、100以上のサンプルデータを用意することが推奨されているようです。
今回はお試しということで最低限のサンプルデータ数で実行しますが、実際にファインチューニングを行うとなるとこのデータの質と量を充実させるのにとにかく人手も時間もかかることが予想されます。

データの形式

データセットには、入力と出力のサンプルが必要です。CSVまたはGoogleスプレッドシートをImport可能とのことなので、以下のような形式のCSVを作成します。

input,output
ファインチューニングとは何ですか？,ファインチューニング（fine-tuning）とは、既に学習済みのモデルに対して特定のタスクに最適化するために追加の訓練を行うプロセスです。具体的には、大規模なデータセットで事前に学習されたモデル（例えば、BERTやGPTなど）を基にして、そのモデルを特定のタスク（例えば、テキスト分類、感情分析、質問応答など）に適応させるために、比較的小規模なデータセットを用いて追加の学習を行います。

データの内容

学習させるデータは、弊社製品のAPIリファレンスを元にChatGPTに読ませてQ&AをCSVに出力してもらいました。
抜粋しますが、以下のようなデータです。

question,answer
Vantiqの認証プロセスはどのように機能しますか？,OAuthログインを使用する場合は、Bearerトークンを含むAuthorizationヘッダーを使用して認証します。
Vantiqの認証プロセスはどのように機能しますか？,HTTP基本認証を使用する場合は、ユーザー名とパスワードをBase64エンコードしたものをAuthorizationヘッダーに設定します。
Vantiqの認証プロセスはどのように機能しますか？,認証方法は、インストールがOAuthを使用するか否かに依存し、トークンまたはHTTP基本認証のいずれかを使用します。
Vantiq APIでリソースインスタンスをどのように削除しますか？,DELETE操作を使用して、指定された条件に基づいてリソースインスタンスを削除できます。
Vantiq APIでリソースインスタンスをどのように削除しますか？,リソースインスタンスの削除は、'where' パラメータを使用して条件を指定します。
Vantiq APIでリソースインスタンスをどのように削除しますか？,DELETE操作により、一致する条件のリソースインスタンスがシステムから削除されます。
...

学習

では、Google AI Studio で上記のデータを学習させていきます。

実行

では早速チューニングしたモデルを実行してみましょう。
Google AI Studioのプロンプト実行画面の[Run Settings]で、チューニングしたモデルが選択できるようになっているので選択します。

データセットにある通りの回答をしてくれました。

まとめ

非常に簡単にモデルのチューニングと動作確認を行うことができました。

参考