はじめに

この記事は社内の業務効率化でChatGPTを使おうとしたところGPT-4o miniのファインチューニングが良さそうだったので調べてみたメモです。
弊社CDOの@__Kat__ と一緒に調べました。

出会い

当初、今まで通りGPT-4またはGPT-4oを使うことを考えていました。

しかし、格安爆速のGPT-4o miniが出てきたのでサイトを徘徊しているとファインチューニングの欄に2024年9月23日まで1日2Mトークン以下無料とのことだったので試してみたくなり調べてみました。
公式サイト価格表

コスト面を考えるとGPT-4o miniは他のモデルに比べて圧倒的に安いです。
また、ファインチューニングはプロンプトが長くなる場合には有効な手段だと考えられます。
(今回の業務効率化はこの側面が強いのでピッタリそう)

今回のタスク

詳細は割愛しますが、顧客から来たメール文章から特定の情報を抽出してスプレッドシートに保存するというタスクです。

今回メールはスプレッドシートに入力されている状態を想定してそこから自動で情報を抽出してセルを充足するというコードを書いていきます。

お客さんごとにメールの傾向に偏りがあるため追加のファインチューイニングをスプレッドシート上から営業が行えるようにファインチューニング/テスト用のシートも用意します。

注意点

GPT-4o miniのファインチューニングを行うには現在、Tier4以上である必要があるようなのでご注意ください。

Customize GPT-4o mini for your application with fine-tuning. Available today to tier 4 and 5 users, we plan to gradually expand access to all tiers. First 2M training tokens a day are free, through Sept 23.
引用 X

最後に

今回はGPT-4o miniのファインチューニングが無料で行えるとのことで調べてみたメモでしたがまた機会があれば具体的なファインチューニングの過程についても記事を書いてみようと思います。
弊社Engineeでは生成AIに限らずレコメンド、マッチングシステムを中心としたAIに強みを持って活動しています。
常に仕事とエンジニアを探しているのでお気軽にお声がけください。