はじめに
AIをもっと活用したい。
そう思う一方で、高性能なモデルを使えば使うほど、利用料金は積み上がっていきます。
特に従量課金型のAIサービスでは、期待した出力が得られず、プロンプトを何度も修正しているうちに、想定以上のコストが発生することがあります。
「AIは使いたい。でも、お金がかかって仕方がない……」
この記事は、そんな悩みを持つ方に向けて、私が現在実践しているAIサービスの使い分け方をまとめたものです。
あわせて、従量課金側での無駄な試行錯誤を減らすために、これから試してみたい対策も紹介します。
この記事で紹介する方法は、完成されたベストプラクティスではありません。
試行錯誤を続けている私が、現時点で考えている「今の自分にとっての最適解」です。
また、この記事で対象としているのは、簡単な質問や短い文章の作成といった軽い作業ではありません。
長文の生成、複雑なプログラムの作成、複数の条件を含む成果物の生成など、一度の出力に多くのトークンを使う、重めの作業を前提としています。
その点を踏まえて、読み進めてください。
生成AIの2つの課金形態
生成AIサービスの課金形態は、大きく次の2つに分けられます。
- 月額料金を支払う定額課金型
- トークン数や実行回数に応じて料金が発生する従量課金型
定額課金型は、利用料金を気にしすぎず、AIとの対話を繰り返しやすい点がメリットです。
アイデアを出したり、目的を整理したり、プロンプトを修正したりするような、試行錯誤の多い作業に向いています。
一方、従量課金型は、用途に応じてモデルを選びやすく、必要な場面だけ高性能なモデルを利用できます。
ただし、入力や出力が増えるほど、料金も増えていきます。高性能なモデルで試行錯誤を繰り返すと、その分だけコストが膨らみます。
使っていて感じること
「定額課金では気軽に何度も質問できますが、従量課金では、入力するたびに少し身構えてしまいます」
そこで私は、すべての作業を1つのAIサービスで完結させるのではなく、作業の段階によって定額課金と従量課金を使い分けています。
現在の基本的な使い分け
現在は、次の流れを基本にしています。
ChatGPTの定額プランで壁打ちする
↓
目的、要件、出力形式を整理する
↓
実行用のプロンプトを作る
↓
Claudeの従量課金環境で高性能なモデルに処理させる
↓
結果を確認する
↓
必要に応じてChatGPTに戻って改善する
それぞれの役割を簡単に分けると、次のようになります。
ChatGPTの定額プランで行うこと
- アイデアを広げる
- 目的を整理する
- 要件を言語化する
- プロンプトを作る
- 出力形式を決める
- 問題点を洗い出す
Claudeの従量課金環境で行うこと
- 整理したプロンプトを実行する
- 高性能なモデルで成果物を生成する
- 長文や複雑なタスクを処理する
- 最終的な品質を高める
つまり、考える作業や試行錯誤は、定額課金側で行います。
要件が固まった後の本番処理は、従量課金側の高性能なモデルに任せます。
現在の使い分け
「ChatGPTで何度も壁打ちをして、プロンプトが固まったらClaudeに渡す。この流れが、現時点では一番使いやすいと感じています」
この方法で発生している問題
この方法には、1つ大きな問題があります。
ChatGPTで十分に壁打ちしたつもりでも、Claudeにプロンプトを渡した後で、不足している条件に気付くことが多いのです。
例えば、次のようなケースがあります。
- 想定していた出力形式と違う
- 文章のトーンが合わない
- 対象読者の設定が曖昧だった
- 入れてほしい情報が抜けている
- 不要な説明が多い
- 修正するたびに別の部分が崩れる
- 自分自身が完成条件を明確にできていない
「ChatGPTでしっかり壁打ちしたつもりなのに、Claudeの出力を見た瞬間に、『あ、この条件を伝えていなかった』と気付くことが何度もありました」
不足している条件に気付くたびに、Claude側でプロンプトを修正して再実行します。
しかし、従量課金では、入力と出力のたびに料金が発生します。
さらに、会話を続けるほど過去のやり取りも入力に含まれるため、1回あたりの処理量が増えることもあります。
「少し直すだけのつもりが、また全文生成になってしまった……。今のやり取りで、いくらかかったんだろう」
現在の課題は、次のように表現できます。
定額課金側で行う壁打ちの精度が低いため、従量課金側で高価な試行錯誤が発生しています。
従量課金側で使うモデルを安いものに変えるだけでは、根本的な解決にはなりません。
まず改善すべきなのは、従量課金側に渡す前の設計です。
ただし、テンプレートを大量に管理したくはありません
プロンプトの精度を高める方法として、用途別のテンプレートを作る案があります。
例えば、次のような分類です。
- 記事作成用
- 要約用
- 調査用
- プログラム生成用
- コードレビュー用
- メール作成用
用途ごとに最適化されたテンプレートがあれば、プロンプトの抜け漏れは減るかもしれません。
しかし、私はそこまで多くのテンプレートを管理したくありません。
「記事用、要約用、コード用……とテンプレートを増やしていくと、きりがありません。そもそも管理するのが面倒です」
用途ごとにテンプレートを作り始めると、次のような問題が発生します。
- どのテンプレートを使うべきか迷う
- 似たテンプレートが増える
- 古いテンプレートが残り続ける
- テンプレートの修正や管理に時間がかかる
- テンプレートを埋めること自体が目的になる
コストを減らすために始めたはずなのに、テンプレートの管理で時間を使ってしまっては意味がありません。
自分に合う運用を考えた結果
「面倒な仕組みを作っても、自分はおそらく続けられません。できるだけ管理するものを増やさず、最低限の手順で改善したいです」
そこで、用途別のテンプレートを大量に作るのではなく、できるだけシンプルな方法を考えました。
対策案1:汎用フォーマットを1つだけ使う
用途別のテンプレートを大量に作るのではなく、基本となる汎用フォーマットを1つだけ用意します。
# 目的
何を達成したいか
# 背景
なぜこの作業が必要なのか
# 入力
AIが参照する情報
# 出力
最終的に何を作るのか
# 必須条件
絶対に守ってほしいこと
# 避けたいこと
不要な内容や禁止事項
# 完成条件
どの状態になれば完成か
毎回すべての項目を埋める必要はありません。
タスクに関係する項目だけを使い、不足している情報がないかを確認します。
例えば、プログラム生成であれば、次の内容を追加します。
- 使用する言語とバージョン
- 入力と出力
- 実行環境
- エラー時の挙動
- テスト条件
テンプレートそのものを増やすのではなく、基本構造は1つにして、必要な確認項目だけを入れ替えます。
この方法なら続けられそうです!
「テンプレートを何種類も使い分けるのは面倒ですが、1つだけなら管理できそうです」
対策案2:実行前チェックリストを使う
Claudeにプロンプトを渡す前に、必要な情報がそろっているかを確認します。
チェック項目の例は、次のとおりです。
- この作業の目的は明確か
- 誰が成果物を読むのか
- 最終的に何を作るのか
- 必須で含める内容は何か
- 含めてはいけない内容は何か
- 文章のトーンは指定されているか
- 出力形式は指定されているか
- 文字数や項目数は指定されているか
- 参考にしたい例はあるか
- 完成と判断する条件は明確か
ここで重要なのは、プロンプトを長くすることではありません。
必要な条件が抜けていない状態を作ることです。
条件を大量に追加すると、指示同士が衝突したり、本当に重要な内容が埋もれたりする可能性があります。
そのため、チェックリストはプロンプトを肥大化させるためではなく、不足している情報を見つけるために使います。
「プロンプトの文章をきれいにすることよりも、必要な条件が抜けていないかを確認する方が大切なのかもしれません」
対策案3:プロンプトを実行前にレビューさせる
作成したプロンプトをすぐClaudeに送らず、まずChatGPTにレビューさせます。
例えば、次のように依頼します。
以下のプロンプトを別の生成AIに渡す予定です。
実行前に、次の観点から問題点を指摘してください。
- 曖昧な指示
- 不足している情報
- 解釈が分かれそうな部分
- 出力形式の不足
- 条件同士の矛盾
- AIが確認質問をしたくなる部分
まだ成果物は生成しないでください。
問題点を重要度順に整理し、
最低限修正すべき項目だけを示してください。
ポイントは、「より良いプロンプトにしてください」と丸投げしないことです。
丸投げすると、必要以上に長く、複雑なプロンプトが返ってくることがあります。
欲しいのは、完璧そうに見える長文プロンプトではありません。
ここで大切なのは、Claude側で手戻りが発生しそうな問題を事前に発見することです。
自分にはなかった観点から問題を指摘してもらい、Claudeに渡す前にプロンプトをブラッシュアップします。
「プロンプトを豪華にしたいわけではありません。従量課金側でやり直す原因を、事前に減らしたいのです」
対策案4:完成条件を先に決める
AIに何かを作らせる前に、「どの状態になれば完成なのか」を決めます。
完成条件を決めないまま生成すると、出力を見てから「何となく違う」と感じても、何を直せばよいのか判断できないことがあります。
「出力を見て違和感はあるのに、どこが悪いのかを自分でも説明できないことがあります」
例えば、プログラム生成であれば、次のような完成条件を設定できます。
- 指定した言語とバージョンで動作する
- 必要な機能がすべて実装されている
- 想定した入力に対して正しい結果を返す
- エラー時の処理が実装されている
- 指定した実行環境で動作する
- テストコードが含まれている
- 不要なライブラリを使用していない
この完成条件は、そのまま出力後のレビューにも利用できます。
以下の成果物が、完成条件を満たしているか確認してください。
条件ごとに、次の3段階で評価してください。
- 満たしている
- 一部不足している
- 満たしていない
不足している場合は、全文を書き直さず、
修正が必要な箇所だけを示してください。
完成条件が決まっていれば、出力後に何を修正すべきか判断しやすくなります。
また、全文を最初から作り直すのではなく、修正が必要な箇所だけを特定しやすくなります。
対策案5:期待する出力と避けたい出力を示す
文章で条件を説明するだけでなく、期待する出力の特徴も伝えます。
例えば、次のような情報をプロンプトに含めます。
期待する出力:
- 結論を先に書く
- 一文を短くする
- 実体験を中心に説明する
- 読者が試せる具体策を入れる
- 未検証の内容は仮説として扱う
避けたい出力:
- 一般論だけで終わる
- 同じ内容を何度も繰り返す
- 過度に断定する
- 不要に長い前置きを入れる
- 未検証の内容を事実として書く
「良い感じにしてください」という抽象的な指示より、判断基準を伝えた方が、出力の方向性を合わせやすくなります。
ただし、条件を増やしすぎないように注意が必要です。
条件が多すぎると、本当に重要な指示が埋もれてしまいます。
期待することと避けたいことを、それぞれ数個に絞って伝えるのがよさそうです。
難しいところ
「条件が足りないと期待どおりになりません。しかし、条件を増やしすぎると、今度はプロンプトが扱いにくくなります」
まとめ
現在の私の使い分けは、次のようになっています。
考える、試す、整理する
→ ChatGPTの定額プラン
整理した要件を高性能なモデルで実行する
→ Claudeの従量課金環境
この方法の課題は、定額課金側での壁打ちが不十分だと、従量課金側で何度も再実行が発生することです。
その対策として、現在は次の方法を検討しています。
- 管理するテンプレートを増やさず、汎用フォーマットを1つだけ使う
- 実行前チェックリストで抜け漏れを確認する
- プロンプトを実行前にレビューさせる
- 完成条件を先に決める
- 期待する出力と避けたい出力を伝える
ただし、すべての対策を一度に導入する必要はありません。
むしろ、運用が面倒になり、続かなくなることの方が避けたいです。
現時点での結論
「定額課金で試行錯誤し、従量課金では必要な場面だけ高性能なモデルを使う。そして、従量課金側に渡す前の設計精度を、無理のない範囲で高めていきます」
定額課金と従量課金は、どちらか一方を選ぶものではありません。
それぞれが得意とする作業を任せ、工程によって使い分けることが重要です。
これが、現時点での私の最適解です。