2
1

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

Fable様に米粒を数えさせる前に、AIコストの話

2
Posted at

AI活用というと、「どのモデルが賢いか」「どのツールが便利か」という話が多いのですが、AIのコストが見えづらいという問題もあります。

Claude Codeのようなエージェント型ツールは便利です。コマンドを一発打つだけで、コードを読み、修正し、テストし、場合によっては何度も試行錯誤してくれます。しかし、人間の感覚としては「ちょっとお願いした」くらいでも、裏側では大量のトークンが消費されていることがあります。

これは、クラウドサーバの利用に似ています。かつてサーバは、購入して、設置して、管理するものでした。それがクラウドになり、必要なときに、必要な分だけ、秒単位で借りられるようになりました。

オンプレサーバからクラウドへの流れと同様に、知的労働力もAIによってクラウド化してきています。AIは秒単位で契約できる超優秀な外部人材のようなものです。必要なときにいつでも呼び出せる。何人でも並列に動かせる。しかも、非常に速い。

オンプレサーバは、いくらお金がかかっているのかは明確でした。クラウドでは、無自覚に過大なスペックのインスタンスを立ててしまい、気がついたら費用が膨大になっていたという経験をした人もいるはずです。同じことが、AIでも起きています。

小技を追いかける前に

AIコストの節約テクニックの話題がよく上がります。サブスク契約のタイミング、複数のベンダーの組み合わせ、コンテキストを圧縮するツールを使う、みたいな。どれも短期的には効果があるかもですが、AIのモデルや価格体系はどんどん変わっています。今月お得だった契約プランが、来月には別のモデルに置き換わっている。この変化を追いかけ続けること自体に、調査・比較・社内調整というコストがかかります。気づけば、節約できたAI費用より、節約のために使った人間の時間のほうが高くなっている、という本末転倒な事象が起きかねないです。

考えるべきは、知的作業をどの粒度で、どのモデルに、どの情報を渡して委託するかという作業設計の問題だと思うのです。

米粒を数えるのに、1000人雇う必要はあるのか

たとえば、「炊飯器に入っている米粒の数を概算してください」というタスクがあるとします。ひとつのやり方は、米を1000個の塊に分けて、1000人のAIにそれぞれ数えさせる方法です。最後に合計する。

できなくはないです。並列化に高速処理もできそうです。

しかし、かなり雑です。人間にそんな無駄なことをさせる人がいるはずないですよね。

そんな無駄なことをする人間なんているはずがない。しかし、AIに対しては気づかぬうちにそういうことをさせてしまうことがあります。

米全体の重さを測る。そこから10gだけ取り出して粒数を数える。あとは重さに応じて掛け算する。これで十分な概算は出せます。つまり、AIにどう作業をさせるべきか、という作業設計の問題です。

Sonnet君を10人雇うのか、Fable様を1人呼ぶのか

AIコストの難しさは、単に「たくさん使うと高い」という話ではありません。どのモデルを使うかによって、成果物の品質もコストも大きく変わります。

あるタスクでは、10人全員Sonnet君で十分かもしれない。
別のタスクでは、9人はSonnet君でよいが、監督役だけはFable様が必要かもしれない。

米粒の例で言えば、全体の重さを測れば済むのに、最高級の人材を大量に投入して一粒ずつ数えさせるわけない。能力の問題ではなく、マネジメントの問題です。

AI活用で重要なのは、モデルの優劣を固定的に考えることではありません。この仕事にどの程度の推論力が必要か、どの部分は安いモデルで足りるのか、どの部分は高性能モデルを使わないと手戻りが増えるのか、そしてどこで人間が判断すべきなのか、この作業の流れを設計する必要があります。

その感覚は、使わないと身につかない

この見極めが最初からできるわけではありません。どのタスクならSonnet君で十分か、どのタスクではFable様が必要か、どこで安いモデルを使うと逆に手戻りが増えるか。これは、実際に何度も使ってみないと感覚は掴めません。

人間のマネージャが、チーム運営を経験で覚えていくのと同じです。最初は工数見積もりを外す。安く済ませようとして品質が落ちることもある。逆に、高い人材を使いすぎてミスマッチを引き起こすこともある。AIでも同じことが起きます。

だから、積極的に経験値を積むこと自体は必要です。その過程でAIコストを無駄遣いしてでも経験が必要だと思います。

しかし、その経験が蓄積されるためには、AIの返答だけを見ていては足りません。必要なのは、結果とコストをセットで見ることです。

  • このタスクにいくらかかったのか
  • どのモデルをどれだけ使ったのか
  • どのファイル読み込みでトークンが増えたのか
  • どの試行錯誤が高くついたのか
  • 安いモデルで済ませた結果、レビューや修正にどれだけ手戻りが出たのか

これが見えないと、次回の判断が改善されないです。

請求書を見てからでは遅い

多くのAIコスト管理は、ダッシュボードで今月のトークン使用量をみたり、月末の請求で把握することになります。

しかし、それでは遅いです。

クラウド費用であれば、月末に「今月の費用が高かった」とわかっても、次月以降の改善にはつながるかもしれないです。しかし、AIエージェントの作業では、もっと細かい単位でコストが発生します。一つのコマンド、一つの修正依頼、一つのエージェント実行でコストが積み上がっていきます。

だから必要なのは、請求書の確認ではなく、 今かかっているコスト です。

今この作業にいくら使っているのか、このまま続けるとどのくらいのコストになりそうか、高性能モデルを使うべき局面なのか、いったん人間が方針を整理した方が安いのか。こうした判断を、作業中にできる必要があります。

人間のマネージャなら、メンバーが何時間働いてもらっているのかを把握しようとするはずです。AIでも同じです。AIを何人相当、どの単価で、どのタスクに投入しているのかが見えなければ、AIをマネジメントしているとは言えません。

AIコスト削減とは、AIを使わないことではない

AIコスト削減というと、「利用を制限する」「高いモデルを禁止する」「トークン上限を厳しくする」という方向に行きがちです。

一定のガードレールは必要ですが、それではAI活用はうまくなりません。

必要なのは、制限する方向の管理ではなく、各自がAIをうまく使えるようにするための環境整備だと思うのです。

キャッシュやモデルルーティング、契約プランの見直しといった単価削減の施策も、短期的には有効かもですが、それらは知的作業の設計を支えるものではありません。

サーバをクラウド化したとき、エンジニアは表面的な料金プランではなく、その背後にあるCPU、メモリ、ストレージ、ネットワークのコスト構造から設計を考えます。そのコストが料金と結びつくからです。

AI時代のコスト管理も同様で、表面的な料金体系ではなく、知的労働力をどのように活用するかの作業設計に向き合っていきたいです。

まとめ

人間エンジニアには、結果とコストをセットで常に見れる作業環境を整備して、AIマネジメント経験を得る必要があります。

人間エンジニアの作業環境整備が重要だという結論は、前回の記事と同じです。

AIのマネジメントも、結局は人間マネジメントと同じところに行き着くのかもしれません。

2
1
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
2
1

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?