0
1

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

【Claude Codeで会社を回す #7】Claudeに金額を"計算"させるのをやめた

0
Posted at

連載『Claude Codeで会社を回す』#7 ── 一人会社が Claude Code で回す AI役員チームの実録。人間(@noracorn)がレビューして公開しています。

連載 #1〜#6(Season1)で、AI役員チームをどう組んだかを一通り書いた。ペルソナの作り方、判断軸の入れ方、データの鮮度、AIにAIをレビューさせる三段ゲート――どれも「仕組みの紹介」だった。今回からSeason2、テーマは数字だ。仕組みが回り始めたあと、実際に経営の金額を扱わせて、私が何にひっかかり、何をやめたか。その第一弾。

結論から言う。私は、Claudeに金額を"計算"させるのをやめた。

AIは、ありもしない売上を、堂々と作る

財務担当の Claude(CFO役)に月次の締めをやらせていた。「先月の売上を集計して」と頼むと、案件を並べ、足し算をして、それっぽい合計を返してくる。最初は感心していた。

ある月、出てきたレポートを眺めていて、手が止まった。見覚えのない案件が1件、混じっている。 proj_no=NNNN、顧客は[顧客A]、金額は ¥X,XXX,XXX。立派な数字だ。でも、そんな案件はない。受注していない。AIが、どこからともなく一件、でっち上げていた。

一度きりじゃなかった。別の月には、債務の返済額を、実際とは違う数字で滑らかに書いてきた。どちらも語り口は完璧で、出典っぽい体裁まで整っている。嘘だと見抜けるのは、私がたまたま元の数字を覚えていたからだ。 覚えていなかったら、そのまま信じていた。

ここで腹をくくった。AIに足し算をさせるのが間違いだったんだ、と。

LLMは「計算機」じゃない。確率で"それっぽい数字"を置く

冷静に考えれば当たり前の話だった。LLMは、次に来そうな単語を確率で選ぶ装置だ。「合計は ¥」の続きに、もっともらしい桁の数字を置く。それが正しい合計かどうかは、本質的に保証されていない。雰囲気で計算する。

経営の数字で、これは致命的だ。売上を雰囲気で出されたら、それを元に私が支払いや投資を判断する。間違った計算じゃない。ありもしない計算だ。前回(#3)で「古い数字を今の数字として喋る」話を書いたけど、今回はもっと根が深い。そもそも存在しない数字を、その場で生成する。

注意書きで直そうとは、もうしなかった。「捏造するな」とプロンプトに書いても効かない。AIは自分が捏造している自覚がないんだから。#3と同じ教訓だ――機械にできる仕事を、AIに"判断"させてはいけない。

足し算は、機械にできる仕事だ。

役割を引き剥がす:計算はPython、AIは検証だけ

やったことは、シンプルだけど構造を変える話だった。金額を計算する仕事を、Claudeから引き剥がして、決定論的なコード(Python)に渡した。

決定論的、というのがミソだ。同じ入力なら、必ず同じ出力が出る。雰囲気が入り込む隙間がない。売上の元データ(案件管理ツール)を取ってきて、決まったルールで絞り込み、足す。これは Python が一切ブレずにやる。

旧フローはこうだった。AIにデータを渡して、計算まで丸投げ。

# 旧:LLMに計算させる(捏造の温床)
プロンプト = "このデータから先月の売上を集計して合計を出して"
レポート = claude(プロンプト, データ)   # ← ここで桁を"それっぽく"置く
# 合計が正しい保証はどこにもない

新フローはこう。Claudeが口を開く前に、Pythonが数字を確定させてディスクに書く。

# 新:Pythonが計算し、確定値を先に置く
# 1) 起動スクリプトが claude より「前に」決定論Pythonを走らせる
python3 cfo_monthly_close.py
#    → 案件データを snapshot 凍結
#    → 決まったルールで絞り込み(受注確定 かつ 請求済/入金済 のみ)
#    → 月次の売上・入金・前月比を機械集計
#    → 確定値を state ファイル と ダッシュボードHTML に書き出す

# 2) そのあとで Claude を起動する
claude --print < cfo-monthly.md
#    → 数字はもう存在している。Claudeは"計算"できない(する対象がない)

肝は順番だ。Pythonが先、Claudeが後。 Claudeが起動した時点で、売上はもうディスクに書かれている。だからClaudeは足し算をする理由がない。手元に数字を作り直す余地が、構造的に消える。

絞り込みルールも雰囲気じゃなく明文化した。「受注確定の案件で、かつ請求済または入金済のものだけ」を売上に数える。見積中・失注・回収不能は、Pythonが機械的に弾く。AIに「これは売上に入れるべき?」と聞かない。聞いたら、また雰囲気で答えるから。

じゃあAIは何をするのか:検証と、所見

ここで疑問が出る。計算をPythonに渡したなら、AIは要らないのでは?

要る。役割を、計算から"検証と解釈"に降格させただけだ。Claudeの新しい仕事はこうなった。

# Claudeに渡すのは「検証してくれ」であって「計算してくれ」ではない
1. state ファイルを読む(Pythonが書いた確定値)
2. 生成済みHTMLの数字と state が一致しているか確認
3. サニティチェック:前月比が極端じゃないか/案件件数が桁違いじゃないか/
   入金済+未着金=売上 になっているか
4. 通帳(銀行明細)と突き合わせる ← これはPythonが触れない領域
5. 経営の文脈で読む:この数字は何を意味するか、次に何をすべきか

3番までは「Pythonの出力が壊れていないかの番人」。AIに足し算はさせないが、足し算の結果がおかしくないかを目視させるのは、むしろ得意分野だ。そして4番5番――通帳との照合や、「この前月比の落ち込みは何が原因か、来月どう動くべきか」という解釈。ここがAIの本当の付加価値で、雰囲気で数字を作る必要が一切ない領域だ。

数字を作る役と、数字を読む役を、同じAIに兼任させていたのが間違いだった。読む役に専念させたら、捏造する動機そのものが消えた。

全体の変化を図にするとこうなる。

左から右へ。AIから「計算」を抜き、「検証と解釈」だけ残す。たったこれだけで、捏造の入口が塞がった。

取りこぼしも、コードなら気づける

おまけの効能があった。元データの取得に失敗したとき、旧フローでは Claude が「0件だから売上ゼロですね」と平然と書く恐れがあった。本当はデータが取れなかっただけなのに。

Pythonに移してからは、取得失敗を失敗として検知できる。0件取得は「障害の疑い」として扱い、前回の凍結データに切り替えて警告を立て、「要再実行」と明記する。コードは「分からない」と言える。AIは分からないときほど、滑らかに埋めにくる。この差は、無人で毎月走るジョブだと効いてくる。

そして警告は、別の見張り役(朝のヘルスチェック)が拾って私に届ける。沈黙のゼロを出さない。 これも、雰囲気を排した副産物だ。

まとめ:計算は機械に、判断は人とAIに

AIに経営を任せると決めて、一番ヒヤッとしたのは、間違った判断でも、古い数字でもなかった。ありもしない数字を、自信たっぷりに作られることだった。

防ぎ方は、賢いプロンプトじゃなかった。金額の計算を、AIから引き剥がして、ブレないコードに渡す。 AIの仕事は、その結果を検証し、意味を読み、次の一手を考えること。数字を作る役と読む役を分けたら、捏造する理由が消えた。

#3で「機械にできることは機械にやらせ、結果だけAIに持たせる」と書いた。日付の引き算でそう言った。今回は、もっと大事な足し算で同じことをやった。金額は、AIに計算させない。


でっち上げの一件 ¥X,XXX,XXX に、危うく頷きかけた自分に言いたい。その数字、誰が足した? ──AIが足したなら、それはたぶん、足してない。

この記事について

この連載は、一人会社(合同会社)を Claude Code で組んだAI役員チームと一緒に回している実録です。AIが下書きし、人間(@noracorn)が事実確認・編集してから公開しています。金額・案件番号・顧客名はすべてダミーに置き換えています。

(前回 Season1 最終 #6: → 【Claude Codeで会社を回す #6】)
(次回 #8 は、それでもClaudeが2回、ありもしない数字を作った――捏造をどう"再発防止"の仕組みに落としたか、の話です:【Claude Codeで会社を回す #8】Claudeは2回、ありもしない数字を作った)


この記事について

arecore.net の中の人が運用する AI 役員チームの実践記録です。受託開発・SES・自社プロダクト開発をやっています。ご相談・フィードバックは arecore.net からどうぞ。

0
1
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
1

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?