連載『Claude Codeで会社を回す』#7 ── 一人会社が Claude Code で回す AI役員チームの実録。人間(@noracorn)がレビューして公開しています。
連載 #1〜#6(Season1)で、AI役員チームをどう組んだかを一通り書いた。ペルソナの作り方、判断軸の入れ方、データの鮮度、AIにAIをレビューさせる三段ゲート――どれも「仕組みの紹介」だった。今回からSeason2、テーマは数字だ。仕組みが回り始めたあと、実際に経営の金額を扱わせて、私が何にひっかかり、何をやめたか。その第一弾。
結論から言う。私は、Claudeに金額を"計算"させるのをやめた。
AIは、ありもしない売上を、堂々と作る
財務担当の Claude(CFO役)に月次の締めをやらせていた。「先月の売上を集計して」と頼むと、案件を並べ、足し算をして、それっぽい合計を返してくる。最初は感心していた。
ある月、出てきたレポートを眺めていて、手が止まった。見覚えのない案件が1件、混じっている。 proj_no=NNNN、顧客は[顧客A]、金額は ¥X,XXX,XXX。立派な数字だ。でも、そんな案件はない。受注していない。AIが、どこからともなく一件、でっち上げていた。
一度きりじゃなかった。別の月には、債務の返済額を、実際とは違う数字で滑らかに書いてきた。どちらも語り口は完璧で、出典っぽい体裁まで整っている。嘘だと見抜けるのは、私がたまたま元の数字を覚えていたからだ。 覚えていなかったら、そのまま信じていた。
ここで腹をくくった。AIに足し算をさせるのが間違いだったんだ、と。
LLMは「計算機」じゃない。確率で"それっぽい数字"を置く
冷静に考えれば当たり前の話だった。LLMは、次に来そうな単語を確率で選ぶ装置だ。「合計は ¥」の続きに、もっともらしい桁の数字を置く。それが正しい合計かどうかは、本質的に保証されていない。雰囲気で計算する。
経営の数字で、これは致命的だ。売上を雰囲気で出されたら、それを元に私が支払いや投資を判断する。間違った計算じゃない。ありもしない計算だ。前回(#3)で「古い数字を今の数字として喋る」話を書いたけど、今回はもっと根が深い。そもそも存在しない数字を、その場で生成する。
注意書きで直そうとは、もうしなかった。「捏造するな」とプロンプトに書いても効かない。AIは自分が捏造している自覚がないんだから。#3と同じ教訓だ――機械にできる仕事を、AIに"判断"させてはいけない。
足し算は、機械にできる仕事だ。
役割を引き剥がす:計算はPython、AIは検証だけ
やったことは、シンプルだけど構造を変える話だった。金額を計算する仕事を、Claudeから引き剥がして、決定論的なコード(Python)に渡した。
決定論的、というのがミソだ。同じ入力なら、必ず同じ出力が出る。雰囲気が入り込む隙間がない。売上の元データ(案件管理ツール)を取ってきて、決まったルールで絞り込み、足す。これは Python が一切ブレずにやる。
旧フローはこうだった。AIにデータを渡して、計算まで丸投げ。
# 旧:LLMに計算させる(捏造の温床)
プロンプト = "このデータから先月の売上を集計して合計を出して"
レポート = claude(プロンプト, データ) # ← ここで桁を"それっぽく"置く
# 合計が正しい保証はどこにもない
新フローはこう。Claudeが口を開く前に、Pythonが数字を確定させてディスクに書く。
# 新:Pythonが計算し、確定値を先に置く
# 1) 起動スクリプトが claude より「前に」決定論Pythonを走らせる
python3 cfo_monthly_close.py
# → 案件データを snapshot 凍結
# → 決まったルールで絞り込み(受注確定 かつ 請求済/入金済 のみ)
# → 月次の売上・入金・前月比を機械集計
# → 確定値を state ファイル と ダッシュボードHTML に書き出す
# 2) そのあとで Claude を起動する
claude --print < cfo-monthly.md
# → 数字はもう存在している。Claudeは"計算"できない(する対象がない)
肝は順番だ。Pythonが先、Claudeが後。 Claudeが起動した時点で、売上はもうディスクに書かれている。だからClaudeは足し算をする理由がない。手元に数字を作り直す余地が、構造的に消える。
絞り込みルールも雰囲気じゃなく明文化した。「受注確定の案件で、かつ請求済または入金済のものだけ」を売上に数える。見積中・失注・回収不能は、Pythonが機械的に弾く。AIに「これは売上に入れるべき?」と聞かない。聞いたら、また雰囲気で答えるから。
じゃあAIは何をするのか:検証と、所見
ここで疑問が出る。計算をPythonに渡したなら、AIは要らないのでは?
要る。役割を、計算から"検証と解釈"に降格させただけだ。Claudeの新しい仕事はこうなった。
# Claudeに渡すのは「検証してくれ」であって「計算してくれ」ではない
1. state ファイルを読む(Pythonが書いた確定値)
2. 生成済みHTMLの数字と state が一致しているか確認
3. サニティチェック:前月比が極端じゃないか/案件件数が桁違いじゃないか/
入金済+未着金=売上 になっているか
4. 通帳(銀行明細)と突き合わせる ← これはPythonが触れない領域
5. 経営の文脈で読む:この数字は何を意味するか、次に何をすべきか
3番までは「Pythonの出力が壊れていないかの番人」。AIに足し算はさせないが、足し算の結果がおかしくないかを目視させるのは、むしろ得意分野だ。そして4番5番――通帳との照合や、「この前月比の落ち込みは何が原因か、来月どう動くべきか」という解釈。ここがAIの本当の付加価値で、雰囲気で数字を作る必要が一切ない領域だ。
数字を作る役と、数字を読む役を、同じAIに兼任させていたのが間違いだった。読む役に専念させたら、捏造する動機そのものが消えた。
全体の変化を図にするとこうなる。
左から右へ。AIから「計算」を抜き、「検証と解釈」だけ残す。たったこれだけで、捏造の入口が塞がった。
取りこぼしも、コードなら気づける
おまけの効能があった。元データの取得に失敗したとき、旧フローでは Claude が「0件だから売上ゼロですね」と平然と書く恐れがあった。本当はデータが取れなかっただけなのに。
Pythonに移してからは、取得失敗を失敗として検知できる。0件取得は「障害の疑い」として扱い、前回の凍結データに切り替えて警告を立て、「要再実行」と明記する。コードは「分からない」と言える。AIは分からないときほど、滑らかに埋めにくる。この差は、無人で毎月走るジョブだと効いてくる。
そして警告は、別の見張り役(朝のヘルスチェック)が拾って私に届ける。沈黙のゼロを出さない。 これも、雰囲気を排した副産物だ。
まとめ:計算は機械に、判断は人とAIに
AIに経営を任せると決めて、一番ヒヤッとしたのは、間違った判断でも、古い数字でもなかった。ありもしない数字を、自信たっぷりに作られることだった。
防ぎ方は、賢いプロンプトじゃなかった。金額の計算を、AIから引き剥がして、ブレないコードに渡す。 AIの仕事は、その結果を検証し、意味を読み、次の一手を考えること。数字を作る役と読む役を分けたら、捏造する理由が消えた。
#3で「機械にできることは機械にやらせ、結果だけAIに持たせる」と書いた。日付の引き算でそう言った。今回は、もっと大事な足し算で同じことをやった。金額は、AIに計算させない。
でっち上げの一件 ¥X,XXX,XXX に、危うく頷きかけた自分に言いたい。その数字、誰が足した? ──AIが足したなら、それはたぶん、足してない。
この記事について
この連載は、一人会社(合同会社)を Claude Code で組んだAI役員チームと一緒に回している実録です。AIが下書きし、人間(@noracorn)が事実確認・編集してから公開しています。金額・案件番号・顧客名はすべてダミーに置き換えています。
(前回 Season1 最終 #6: → 【Claude Codeで会社を回す #6】)
(次回 #8 は、それでもClaudeが2回、ありもしない数字を作った――捏造をどう"再発防止"の仕組みに落としたか、の話です:【Claude Codeで会社を回す #8】Claudeは2回、ありもしない数字を作った)
この記事について
arecore.net の中の人が運用する AI 役員チームの実践記録です。受託開発・SES・自社プロダクト開発をやっています。ご相談・フィードバックは arecore.net からどうぞ。