この記事は Zenn に公開した記事のクロス投稿です。元記事: https://zenn.dev/edinetty/articles/f8c3ead3d41207
はじめに
うちのサイトでは一時期、トヨタ自動車の売上高が17.6兆円と表示されていました。本来は45.1兆円(当時の最新期)です。17.6兆円はトヨタ単体の売上高で、原因は正規化処理のバグでした。連結の売上タグ(SalesRevenuesIFRS)よりも単体の売上タグ(NetSales)のほうが、タグ選択の優先度で勝ってしまっていたのです。
edinetty.com という財務データサイトを個人で運営しています。EDINET の有価証券報告書10年分を、生の XBRL 約2,275万行 → 正規化済み約148万行 → 4,177社ぶんの配信用 JSON、という流れで加工しています。タグの正規化がどれだけ厄介かは以前書きましたが、加工の段数が増えるほど、間違いが入り込む場所も増えます。
この種の間違いはテストコードでは防ぎきれません。コードは書いた通りに動いていて、想定外なのはデータのほうだからです。冒頭のトヨタも、「一番優先度の高いタグを選ぶ」という処理を正しく実行した結果がこれでした。
なので、パイプラインとは別に検証専用のスクリプトを3本持っています。見ているものがそれぞれ違います。
- 外部照合 — 出来上がった数字を Yahoo Finance と突き合わせる
- 内部整合性 — パイプラインの段階間で値が変質していないかを見る
- 全値照合 — 出口の全項目を生の XBRL まで遡って突き合わせる
順番に書きます。
外部のデータと突き合わせる
一番効くのは、自分のパイプラインと無関係な出所のデータと比べることです。yfinance(Yahoo Finance)から時価総額上位30社の財務データを取り、売上高・営業利益・総資産・営業キャッシュフローなど16項目を直近3年分、合計1,453比較で突き合わせています。
最初にまとめて走らせたときの一致率は76.4%でした。4件に1件近くが合いません。ただ、不一致を1件ずつ調べていくと、きれいに2種類に分かれました。
1つ目はこちらのバグです。冒頭のトヨタの連結/単体の取り違えのほかにも、US-GAAP で報告している会社(富士フイルムなど)の売上タグに未対応だった、IFRS の棚卸資産タグを拾えていなかった、といった正規化マスタの不備が次々に見つかりました。これらを直して一致率は84.3%まで上がりました。
2つ目は定義の差です。残りの不一致は、どちらの数字も間違っていないのに合わないケースでした。たとえば:
- フリーCF: こちらは営業CF+投資CFで計算していますが、yfinance は営業CF−設備投資(英米式)です
- 現預金: 有報の「現金及び預金」は定期預金を含みますが、yfinance の Cash And Cash Equivalents は含みません。信越化学だと1.7兆円と8,827億円で、倍近く違います
- 自己資本: 少数株主持分を含むか含まないか
- 営業利益: IFRS で費用を性質別に計上している会社(総合商社など)は、yfinance 側が独自の基準で組み替えた営業利益を返してくるので一致しません
これらは直しようがないので、「既知の定義差」として理由つきで台帳に登録し、以後は不一致として扱わないことにしました。台帳は現在33件です。最終的に、1,453比較の全件が「一致、または理由を説明できる差」になり、原因不明の不一致は0件になりました。
外部照合の役割は、正しさの相場観だと思っています。自分のデータの中だけを見ていても、「もっともらしく間違っている」数字には気づけません。
パイプラインの中で突き合わせる
外部照合でカバーできるのは30社です。全4,000社超に効かせるのが2層目、パイプライン内部の整合性チェックで、現在11種類の検査を全社に対して回せるようにしています。いくつか例を挙げます。
- 段階間の値の変質: 正規化DBの値と出口JSONの値を比べ、0.1%以上ずれていたらエラー。株式分割調整のように「変わってよい理由」がある項目は除外リストで管理します
- 派生値の再計算: フリーCF、ROE、ネットキャッシュのような計算項目を、検証側でもう一度計算して突き合わせます
- 貸借対照表の恒等式: 総資産 ≒ 負債+純資産。大きく崩れている年度は、連結と単体の値の混在を疑います
- 株式分割の調整漏れ: BPS・EPS・1株配当が同じ年に揃って2倍、5倍、10倍といった典型的な分割比率で動いていたら、調整漏れの疑いとして挙げます
- 銀行の現預金: 銀行のデータで顧客からの預金(負債)を現預金と取り違えると、桁違いの数字になります。出口の現預金が預金負債と近似していたら検出します
最後の銀行チェックには例外があります。セブン銀行のように ATM 事業が主体の銀行では、現預金≒預金残高が正常な姿です。この種の「検出はしたが正常」を放置すると出力がノイズで埋まって誰も読まなくなるので、深刻度を ERROR / WARN / INFO の3段階に分け、調査して構造的な原因(会計基準の違いなど)だと分かったパターンは INFO に落としています。バリデータは書いたら終わりではなく、この偽陽性の仕分けにむしろ時間がかかりました。
出口の全項目を生データまで遡る
3層目は網羅です。出口 JSON の主要26項目を、全社・全年度ぶん、生の XBRL の値まで遡って突き合わせます。対象は35,180社・年度、項目数にして863,644件になりました。
といっても86万件を人が見るわけではありません。まず機械的な事前判定で大半を処理します。
- 生 XBRL の候補値と±1%以内で一致 → OK
- EPS など1株あたり項目で、生値との比率がちょうど2・3・4・5・10・20・25・50・100倍 → 分割調整済みとして OK
- 有利子負債や棚卸資産のような合算・逆算項目(生タグと1対1で対応しない)→ 計算値として OK
これで残った「疑わしい」3,321件だけを、AI(Claude Haiku)に候補値と文脈を渡して判定させ、最後は人が確認しました。結果、本当のエラーは14件。BPS・EPS の異常値10社ぶんを修正して完了です。86万件照合して実害14件と聞くと割に合わないように見えますが、BPS や EPS の異常は PBR・PER の計算を通じてランキング表示に直結するので、この14件を放置する選択肢はありませんでした。
値が入っていない側の検査もあります。出口で欠損(None)になっている45,655項目について、「生データには使えるタグが残っているのに欠損にしてしまっていないか」を逆方向に照合しました。こちらは全件問題なしでした。
まとめ
3層はそれぞれ守備範囲が違います。
| 層 | 見ているもの | 規模 |
|---|---|---|
| 外部照合 | 世間の数字とのずれ | 30社×16項目×3年 |
| 内部整合性 | 段階間での値の変質 | 全社×11チェック |
| 全値照合 | 出口の値の出所 | 86万項目 |
どれか1つでは足りません。外部照合はカバレッジが狭く、内部整合性チェックは「最初から一貫して間違っている」値を検出できず、全値照合は定義の差に気づけません。3つ合わせて、ようやく「原因不明の不一致0件」と言える状態になりました。
検証済みの数字は edinetty.com で公開しています。4,000社超のスクリーニングと10年分の財務推移が無料で見られます。