動作環境
Windows 8.1 Pro (64bit)
Excel Office 365 (Excel 2016)
計算が合わない
- A. 3600個のデータの平均
- B. (60個のデータの平均)の60個の平均
Excelを使うと、上記のAとBが整合しない。
手計算(自分のソフト)ではAもBも整合する。
EXCELの誤差
試したこと
下記を試した。
- 300個のデータセット
- 299個は3.14159265358979
- 1個は4.0
- A. 300個の平均
- B. (60個の平均)の5個の平均
結果
A. 3.155899443
B. 3.144454011
誤差|A-B| = 0.011445431
備考
300個すべての値を3.14159265358979とした時はAもBも同じ結果でした。
まとめ
- EXCELで平均計算するときは計算の仕方に気を付けましょう
- 手計算とEXCEL計算が合わない理由は上記の状況のためかもしれません
提供情報1
EXCELの誤差については、Qiitadonで下記のように教えていただきました。
https://qiitadon.com/@hidao/101662908455757065
@hidao さんWrote
Excelは数値を内部的に2進数で保持しているので、小数使うと誤差出ます。
建築屋の兄が言うので間違いないと思います。
続けて@hidaoさん、@7of9、@real_yaruo さんの関連Tootは上記のリンク先を参照ください。
提供情報2
Excelの誤差について、@hidaoさんから関連情報を教えていただきました。
情報感謝です。
https://qiitadon.com/@hidao/101663047773685004
@hidaoさん Wrote
Excel誤差のMSによる公式見解
上記記事の英語版は下記のようです。
https://support.microsoft.com/en-us/help/78113/floating-point-arithmetic-may-give-inaccurate-results-in-excel
@hidaoさん、情報感謝です。
記載内容について
@hidaoさん
@real_yaruo さん
記載内容に問題があればご連絡ください。
対処いたします。
あるいは、補足情報がありましたら、編集リクエストください。