有効数字のところを適当にやってきた人生
リンク
実測値とソフトウェアを組み合わせる場合のちょっとしたルールのメモです。
下記の記事を教えていただき参考にしました。
有効数字を設定するルールの概要
- 有効数字は計算上意味のある数字のこと。
- 同じ1でも、1と1.00では意味が違い、後者は0.01mmの精度で測定しているという意味。
- 加算・減算では、小数点を揃えて計算し，結果を精度がもっとも甘い項に合わて有効数字にする。
- 乗算・除算では、結果を最も精度が甘い項に合わせて有効数字にする。
- 最終的に必要な有効桁数よりも一桁多くとって計算するとよい。
- 測定値ではない円周率などの正確な数値は、有効桁数をとらずに使う。
- 減算では途中で有効数字が減ることがあるので取り扱いに注意。
詳しくはさきほどの「有効数字について」などをご参照ください。
実物が計算通りにうごかない時
実物を動かす際には、有効数字とは別の概念として、
実測値と真値が違う、真値と有効値も違う、と考えて、
調整用のパラメータも準備しておくとよいらしいです。
（と教えていただきました。）