誤差
コンピュータ内部で、数値を指定されたビットで表現するために、真の値と表現する値との間に発生する差のこと
桁あふれ誤差
演算結果がコンピュータの表現できる範囲を越えることで発生する誤差(オーバーフロー)
浮動小数点では、限りなく0に近づいて表現しきれなくなるアンダーフローがある。
丸め誤差
指定された桁数で演算結果を表すために切捨て・切上げ・四捨五入などを行うことで発生する誤差
桁落ち誤差
絶対値がほぼ等しい数値の間で、同符号の減算や異符号の加算をした時に、有効桁数が減ることで発生する誤差
情報落ち誤差
絶対値の差が非常に大きい数値の間で加減算を行った時に、絶対値の小さい方の数値が計算結果に反映されないことで発生する誤差
多くの数値の加減算を行うとき、絶対値の昇順(小->大)に並べて計算すると 情報落ち誤差を小さくすることができる。
打切り誤差
浮動小数点の計算結果の打ち切りを、指定された規則で行うことで発生する誤差
例として円周率がある。