pythonのDecimalモジュールで、有効数字の計算をするには
解決したいこと
Decimal
モジュールで有効桁数を意識した演算をしたいのですが、
「初めにdecimal.getcontext().prec
を設定する」的なものしか見つからず、困っています。
発生している問題
print(Decimal("0.1") + Decimal("0.01"))
# Decimal('0.11')
しかし、有効数字を考慮した計算では、0.1 + 0.01は0.11ではなく0.1と判断されるべきです。
これをやるにはどうしたらよいでしょうか。
有効桁数だけを判定するアルゴリズムを自分で書く必要があるのでしょうか。
0