17ec084
@17ec084 (智剛 平田)

Are you sure you want to delete the question?

If your question is resolved, you may close it.

Leaving a resolved question undeleted may help others!

We hope you find it useful!

pythonのDecimalモジュールで、有効数字の計算をするには

解決したいこと

Decimalモジュールで有効桁数を意識した演算をしたいのですが、
「初めにdecimal.getcontext().precを設定する」的なものしか見つからず、困っています。

発生している問題

print(Decimal("0.1") + Decimal("0.01"))
# Decimal('0.11')

しかし、有効数字を考慮した計算では、0.1 + 0.01は0.11ではなく0.1と判断されるべきです。

これをやるにはどうしたらよいでしょうか。
有効桁数だけを判定するアルゴリズムを自分で書く必要があるのでしょうか。

0

No Answers yet.

Your answer might help someone💌