pythonの2**53を超えるFloatの丸めの謎の挙動
解決したいこと Pythonの浮動小数点の丸めがよくわかりません。 Python 3.8.2です。 以下のようなプログラムを実行します。 A=2**53 print(A) for i in ra...
1 search resultsShowing 1~1 results
解決したいこと Pythonの浮動小数点の丸めがよくわかりません。 Python 3.8.2です。 以下のようなプログラムを実行します。 A=2**53 print(A) for i in ra...
1 search resultsShowing 1~1 results
Qiita is a knowledge sharing service for engineers.