0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

More than 3 years have passed since last update.

【Ruby】小数点同士の計算結果がズレる、違う、意図したものにならない

Last updated at Posted at 2020-07-06

詳細は下記。

BigDecimalを設定しておかないとだめって話なのだが、
インスタンス宣言元では使ってるのに対応されないってのが一つと、恐らくBigDecimal使うとインスタンス元と同じ桁数になるから、
.add、.sub、.mult、.divを使って第2引数に桁数指定して計算しないといけない可能性がある。

しかもこれ既存不具合で潜在してた。
それ以前に今回の変更箇所が不明になったので優先的では無いが、
何故か試験で精度を求められるようなので追加で報告相談して対応方針をクライアントに決めてもらう流れになるだろう。(勝手に決めてはいけない)

まーやらんといけんだろうが、
一度対応方針確認して了承得てると補足しておく。

既存仕様からの差分変更対応の落とし穴として
変更ないところで最終的にひっくり返されることになるのは勉強した。。。

もう二度とヤダ。。。

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?