1
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

More than 1 year has passed since last update.

floorとintの違い / Tableau Prep

Posted at

floor と intの違い

プラスの数字だと違いがわからないが、マイナスだと繰り上がりの考えが違う!
image.png

roundは完全なる四捨五入(何も指定しないと小数点以下四捨五入)です。
そのため、1.5ならば2に繰り上がりますし、1.4ならば1に繰り下がります。
また、マイナスの場合は-1.5は-2、-1.4は-1になります。
ここまでは算数でやっていたことなので、OKです。

image.png

floor関数とint関数については少し注意が必要です。
整数においては、うちわで一番近い整数になります。
1.9でも1です。

マイナスの場合は、答えが違ってきます。
floorは低い数字に合わせに行きます。つまり、-1.3ならば-2になります。
一方intはうちわで一番近い整数になりますので、-1.3ならば-1になります。

上の表を見ながら、整理すると違いがわかるかと思います。
求めたい数字がどういった値かによって関数の使い分けが必要です。

1
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
1
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?