0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

More than 1 year has passed since last update.

(Rails)データ型「float型とdouble型」

Posted at

float型とdouble型の概要

変数と変数の型

変数はプログラミングにおける値を入れておく箱です。
処理の途中で値を入れたり逆に取り出したりできます。
変数の方とはこの箱にはどのような種類を入れてもいいですよといった決まりになります。

float型

プログラミングの話で出てくる変数の種類の一つであり
その変数用の箱には(有効桁数の大きくない)少数を一ついれていいよという決まりのことになります。
日本語では「単精度浮動小数点型」と表現される場合もあります。

double型

float型の仲間に「double型(倍精度浮動小数点)」という形があります
float型とdouble型の違いは箱の大きさにあります。

具体的にはfloatの変数には「0.000000002」はゼロが多すぎて(小数点以下が多い)変数の箱に収まりません。
変数の箱が大きいのでdouble型であれば収まります。

これがfloat型とdouble型の違いです。
double型の方が有効桁数の大きい(小数点以下が多い)数字を扱えます。

ですが箱が大きいということはそれだけ場所をとります。
小さいものだけを入れるのに大きい箱だと邪魔になってしまいます。

よってどちらのデータがを使うかは入れるもの次第で
扱う値がfloat型に収まりそうであれば、float型を使います。
float型で扱える範囲より大きい有効桁数の数字を扱いたいときはdouble型を使います。

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?