LoginSignup
0
1

覚えるのは必須じゃないけど役に立つもの 〜 2の冪(べき) 〜

Last updated at Posted at 2024-05-05

はじめに

読了時間:5分

覚えてなくても問題はないけど、覚えていて損はないことを小出しに紹介して行こうかと思います

2の冪(べき)と近似値

今回は 2の冪(べき)と近似値です。

以下のようなケースで役に立つかと思います。

  • スケーラビリティやメモリの制限があるような問題に向き合う時
  • Intなど数値型ではどの数値まで扱えたか?
2の冪(べき)の表
2の冪 厳密な値 近似値 MB, GBなど
7 128 - -
8 256 - -
9 512 - -
10 1,024 1 KB
16 65,536 - 64 KB
20 1,048,536 百万 1 MB
30 1,073,741,824 十億 1 GB
32 4,294,967,296 - 4 GB
40 1,099,511,627,776 一兆 1 TB

上記を覚えておけば、Swiftで使用される基本的な整数型とかもすぐに出てきますね。

  1. Int8UInt8:

    • 8ビット整数
    • UInt8は 0 から 2^8 - 1、すなわち 0 から 255
    • Int8は -2^7 から 2^7 - 1、すなわち -128 から 127
  2. Int16UInt16:

    • 16ビット整数
    • UInt16は 0 から 2^16 - 1、すなわち 0 から 65535
    • Int16は -2^15 から 2^15 - 1、すなわち -32768 から 32767
  3. Int32UInt32:

    • 32ビット整数
    • UInt32は 0 から 2^32 - 1、すなわち 0 から 4294967295
    • Int32は -2^31 から 2^31 - 1、すなわち -2147483648 から 2147483647

仮に数値として予め扱う桁数などがわかっているなら、その辺りの判断も早くなりそうですね。

0
1
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
1