LoginSignup
0
0

More than 5 years have passed since last update.

Double -> Float キャストメモ

Posted at

はじめに

DoubleからFloatにキャストした時のメモです。キャストといってもDoubleとFloatではビット数の違いにより有効桁数が異なるので、floor/ceil/roundあたりでDoubleの桁数を調整する。

記述

今回はTaskのprogressを監視するオブサーバーでDoubleが帰ってきたことを例にします。

TaskViewController.swift
task.observe(.progress) { (snapshot) in
            let percentComplete = 100.0 * Double(snapshot.progress!.completedUnitCount) / Double(snapshot.progress!.totalUnitCount)
            //桁数調整
            let roundPercent = round(percentComplete * 10e6) / 10e6
            //Double -> Float
            let floatPercent = Float(roundPercent)
            print(floatPercent)
}

最後に

Float -> 32bit -> 有効桁数:約7桁(10進数)
Double -> 64bit -> 有効桁数:約15桁(10進数)
CGFloatだと実行環境によってbit数が変わるみたいです。

参考)https://qiita.com/shimesaba/items/dbbc0f4ec80d011273d6

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0