0
1

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

【基本情報・Chapter1-2】基数変換、数値表現

Last updated at Posted at 2024-08-19

こんにちは!painappuruと申します!
文系未経験者として、基礎知識を身につけるために、基本情報技術者に関する知識をここでまとめたいと思います。
お気づきの点がございましたら、ご指摘いただけると幸甚です。ᐖ

ビット

bit
コンピュータの世界ではすべての情報が2進数で処理されているが、その1桁のことを1ビット(bit)という。
「bit」は情報量の最小単位であり、「1bit」は「1桁の二進数」の情報量です。 「0」「1」の2通りの値しか表現することができない。 「1Byte」は「8bit」なので、8桁の二進数の情報量である。

補数・余数(よすう)

complement
補数というのは元の数を足したときに桁上がりする最小の数のことを指す。
例えば、10進数の7の補数は3、77の補数は23といった具合である。
2進数の補数は,2進数の各桁を反転させ(0を1に,1を0にする),その結果に1を加えることによって求められる。これを「反転して1」と覚えます。
0000 0110の補数:1111 1010

シフト演算(えんざん)

shift operation 移位运算
シフト演算とはビットを左右にずらして行う演算方法である。
2進数では左に一つ移動すると2倍、右に一つ移動すると1/2倍になります。〇進数では左に一つ移動すると〇倍、右に一つ移動すると1/〇倍になる。

固定小数点数

Fixed-point 定点数
コンピュータ世界における小数の扱い方のひとつで、小数点が特定の位置にある前提で扱うやり方
・小数点が特定の位置にある前提で、数字のみを覚えさせる
・数字を扱うときは、特定の位置に小数点を打つ

浮動小数点数

floating-point 浮点数
コンピュータ世界における小数の扱い方のひとつで「12345×10^-2」における「12345」と「-2」のように、仮数部と指数部のみを記憶しておくやり方
仮数と指数のみを覚えさせる
・数字を扱うときは、計算によって実際の数字を思い出させる

★数字を「X × Y ^ Z(XかけるYのZ乗)」形式で表現するやり方
 Xに相当する部分は「仮数」。
 Yに相当する部分は「基数」。
 Zに相当する部分は「指数」。

IEEE754

IEEE Standard for Floating-Point Arithmetic
1985年にIEEE(Institute of Electrical and Electronics Engineers・米国電気電子技術者協会)によって定められた、浮動小数点算術に関する標準規格である。

誤差

桁あふれ誤差

演算結果の値が、コンピュータが表現できうる有効桁の範囲の最大値や最小値(上限や下限)を超えてしまうことにより生じる誤差を言います。

  • アンダーフロー
    underflow 下溢出
    浮動小数点演算処理について、計算結果の指数部がさくなり過ぎ、使用している記述方式では数値が表現できなくなることである。
  • オーバーフロー
    overflow 上溢出
    計算結果が膨大になり過ぎて表示しきれなくなることがオーバーフローと呼ばれる。

表示できなくなるという点ではどちらも共通している。

情報落ち

loss of trailing digits
絶対値の大きな数値と小さな数値同士で加算や減算を行った場合に、小さな数字の桁情報が無視されてしまい計算結果に反映されない誤差のこと。

打切り誤差(うちきり)

truncation error
主に除算などにより無限に桁が続く場合などに起こる誤差のことで、あらかじめ決めておいた桁数までで計算を終了することにより発生する。 打切り誤差の例としては、円周率を用いた計算が挙げられる。

桁落ち

cancellation of significant digits
浮動小数点数の計算において、絶対値が近い数値同士の減算をすると有効桁数が小さくなってしまうことである。
有効桁数が小さい場合、計算を繰り返すと誤差が蓄積され、時として大きな誤差となることがある。このように、計算途中の桁落ちの発生を考慮しないと大きな問題を引き起こす可能性がある。

丸め誤差

rounding error, round-off error
丸め誤差とは、数値の計算処理の都合上、ある程度で値を省略することにより、計算結果に現れてくる誤差のことである。
丸め誤差の「丸め」とは、任意の桁数以上の精度の数値を端数として処理してしまうことであり、四捨五入や切り上げ、切り捨てなどを含んでいる。丸め処理は主に数値の桁数を揃えるために行われる。

ここまで読んでくれて
お疲れ様です!
ありがとうございました!(⁎ᵕᴗᵕ⁎)

0
1
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
1

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?