- 離散数学
基数，基数の変換，数値の表現，算術演算と精度など，コンピュータで扱う数値表現を理解し，担当する事項に適用する。
集合，論理演算の基本法則，手法を理解し，担当する事項に適用する。
(1) 基数
基数（radix）とは、位取り記数法で数値を書き記す際に各桁の重み付けの基本となる数で、位が上がる毎に何倍になるかを表す。我々が普段使っているのは隣の桁が 10 倍あるいは 10 分の 1 となる 10 進数（10 進法）であり、基数は 10 である。
2 進数，8 進数，10 進数，16 進数の対応を次表に示す。
10 進数整数をr進数へ変換
10 進数の整数値xをr進数に変換する手順は次のとおり。
- xをrで割ったときの商pと余りqを求める。
- pの値が 0 ならば終了。それ以外ならばpを
xと読み替えて 1. へ戻る。
計算の終了後，これまでに求まったqの値のうち,最後に求まったqの値を最上位桁として順に下位方向に並べたときの数列が変換されたr進数の値である。
(2) 数値の表現
コンピュータの中では，整数だけでなく負数や小数点数なども，すべて 0 と 1 の 2 進数で表される。
浮動小数点数
浮動小数点（floating point number）とは，コンピュータにおける数値の表現形式の一つで、数値を桁の並びを表す仮数部と小数点の位置を表す指数部に分割して表現する方式。小数点以下の値を含む数値の表現法として最も広く利用されている。
（浮動小数点数の例）6.02 × 1023，-0.73 × 10-2
浮動小数点数は，小数点の位置を固定せずに小数点数を表現する方法である。数値を指数形式（± f × re）で表した時の，「符号（正を 0，負を 1）」，「仮数 f」，「指数 e」を下図の順に並べて表現する。これを浮動小数点形式という。ここで，r は基数を意味し，通常，基数は 2 である。また，仮数 f は「0.1xxx」となるように，指数 e と桁合わせをする。