(1)コンピュータで使用されている数値の表現(内部表現)は2進法が用いられる。これは、10進に比べ表現要素が少なく済むことや判断が簡素化され、間違いが少なく信頼度が高いためである。数値データ表現には、固定小数点形式、浮動小数点形式、BCDコード方式がある。
固定小数点形式とは、小数点の位置を固定し、2進法表現する方式で、多くの場合、最も右のビット(の右)位置に固定された形式である。例えば、000111000の場合、一番右のビット「0」の右に小数点が固定される。また、負の値を表現するのにマイナス記号を用いるが、そこで符号ビットをとって(0は正、1は負)数値表現に用いる。上記の場合も「0」符号ビットとなる。ほとんどの場合、負を表現する場合は2の補数を用いる。
次に浮動小数点方式である。これは指数部の数値によって小数点の位置が変化するものである。4バイト長(単精度浮動小数点方式)、8バイト長(倍精度浮動小数点方式)、16バイト長の種類がある。これらは、小数点数を「符号○×2の□乗」という指数形式で表す。例えば、12億の数値を「1.2×10の9乗」と表現し、1.2の部分を仮数部、べき乗の9の...