基礎理論/数値表現/固定小数点表示

Last-modified: 2011-05-09 (月) 02:03:11

固定小数点

  • 固定小数点
    ビット列のどの位置に小数点があるか、を暗黙的な了解として、扱う表現。
    最下位ビットの右側を小数点と決めれば、小数部分のビットは0になり、整数だけを扱える。
     
    例）
    00000000．
     
  • 8ビットの固定小数点で表せる整数の範囲
    【符号なし】
    00000000.
    nビットで表現できる範囲：0～2n-1
    ―――――――――――
    2進数　　　　　10進数
    ―――――――――――
    00000000　　　0
    00000001　　　1
    ～　　　　　　～
    11111110　　254
    11111111　　255
     
    【符号あり】
    ±0000000.
    nビットで表現できる範囲：-2(n-1)～2(n-1)-1
    ―――――――――――
    2進数　　　　　10進数
    ―――――――――――
    10000000　　－128
    10000001　　－127
    ～　　　　　　～
    00000000　　　0
    ～　　　　　　～
    0111110　　 ＋127
    0111111　 　＋128

コメント