「実数型」の版間の差分

編集の要約なし
(→‎固定小数点数: 上に{{main}}が貼ってあるので、重ねての誘導は不要)
0.1、0.01 など、[[10進数]]では割り切れる小数でも、2進数では[[無限小数]]となり[[丸め誤差]]が発生する。この種のデータを丸め誤差なしに扱うための実数型が10進型である。
 
内部表現は整数型の仮数で、それがスケーリングされる。仮数が整数 ''n'' のとき、実数 ''n'' / 10{{sup|''m''}} を表す。10{{sup|''m''}} を[[スケールファクタ]]と呼ぶ。
 
スケールファクタは固定とは限らず、浮動小数点数のようにスケールファクタを指数部として型の内部に備え可変とした型もある。たとえば [[Visual Basic]] の10進型は1、仮数部(符号なし整数)に12バイト、指数部・符号などに4バイトを使う。
 
仮数は通常の整数表現とは限らず、4ビットで10進1桁(0~9)を表す[[パックBCD]]や、8ビットで10進2桁(0~99)を表す内部表現も使われる。これらが使われるのは桁数の多い整数型を容易に提供するためであり、通常の整数表現で桁数を多くできるならパックBCD等を使う必要性は薄い。
匿名利用者