「実数型」の版間の差分
削除された内容 追加された内容
→固定小数点数: 上に{{main}}が貼ってあるので、重ねての誘導は不要 |
編集の要約なし |
||
22行目:
0.1、0.01 など、[[10進数]]では割り切れる小数でも、2進数では[[無限小数]]となり[[丸め誤差]]が発生する。この種のデータを丸め誤差なしに扱うための実数型が10進型である。
内部表現は整数型の仮数で、それがスケーリングされる。仮数が整数 ''n'' のとき、実数 ''n'' / 10{{sup|''m''}} を表す。10{{sup|''m''}} を[[スケールファクタ
スケールファクタ
仮数は通常の整数表現とは限らず、4ビットで10進1桁（0～9）を表す[[パックBCD]]や、8ビットで10進2桁（0～99）を表す内部表現も使われる。これらが使われるのは桁数の多い整数型を容易に提供するためであり、通常の整数表現で桁数を多くできるならパックBCD等を使う必要性は薄い。
| |||