「単精度浮動小数点数」の版間の差分
削除された内容 追加された内容
m ロボットによる 追加: ru:Число одинарной точности |
Colom~jawiki (会話 | 投稿記録) MSXの場合を記載 |
||
32行目:
c000 0000 = -2
7f7f ffff ≒ 3.4028234 x 10<sup>38</sup> (単精度浮動小数点数の正の最大値)
3eaa aaaa ≒ 1/3
(1/3 は[[倍精度]]とは異なり、切り上げられる。これは仮数部のビット数が偶数であるため。)
42行目:
7f80 0000 = 正の無限大
ff80 0000 = 負の無限大
== MSXの場合 ==
MSX-BASICの場合、同様に4バイトで表すが、IEEE 754とは異なり
* s(符号ビット): 1
* y(指数部の幅): 7
* x(仮数部の幅＝精度): 24
syyy yyyy xxxx xxxx xxxx xxxx xxxx xxxx
であり、指数部をバイナリ、仮数部をBCDで表現する。
そのため、有効数字は正確に10進で6桁で、指数は±63乗である。
ちなみに、同時期の8ビットパソコンは多くがBCDではなく2進での演算であった。
== 関連項目 ==
| |||