「精度 (算術)」の版間の差分
削除された内容 追加された内容
Javaの仕様のどこにも「整数型の『精度』」なんてものは無い。勝手な「解釈」でしょうコレ |
誤差とは何かを論じずに、丸め誤差だけ説明するとか変でしょ タグ: コメントアウト |
||
25行目:
<div class="references-small"><references group="*" /></div>
== 誤差 ==
{{see|誤差}}<!--
== 丸め誤差 ==
'''丸め誤差'''とは、計算で求められる数値の[[近似]]と数学的に正確な値との差である。[[数値解析]]では、近似[[方程式]]や近似[[アルゴリズム]]を使用したときの丸め誤差を予測しようとしてきた。特に有限の精度で実数を表現する際などである。丸め誤差は一種の[[量子化誤差]]である。
70 ⟶ 72行目:
有限精度で数値を表す際の処理方法については[[端数処理]]を参照されたい。
-->
== 関連項目 ==
* [[任意精度演算]]
| |||