「精度 (算術)」の版間の差分
削除された内容 追加された内容
誤差とは何かを論じずに、丸め誤差だけ説明するとか変でしょ タグ: コメントアウト |
編集の要約なし |
||
1行目:
'''精度'''（せいど、precision）とは、数値を表現する
== 概要 ==
精度は、数値を表現する細かさであり、その数字の正確さとは（厳密には）異なる概念である（[[正確度と精度]]を参照）。ただし、機械加工などでは慣用的に、正確さに対して「精度」という言葉が使われている。
最初に、「正確さ」の意味で「精度」という語が使われている場合もあると述べたように、精度という語はしばしば乱用されている。「精度が」という言及がある場面で、正確さと精度（英語では accuracy と precision ）の区別がついているか、絶対精度と相対精度の区別はついているか、を明解に説明できないようであれば、十分に注意したほうが良い。
ここでは、例として[[十進記数法|十進数]]の値 12.345 を様々な精度で丸めるとどうなるかを示す。精度が不十分であれば、[[端数処理]]によってその精度に見合った桁数で数値が丸められる。下の表は最も一般的な[[四捨五入]]で丸めを行った場合を示している。▼
▲ここで
{| class="wikitable"
|-
24 ⟶ 26行目:
|}
<div class="references-small"><references group="*" /></div>
== 絶対精度と相対精度 ==
[[誤差]]の観点からは、「絶対誤差」と「相対誤差」という語もある。たとえば、1mの長さの棒と10mの長さの棒をそれぞれ量産しているとする。このときそのそれぞれの長さの誤差について、それぞれの「基準の長さから±10mm」といったように捉えるのであれば絶対誤差、「基準の長さの95%から105%の間」というように捉えるのであれば相対誤差である。どちらの誤差・どちらの精度で対象を扱うべきであるかはケースバイケースである。
== 誤差 ==
| |||