「精度 (算術)」の版間の差分

削除された内容 追加された内容
編集の要約なし
8行目:
最初に、「正確さ」の意味で「精度」という語が使われている場合もあると述べたように、精度という語はしばしば乱用されている。「精度が」という言及がある場面で、正確さと精度(英語では accuracy と precision )の区別がついているか、絶対精度と相対精度の区別はついているか、を明解に説明できないようであれば、十分に注意したほうが良い。
 
ここで例として、値 12.345 を[[十進記数|十進数]]によるいくつか値 12.345 を様々な精度桁数で丸めるとどうなるかを示す。精度が不十分であれば一般に丸めとは何らかの[[端数処理]]によってその精度に見合った桁数で数値丸められることである。下の表は最も一般的な[[四捨五入]]で丸めを行った場合を示している。
{| class="wikitable"
|-