Wikipedia

「精度 (算術)」の版間の差分

履歴の双方向閲覧
← 古い編集新しい編集 →
削除された内容 追加された内容
ビジュアルウィキテキスト
Ponta2 (会話 | 投稿記録)
21,357 回編集
AuBot~jawiki (会話 | 投稿記録)
6,768 回編集
85行目:
[[情報工学]]における数値の'''精度'''とは、その数値を表現する項目の単位である。一般にビット数で表されるが、十進の桁数で表すこともある。
 
[[Java (プログラミング言語)|Java]]は[[データ型]]の精度を定めている数少ない[[プログラミング言語]]の1つであるが、下の表はその標準整数型の精度の定義を示したものである。表に示された範囲は[[2の補数]]表現で符号付整数を表した場合の範囲である。
 
{| width="60%" border="1" cellpadding="5" cellspacing="0" align="center"
「https://ja.wikipedia.org/wiki/精度_(算術)」から取得