「情報理論」の版間の差分

'''情報理論'''（じょうほうりろん、{{lang-en-short|Information theory}}）は、[[情報]]・[[通信]]を[[数学]]的に論じる[[学問]]である。[[応用数学]]の中でも[[データ]]の[[定量的研究|定量化]]に関する分野であり、可能な限り多くのデータを[[メディア (媒体)|媒体]]に格納したり[[通信路]]で送ったりすることを目的としている。[[情報エントロピー]]として知られるデータの尺度は、データの格納や通信に必要とされる平均[[ビット]]数で表現される。例えば、日々の[[天気]]が3ビットのエントロピーで表されるなら、十分な日数の観測を経て、日々の天気を表現するには「平均で」約3ビット/日（各ビットの値は 0 か 1）と言うことができる。