## シャノンの通信の数学的理論の案内
シャノンの情報理論とは？
クロード・シャノンが1948年に発表した「通信の数学的理論」は、情報理論の基礎を築いた画期的な論文です。この論文の中でシャノンは、情報を定量的に扱い、ノイズの存在下でも正確に情報を伝達するための数学的な枠組みを提示しました。
情報エントロピー
シャノンは、メッセージの「情報量」をそのメッセージの不確実性と関連付けました。 メッセージが予測しやすいほど、情報量は少なくなり、逆に予測不可能なメッセージほど、情報量は多くなります。この情報量を定量的に表す尺度として、シャノンは「エントロピー」という概念を導入しました。エントロピーは、メッセージが持つ平均的な不確実性を表し、ビットという単位で測定されます。
通信路容量
シャノンはまた、「通信路容量」という重要な概念を提唱しました。これは、ノイズが存在する通信路において、1秒間に伝送できる最大情報量を表します。通信路容量は、通信路の特性（帯域幅、信号強度、ノイズレベルなど）によって決まり、通信路がどれだけ効率的に情報を伝送できるかの限界を示しています。
シャノン=ハートレーの定理
シャノン=ハートレーの定理は、ノイズが存在する通信路において、通信速度と信号対雑音比の関係を示す重要な定理です。この定理によると、通信速度は帯域幅と信号対雑音比の対数に比例します。つまり、帯域幅が広く、信号対雑音比が高いほど、高速な通信が可能になります。
誤り訂正符号
シャノンの情報理論は、誤り訂正符号の開発にも大きく貢献しました。誤り訂正符号は、ノイズによって発生するデータの誤りを検出し、訂正するための技術です。シャノンは、通信路容量以下の速度で情報を伝送すれば、誤りを任意に小さくできることを証明しました。
情報理論の影響
シャノンの情報理論は、現代の通信技術の基盤となっています。インターネット、携帯電話、衛星通信など、現代社会に欠かせない様々な技術は、情報理論の成果を応用して実現されています。情報理論は、情報通信分野だけでなく、計算機科学、統計力学、生物学など、幅広い分野に影響を与えています。