## シャノンの「通信の数学的理論」の思想的背景
情報量の定量化という課題
シャノンの「通信の数学的理論」は、情報という概念を初めて数学的に厳密に定義し、通信の根本的な問題に新たな光を当てた画期的な論文でした。 その背景には、20世紀初頭から発展してきた情報理論、確率論、符号理論といった分野における先行研究の蓄積がありました。
情報量の尺度としてのエントロピー
シャノンは、情報量を定量化するために、熱力学におけるエントロピーの概念を借用しました。 彼は、メッセージが伝える情報量は、そのメッセージがもたらす受信者の不確実性の減少量に等しいと考えたのです。 つまり、起こる確率が低い事象ほど、それが起こったときに伝える情報量は大きくなります。
通信路の数学的モデル化
シャノンは、通信システムを、情報源、送信機、通信路、受信機、目的地という５つの要素からなるモデルとして表現しました。 情報源は送信したいメッセージを生成し、送信機はメッセージを通信路で伝送可能な信号に変換します。 通信路はノイズの影響を受ける可能性があり、受信機は受信した信号からメッセージを復元し、目的地に伝達します。
符号化による効率的な情報伝達
シャノンは、符号化によってメッセージを効率的に表現し、通信路の容量内で誤りなく伝送できることを示しました。 彼は、情報源符号化定理と通信路符号化定理という二つの基本的な定理を証明し、効率的な符号化方式の存在と、ノイズが存在する状況下での信頼性の高い通信の可能性を示しました。
これらの要素が、シャノンの「通信の数学的理論」の主要な思想的背景となります。 彼の理論は、現代の通信システムの設計と解析の基礎となり、情報理論という新たな学問分野の誕生を促しました。