最初はシャノンの通信システム(図１)について学びます。シャノンの「通信の数学的理論」により、情報現象の本質が確率論を基礎に定量的に定式化され、情報の伝送、すなわち通信の理論の基礎が確立されました。この講義では、シャノンの理論に立脚して、情報を定量的に認識する方法を身につけます。その上で、エントロピー（図２）や平均符号長などについての計算もできるように勉強します。そして、理論知識だけを学ぶのではなく、実際に応用できるようにいろいろな計算を通して演習問題を解き、理解を深めていきます。それほど多くはありませんが、毎回の講義の後には演習課題があり、確実に講義内容を理解していないと解けない問題ばかりです。講義中に先生が演習問題についての解き方を丁寧に教えてくれますので、実際に手を動かしながら解くと理解が一層深まります。