情報理論 | 長崎大学 情報データ科学部

学生による講義紹介

科目名
情報理論
講義分類
両コース選択
履修学年
2年生 第1・2クオーター
担当教員
講義の目的

情報理論の分野の専門技術に関する知識を身につけ、それらを応用できるようになることを目指します。

講義の内容

最初はシャノンの通信システム(図1)について学びます。シャノンの「通信の数学的理論」により、情報現象の本質が確率論を基礎に定量的に定式化され、情報の伝送、すなわち通信の理論の基礎が確立されました。この講義では、シャノンの理論に立脚して、情報を定量的に認識する方法を身につけます。その上で、エントロピー(図2)や平均符号長などについての計算もできるように勉強します。そして、理論知識だけを学ぶのではなく、実際に応用できるようにいろいろな計算を通して演習問題を解き、理解を深めていきます。それほど多くはありませんが、毎回の講義の後には演習課題があり、確実に講義内容を理解していないと解けない問題ばかりです。講義中に先生が演習問題についての解き方を丁寧に教えてくれますので、実際に手を動かしながら解くと理解が一層深まります。

図1:シャノンの通信システム
図2:エントロピーに関しての公式
講義を受けてみての感想

この講義を通して情報理論の専門知識をたくさん応用できるようになりました。最初は情報量の計算など講義中でわかったものでも、次の講義では忘れてしまうこともありましたが、講義の最初に先生は前回の講義内容の振り返りをしてくれますのでとても理解しやすいと思いました。

教科書・教材・参考書

情報理論 [三木成彦、吉川英機 著(コロナ社)]