|
授業の目標
|
|
|
コンピュータの内部では情報は離散的数値として表現され、情報通信ではディジタル通信技術がますます重要になってきている。情報理論は、情報伝達の効率性・信頼性に関する理論である。情報伝達の効率化や高信頼性を実現するために、情報を定量的に取り扱うための原理、情報の符号化の原理、情報伝達のための原理を理解する。
|
|
|
|
到達目標
|
|
(1) 各種情報量（自己情報量、平均情報量（エントロピー）、条件付きエントロピー、結合エントロピー、相互情報量）が計算できる。
(2) マルコフ情報源の定常分布、平均情報量が計算できる。
(3) 情報源の符号化を行える。
(4) 通信路の通信路容量を求めることができる。
(5) 通信路符号化を行える。
|
|
|
|
身につく能力
|
|
＜全学ディプロマ・ポリシー＞
○【知識・理解・技術】
１．各専門分野の知識・技術を習得し、活用する力を身につけている
【教養・基礎的能力】
２．幅広い教養と、外国語能力、情報活用能力、コミュニケーション能力などの基礎的能力を身につけている
【態度・志向性】
３．多様な価値観を有する人々と倫理観・責任感をもって協働することができる
【態度・志向性】
４．時代の変化に主体的に対応するため継続的に学び、自律的に行動することができる
【問題発見・解決能力】
５．専門の知識・技術及び基礎的能力を統合し活用して、問題を発見し解決する能力を身につけている
【ｸﾞﾛｰｶﾙ・創造的思考力】
６．地域的・国際的視点をあわせもち、また、新たな価値を想像する力を身につけている
|
|
|
授業の概要
|
|
|
シャノンの情報伝達モデルに基づき、情報、情報源、通信路等の各種概念について講義する。また、情報形態の変換法である符号化（情報源符号化、通信路符号化）の方法とその限界について講義する。
|
|
|
|
授業の計画
|
|
講義中心に進める。毎回講義内で演習を行う。次回講義の予習のための課題を課す。
第１週 情報理論入門（シャノンの情報伝達モデル）
第２週 情報の定量化(1)（自己情報量、エントロピー）
第３週 情報の定量化(2)（エントロピーの性質）
第４週 情報の定量化(3)（結合エントロピー、条件付きエントロピー、相互情報量）
第５週 情報源(1)（情報源のモデル化、無記憶情報源）
第６週 情報源(2)（マルコフ情報源の定義）
第７週 情報源(3)（マルコフ情報源の性質）
第８週 情報源符号化(1)（情報源符号のモデル化、瞬時符号、符号の木）
第９週 情報源符号化(2)（情報源符号化定理、情報源符号の効率）
第１０週 情報源符号化(3)（算術符号（シャノンファノ符号））
第１１週 情報源符号化(4)（コンパクト符号（ハフマン符号））
第１２週 通信路(1)（通信路のモデル化、伝送される情報量）
第１３週 通信路(2)（通信路容量、情報伝達速度、通信路符号化定理）
第１４週 通信路符号化(1)（通信路符号のモデル化、誤り検出符号（パリティ符号））
第１５週 通信路符号化(2)（誤り訂正符号１（垂直水平パリティ符号）、誤り訂正符号２（ハミング符号））
第１６週 定期試験
|
|
|
|
授業時間外学修の指示
|
|
・各回の講義終了時に次回の講義の範囲を示し、内容についての課題を与える。予習した上で次回講義のはじめに課題に対する解答を提出すること。
・毎回の講義で演習問題を出題する。演習問題を再度確認することにより、各回の講義の内容を復習すること。
|
|
|
|
成績評価の方法
|
|
・定期試験、レポート（2回）、演習問題（毎回の講義）で到達目標の理解度を判定する。
・評価の比率は、定期試験70%、レポート15%、演習問題15%とし、総合評価により60%以上を合格とする。
|
|
|
|
テキスト・参考書等
|
|
【テキスト】
中村篤祥、喜田拓也、湊真一、廣瀬善大 共著 『基礎から学ぶ情報理論 第2版』 ムイスリ出版 税抜2,450円 ISBN:978-4-89641-287-1
【参考書】
平田廣則 著 『情報理論のエッセンス 改訂2版』 オーム社 税抜2,700円 ISBN:978-4-274-22603-8
・その他、講義時に関連資料を配布する。
|
|
|
|
履修上の留意点
|
|
確率・統計学、離散数学を復習しておくこと。
【manabaの利用法】
事前学習課題、講義資料、演習課題、レポート課題をアップロードするため、毎回確認すること。
|
|
|
|
資料
|
|
|
|
|
備考
|
|
|