シラバス情報

教員名 ： 柳田　昌宏
科目授業名称（和文）　Name of the subject/class (in Japanese)
情報理論 （情報理論１）
科目授業名称（英文）　Name of the subject/class (in English)
Introduction to Information Theory （情報理論１）
授業コード　Class code
9914614
科目番号　Course number
14ISICN301

教員名
柳田　昌宏
Instructor
Masahiro Yanagida

開講年度学期
2024年度前期
Year/Semester
2024 First Semester
曜日時限
火曜1限
Class hours
Tuesday 1st Period

開講学科・専攻　Department
理学部第一部　応用数学科

Department of Applied Mathematics, Faculty of Science Division Ⅰ
単位数　Course credit
2.0単位
授業の方法　Teaching method
講義

Lecture
外国語のみの科目（使用言語）　Course in only foreign languages (languages)
-
授業の主な実施形態　Main class format
① [対面]対面授業/ [On-site] On-site class

概要　Description
情報理論の基礎を学ぶ。
目的　Objectives
情報理論の導入部から情報源符号化定理までを理解する。知能数理分野に関して「応用領域を基盤とする最先端の多様な専門教育」（カリキュラム・ポリシーより）を行い、「応用領域を体系的かつ統合的に理解できる能力」（ディプロマ・ポリシーより）を身に付ける。
到達目標　Outcomes
最適符号の平均符号語長について説明できる。情報源符号化定理について説明できる。ハフマン符号について説明できる。
卒業認定・学位授与の方針との関係（学部科目のみ）
リンク先の [評価項目と科目の対応一覧]から確認できます（学部対象）。
履修登録の際に参照ください。
​You can check this from “Correspondence table between grading items and subjects” by following the link(for departments).
https://www.tus.ac.jp/fd/ict_tusrubric/​​​
履修上の注意　Course notes prerequisites
-
アクティブ・ラーニング科目　Teaching type（Active Learning）
小テストの実施　Quiz type test／反転授業　Flipped classroom
-

準備学習・復習　Preparation and review
前回の授業範囲を教科書・ノート等を用いて復習することにより、理解が不十分な箇所が無いようにする（2時間程度）。次回の授業範囲を教科書を用いて予習することにより、必要な予備知識に不足が無いようにする（2時間程度）。
成績評価方法　Performance grading policy
中間評価・到達度評価（50％）と小テスト（50％）に平常点を加味して評価する。小テストは各回で実施し、それぞれ前回の内容の確認を行う。ただし出席状況が著しく悪い者は不合格または評価対象外とすることがある。
学修成果の評価　Evaluation of academic achievement
・S：到達目標を十分に達成し、極めて優秀な成果を収めている
・A：到達目標を十分に達成している
・B：到達目標を達成している
・C：到達目標を最低限達成している
・D：到達目標を達成していない
・-：学修成果の評価を判断する要件を欠格している

・S：Achieved outcomes, excellent result
・A：Achieved outcomes, good result
・B：Achieved outcomes
・C：Minimally achieved outcomes
・D：Did not achieve outcomes
・-：Failed to meet even the minimal requirements for evaluation

教科書　Textbooks/Readings
教科書の使用有無（有=Y , 無=N）　Textbook used(Y for yes, N for no)
N
書誌情報　Bibliographic information
MyKiTSのURL（教科書販売サイト）　URL for MyKiTS(textbook sales site)
教科書および一部の参考書は、MyKiTS (教科書販売サイト) から検索・購入可能です。
​https://mirai.kinokuniya.co.jp/tokyorika/​​​

It is possible to search for and purchase textbooks and certain reference materials at MyKiTS (online textbook store).
​​https://mirai.kinokuniya.co.jp/tokyorika/

参考書・その他資料　Reference and other materials
『情報理論講義』小林欣吾・森田啓義著／培風館／2008年発行／ISBN 978-4563015763
『情報理論 -基礎と広がり-』 Thomas M. Cover・Joy A. Thomas著、山本博資・古賀弘樹・有村光晴・岩本貢訳／共立出版／2012年発行／ISBN 978-4320123007
『情報理論 -エントロピーと符号化定理』古市茂著／日本評論社／2021年発行／ISBN 978-4535789340

授業計画　Class plan
  1. 導入
    本講義で扱う内容の概要を理解する。
  2. エントロピー
    エントロピーの意味とその非負性について理解する。
  3. エントロピーの凸性
    多変数関数の凸性について理解する。
    エントロピーの凸性と最大値について理解する。
  4. Jensenの不等式と対数和の不等式
    Jensenの不等式と対数和の不等式について理解する。
  5. ダイバージェンス
    ダイバージェンスの意味とその非負性、凸性について理解する。
    エントロピーとの関係について理解する。
  6. 同時エントロピーと条件付きエントロピー
    同時エントロピーと条件付きエントロピーの意味について理解する。
    エントロピーのチェイン則について理解する。
  7. 相互情報量
    相互情報量の意味について理解する。
    同時エントロピー、条件付きエントロピーとの関係について理解する。
  8. 中間評価
    これまでの内容の理解度を確認する。
    その後、授業としてこれまでの内容の総括を行う。
  9. ブロック符号
    ブロック符号とその分類について理解する。
  10. 一意分節可能符号
    一意分節可能性について理解する。
  11. 語頭符号
    語頭符号とその木表現について理解する。
  12. Kraftの不等式
    Kraftの不等式について理解する。
    与えられた符号語長をもつような語頭符号の構成法について理解する。
  13. 最適符号
    最適符号の平均符号語長の上界について理解する。
    情報源符号化定理を導出できるようになる。
  14. Huffman符号
    Huffman符号の構成法と最適性について理解する。
  15. 到達度評価
    当該授業における達成度を確認する。
    その後、授業として当該授業科目の内容の総括を行う。

授業担当者の実務経験　Work experience of the instructor of the class
-
教育用ソフトウェア　Educational software
-
-

備考　Remarks
-

授業でのBYOD PCの利用有無　Whether or not students may use BYOD PCs in class
N
授業での仮想PCの利用有無　Whether or not students may use a virtual PC in class
N