シラバス情報

科目授業名称(和文) Name of the subject/class (in Japanese)
情報理論(情報基礎論)
科目授業名称(英文) Name of the subject/class (in English)
Information Theory
授業コード Class code
994311Y
科目番号 Course number
43ICINP201

教員名
丸田 一輝
Instructor
Kazuki Maruta

開講年度学期
2025年度後期
Year
2025年度
Semester
②Second semester
曜日時限
月曜1限
Class hours
Monday 1st Period

開講学科・専攻 Department
工学部 電気工学科

Department of Electrical Engineering, Faculty of Engineering
単位数 Course credit
2.0単位
授業の方法 Teaching method
講義

Lecture
外国語のみの科目(使用言語) Course in only foreign languages (languages)
-
授業の主な実施形態 Main class format
② [対面]ハイフレックス型授業/ [On-site] Hybrid-Flexible format (must include 50%-or-more classes held on-site)

概要 Description
本講義では、情報とは何か、情報は工学の分野でどのように取り扱われているかということを学ぶ。

In this course, students will learn what information is and how it is dealt with in the field of engineering.
目的 Objectives
情報は、物質、エネルギーと共に現代の工学を支える3本の柱の1つです。その情報に関する基礎的な知識、工学的な扱いを理解する。

Information theory is the important field supporting modern engineering.
It aims at understanding the fundamental knowledge about the information, and engineering treatment.
到達目標 Outcomes
情報量、エントロピー、離散的情報源、通信容量、情報源符号化、通信路符号化などについて理解できる。

To be able to understand information quantity, entropy, discrete information sources, channel capacity, source coding, and channel coding.
卒業認定・学位授与の方針との関係(学部科目のみ)
リンク先の [評価項目と科目の対応一覧]から確認できます(学部対象)。
履修登録の際に参照ください。
​You can check this from “Correspondence table between grading items and subjects” by following the link(for departments).
https://www.tus.ac.jp/fd/ict_tusrubric/​​​
履修上の注意 Course notes prerequisites
特になし

Nothing special
アクティブ・ラーニング科目 Teaching type(Active Learning)
小テストの実施 Quiz type test/-
-

準備学習・復習 Preparation and review
LETUSに掲載する資料を事前に読んでおくこと。
各回の講義内容を十分復習し、学んだ概念・用語や手法について説明できるようにしておくこと。

Read the relevant materials uploaded to LETUS in advance.
Thoroughly review the content of each lecture and be able to explain the concepts, terms, and methods learned.
成績評価方法 Performance grading policy
中間試験(40%)と期末試験(60%)によって評価する。

Evaluatied based on a mid-term exam (40%) and a final exam (60%).
学修成果の評価 Evaluation of academic achievement
・S:到達目標を十分に達成し、極めて優秀な成果を収めている
・A:到達目標を十分に達成している
・B:到達目標を達成している
・C:到達目標を最低限達成している
・D:到達目標を達成していない
・-:学修成果の評価を判断する要件を欠格している

・S:Achieved outcomes, excellent result
・A:Achieved outcomes, good result
・B:Achieved outcomes
・C:Minimally achieved outcomes
・D:Did not achieve outcomes
・-:Failed to meet even the minimal requirements for evaluation

教科書 Textbooks/Readings
教科書の使用有無(有=Y , 無=N) Textbook used(Y for yes, N for no)
N
書誌情報 Bibliographic information
-
MyKiTSのURL(教科書販売サイト) URL for MyKiTS(textbook sales site)
教科書および一部の参考書は、MyKiTS (教科書販売サイト) から検索・購入可能です。
https://gomykits.kinokuniya.co.jp/tokyorika/​​​

It is possible to search for and purchase textbooks and certain reference materials at MyKiTS (online textbook store).
​​https://gomykits.kinokuniya.co.jp/tokyorika/

参考書・その他資料 Reference and other materials
特に教科書は指定しませんが、下記の書籍を適宜ご参考ください。
・「情報理論の考え方」植松 友彦 著(講談社)
・「情報理論」南 敏 著(産業図書)

授業計画 Class plan
この授業では全授業回数のうち、半数以上の授業回を対面で受講することが求められます。
ただし、この趣旨としては、残りの半数の授業回を出席しなくてよいことを意図するものではありません。


  1. イントロダクション:情報理論とは
    情報、シャノンによる通信系モデル、符号化の概念と量的表示、基礎的な演算を理解する。

  2. 誤り検出符号
    雑音の影響と誤りを検出の意義、代表的な誤り検出符号について学ぶ。

  3. 誤り訂正符号 (1)
    誤り訂正符号の概念と、反復符号及びハミング符号の原理を理解する。

  4. 誤り訂正符号 (2)
    様々な誤り訂正符号について学ぶ。

  5. 誤り訂正符号 (3)
    畳み込み符号を理解し、様々な誤り訂正符号について学ぶ。

  6. 情報源符号化 (1)
    情報源符号化の意義と基礎、符号の木を理解する。

  7. 情報源符号化 (2)
    平均符号長、最適符号、ハフマン符号化を理解する。

  8. 情報源符号化 (3)
    シャノン・ファノ符号化、LZ符号化を理解する。

  9. 中間試験とまとめ
    誤り検出符号、誤り訂正符号、情報源符号化の理解度を確認する。

  10. 情報量とエントロピー (1)
    自己情報量、エントロピーの基本概念を理解する。

  11. 情報量とエントロピー (2)
    相互情報量、条件付きエントロピー、平均相互情報量を理解する。

  12. 情報源符号化定理(シャノンの第1基本定理)
    シャノンの第1基本定理を理解する。

  13. 通信路と通信路容量
    通信路及び通信路容量の概念を理解する。

  14. 通信路符号化定理(シャノンの第2基本定理)
    シャノンの第2基本定理を理解する。

  15. まとめ
    到達度評価と解説。
    情報量とエントロピー、通信路容量など、情報理論を支える重要な項目を復習する。

----------------------------------

  1. Introduction: what is information theory?
    Understand information, Shannon's communication system model, concept of coding and its quantitative representation, and basic arithmetic operations.

  2. Error detection codes
    Learn about the impact of noise, the significance of error detection, and typical error detection codes.

  3. Error correction codes (1)
    Understand the concept of error correction codes and the principle of iterative codes and Hamming codes.

  4. Error correction codes (2)
    Understand various kinds of error correction codes.

  5. Error correction codes (3)
    Understand convolutional codes.

  6. Source coding (1)
    Understand the significance and fundamentals of source coding and code trees.

  7. Source coding (2)
    Understand average code length, optimal code, and Huffman coding.

  8. Source coding (3)
    Understand Shannon–Fano coding and LZ coding.

  9. Mid-term exam and summary
    Confirm understanding of error detection codes, error correction codes, and source coding.

  10. Measure of information and entropy (1)
    Understand the basic concepts of entropy and mutual information content.

  11. Measure of information and entropy (2)
    Understand joint entropy, conditional entropy, and average mutual information content.

  12. Source coding theorem (Shannon's first theorem)
    Understand Shannon's first Theorem.

  13. Communication channel and channel capacity
    Understand the concepts of communication channel and channel capacity.

  14. Channel coding theorem (Shannon's second theorem)
    Understand Shannon's second theorem.

  15. Summary
    Achievement test and commentary.
    Review important topics underpinning information theory, such as quantities of information, entropy and channel capacity.

担当教員の実務経験とそれを活かした教育内容 Work experience of the instructor
民間企業での研究開発における勤務経験を活かし、情報理論と実際の通信工学における関連性の理解が深められるよう、実例を示しながら講義を行う。

Lectures will be conducted using real-world examples to deepen the understanding of the relationship between information theory and practical communication engineering, drawing on experience in research and development in the industry. 
教育用ソフトウェア Educational software
-
-

備考 Remarks

授業でのBYOD PCの利用有無 Whether or not students may use BYOD PCs in class
N
授業での仮想PCの利用有無 Whether or not students may use a virtual PC in class
N