浙江工商大学大学同济大学四平路

“信息论及应用”课程教学大纲112室

英文名称：The Elements of Information Theory

课程编码：共济网

学时：48            学分：3专

适用对象：研究生3362 3039

先修课程：通信原理，概率论业

使用教材及参考书：共

1. 教材：Rober G. Gallager 主编，021-

《Information Theory and Reliable Communication》，

Massachusetts Institute of Technology出版社，1968年网络督察

参考书：

2.     傅祖芸 主编，《信息论——基础理论与应用》，

电子工业出版社，2003年共济

3.     陈运 主编，《信息论与编码》，电子工业出版社，2003年院

4.     Robert J. McEliece, 《The Theory of Information and Coding》

电子工业出版社，2003年济

5.     Thomas M Cover and Joy A. Thomas, 院

“Elements of Information Theory,” John Wiley & Sons, 1991.共

一、课程性质、目的和任务

信息论是由Shannon奠基的一门数学学科，它产生于有效而可靠的通信问题中，并获得了广泛应用。通过本课程的学习，使学生对信息理论有一个比较全面和系统的了解，掌握信息论的基本概念、基本理论和基本分析方法，为从事信息科学的研究和应用打下一个坚实的基础。并且介绍这门学科的相关应用，比如密码学和隐秘通信等应用。共

二、教学基本要求

1. 掌握信息论的基本概念：信息、熵、互信息。

2．了解信源的数值编码过程，信源的种类及信息率。

3．理解信道、信道容量等基本概念，了解计算信道容量的方法。

4．理解和掌握基本的信源编码理论。

5．掌握基本的信道编码理论。

6．掌握基本的密码学理论和隐秘通信理论

三、教学内容及要求

第一章：信息与信息的度量

    1. 引言，信息的定义，课程概要；

    2. 信息的度量；

基本要求：了解信息论的产生及发展，本课程的基本情况；理解信息的概念和含义，掌握信息的度量方法——信息量，信息熵。

第二章：信源

    1. 消息的数值编码；

    2. 信源的种类及信息率的计算；

基本要求：了解信源的数值编码过程，了解信源的种类，理解和掌握信息率的概念和计算方法。

第三章：信道与信道容量

1．信道模型；

2．互信息的定义，计算；

3．信道容量的定义，计算，对称信道的信道容量；

基本要求：了解信息信道的模型建立方法；理解和掌握互信息的概念、性质和计算方法；理解信道容量的概念，理解凸函数的含义和性质，了解用凸函数这一数学工具分析信道容量的方法；理解和掌握非对称信道的信道容量的求解方法、对称信道的信道容量的求解方法。

第四章：信源编码

1．序列传输；

2．定长编码；

3．变长编码，编码原理；

4．最佳变长编码技术；

基本要求：理解信源编码的目的；了解序列传输的特点；掌握定长及变长的信源编码定理；理解唯一可解、异前缀码的概念，理解Kraft不等式；掌握二元及多元的最佳变长编码技术即Huffman编码方法，理解扩展编码方法，会计算编码效率。

第五章：有噪信道编码定理

1．信道速率的定义；

2．最大似然解码准则，误码率；

3．二元编码误差；

4．多元编码误差，信道编码定理；

基本要求：理解信道编码的目的；理解信道速率的概念；理解最小误差和最大似然两个解码准则，会根据最大似然解码准则划分输出子集；了解二元编码的误码率上界，并会g_n(s)的计算；了解多元编码的误码率上界，理解编码指数的含义及使用方法，掌握编码指数的曲线变化，掌握有噪信道编码定理。

第六章：密码学基础和隐秘通信理论

基本要求：网络安全，密码学理论，无线协议安全，常用的隐秘通信方法。

四、课内学时分配