《信息论与编码》 课程教学大纲 一、 课程基本信息 总学时为学时数 ☑理论课（含上机、实验学时） 课程类型 总学时为周数 口实习口课程设计口毕业设计 课程编码 7103721 总学时48学时学分3 课程名称 信息论与编码 课程英文名称 Information Theory and Coding 适用专业 电子信息工程 先修课程 概率论与数理统计、信号与系统、数字电子技术 开课部门 信息学院电子工程系（电子信息） 二、 课程性质与目标 本课程是专业必修课程，授课对象为电子信息工程专业高年级学生。通过本 课程的学习，学生应掌握信息论的一些基本理论和编码理论，它可以指导理论研 究和工程应用，为后续专业课的学习打下坚实基础。 (一)课程目标 课程目标1：掌握通信系统模型的组成，利用随机变量的方法对信源、信道 进行建模表达，从信息传输的角度对通信系统的信息量传输进行求解和分析。 课程目标2：掌握通信系统中的各种传统的信源编码方法和信道编码方法。 课程目标3：能够分析通信系统中的有效性和可靠性，并进行简单的方案选 择、设计及仿真。 课程思政目标：通过本课程的学习，促进学生学会辨析事物的两面性，培养 学生团队合作能力，提高分析问题和解决问题能力，提升学生的个人修养和科学 素养。 (二)本课程支撑的毕业要求指标点 本课程支撑的电子信息工程专业毕业要求指标点： 1.4掌握解决复杂的电路与系统、信号与信息处理工程问题所需的信号与 信息处理基本知识。 3.2能够针对复杂工程问题进行信号与信息处理系统设计 (三)课程目标对毕业要求指标点的支撑关系
《信息论与编码》 课程教学大纲 一、 课程基本信息 课程类型 总学时为学时数 □√ 理论课（含上机、实验学时） 总学时为周数 □实习 □课程设计 □毕业设计 课程编码 7103721 总学时 48 学时 学分 3 课程名称 信息论与编码 课程英文名称 Information Theory and Coding 适用专业 电子信息工程 先修课程 概率论与数理统计、信号与系统、数字电子技术 开课部门 信息学院电子工程系（电子信息） 二、 课程性质与目标 本课程是专业必修课程，授课对象为电子信息工程专业高年级学生。通过本 课程的学习，学生应掌握信息论的一些基本理论和编码理论，它可以指导理论研 究和工程应用，为后续专业课的学习打下坚实基础。 （一）课程目标 课程目标 1：掌握通信系统模型的组成，利用随机变量的方法对信源、信道 进行建模表达，从信息传输的角度对通信系统的信息量传输进行求解和分析。 课程目标 2：掌握通信系统中的各种传统的信源编码方法和信道编码方法。 课程目标 3：能够分析通信系统中的有效性和可靠性，并进行简单的方案选 择、设计及仿真。 课程思政目标：通过本课程的学习，促进学生学会辨析事物的两面性，培养 学生团队合作能力，提高分析问题和解决问题能力，提升学生的个人修养和科学 素养。 （二）本课程支撑的毕业要求指标点 本课程支撑的电子信息工程专业毕业要求指标点： 1.4 掌握解决复杂的电路与系统、信号与信息处理工程问题所需的信号与 信息处理基本知识。 3.2 能够针对复杂工程问题进行信号与信息处理系统设计。 （三）课程目标对毕业要求指标点的支撑关系
课程目标对电子信息工程专业毕业要求指标点的支撑矩阵 毕业要求指标点 课程目标 1.4 3.2 课程目标1 课程目标2 课程目标3 三、 课程教学基本内容与要求 课程单元对课程目标的支撑 授课 2 5 6 7 单元 8 课程 2、3 232、323 实验 单元 课程 目标 23 23 (一)理论教学 第一单元概论 1.教学内容 (1)信息的一般概念 (2)信息的分类 (③)信息论的起源、发展及研究内容 2.基本要求 (1)了解信息的分类，信息论的起源和发展。 (2)理解信息的研究内容。 (3)掌握信息、消息和信号的概念。 第二单元信源及其信息量 1.教学内容 ()单符号离散信源 (2)扩展信源 (3)连续信源 (4)离散无失真信源编码定理
课程目标对电子信息工程专业毕业要求指标点的支撑矩阵 课程目标 毕业要求指标点 1.4 3.2 课程目标 1 √ 课程目标 2 √ 课程目标 3 √ 三、 课程教学基本内容与要求 课程单元对课程目标的支撑 授课 单元 1 2 3 4 5 6 7 8 课程 目标 1 1 1 1 2、3 2、3 2、3 2、3 实验 单元 1 2 3 4 课程 目标 1 1 2、3 2、3 （一）理论教学 第一单元 概论 1. 教学内容 (1) 信息的一般概念 (2) 信息的分类 (3) 信息论的起源、发展及研究内容 2. 基本要求 (1) 了解信息的分类，信息论的起源和发展。 (2) 理解信息的研究内容。 (3) 掌握信息、消息和信号的概念。 第二单元 信源及其信息量 1. 教学内容 (1) 单符号离散信源 (2) 扩展信源 (3) 连续信源 (4) 离散无失真信源编码定理
2.基本要求 ()理解、维离散平稳有记忆信源嫡的定义和性质，信源的冗余度，连续最 大熵和熵功率。 (2)掌握单符号离散信源的数学模型，自信息量、条件信息量和联合自信息 量的定义，信息嫡、条件嫡和联合熵的定义，熵的性质，互信息量的定义，平均 互信息量的定义和性质，离散无记忆信源嫡的计算，二维平稳信源嫡的计算，马 尔可夫信源定义以及熵的计算，连续信源微分熵的定义和性质，特殊连续信源熵 的计算，离散无失真信源编码定理。 第三单元信道及其容量 1.教学内容 ()信道模型与分类 (2)离散无记忆信道 (3)离散无记忆扩展信道 (4)连续信道 (⑤)信道编码定理 2.基本要求 (1)了解信道的分类。 (2)理解离散信道容量的一般计算方法，N次扩展信道的数学模型和信道容 量定义，信道编码定理。 (3)学握单符号离散信道的数学模型和信道容量定义，特殊离散信道信道容 量计算，香农公式。 第四单元信息率失真函数 1.教学内容 (1)失真度与信息率失真函数 (2)离散信源的信息率失真函数 (3)连续信源的信息率失真函数 (4)保真度准则下的信源编码定理 2.基本要求 ()理解离散信源和连续信源的信息率失真函数，保真度准则下的信源编码 定理。 (2)掌握失真度与平均失真度的定义和计算，信息率失真函数的定义和性 质，信道容量与信息率失真函数的对偶关系
2. 基本要求 (1) 理解N维离散平稳有记忆信源熵的定义和性质，信源的冗余度，连续最 大熵和熵功率。 (2) 掌握单符号离散信源的数学模型，自信息量、条件信息量和联合自信息 量的定义，信息熵、条件熵和联合熵的定义，熵的性质，互信息量的定义，平均 互信息量的定义和性质，离散无记忆信源熵的计算，二维平稳信源熵的计算，马 尔可夫信源定义以及熵的计算，连续信源微分熵的定义和性质，特殊连续信源熵 的计算，离散无失真信源编码定理。 第三单元 信道及其容量 1. 教学内容 (1) 信道模型与分类 (2) 离散无记忆信道 (3) 离散无记忆扩展信道 (4) 连续信道 (5) 信道编码定理 2. 基本要求 (1) 了解信道的分类。 (2) 理解离散信道容量的一般计算方法，N次扩展信道的数学模型和信道容 量定义，信道编码定理。 (3) 掌握单符号离散信道的数学模型和信道容量定义，特殊离散信道信道容 量计算，香农公式。 第四单元 信息率失真函数 1. 教学内容 (1) 失真度与信息率失真函数 (2) 离散信源的信息率失真函数 (3) 连续信源的信息率失真函数 (4) 保真度准则下的信源编码定理 2. 基本要求 (1) 理解离散信源和连续信源的信息率失真函数，保真度准则下的信源编码 定理。 (2) 掌握失真度与平均失真度的定义和计算，信息率失真函数的定义和性 质，信道容量与信息率失真函数的对偶关系
第五单元信源编码 1.教学内容 (1)信源编码概论 (2)变长编码方法 2.基本要求 (1)理解基本概念 (2)掌握香农编码，费诺编码和霍夫曼编码。 第六单元信道编码的基本概念 1.敦学内容 (1)信道编码在数字通信系统中的地位和作用 (2)有关术语 (3)信道编码的基本思想和分类 (4)差错控制的基本方式和能力 2.基本要求 (1)理解有关术语 (2)掌握信道编码在数字通信的作用。 第七单元线性分组码 1.敦学内容 (1)分组码概念 (2)线性分组码的监督矩阵和生成矩阵 (3)线性分组码的编码 (4)线性分组码的最小距离、检错和纠错能力 (⑤)线性分组码的译码 (⑥)汉明码 2.基本要求 ()理解线性分组码的基本概念。 (2)掌握线性分组码的编码和译码。 第八单元循环码 1.教学内容 (1)循环码的描述
第五单元 信源编码 1. 教学内容 (1) 信源编码概论 (2) 变长编码方法 2. 基本要求 (1) 理解基本概念。 (2) 掌握香农编码，费诺编码和霍夫曼编码。 第六单元 信道编码的基本概念 1. 教学内容 (1) 信道编码在数字通信系统中的地位和作用 (2) 有关术语 (3) 信道编码的基本思想和分类 (4) 差错控制的基本方式和能力 2. 基本要求 (1) 理解有关术语。 (2) 掌握信道编码在数字通信的作用。 第七单元 线性分组码 1. 教学内容 (1) 分组码概念 (2) 线性分组码的监督矩阵和生成矩阵 (3) 线性分组码的编码 (4) 线性分组码的最小距离、检错和纠错能力 (5) 线性分组码的译码 (6) 汉明码 2. 基本要求 (1) 理解线性分组码的基本概念。 (2) 掌握线性分组码的编码和译码。 第八单元 循环码 1. 教学内容 (1) 循环码的描述
(2)循环码的编码 (3)循环码的译码 2.基本要求 (1)理解循环码的描述。 (2)掌握循环码的编码和译码。 (二)实验教学 实验一信息熵 1.实验内容 完成计算自信息量和熵的程序。 2.基本要求 掌握自信息量和熵的程序编写。 实验二信道容量 1.实验内容 ()编写离散一般信道容量程序。 (2)编写高斯连续信道容量程序。 2.基本要求 (1)熟悉离散一般信道容量的程序编写， (2)掌握高斯连续信道信道容量的程序编写。 实验三信源编码 1.实验内容 (1)编写香农编码和费诺编码程序。 (2)编写霍夫曼编码。 2.基本要求 ()熟悉香农编码和费诺编码的程序编写。 (②)掌握霍夫曼编码的程序编写。 实验四信道编码 1.实验内容 (1)编写线性分组码编译码程序。 (2)编写循环码编译码程序。 2.基本要求
(2) 循环码的编码 (3) 循环码的译码 2. 基本要求 (1) 理解循环码的描述。 (2) 掌握循环码的编码和译码。 （二）实验教学 实验一 信息熵 1. 实验内容 完成计算自信息量和熵的程序。 2. 基本要求 掌握自信息量和熵的程序编写。 实验二 信道容量 1. 实验内容 (1) 编写离散一般信道容量程序。 (2) 编写高斯连续信道容量程序。 2. 基本要求 (1) 熟悉离散一般信道容量的程序编写。 (2) 掌握高斯连续信道信道容量的程序编写。 实验三 信源编码 1. 实验内容 (1) 编写香农编码和费诺编码程序。 (2) 编写霍夫曼编码。 2. 基本要求 (1) 熟悉香农编码和费诺编码的程序编写。 (2) 掌握霍夫曼编码的程序编写。 实验四 信道编码 1. 实验内容 (1) 编写线性分组码编译码程序。 (2) 编写循环码编译码程序。 2. 基本要求