信息论与编码
2011-5
哈尔滨工业大学出版社
江晓林 编
164
信息论与编码是一门既具有广泛的数学理论知识,又有实际工程背景的课程,两者缺一不可。《信息论与编码》注重基本概念、基本定理和基本分析方法的论述,结合实例建立概念和数学模型,给出详细的、必要的数学推演过程和证明,力求概念清晰,逻辑性、系统性强,力求做到既有实际应用背景,又有清晰的数学概念和数学思想。 《高等学校十二五规划教材·电子信息与通信工程系列:信息论与编码》内容丰富翔实,对基本概念和基础理论的阐述清晰明了;吸收了新技术和新方法。为了帮助读者掌握基本理论和分析方法,每章附有相应习题。《高等学校十二五规划教材·电子信息与通信工程系列:信息论与编码》可作为普通高等院校电子信息、通信类专业本科生的教材,也可供有关科学技术人员参考。
第1章 绪论1.1 信息1.1.1 信息的概念1.1.2 信息的性质1.1.3 信息科学1.2 通信系统1.2.1 通信系统模型1.2.2 通信系统的基本要求1.3 信息论1.3.1 信息论的发展历史1.3.2 信息论分类第2章 信息量和信源的熵2.1 信源分类2.2 自信息量与互信息量2.2.1 自信息量2.2.2 信息量2.3 平均自信息量--熵2.4 熵的基本性质2.5 熵的唯一性定理2.6 离散集的平均互信息量2.6.1 离散集的平均互信息量定义2.6.2 平均互信息量的性质2.7 马尔可夫信源2.7.1 马尔可夫信源2.7.2 马尔可夫信源的信息熵2.7.3 随机过程的信息量和熵2.8 信源的相关性和剩余度2.9 连续随机变量的互信息和微分熵2.9.1 连续随机变量的熵2.9.2 连续随机变量的联合熵、条件熵以及平均互信息量2.10 信道容量2.10.1 单符号离散信道的信道容量2.10.2 几种特殊信道的信道容量2.10.3 对称信道的信道容量2.10.4 强对称离散信道的信道容量2.10.5 准对称离散信道的信道容量2.10.6 一般离散信道的信道容量习题第3章 信源编码3.1 信源编码的相关概念3.1.1 无失真信源编码的分类3.1.2 编码器3.1.3 码的分类3.1.4 码树3.2 定长编码定理3.2.1 无失真编码条件3.2.2 定长编码定理3.3 变长码与变长信源编码定理3.4 变长码的编码方法3.4.1 香农编码3.4.2 霍夫曼(Huffman)编码3.4.3 费诺编码3.5 游程编码3.5.1 游程编码简介3.5.2 MH编码原理习题第4章 信道及信道编码4.1 信道及译码规则4.1.1 信道的分类4.1.2 信道模型4.1.3 错误概率和译码规则4.1.4 错误概率与编码方法4.1.5 抗干扰信道编码定理及逆定理4.2 信道编码的基本思想4.2.1 差错控制系统分类4.2.2 纠检错基本原理4.3 检错码4.3.1 奇偶校验码4.3.2 行列监督码4.3.3 定比码4.4 线性分组码4.4.1 汉明码的构成4.4.2 监督矩阵H和生成矩阵G4.4.3 伴随式(校验子S)4.4.4 分组码的纠检错能力4.5 循环码4.5.1 循环码的描述4.5.2 校验子与循环码的编、译码原理4.5.3 译码方法和电路4.5.4 几种改进循环码4.6 卷积码4.6.1 卷积码的基本原理4.6.2 卷积码的译码4.7 限失真编码定理习题第5章 接近香农极限的编码5.1 Turbo码5.1.1 Turbo码的编码5.1.2 Turbo码的译码5.1.3 译码性能分析5.2 低密度校验码的定义5.2.1 LDPC码的概念与描述5.2.2 LDPC码的Tanner图表示5.3 低密度校验码的编码和译码5.3.1 LDPC码的编码5.3.2 LDPC码的译码5.4 低密度校验码的性能分析习题第6章 信息率失真理论6.1 引言6.2 信息率失真函数及其性质6.2.1 失真度6.2.2 信息率失真函数6.2.3 率失真函数与信道容量的对偶性6.2.4 最小失真度和最大失真度6.3 二元对称信源的率失真函数6.4 保真度准则下的信源编码定理6.5 离散无记忆信道的容量一代价函数6.5.1 容量一代价函数6.5.2 容量一代价函数的理解6.5.3 容量一代价函数的性质习题参考文献