信息论基础
2011-7
中国科学技术大学出版社
杨孝先
239
杨孝先等的《信息论基础》基于编者在中国科学技术大学多年的教学经验编写而成，其内容包括概述，信息的度量与熵，随机过程的信息量与熵率、渐近等分性质，信源编码，通信信道与信道容量，信息几何学等6章。每章都配备了足够多的例题与习题，书末还附有习题的提示和答案。
《信息论基础》具有少而精、将主要问题讲深讲透而非面面俱到、由浅入深、便于自学等特点，可供高等院校应用数学专业，统计专业以及与计算机有关的信息学院、管理学院等一些专业作为学习“信息论”的教材或参考书。
前言
第1章 概论
1.1 信息论的基本内容——信息理论所关注的信息特征
1.2 信息论简史
1.3 关于控制论、信息论与系统论
1.4 信息论的应用
1.5 有关的常用不等式
习题1
第2章 信息的度量与熵
2.1 自信息
2.2 熵、条件熵、联合熵及其性质
2.3 互信息与相对熵
2.4 凸函数与熵的凸性
2.5 微分熵
2.5.1 连续信源的微分熵
2.5.2 联合微分熵、条件微分熵
2.5.3 连续信源的相对熵与互信息
2.5.4 具有最大微分熵的连续信源——最大熵原理
2.5.5 信息功率
习题2
第3章 随机过程的信息量与熵率、渐近等分性质
3.1 随机过程的基本概念
3.2 熵率
3.3 冗余度与相对冗余度
3.4 数据处理不等式
3.5 平稳Gauss随机过程的熵率
3.6 渐近等分性质
3.7 渐近等分性质在数据压缩中的应用——信源编码定理
3.7.1 无记忆信源的等长编码定理
3.7.2 一般离散信源的等长编码定理
习题3
第4章 信源编码
4.1 等长编码
4.2 变长编码
4.2.1 Kraft不等式
4.2.2 离散信源的变长编码定理
4.3 Huffman编码
4.4 算术码
4.4.1 Shannon码
4.4.2 Shannon-Fano-Elias码
4.4.3 算术码
4.5 通用信源编码——LZ码
习题4
第5章 通信信道与信道容量
5.1 离散无记忆信道与信道容量
5.2 信道容量的计算
5.2.1 按定义计算的方法
5.2.2 拉格朗日乘子法
5.2.3 特征方程法
5.2.4 信道容量的迭代算法
5.3 信道的组合
5.3.1 积信道或平行组合信道
5.3.2 串联信道或级联信道
5.3.3 和信道或并列信道
5.4 信道编码定理
5.4.1 几个有关概念
5.4.2 联合典型序列
5.4.3 信道编码定理
5.5 带反馈信道的信道容量
5.6 联合信源-信道编码定理
5.7 信道编码实例
5.8 Gauss信道
5.8.1 加性噪声的信道模型与信道容量
5.8.2 Gauss信道编码定理
习题5
第6章 信息几何学
6.1 微分流形
6.1.1 切向量与切空间
6.1.2 Riemann度量
6.1.3 仿射联络
6.2 概率分布可作为流形
6.2.1 概率分布族构成一般空间
6.2.2 Fisher度量
6.2.3 α-联络
6.2.4 对偶联络与对偶平坦空间
6.3 距离与伪距离
6.3.1 散度
6.3.2 概率分布流形S的测地线
6.3.3 典型散度与勾股定理
6.4 时间序列的信息几何学
6.4.1 系统空间L的Fisher度量与α-联络
6.4.2 系统空间L的α-散度
习题6
习题提示与答案
参考文献
