内容简介
《信息论与编码基础》以香农信息论为基础，系统地介绍了通信系统中两大编码理论。重点阐述了香农信息论的基本理论、信源压缩编码及信道编码的原理与具体方法，力图将信息理论及编码理论与实际应用紧密结合。
全书共分7章，其中包括：信息的概念与测度，离散信源、离散信道，信源压缩编码基础，信道编码基本理论，线性分组码和常用纠错码及其应用。
《信息论与编码基础》文字通俗，概念清晰，重点突出，在内容上既有必要的数学分析，又强调物理概念的理解及直观图示。
目录
第1章 绪论
1.1 信息概念
1.1.1 信息的概念及其内涵
1.1.2 香农信息定义
1.2 信息论研究的基本问题和主要内容
1.2.1 信息论研究的基本问题
1.2.2 信息论研究的主要内容
1.3 信息理论的发展及其在通信系统中的作用
1.3.1 信息理论的形成及与其他学科的交叉发展
1.3.2 编码技术的发展及其在通信系统中的作用
相关小知识——香农生平
第2章 离散信源
2.1 离散信源的信息熵
2.1.1 信源模型
2.1.2 自信息
2.1.3 信息熵
2.1.4 联合熵与条件熵
2.2 熵的基本性质
2.2.1 非负性
2.2.2 确定性
2.2.3 对称性
2.2.4 熵的链式法则
2.2.5 极值性
2.2.6 熵的独立界
2.3 信源的剩余度
本章小结
习题二
综合拓展题
相关小知识——熵的由来
第3章 离散信道
3.1 信道疑义度与平均互信息
3.1.1 信道模型
3.1.2 信道疑义度
3.1.3 平均互信息及其性质
3.2 信道容量
3.2.1 信道容量的定义
3.2.2 简单离散信道的信道容量
3.2.3 对称离散信道的信道容量
3.2.4 离散无记忆N次扩展信道的信道容量
3.2.5 香农公式
3...
前言
我们正处于一个通信与信息技术飞速发展的时代，对于通信工作者来说，这是个极好的机遇。经过一百多年的不断创新和进步，通信技术已取得了极其辉煌的成就，建立在宽带通信网络基础上的综合有线、无线多媒体通信系统及各种信息应用系统将构成未来信息社会的基本内涵，将为国民经济及社会生活全面信息化提供最重要的保证。
通信技术的发展得益于通信理论的正确指导和通信关键工程技术的不断突破。从理论的角度来看，通信的两大基本问题是信息传输的可靠性和有效性。自从美国科学家C.E.Shannon于1948年创立信息论以来，经过众多通信科技工作者的努力，信息论和编码理论的研究取得了丰硕的成果。在信息的度量、信息传输特性、纠错编码与压缩编码性能极限等理论问题及各种纠错编码和信源压缩编码方法、信息传输容量的研究方面，都取得了重大突破，有力地促进了通信科技的不断发展。Shannon信息论为人们指出了实现有效而可靠通信的基本方向和理论极限，它对实际通信系统的设计产生了深刻的影响，通信工程人员在信息论方面的基础将对其事业的发展发挥重要作用。
距离作者在国防科技大学出版社出版《信息论与编码基础...
书摘
信息传输的有效性是通信系统追求的另一重要目标，有效性是指在一定的时间内传输尽可能多的信息量，或在每一个传送符号内携带尽可能多的信息量，这就需要对信源进行高效率的压缩编码，尽量去除信源中的冗余度。信源编码的研究要略早于香农信息论。科尔莫哥洛夫与维纳分别于1941年和1942年进行了线性预测的开创性工作，他们以均方量化误差最小为准则，建立了最优预测原理，为后来的线性预测压缩编码铺平了道路。
尽管数据压缩的实际研究在香农信息论建立之前已有一些成果，但经典数据压缩的理论基础却是香农信息论。香农信息论认为，统计冗余度在各种信源中是普遍存在的，如何在不失真或限定失真的条件下对信源进行高效压缩是信息论研究的重点，香农第一定理和第三定理分别从理论上给出了无失真信源编码和限失真信源编码的压缩极限，对于压缩编码的研究具有重要的理论指导意义。香农信息论对信源统计冗余度的透彻分析为各种具体压缩编码方法的研究提供了明确的思路。
1952年哈夫曼（Huffman）提出了一种重要的无失真信源编码方法——Huffman码，这是一种不等长码，它可以很好地达到香农1948年证明的无失真信源...
北京市公安局丰台分局备案编号：1101080539 
