信息论与编码理论【2025|PDF|Epub|mobi|kindle电子书版本百度云盘下载】

信息论与编码理论PDF格式电子书版下载

注意：本站所有压缩包均有解压码： 点击下载压缩包解压工具

目录1

引言1

0.1　信息的概念1

0.2　信息论的研究对象2

0.3　信息论对编码的指导意义3

0.4　信息论与编码理论的形成及发展4

第一部分　信息论7

第1章　信源模型及信息的度量7

1.1　信源模型及分类7

1.1.1　单符号的离散信源7

1.1.2　单符号的连续信源8

1.1.3　多符号的离散信源9

1.1.4　多符号的连续信源10

1.2　不确定性与信息量10

1.2.1 非平均不确定性11

1.2.2　非平均信息量11

1.3　平均信息量16

1.3.1　信息熵16

1.3.2　条件熵18

1.3.3　联合熵19

1.3.4　平均互信息量20

1.3.5　各类熵之间的关系21

1.3.6　信息熵的基本性质24

1.4.1 消息序列信息量的一般表达式28

1.4　消息序列的熵28

1.4.2　离散无记忆的扩展信源30

1.4.3　离散平稳信源31

1.5　连续信源和波形信源的信息度量39

1.5.1　连续信源的差熵39

1.5.2　波形信源的差熵44

1.6　信源的相关性和剩余度45

1.7　习题47

2.1 信道的数学模型和分类50

2.1.1　信道的分类50

第2章　信道模型及信道容量50

2.1.2　离散信道的数学模型51

2.1.3　连续／波形信道的数学模型52

2.1.4　单符号离散信道的数学模型54

2.2　信道传输的平均互信息56

2.2.1　损失熵和噪声熵57

2.2.2　平均互信息58

2.2.3　平均条件互信息58

2.2.4　平均互信息的特性62

2.3　离散信道的信道容量68

2.3.1　信道容量的定义68

2.3.2　简单离散信道的信道容量69

2.3.3　对称离散信道的信道容量71

2.3.4　一般离散信道的信道容量75

2.4　连续／波形信道的信道容量83

2.4.1　连续信道的信道容量83

2.4.2　波形信道的信道容量84

2.5　信道的组合85

2.5.1 串联信道及其信道容量85

2.5.2　并联信道及其信道容量89

2.6　信源与信道的匹配91

2.7　习题92

3.1　编码器95

第3章　无失真信源编码95

3.2　离散无记忆信源的等长编码99

3.3　离散无记忆信源的变长编码102

3.3.1　码的分类和主要编码方法102

3.3.2　克拉夫特不等式和麦克米伦不等式103

3.3.3　惟一可译码判断准则108

3.4　变长编码定理109

3.4.1　码的平均长度109

3.4.2　变长无失真信源编码定理112

3.5　变长编码方法116

3.5.1　香农编码方法116

3.5.2　费诺编码118

3.5.3　霍夫曼编码120

3.6　习题126

第4章　有噪信道编码129

4.1　错误概率和译码规则129

4.2　两种典型的译码规则131

4.3　错误概率与编码方法135

4.4　汉明距离141

4.5　有噪信道编码定理144

4.6　习题146

第5章　限失真信源编码148

5.1 失真测度148

5.1.1　失真度149

5.1.2　平均失真度152

5.2　信息率失真函数及其性质153

5.2.1　D允许信道（试验信道）153

5.2.2　信息率失真函数的定义153

5.2.3　信息率失真函数的性质154

5.3　信息率失真函数的参量表述及其计算161

5.3.1 利用信源的对称性来计算信息率失真函数161

5.3.2　信息率失真函数的参量表述163

5.4　限失真信源编码定理170

5.5　习题174

6.1.2　分组码的基本概念178

6.1.1　引言178

第6章　线性分组码178

6.1　分组码的基本概念178

第二部分　编码理论178

6.1.3　分组码相关基础知识180

6.2　线性分组码的生成矩阵和校验矩阵183

6.2.1　生成矩阵183

6.2.2　校验矩阵185

6.2.3　汉明码186

6.3　线性分组码的纠错能力187

6.4　线性分组码的译码190

6.4.1　相关定义和定理190

6.4.2　标准阵列译码法与伴随式译码法191

6.5 由一个已知码构造新码的方法193

6.5.1　扩展码193

6.5.2　除删码194

6.5.3　凿孔码194

6.5.4　增广码（增信删余码）194

6.5.5　增余删信码194

6.5.6　缩短码195

6.5.7　延长码（增信码）和RM码195

6.6　交织编码简介196

6.6.1　引言196

6.6.2　交织码的基本原理196

6.6.3　分组交织器的基本性质197

6.6.4　交织编码的应用实例198

6.7　线性码的重量分布与译码错误概率计算199

6.7.1　线性码的重量分布199

6.7.2　线性码译码错误概率计算200

6.7.3　误码率计算201

6.8　习题202

第7章 循环码204

7.1　循环码代数的基本知识204

7.1.1　有限域的定义204

7.1.2　域上的多项式205

7.1.3　GF（2m）的构成206

7.2.1　循环码的基本概念207

7.2　循环码的定义及多项式表示207

7.2.2　码的多项式描述208

7.3　循环码的矩阵描述211

7.4　系统循环码的编码方法及实现电路213

7.4.1　循环码的编码方法213

7.4.2　多项式运算电路214

7.4.3　系统循环码编码的实现电路217

7.5　系统循环码的译码方法及实现电路220

7.5.1　接收多项式伴随式的计算220

7.5.2　循环码的译码算法223

7.6.1 BCH码225

7.6　3种重要的循环码225

7.6.2　RS码227

7.6.3　缩短循环码228

7.7 习题229

第8章　卷积码231

8.1 卷积码的基本概念231

8.2　卷积码的描述234

8.2.1　卷积码的矩阵和多项式描述234

8.2.2　卷积码的树图描述237

8.2.3　卷积码的状态图描述238

8.3　卷积码的维特比译码算法239

8.2.4　卷积码的篱笆图描述239

8.3.1　最大似然译码240

8.3.2　维特比译码的基本原理241

8.3.3　软判决维特比译码244

8.4　维特比译码的性能246

8.4.1 二进制对称信道下的维特比译码的性能247

8.4.2　高斯白噪声信道中维特比译码器输出的误码率247

8.5　维特比译码的实用249

8.6　习题251

第9章　Turbo编译码与迭代译码算法252

9.1　Turbo码编码器252

9.1.1　递归系统卷积码（RSC码）253

9.1.2　删余器255

9.2　Turbo码的译码器256

9.3　译码算法257

9.3.1　MAP算法259

9.3.2　MAP算法在Turbo译码中的应用261

9.3.3　SOVA算法262

9.3.4　性能的仿真264

9.4　Turbo码中的交织器265

9.5　Turbo码研究的方向267

9.6　习题268

10.1　分组码的Systemview实现269

第10章　差错控制编码的实现269

10.2　分组码在超短波通信系统中的实现272

10.2.1　BCH编码与译码273

10.2.2　交织编码276

10.2.3　纠错码性能分析278

10.3　卷积码的Systemview实现279

10.4　卷积码的DSP实现281

10.5　Turbo码的Matlab实现285

10.5.1　发送端的实现286

10.5.2　信道的模拟实现287

10.5.3　接收端的实现287

参考文献288