北邮信通院信息论第五章.ppt

第五章无失真信源编码
--北京邮电大学信息与通信工程学院
2/100
一、概述
二、定长码
三、变长码
四、哈夫曼编码
主要内容
本章主要介绍无失真信源编码定理与一些重要的无失真信源编码方法
五、几种实用的信源编码方法
3/100
信源编码:
将信源符号序列按一定的数学规律映射成由码符号组成的码序列的过程。
信源译码:
根据码序列恢复信源序列的过程。
无失真信源编码:
即信源符号可以通过编码序列无差错地恢复。
(适用于离散信源的编码)
限失真信源编码:
信源符号不能通过编码序列无差错地恢复。
(可以把差错限制在某一个限度内)
4/100
信源编码的目的:提高传输有效性,即用尽可能短的码符号序列来代表信源符号。
无失真信源编码定理证明了:如果对信源序列进行编码,当序列长度足够长时,存在无失真编码使得传送每信源符号所需的比特数接近信源的熵。因此,采用有效的信源编码会使信息传输效率得到提高。
5/100
§ 概述
本节主要内容
一、信源编码器
二、信源编码的分类
三、分组码
6/100
§ 信源编码器
分组码单符号信源编码器
编码器
信源序列
码符号集
码字集合
符号集A
7/100
信源译码器
分组码单符号译码器
译码器
信源序列
码符号集
码字集合
8/100
摩尔斯信源编码器
信源编码器
(1)
信源符号
{英文字母}
码符号集点、划、字母间隔、单词间隔
信道基本符号{0,1}
简单信源编码器
信源编码器
(2)
二进信道
将英文字母变成摩尔斯电码
将摩尔斯电码变成二进码
符号
点
划
字母间隔
单词间隔
电平
+ -
+++ -
- - -
- - - - -
二进代码
1 0
1110
000
00000
9/100
摩尔斯信源编码器
10/100
原信源的N次扩展码
将N个信源符号编成一个码字。相当于对原信源的N次扩展源的信源符号进行编码。
例
信源X={0,1}的二次扩展源X2的符号集为:{00,01,10,11}。对X2编码,即为原信源X的二次扩展码。