第四章 信道失真率函数.ppt

第四章信息率失真函数 基本概念 离散信源的信息率失真函数 连续信源的信息率失真函数 保真度准则下的信源编码定理 12 基本概念 失真函数与平均失真度 信息率失真函数的定义 信息率失真函数的性质率失真函数的定义域率失真函数对允许平均失真度的下凸性率失真函数的单调递减和连续性 3引入限失真的必要性失真在传输中是不可避免的连续信源的绝对熵为无限大,若要无失真地进行传输, 则要求信息传输率也为无限大,然而现实世界中信道带宽总是有限的,信道容量总有一定限度,因此不可能实现完全无失真的信源信息的传输另一方面,从无失真信源编码考虑,由于要求码字包含的信息量不小于信源的熵,所以对于连续信源,要用无限多个比特才能完全无失真地来描述,这是不现实的即使是离散信源,若要处理的信息量很大,采用无失真编码将使得信息的存储和传输成本非常高,而且在很多场合,过高的信息传输率是不必要的 4引入限失真的必要性(续) 信宿只具有有限的的分辨能力与灵敏度,超过分辨能力与灵敏度的信息传送过程是毫无意义的例1 :由于人耳能够接收的带宽和分辨率是有限的, 因此对数字音频传输的时候,就允许有一定的失真, 并且对欣赏音乐没有太大的影响例2 :对于数字电视,由于人的视觉系统的分辨率有限,并且对低频比较敏感,对高频不太敏感,因此也可以损失部分高频分量例3 :放映电影,理论上要完全无失真地表现出一个连续动作,需要用无穷多个静态画面连续放映,但利用人眼的“视觉暂留性”,只要每秒钟连续放映 24幅静态画面,就几乎让观众感觉不到失真的存在 5引入限失真的必要性(续) 如果允许信息有某些失真,就可以大大降低信息传输速率,从而降低通信成本应用种类象素数/行行数/帧信息传输率(码率) bps 压缩前压缩后 HDTV 1920 1080 G 20~25 M 普通电视 720 480 167 M 4~8 M 会议电视 352 288 M ~2 M 电视电话 128 112 M 56 K 在允许一定程度失真的条件下,怎样用尽可能少的码符号来表达信源的信息,也就是信源熵所能压缩的极限或者说编码后信息传输率压缩的极限值是多少? 保真度准则下的离散信源编码定理:在允许一定失真度 D 的情况下,信源输出的信息传输率可压缩到极限值——信息率失真函数 R(D) 6失真函数由于本章学习内容只涉及信源编码问题,因此可以把从信源编码器到信源译码器之间的所有部件合在一起等效为一个有噪声的试验信道试验信道信源X 信源译码器信源编码器无损无噪信道信宿 Y 1 2 1 2 : ( ) ( ) ( ) n Xn x x x XP p x p x p x ? ?? ??? ?? ?? ?? ???信道输入 1 2 1 2 ( ) ( ) ( ) m Ym y y y YP p y p y p y ? ?? ??? ?? ?? ?? ???信道输出: 1 1 2 1 1 1 2 2 2 2 | 1 2 ( | ) ( | ) ( | ) ( | ) ( | ) ( | ) ( | ) ( | ) ( | ) mm Y X n n m n p y x p y x p y x p y x p y x p y x p y x p y x p y x ? ?? ??? ?? ?? ?? ? P ??? ????信道转移概率矩阵: n m ? 7 对每一对(x i , y j),指定一个