信道失真率函数.ppt

信息率失真函数的性质率失真函数的定义域率失真函数对允许平均失真度的下凸性率失真函数的单调递减和连续性引入限失真的必要性失真在传输中是不可避免的连续信源的绝对熵为无限大,若要无失真地进行传输,则要求信息传输率也为无限大,然而现实世界中信道带宽总是有限的,信道容量总有一定限度,因此不可能实现完全无失真的信源信息的传输另一方面,从无失真信源编码考虑,由于要求码字包含的信息量不小于信源的熵,所以对于连续信源,要用无限多个比特才能完全无失真地来描述,这是不现实的即使是离散信源,若要处理的信息量很大,采用无失真编码将使得信息的存储和传输成本非常高,而且在很多场合,过高的信息传输率是不必要的引入限失真的必要性(续)信宿只具有有限的的分辨能力与灵敏度,超过分辨能力与灵敏度的信息传送过程是毫无意义的例1:由于人耳能够接收的带宽和分辨率是有限的,因此对数字音频传输的时候,就允许有一定的失真,并且对欣赏音乐没有太大的影响例2:对于数字电视,由于人的视觉系统的分辨率有限,并且对低频比较敏感,对高频不太敏感,因此也可以损失部分高频分量例3:放映电影,理论上要完全无失真地表现出一个连续动作,需要用无穷多个静态画面连续放映,但利用人眼的“视觉暂留性”,只要每秒钟连续放映24幅静态画面,就几乎让观众感觉不到失真的存在引入限失真的必要性(续)如果允许信息有某些失真,就可以大大降低信息传输速率,从而降低通信成本应用种类象素数/行行数/帧信息传输率(码率)~25M普通电视720480167M4~~,怎样用尽可能少的码符号来表达信源的信息,也就是信源熵所能压缩的极限或者说编码后信息传输率压缩的极限值是多少?保真度准则下的离散信源编码定理:在允许一定失真度D的情况下,信源输出的信息传输率可压缩到极限值——信息率失真函数R(D)失真函数由于本章学习内容只涉及信源编码问题,因此可以把从信源编码器到信源译码器之间的所有部件合在一起等效为一个有噪声的试验信道试验信道信源信源译码器信源编码器无损无噪信道信宿对每一对(xi,yj),指定一个非负的函数失真函数(续)称为单个符号的失真度或失真函数,表示离散信源发出一个符号xi而在接收端再现成yj所引起的误差和失真。上述非负的失真函数共有nm个,可以整体表示成失真矩阵由于信源发出的符号X和信宿收到(再现)的符号Y均是随机变量,因此单个符号的失真函数d(xi,yj)也是随机变量(的一次实现)常用的失真函数失真函数是根据人们的实际需要和失真引起的损失、风险、主观感觉上的差别等因素人为规定的,可以有多种形式平方误差失真函数绝对误差失真函数相对误差失真函数误码失真函数平方失真和绝对失真只与(yj-xi)有关,而不是分别与xi,yj有关,在数学处理上比较方便;相对失真与主观特性比较匹配,因为主观感觉往往与客观量的相对数成正比,但其数学处理比较困难误码失真函数表明,只要发送符号与接收符号不同,由此引起的失真都相同(为常数a)。若常数值为1,则称为汉明失真适用于连续信源适用于离散信源平均失真度由于单个符号的失真函数d(xi,yj)是随机变量(的一次实现),它只能表示两个特定的具体符号xi,yj之间的失真,无法从整体上描述信道平均每传递一个符号所引起失真大小定义平均失真度为失真函数的数学期望,即d(xi,yj)在X和Y的联合概率空间P(XY)中的统计平均值平均失真度与信源统计特性、信道统计特性 和规定的失真度有关;如果信源和失真度给定以后, 就只是信道统计特性的函数如果规定平均失真度不超过某一允许失真的上界D(最大允许平均失真度,简称允许平均失真度),则称:为保真度准则满足保真度准则的限定条件下,求信息传输率的最小值符号序列的失真度若信源是单符号离散无记忆信源的N次扩展,其限失真编码可视为N长随机序列经由单符号离散无记忆信道的N次扩散信道,再现为N长的随机序列N长输入符号序列与N长输出符号序列间的失真函数:由于N次扩展信源和N次扩展信道都是无记忆的,因此: