率失真编码.ppt

率失真编码.ppt第6章率失真编码内容提要数据压缩是信息传输和处理的重要研究内容,率失真理论研究的就是在允许一定失真的前提下,对信源的压缩编码。率失真信源编码定理(香农第三定理)指出:率失真函数R(D)就是在给定失真测度条件下,对信源熵可压缩的最低程度。本章只限于研究率失真理论最基本的内容,失真测度,率失真函数,率失真函数的定义域,值域,性质及定量计算。R(D)的计算很烦琐,文中通过二个例子介绍了几种特殊情况下R(D)的求法,一般情况只能用参数法求解。(x,y)给定离散信源,信道输出符号yj引起的失真用d(xi,yj)(i=1,2,…,Ij=1,2,…,J)表示,简记为dij,将所有的dij列出来,可以得到下面的失真测度矩阵(6-1)在允许一定失真的前提下,从提高传输效率的角度出发,可以对信源信息量事先进行压缩再予传输,这章要讨论的问题就是给定一个失真度,求出在平均失真小于给定值的条件下,信源所能压缩的最低程度,即率失真函数R(D)。【】汉明(Hamming)失真测度信源输出符号X={x1,x2,…,xK},信道输出符号Y={y1,y2,…,yK},约定失真测度上述约定可以用矩阵表示为式中dij≥0i,j=1,2,…,K为信源方发送符号xi而信宿方判为yj引起的失真度。对于矢量传输情况,若信道的输入、输出均为N长序列X=X1X2…XN,Y=Y1Y2…YN,定义失真测度为(6-2)【】平方误差失真测度信源输出符号X={0,1,2},信道输出符号Y={0,1,2},给出失真测度dij=(xi-yj)2i,j=0,1,2则失真测度矩阵为【】绝对值误差失真测度信源输出符号X={0,1,2},信道输出符号Y={0,1,2},给出失真测度dij=︱xi-yj︱i,j=0,1,,经有扰信道传输,信道输出符号为Y={y1,y2,…,yJ},平均失真即对dij(i=1,2,…,I;j=1,2,…,J)求统计平均值,记为(6-4)平均失真是对在给定信源分布q(x)条件下,通过有扰信道传输而引起失真的统计平均度量。,即信源概率分布q(x)一定,给定失真测度矩阵[d]=[dij],寻找信道,记它的转移概率矩阵为,要求满足(6-11)式中D是预先给定的失真度,上式称为保真度准则。(D)根据[],当信源q(x)一定时,平均互信息量I(X;Y)是信道转移概率函数p(y∣x)的∪型凸函数,这意味着可以关于p(y∣x)对平均互信息量I(X;Y)求得极小值,定义这个极小值为率失真函数R(D),即: (4-12)式(6-12)的意义在于,选择p(y∣x)即选择某种编码方法在满足的前提下,使I(X;Y)达到最小值R(D),这就是满足平均失真条件下的信源信息量可压缩的最低程度。(1)D的最小值Dmin在给定的失真测度矩阵中,对每一个xi,找一个最小的dij,然后对所有的i=1,2,…,I求统计平均值,就是D的最小值,即(6-14)(D)、(D)的值域(参见图4-1)率失真函数的值域为0R(D)H(X)(4-13)D图6-1R(D)的值域Dmax0DminH(X)R(D)求出计算Dmax的显式: j=1,2,…,J(6-18)(2)D的最大值Dmax当R(D)达到其最小值Rmin(D)=0时,对应的失真最大,这种情况下D对应着R(D)函数定义域的上界值Dmax,如图4-1所示。=min{D:I(X;Y)=0}(4-15)纵上所述,R(D)的定义域为:DminDDmax,式中Dmin和Dmax可分别由式(6-14)和式(6-18)求出。