失真率函数.ppt

失真率函数内容提要数据压缩是信息传输和处理的重要研究内容,率失真理论研究的就是在允许一定失真的前提下,对信源的压缩编码。率失真信源编码定理(香农第三定理)指出:率失真函数R(D)就是在给定失真测度条件下,对信源熵可压缩的最低程度。本章只限于研究率失真理论最基本的内容,失真测度,率失真函数,率失真函数的定义域,值域,性质及定量计算。R(D)的计算很烦琐,文中通过二个例子介绍了几种特殊情况下R(D)的求法,一般情况只能用参数法求解。第4章率失真编码信息率失真函数R(D)——香农1959年提出在允许一定失真度D的情况下,信源输出的信息率可压缩为R(D)值数据压缩的理论基础I(X;Y)——H(X)、H(Y/X)的二元函数固定H(Y/X),改变H(X)得I(X;Y)最大值——信道容量固定H(X),改变H(Y/X)得I(X;Y)最小值——(x,y)给定离散信源,信道输出符号yj引起的失真用d(xi,yj)(i=1,…,Ij=1,…,J)表示,简记为dij,将所有的dij列出来,可以得到下面的失真测度矩阵(4-1)在允许一定失真的前提下,从提高传输效率的角度出发,可以对信源信息量事先进行压缩再予传输,这章要讨论的问题就是给定一个失真度,求出在平均失真小于给定值的条件下,信源所能压缩的最低程度,即率失真函数R(D)。【】汉明(Hamming)失真测度信源输出符号X={x1,x2,…,xK},信道输出符号Y={y1,y2,…,yK},约定失真测度上述约定可以用矩阵表示为式中dij≥0i,j=1,2,…,K为信源方发送符号xi而信宿方判为yj引起的失真度。对于矢量传输情况,若信道的输入、输出均为N长序列X=X1X2…XN,Y=Y1Y2…YN,定义失真测度为(4-2)【】平方误差失真测度信源输出符号X={0,1,2},信道输出符号Y={0,1,2},给出失真测度dij=(xi-yj)2i,j=0,1,2则失真测度矩阵为【】绝对值误差失真测度信源输出符号X={0,1,2},信道输出符号Y={0,1,2},给出失真测度dij=︱xi-yj︱i,j=0,1,,经有扰信道传输,信道输出符号为Y={y1,y2,…,yJ},平均失真即对dij(i=1,2,…,I;j=1,2,…,J)求统计平均值,记为(4-4)平均失真是对在给定信源分布q(x)条件下,通过有扰信道传输而引起失真的统计平均度量。平均失真说明:①是在平均意义上,对系统失真的总体描述②是信源统计特性p(xi)的函数是信道统计特性p(yj/xi)的函数是规定失真度d(xi,yj)的函数若保持p(xi)、d(xi,yj)不变,则平均失真度就是信道特性p(yj/xi)的函数N次扩展信道对于矢量传输情况,若信道的输入、输出符号均为N长序列X=X1,…,Xk,…,XN,,Y=Y1,…,Yk,…,YN,,平均失真定义为(4-5)(4-5)式表明了离散无记忆N次扩展信道的输入输出符号之间平均失真等于单个符号xki,ykj之间失真统计值的总和。若矢量信源是原离散无记忆信道的N次扩展,且矢量信道也是原离散无记忆信道的N次扩展,则每个对一位信源信道所取的均值相等,即从而,