第四章 信息率失真函数
基本概念
离散信源的信息率失真函数
连续信源的信息率失真函数
保真度准则下的信源编码定理
1
精选课件ppt
基本概念
失真函数与平均失真度
信息率失真函数的定义
信息率失真函数的性质
率失真函数的定义域
率失真函数对允许平均失真度的下凸性
率失真函数的单调递减和连续性
2
精选课件ppt
引入限失真的必要性
失真在传输中是不可避免的
连续信源的绝对熵为无限大,若要无失真地进行传输,则要求信息传输率也为无限大,然而现实世界中信道带宽总是有限的,信道容量总有一定限度,因此不可能实现完全无失真的信源信息的传输
另一方面,从无失真信源编码考虑,由于要求码字包含的信息量不小于信源的熵,所以对于连续信源,要用无限多个比特才能完全无失真地来描述,这是不现实的
即使是离散信源,若要处理的信息量很大,采用无失真编码将使得信息的存储和传输成本非常高,而且在很多场合,过高的信息传输率是不必要的
3
精选课件ppt
引入限失真的必要性(续)
信宿只具有有限的的分辨能力与灵敏度,超过分辨能力与灵敏度的信息传送过程是毫无意义的
例1:由于人耳能够接收的带宽和分辨率是有限的,因此对数字音频传输的时候,就允许有一定的失真,并且对欣赏音乐没有太大的影响
例2:对于数字电视,由于人的视觉系统的分辨率有限,并且对低频比较敏感,对高频不太敏感,因此也可以损失部分高频分量
例3:放映电影,理论上要完全无失真地表现出一个连续动作,需要用无穷多个静态画面连续放映,但利用人眼的“视觉暂留性”,只要每秒钟连续放映24幅静态画面,就几乎让观众感觉不到失真的存在
4
精选课件ppt
引入限失真的必要性(续)
如果允许信息有某些失真,就可以大大降低信息传输速率,从而降低通信成本
应用种类
象素数/行
行数/帧
信息传输率(码率)bps
压缩前
压缩后
HDTV
1920
1080
G
20~25 M
普通电视
720
480
167 M
4~8 M
会议电视
352
288
M
~2 M
电视电话
128
112
M
56 K
在允许一定程度失真的条件下,怎样用尽可能少的码符号来表达信源的信息,也就是信源熵所能压缩的极限或者说编码后信息传输率压缩的极限值是多少?
保真度准则下的离散信源编码定理:在允许一定失真度 D 的情况下,信源输出的信息传输率可压缩到极限值——信息率失真函数 R ( D )
5
精选课件ppt
失真函数
由于本章学习内容只涉及信源编码问题,因此可以把从信源编码器到信源译码器之间的所有部件合在一起等效为一个有噪声的试验信道
试验信道
信源
信 源
译码器
信 源
编码器
无损无噪信道
信宿
6
精选课件ppt
对每一对 ( xi , yj ),指定一个非负的函数
失真函数(续)
称为单个符号的失真度或失真函数,表示离散信源发出一个符号 xi 而在接收端再现成 yj 所引起的误差和失真。
上述非负的失真函数共有 n m 个,可以整体表示成失真矩阵
由于信源发出的符号 X 和信宿收到(再现)的符号 Y 均是随机变量,因此单个符号的失真函数 d ( xi, yj ) 也是随机变量(的一次实现)
7
精选课件ppt
常用的失真函数
失真函数是根据人们的实际需要和失真引起的损失、风险、主观感觉上的差别等因素人为规定的,可以有多种形式
平方误差失真函数
绝对误差失真函数
相对误差失真函数
误码失真函数
平方失真和绝对失真只与 ( yj - xi ) 有关,而不是分别与 xi , yj 有关,在数学处理上比较方便;相对失真与主观特性比较匹配,因为主观感觉往往与客观量的相对数成正比,但其数学处理比较困难
误码失真函数表明,只要发送符号与接收符号不同,由此引起的失真都相同(为常数 a )。若常数值为 1,则称为汉明失真
适用于
连续信源
适用于离散信源
8
精选课件ppt
平均失真度
由于单个符号的失真函数 d ( xi , yj ) 是随机变量(的一次实现),它只能表示两个特定的具体符号 xi , yj 之间的失真,无法从整体上描述信道平均每传递一个符号所引起失真大小
定义平均失真度为失真函数的数学期望,即 d ( xi , yj ) 在 X 和 Y的联合概率空间 P( XY ) 中的统计平均值
平均失真度 与信源统计特性 、信道统计特性
和规定的失真度
《信道失真率函数》PPT课件 来自淘豆网m.daumloan.com转载请标明出处.