信道率失真函数ppt课件.ppt

平均失真和信息率失真函数
离散信源和连续信源的R(D)计算
信息率失真函数
失真函数
平均失真
信息率失真函数R(D)
信息率失真函数的性质
平均失真和信息率失真函数
“消息完全无失真传送”的可实现性
信道编码定理:无论何种信道,只要信息率R小于信道容量C,总能找到一种编码,使在信道上能以任意小的错误概率和任意接近于C的传输率来传送信息。反之,若R > C,则传输总要失真。
失真函数
完全无失真传送不可实现:
实际的信源常常是连续的,信息量无限大,若要无失真传送, 要求信息率R为无穷大;
实际信道带宽是有限的,所以信道容量受限制。要想无失真传输,所需传输的信息率一般都大大超过信道容量即R >> C。
失真函数
实际中允许一定程度的失真
实际生活中,人们一般并不要求获得完全无失真的消息,通常只要求近似地再现原始消息,即允许一定的失真存在。
例如打电话:即使语音信号有一些失真,接电话的人也能听懂。人耳接收信号的带宽和分辨率是有限的。
放电影:理论上需要无穷多幅静态画面,由于人眼的“视觉暂留性”,实际上只要每秒放映24幅静态画面。
随着科学技术的发展,数字系统应用得越来越广泛,这就需要传送、存储和处理大量的数据。为了提高传输和处理效率,往往需要对数据压缩,这样也会带来一定的信息损失。
失真函数
问题:在允许一定程度的失真条件下,信源信息能够压缩到何种程度?至少需要多少比特的信息率才能描述信源?
香农信息率失真理论指出:
在允许一定失真度D的情况下,信源输出的信息率可压缩到R(D)。

R(D)是定义的信息率失真函数。
为了描述失真度D,我们先来引入失真函数。
失真函数
定义失真函数:
信源编码器
输入
X∈{a1, a2,…, ai,…, an}
输出
Y∈{b1,b2,…,bj,…,bm}
称d(xi,yj)为单个符号的失真函数。表示信源发出一个符号xi,在接收端再现yj所引起的误差或失真。
失真函数
平均失真
平均失真定义
d(xi , yj)只能表示两个特定的具体符号 xi和 yj之间的失真。
平均失真:平均失真为失真函数的数学期望,