实验3率失真函数地计算.doc

标准文档
实用文案
信息论与编码
实验3 率失真函数计算的程序设计
学院:物理与电子学院
班级:电信1105班
姓名:
学号:140411072
标准文档
实用文案
一、实验问题
假定一个DMS的信源符号集为Au={1,2,...,r},其概率分布为p(u)；信宿符号集为Av={1,2,....,s}。而失真侧度矩阵为一个r´s维矩阵D=[dij]。利用Matlab画出率失真函数R(d)的曲线图。
二、预备知识
预备知识 : 信息论第二章的熵是针对不失真的情况，而在实际应用中只需要保留信息的主要特征 即可，信号允许一定程度的失真，而率失真理论就是在这种情况下提出的。在实际问题中，信号有一定的失真是可以容忍的，但是当失真大于某个限度是，信号将会被严重损害，为此引入了失真函数d的概念。
三、实验目的
了解率失真函数性质、意义。
掌握简单的率失真函数计算方法；
掌握使用Matlab实现一般率失真函数的计算方法；
掌握Matlab求解非线性方程组的方法。
四、实验要求
提前预习实验，认真阅读实验原理。
认真高效的完成实验，实验过程中服从实验室管理人员以及实验指导老师的管理。
五、实验内容
从理论上计算r=s=2。p(u=1)=p,p (u=2)=1-p;d=[0,1;1,0]的率失真函数R(d)。
对一般性的DMS信源，计算率失真函数R(d)的理论公式进行推导。
标准文档
实用文案
找出比较合适的方程求解方法。
使用编制Matlab编制程序求解一般的率失真函数R(d)。
给定r=s=2。p(u=1)=,p=(u=2)=;d=[0,1;1,0]，测试程序，即比较程序运行结果与理论计算结果,
改变参数，画出函数图。
(CPU型号、CPU的频率、内存的)的条件下，系统循环次数、累计计算时间、平均每次循环所用时间等。
六、实验原理
1．R(d(S))的表示方法
计算dmin和dmax是很容易的。； 。当d³dmax时，R(d)=0。
当dmin £d£dmax时，R(d)=min{I(U;V)：E(d)= d}。
在数学上，就是在约束条件：
(1)
标准文档
实用文案
(2)
的约束下求平均无信息量
的条件极小值。为此引入待定常数S和mu(u=1,2,...,r)，并作辅助函数
(3)
其中
由得，
为方便引入参数，则有
(4)
显然(4)提供r´s个方程，(2)提供r个方程，而(1)提供1各方程，共rs+r+1个方程；而有r´s个未知数p(v|u)、r个未知数lu 及未知数S，共rs+r+1未知数，显然可以求解。为方便起见，我们保留S作为参数。这样得到：
(5)
标准文档
实用文案
(6)
(7)
(8)
很容易得到，即S是率是失真函数的导数。当S®-¥时，d(S)® dmin；参量S是d的递增函数，当d从dmin到dmax逐渐增大时，S将随d增大而增大，当d=dmax时,S达到最大值Smax<0。对Smax的求解较麻烦，必须解非线性方程。为了简单我们不求Smax。
如果r=s，即信源和信宿的符号集相同，则很容易通过(6)式求得lu，进而通过(5)式求得p(v)。从而通过(7)(8)式划出率失真函数曲线。
2．R(d(S))的迭代计算
但一般情况下，r¹s，则只能通过(6)先求得p(v)，这是一个非常复杂的方程。下面介绍R(d(S))的迭代方法计算方法和公式。
首先假设p(v)固定，与信道传递概率p(v|u)无关，则求极值得：
(9)
标准文档
实用文案
再假定p(v|u)不变，而把p(v)当成变量，则求极值得：
(10)
具体算法为：
选择绝对值相当