应用最小二乘一次完成法和递推最小二乘法算法的系统辨识..doc

1最小二乘法的理论基础

设单输入单输出线性定长系统的差分方程表示为:
其中δ(k)为服从N(0,1)的随机噪声,现分别测出n+N个输出输入值y(1),y(2),…,y(n+N),u(1),u(2),…,u(n+N),则可写出N个方程,写成向量-矩阵形式
()
则式()可写为()
式中:y为N维输出向量;ξ为N为维噪声向量;θ为(2n+1)维参数向量;Φ为N×(2n+1)测量矩阵。因此,式()是一个含有(2n+1)个未知参数,由N个方程组成的联立方程组。
在给定输出向量y和测量矩阵Φ的条件下求参数θ的估计,这就是系统辨识问题。
设表示的估计值,ŷ表示y的最优估计,则有()
式中:
设e(k)=y(k)- ŷ(k), e(k)称为残差,则有e=y- ŷ=y-Φθ
最小二乘估计要求残差的平方和最小,即按照指数函数
()
求J对的偏导数并令其等于0可得:
()
由式()可得的最小二乘估计:
()
J为极小值的充分条件是:
即矩阵ΦTΦ为正定矩阵,或者说是非奇异的。

当矩阵ΦTΦ的逆阵存在是,式()才有解。一般地,如果u(k)是随机序列或伪随机二位式序列,则矩阵ΦTΦ是非奇异的,即(ΦTΦ)-1存在,式()有解。
现在从ΦTΦ必须正定出发,讨论对u(k)的要求。
()
当N足够大时有
()
如果矩阵ΦTΦ正定,则Ru是是对称矩阵,并且各阶主子式的行列式为正。当N足够大时,矩阵Ru才是是对称的。
由此引出矩阵ΦTΦ正定的必要条件是u(k)为持续激励信号。如果序列{u(k)}的n+1阶方阵Ru是正定的,则称{u(k)}的n+1阶持续激励信号。
下列随机信号都能满足Ru正定的要求
有色随机信号
伪随机信号
白噪声序列

最小二乘估计的概率性质
1) 无偏性
由于输出值y是随机的,所以是随机的,但注意θ不是随机值。
如果,则称是无偏估计
2)一致性
估计误差的方差矩阵为
()
上式表明当N→∞时,以概率1趋近于θ。
当ξ(k)为不相关随机序列时,最小二乘估计具有无偏性和一致性
3)有效性
如果式()中的ξ的均值为0且服从正态分布的白噪声向量,则最小二乘参数估计值为有效值,参数估计偏差的方差达到Cramer-Rao不等式的下界,即
()
式中M为Fisher矩阵,且
()
4)渐近正态性
如果式()中的ξ是均值为0且服从正态分布的白噪声向量,则最小二乘参数估计值服从正态分布,即
()

为了实现实时控制,必须采用递推算法,这种辨识方法主要用于在线辨识
()
设已获得的观测数据长度为N,则
估计方差矩阵为
式中
于是
如果再获得1组新的观测值,则又增加1个方程
得新的参数估计值
式中
应用矩阵求逆引理,可得和的递推关系式
矩阵求逆引理设A为n×n矩阵,B和C为n×m矩阵,并且A,A+BCT和I+CTA-1B都是非奇异矩阵,则有矩阵恒等式
()
得到递推关系式
由于是标量,因而上式可以写成
()
最后,得最小二乘法辨识公式
()
有2种给出初值的办法
(1)设N0(N0>n)为N的初始值,可算出
()
(2)假定C是充分大的常数,I为(2n+1) ×(2n+1)单位矩阵,则经过若干次递推之后能得到较好的参数估计。
[1][2][4]
2两种算法的实现方案

如果把式()中的取好足够的输入—输出数据以后一次计算出来,那么这种算法就式最小二乘法的一次完成法。

赋输入信号初值u
定义输出观测值的长度并计算系统的输出值
画出输入和输出观测值的图形
给样本矩阵HL和zL赋值
计算参数
从中分离出并显示出被辨识参数a1, a2, b1, b2
停机
最小二乘一次完成算法程序框图

具体程序参见附录4

ans =

a1 =

a2 =

b1 =






参数真值