阻尼最小二乘与模拟退火结合.doc

刘建军, 陈明锋, 叶子飘
( 井冈山大学数理学院, 江西吉安343009)
摘要:将模拟退火法与阻尼最小二乘法相结合,得到了对非线性模型参数估计的算法。该算法最大特点是克服了LM算法无法跳出局部优解和初始值要求高的难题,同时克服了模拟退火法搜索效率逐步降低的问题,同时给出了阻尼最小二乘法编程技巧。将该算法运用于植物光合作用光响应新模型对水稻的光响应曲线的拟合,得到的拟合参数与DPS拟合值极为接近,残差平方和比DPS软件更小、相关系数更大。并给出了该算法的MATLAB 。
关键词:阻尼最小二乘法;模拟退火法;算法结合;曲线拟合;MATLAB
1 前言
参数估计(Parameter Estimation)是数理统计的一个重要分支,更是测量数据处理(Surveying Data Processing)理论的重要组成部分[1-2]。现实中的实际模型是非线性模型(Nonlinear Model)。因此,研究非线性模型参数估计就有重大的意义。
求非线性强度很强的非线性模型参数时,由于线性近似将产生大于观测的模型误差,所以一般采用迭代法求解,较常用的迭代方法有牛顿类法(包括牛顿法、信赖域法、拟牛顿法)、最速下降法、高斯—牛顿法、改进的高斯—牛顿法和阻尼最小二乘法[3],不同的迭代算法有其各自的优点与缺点。当非线性模型平差系统缺乏基准时,阻尼最小二乘法仍能顺利迭代,而阻尼最小二乘法亦不需太多地改变传统平差程序,所以,对于非线性模型的秩亏自由网平差,采用阻尼最小二乘法最好。因为阻尼最小二乘法是局部收敛[4],当初值较差时,会出现迭代发散现象。如何有效地确定参数初始值始终是难以克服的瓶颈,因此,一些实际问题可能永远无法获得满意解。
非经典优化算法模拟退火法[5](Simulated Annealing Algorithm,SAA)通过解的暂时的恶化,跳出局部最优的“陷阱”,可得到全局最优解。但其搜索效率会随着向最优解靠拢而逐渐的降低[6],而且要得到较满意的解,则运算时间就会增加。
本文在阻尼最小二乘法的基础上,发展了阻尼最小二乘法与模拟退火法结合的耦合算法——用模拟退火法产生阻尼最小二乘法的初值。这将是较好的非线性模型参数估计方法。将此算法应用到植物光合作用光响应新模型对水稻光响应曲线的拟合,并将数值实验结果与DPS软件比较。
2 算法分析

对于非线性方程的拟合,非线性模型的相应误差方程为:
(1)
参数估计值; 测量值。于是残差平方和为:
(2)
所有解构成解空间,在这空间中选取的一个估计值,若满足:
(3)
则是的最小二乘解。
阻尼最小二乘法(Levenberg-Marquardt算法)
(4)
对在泰勒展开,进行线性化的误差方程为:
(5)
(6)
(7)
在求解时采用加入阻尼的迭代方法[7]:
(8)
式中的为大于0的任意常数。
Levenberg-Marquardt算法的编程技巧
在编程计算时用差分替代微分,简化表达(5)式得到下式:
(9)
设定步长为
(10)
那么经过n次迭代就可以得到。
为第k次迭代阻尼因子,未经迭代时即为初始阻尼因子,为任意常数。将列平方和作为对角元构成,与合并,得到。dy与n维零向量合并