一维搜索法.doc

聿芃薀膁芀肅羈第四章一维搜索法袈莃芄薂羂蒀莅由第一章关于求解最优化问题概述中我们知道,从已知迭代点出发按照基本迭代公式来求解最优化问题,其关键在于如何构造一个搜索方向和确定一个步长,使下一迭代点处的目标函数值下降,,当搜索方向已经确定的情况下,如何来确定步长?步长因子的选取有多种方法,如取步长为常数,但这样选取的步长并不最好,如何选取最好步长呢?,蒈袇肈螄虿芅莇当已知迭代点和下降方向时,要确定适当的步长使芇羇肆羁莁薀肅比有所下降,即相当于对于参变量的函数羆肇膁莂蝿芅羁要在区间上选取使,,沿某一下降的探索方向来确定步长的问题,实质上是单变量函数关于变量的一维搜索选取问题,,这种方法的优点是,,我们用记号莆莆蚈蚂膈蒅肂()(直线搜索)()等价于如下两式:,若从出发,沿方向进行一维搜索得极小点,则该点处的梯度方向与搜索方向之间应满足袆蚆蒅袄肀膃薆.()罿螆蒀肁螂蚅肄事实上,设,,即,(),()指出,,所以进一步看到,搜索方向与这个等值面在点处相切().肈膅莄螁蕿袁薁§、搜索区间衿莅螅薃虿薃肆设一维最优化问题为蚈莅袀羄蒁芈羃. ()莇蒄膆肁衿羁虿为了求解问题(),,并且腿蚄莃羃聿螂螇,羈螄莇莄螀蒈羄若存在闭区间使,则称是问题(),一个一维最优化问题的搜索区间,,在进行一维搜索时,一般要先确定出问题的一个搜索区间,、加步探索法薈羄膄节蚂袂薇下面,介绍一个确定问题():,沿着轴的正方向探索前进一个步长,,即芇肃腿蚃肀薈螁,肆膃薅肄袂莀膀则下一步就从新点出发加大步长,,即聿芃羈膁芀蚇蚇,,就停止探索,这时便得到问题():蚀螇肃莃膁薀芈(1),,加步系数,(2),计算,若,转(3).否则转(4).芇羇蒄羁莁节螄(3),同时,令,,,,转(2).羆肇葿莂蝿羇袄(4),转换探索方向,令,转(2).否则,停止迭代,。薇芆芆芁蚁莁薄在加步探索法中,()的最优解的大体位置的话,初始点要尽量取接近于问题(),,当探索得到新点处的目标函数值和出发点处相同时,以及初始步长应如何选取等,、单谷区间与单谷函数荿蒆莂肂袀膃蝿由于以后要介绍的一些维搜索方法,主要适用于问题()在搜索区间中只有唯一的最优解的情况,为此,,,使得在上严格递减,在上严格递增,则称是函数的单谷区间,