现代设计方法答案.doc

环境变量
用牛顿法求函数
的极小值点坐标(迭代二次)。

解 初始点
则初始点处的函数梯度、海森矩阵及其逆矩阵为



代入牛顿法迭代公式,得


∇2fx1==-4-48
∇2f(x1)-1=
代入牛顿法迭代公式,得

二、分析比较牛顿法、阻尼牛顿法、共轭梯度法、变尺度法和鲍威尔法的特点,找出前四种方法的相互联系。
比较牛顿法:牛顿法收敛很快,对于二次函数只需迭代一次便达到最优点,对非二次函数也能较快迭代到最优点,但要计算二阶偏导数矩阵及其逆阵,对维数较高的优化问题,其计算工作和存储量都太大。
阻尼牛顿法:可以看出原始牛顿法就相当于阻尼牛顿法的步长因子取成固定值1的情况。阻尼牛顿法每次迭代都在牛顿方向上进行一维搜索,避免了迭代后函数值上升的现象,从而保持了牛顿法二次收敛的特性,而对初始点的选取并没有苛刻的要求。 这类方法的主要缺点计算复杂,工作量大,要求计算机存储量大
共轭梯度法:共轭方向主要是针对二次函数的,但也可以用于一般非二次函数。共轭方向法是二次收敛的,计算程序简单,存储量相对较少
变尺度法:只需用到函数的一阶梯度;下降算法,故收敛全局;计算量小(不需要求矩阵逆);一般可以达到超线性收敛(速度快)
鲍威尔法:多维无约束优化算法是在无约束优化算法之一,首先选取一组共轭方向,从某个初始点出发,求目标函数在这些方向上的极小值点,然后以该点为新的出发点,重复这一过程直到获得满意解,其优点是不必计算目标函数的梯度就可以在有限步内找到极值点。
已知约束优化问题minf(x)=(x1-2)2+(x2-x1)2
. g1(x)=-x12-x2≥0 g2(x)=-x1-x2+2≥0
试从第k次的迭代点xk=[-1,2]T出发,-,完成一次迭代,获取一个新的迭代点。请作图画出目标函数的等值线、可行域和本次迭代的搜索路线。
解:采用直接解法中的随机方向法,
计算随机单位向量
取
:构造内点罚函数
Фx,r=x12+x22-2x1+1-r
=x12+x22-2x1+1-rln(3-x2)
对于任意给定的惩罚因子r(r>0),函数Ф(x,r)为凸函数。用解析法求函数Ф(x,r)的极小值,令∇Ф(x,r)=0,的方程组
∂Ф∂x1=2x1-2=0∂Ф∂x2=2x2+r3-x2=0 得 x1=1 x2=6±36+8r4
当x2=6-36+8r4不满足gx=3-x2≤0,舍去。无约束极点为
x1*=1 x2*=6+36+8r4
当逐步减小r值时,直至趋近于0时,x2*=3逼近原问题的约束最优解,最优解为x=13T。
五、分析说明等式约束和不等式约束的增广乘子法的解题思路及其具体方法。
解:1)等式约束下的广义乘子法
解题思路:
从推出
具体方法:
1 选取初始数据。给定初始点,初始乘子,初始罚因子,放大系数,允许误差,参数,令K=1。
2 求解无约束问题,以为初始点,求解无约束问题
,设其最优解为
3 检查是否满足终止准则,若,则迭代终止,为等式约束问题
的近似最优解,否则转4
4判断收敛快慢。若,则令,转5,否则令,转5;
5进行乘子