一类求解l 1正则化最小二乘问题的快速邻近梯度算法.pdf

分类号： 密级：
U D C： 编号： 201321104002





河北工业大学硕士学位论文



一类求解l1 正则化最小二乘问题的
快速邻近梯度算法



论 文 作 者： 刘紫娟 学 生 类 别： 全日制
专业学位类别： 理学硕士 领 域 名 称： 应用数学
指 导 教 师： 刘新为 职 称： 教授
Dissertation Submitted to
Hebei University of Technology
for
The Master Degree of
Science in Applied Mathematics



A CLASS OF FAST PROXIMAL GRADIENT
ALGORITHMS FOR l 1 REGULARIZED
LEAST SQUARES PROBLEMS


by
Liu Zijuan



Supervisor: Prof. Liu Xinwei



May 2016
摘 要
快速邻近梯度算法[Lecture notes for EE236C, University of California, Los Angeles,
2013]利用加速梯度思想，每次迭代都充分利用了前两个迭代点的信息，这使得该算法
在解决信号和图像处理中的线性逆问题中具有更快的收敛速率. 本文基于快速邻近
梯度算法，将快速邻近梯度算法中前两个迭代点的线性组合的形式写成了更为一般的
结构，提出了一类求解l1 正则化最小二乘问题的快速邻近梯度算法，并且给出了这类
快速邻近梯度算法中未知参数满足的一个充分条件，证明了该算法在这个充分条件下
的全局收敛速率为Ok(1 /2 ) . 通过数值试验可以看出，这类快速邻近梯度算法不仅在
处理图像时可以得到较为清晰的图像，而且在相同迭代步数的限制内产生的误差值是
小于快速迭代收缩阈值算法[SIAM Image Science, 2009, 2(1): 183-202]产生的误差值.
关键字：快速邻近梯度算法算法 加速梯度思想 l1 正则化最小二乘问题 全局
收敛速率