主题:针对一类具有非凸不等式约束优化问题的Frank-Wolfe类型方法
主讲人:四川师范大学数学科学学院张永乐副教授
主持人:555000jc赌船孟开文副教授
时间:2023年10月13日(周五)16:00-17:00
地点:柳林校区通博楼B412会议室
主办单位:555000jc赌船科研处
主讲人简介:
张永乐,四川师范大学数学科学学院副教授,硕士生导师,四川省海外高层次留学人才。从事变分不等式的理论和算法、非凸非光滑优化算法方面的研究。主持了国家自然科学基金青年项目、四川省科技厅应用基础研究项目。
内容提要:
Frank-Wolfe (FW)方法在优化和机器学习领域中受到广泛关注,它通过一系列的Linear Oracles(LOs:在一个固定的紧凸集上最小化目标函数的线性逼近)来实现。我们针对一类非凸优化问题(目标函数是光滑的,约束集合是由一个DC函数的水平集构成),通过定义一个新的LO,提出了一种非凸的FW类型方法。针对在压缩感知和机器学习中经常出现的一些优化模型,我们得到了这些新的LOs的显示表达。此外,在一个严格可行性的条件下,证明了非凸的FW类型方法产生的子序列的收敛性。由于新定义的LO的可行域随着每次迭代发生变化,所以我们的收敛性分析与已有文献中处理子问题是固定可行域的FW类型方法的分析完全不同。最后,受凸的FW类型加速方法中的“away steps”的启发,我们进一步设计了一个非凸的FW类型的加速方法,并证明了该方法产生的子序列的收敛性。最后,我们将非凸的FW类型方法及其加速方法用于求解在数据集MovieLens10M上的矩阵补全问题,说明了这些方法的有效性。