特征提取中一类矩阵迹函数极值问题的黎曼优化算法

研究来源于特征提取中的一类鲁棒判别回归模型,该模型问题可以重构为Stiefel流形和线性流形组成的乘积流形约束下的一类矩阵迹函数极小化问题.整合紧流形和线性流形,结合乘积流形几何性质,本文设计适用于求解重构问题简化版本的一类基于Zhang-Hager技术拓展的乘积流形黎曼非线性共轭梯度法,并给出算法全局收敛性分析.数据实验表明所提算法对于问题求解是高效可行的,且与已有算法、其它黎曼梯度类算法及黎曼优化工具箱中已有的黎曼一阶和二阶算法相比在迭代解精度或迭代效率上有一定优势.

Stiefel流形约束下矩阵迹函数最小化问题的黎曼共轭梯度算法

为求解机器学习特征提取中的一类Stiefel流形约束下矩阵迹函数最小化问题,提出了一种黎曼非线性共轭梯度算法。将该问题转化为乘积流形约束下的最小化问题,围绕乘积流形的切空间、正交投影及目标函数等进行展开,采用收缩算子和向量转移算子的方式来更新迭代,将Dai的非单调共轭梯度法推广至黎曼流形上,并采用Armijo型非单调线性搜索条件来保证算法的全局收敛性。收敛性分析表明,该算法是可行的。

列正交约束下广义Sylvester方程极小化问题的有效算法

研究列正交约束下广义Sylvester方程极小化问题的有效算法.基于Stiefel流形的几何性质和欧氏空间中的MPRP共轭梯度法,构造一类黎曼MPRP共轭梯度迭代求解算法,给出算法全局收敛性.该迭代格式得到的搜索方向总能保证该目标函数下降.数值实验和数值比较验证所提出算法对于问题模型是高效可行的.

多维标度问题的一类直接拟合法

多维标度分析(MDS)是一种用于分析和可视化数据之间相似性或距离关系的统计方法,它通过将数据点映射到低维空间中的坐标来表示它们之间的相对距离或相似性.多维标度问题的古典解通过对(非欧氏型)距离矩阵平方进行双中心化处理,进而通过截断特征值分解寻求低维的拟合构造点.本文对距离矩阵平方进行直接拟合,重构问题为零列和Stiefel子流形和线性流形约束下的矩阵优化模型,并结合乘积流形几何性质,设计一类自适应问题模型的基于Zhang-Hager技术拓展的黎曼梯度下降求解算法.数值实验说明通过直接拟合能得到误差更小的拟合欧氏距离矩阵,且所提算法与已有投影梯度流算法及黎曼优化工具箱中的黎曼一阶和二阶算法在迭代效率上有一定的优势.

广义特征值极小扰动问题的一类黎曼共轭梯度法

研究含参数l非方矩阵对广义特征值极小扰动问题所导出的一类复乘积流形约束矩阵最小二乘问题.与已有工作不同,本文直接针对复问题模型,结合复乘积流形的几何性质和欧式空间上的改进Fletcher-Reeves共轭梯度法,设计一类适用于问题模型的黎曼非线性共轭梯度求解算法,并给出全局收敛性分析.数值实验和数值比较表明该算法比参数l=1的已有算法收敛速度更快,与参数l=n的已有算法能得到相同精度的解.与部分其它流形优化相比与已有的黎曼Dai非线性共轭梯度法具有相当的迭代效率,与黎曼二阶算法相比单步迭代成本较低、总体迭代时间较少,与部分非流形优化算法相比在迭代效率上有明显优势.

可拓展概率逼近中一类矩阵优化问题的有效算法

研究来源于复杂系统离散逼近中的一类可拓展概率逼近模型,欧氏空间中该问题模型可重塑为一类由线性流形和斜流形组成的乘积流形约束矩阵优化问题.结合乘积流形的几何性质,基于Zhang-Hager技术拓展,本文设计一类适用于问题模型的黎曼非线性共轭梯度法,并给出算法全局收敛性分析.数值实验验证所提算法对于问题模型求解是高效可行的,且与其它黎曼梯度类算法及黎曼优化工具箱中已有的黎曼梯度类算法和二阶算法相比在迭代效率上有一定优势.