共轭梯度最小二乘迭代正则化算法在冲击载荷识别中的应用

结构动载荷识别反问题是典型的病态问题,需要应用正则方法克服其病态特性而获得稳定的解。与直接正则化算法Tikhonov方法相比,共轭梯度最小二乘(Conjugate Gradient Least Squares,CGLS)迭代算法在载荷识别反问题的正则化过程有无须对传递矩阵求逆、无须明确正则化参数的优点。提出共轭梯度最小二乘迭代正则化算法和启发式迭代收敛终止准则,用于三自由度仿真模型和壳结构试验模型的冲击载荷识别,并与经典的Landweber迭代正则化算法和直接正则化算法Tikhonov方法比较。仿真和实验结果表明:CGLS迭代正则化算法在识别精度、收敛速度、计算效率和抗噪性方面有明显优势。

迭代再权共轭梯度q范数正则化线性最小二乘–支持向量机分类算法

L2范数罚最小二乘–支持向量机(least square support vector machine algorithm,LS–SVM)分类器是得到广泛研究和使用的机器学习算法,其算法中正则化阶次是事先给定的,预设q=2.本文提出q范数正则化LS–SVM分类器算法,0<q<∞,把q取值扩大到有理数范围.利用网格法改变正则化权衡参数c和正则化阶次q的值,在所选的c和q值上,使用迭代再权方法求解分类器目标函数,找出最小分类预测误差值,使预测误差和特征选择个数两个性能指标得到提高.通过对不同领域的实际数据进行实验,可以看到提出的分类算法分类预测更加准确同时可以实现特征选择,性能优于L2范数罚LS–SVM.

基于改进的共轭梯度算法实现的最小二乘隐空间支持向量机

本文研究了最小二乘隐空间支持向量机的优化问题.文中采用基于对称超松弛预处理技术改进共轭梯度算法,改进的共轭梯度算法只需求解一个阶数为l-1的线性代数方程组即可,大大节省了计算时间.最后将其应用于最小二乘隐空间支持向量机中建立数学模型,并通过实例验证了该算法的优越性.

基于改进的共轭梯度算法实现的最小二乘隐空间支持向量机

本文研究了最小二乘隐空间支持向量机的优化问题。文中采用基于对称超松弛预处理技术改进共轭梯度算法,改进的共轭梯度算法只需求解一个阶数为l-1的线性代数方程组即可,大大节省了计算时间。最后将其应用于最小二乘隐空间支持向量机中建立数学模型,并通过实例验证了该算法的优越性。

基于完全最小二乘原则及归一化共轭梯度法的荧光断层成像重建算法

目的基于完全最小二乘原则,研究荧光断层成像技术。方法由漫射方程对荧光断层成像正问题建模,并使用有限元法计算出权重矩阵后,引入完全最小二乘原则,使用归一化共轭梯度法对荧光信息进行重建。结果该算法的抗噪性能优于同等情况下基于最小二乘原则的重建算法,且对于初值的稳定性较好。此外,避免了普通共轭梯度法解完全最小二乘问题时的溢出现象,使得算法的稳定性及实用性增强。结论本文所提出的算法具有较好的抗噪性、准确性及稳定性,是一种有效的荧光断层成像重建算法。

一种求解低秩矩阵补全的修正加速近端梯度算法

设计适应大规模数据的快速算法是求解低秩矩阵补全的重点。文章改变了加速近端梯度算法的步长,对近似函数的近端最优点和上一迭代点增加了一个仿射组合。通过控制仿射系数,能够使得到的新迭代点有靠近原函数的趋势,进而能在保持算法精度的同时提高算法效率。最后通过相应的数值实验证明了算法的有效性和稳定性。

矩阵最小二乘广义逆共轭梯度算法

研究了矩阵最小二乘广义逆新的性质,给出矩阵最小二乘广义逆共轭梯度算法,并给出一些例子来说明这种方法的有效性.

最小二乘支持向量机的预优共轭梯度法

针对Suyken等人提出的最小二乘支持向量机的共轭梯度法在输入样本的个数较大时,需要求解高阶线性方程组这一缺陷,提出了一种新算法。该算法利用分块矩阵的思想将该高阶线性方程组系数矩阵降阶,为了提高收敛速度,克服数值的不稳定性,采用条件预优共轭梯度法求解低阶的线性方程组。通过仿真试验证明用本文方法训练最小二乘支持向量机比共轭梯度法的训练速度提高了将近一倍。

嵌入共轭梯度的二次学习教与学优化算法

教与学优化算法通过模拟自然班的教与学行为实现复杂问题的求解,已经得到较为广泛的应用。为了克服该算法容易早熟,解精度低的弱点,提出了一种改进的混合混沌共轭梯度法教与学优化算法。改进算法应用Chebyshev混沌映射初始化种群,以提高初始种群对解空间的覆盖。为了保持种群多样性,引入动态学习因子,使学生个体能够在早期主要向教师学习,并逐渐提高个人知识对其进化的影响比例。每次迭代后,教师个体将执行共轭梯度搜索。种群内适应度较差的学生个体如果长时间状态难以改变,则基于反向学习和高斯学习进行二次学习优化。最后在多个典型测试函数上的实验表明,改进算法对比相关算法具有较佳的全局收敛性,解精度较高,适用于求解较高维的函数优化问题。

基于混合随机共轭梯度的最小二乘逆时偏移

针对最小二乘逆时偏移计算效率低的问题,基于随机最优化思想推导了混合随机共轭梯度算法,发展了基于混合随机共轭梯度的最小二乘逆时偏移方法。为了减小偏移数据量,提出了基于数据相关性的炮数据采样方法,减弱了梯度的随机性。对炮数据采样后,结合随机梯度和共轭梯度对成像结果进行更新,通过共轭梯度提高了收敛效率及成像质量。对SEG/EAGE起伏地表模型和M工区实际资料的成像测试结果表明,该方法能提高传统最小二乘偏移的计算效率,相对于随机梯度下降算法具有更高成像质量和更快收敛速度。

基于不等式约束的最小二乘法三维电阻率反演及其算法优化

基于光滑约束的最小二乘法是三维电阻率反演的主要方法,但该方法在某些情况下存在着多解性较强的问题,且普遍耗时较长,严重制约了三维反演方法的推广与发展.为改善上述问题,将表征模型参数变化范围的不等式约束作为先验信息引入最小二乘线性反演方法中,有效地改善了反演结果的精度,降低了反演的多解性问题.为了解决耗时较长的问题,基于预条件共轭梯度(PCG)算法和Cholesky分解法的特点提出了一套优化三维电阻率反演计算效率的计算方案.在该方案中,Cholesky分解法被用来求解敏感度矩阵计算中的多个点源场的正演问题,Cholesky分解法只需对总体系数矩阵进行一次分解,然后对不同的右端向量进行回代即可.将预条件共轭梯度法引入到三维电阻率反演方程的求解中,将雅可比迭代中的对角阵作为预处理矩阵,其具有求逆方便、无需内存空间的特点,有效地加快了收敛速度.对合成数据以及实测数据的反演算例表明,借助不等式约束和反演效率优化方案,最小二乘反演方法可得到较为精确的反演结果,有效地提高了反演计算效率,具有良好的推广前景.

基于最小二乘修正的混合HS和DY共轭梯度法

共轭梯度法主要用来求解大规模无约束问题,具有所需存储量小、强收敛性和计算方便等特点。针对混合的Hestenes-Stiefel和Dai-Yuan共轭梯度方法,采用最小二乘的思想,通过极小化混合的方法和充分下降的三项共轭梯度法的搜索方向之间的距离之差,求解混合参数,使得混合的Hestenes-Stiefel和Dai-Yuan方法在Wolfe线搜索下满足充分下降性和对一致凸函数全局收敛。与Hager-Zhang和Dai-Kou提出的方法比较,修正后的方法在计算上更有优势。

总体最小二乘正则化算法的载荷识别

载荷识别中存在病态矩阵求逆的不稳定性将导致解严重失真。在总体最小二乘(Total Least Squares TLS)算法的思想上进行Tikhonov正则化,构造载荷识别的目标函数。然后利用共轭梯度(Conjunction Gradient CG)法解算该目标函数的最优化问题,提出一种算法易实现、收敛性能好、存储量小,且能全面考虑随机误差影响的CG-TLS正则化算法。经仿真和试验探讨了传递函数矩阵病态产生的原因,借助条件数优选振动响应点,最终检验CG-TLS正则化算法与常用的两种正则化算法在不同噪声水平时载荷识别的效果。结果表明,CG-TLS正则化算法载荷识别效果最优,与真实值吻合好,并具有良好的鲁棒性。因此,应用CG-TLS正则化算法实现载荷识别极具实际意义。

基于最小二乘的磁通门梯度仪转向差校正方法

针对磁通门梯度仪中单个磁通门传感器由于加工工艺等原因存在零偏误差、灵敏度误差和三轴非正交误差,且多个磁通门传感器由于安装误差存在摆放方位不一致的问题,建立了磁梯度仪的自校正模型和互校正数学模型,采用最小二乘算法对2种模型参数进行求解。实验结果表明该校正方法求解方便、可操作性强,三轴磁通门梯度仪在稳定的地磁场环境下采集多组磁场数据,就能有效降低磁梯度仪转向差引起的测量误差,提高磁梯度测量精度。

解线性最小二乘问题的一个新并行算法

讨论了求解无约束线性最小二乘问题的一种并行单纯形法以及对它的改进算法并行共轭梯度—单纯形法 .算法本身具有很强的并行机制 ,能够充分地发挥并行机快速省时的特点 .本文也对算法做了理论分析 ,对算法的收敛性给予了证明 (在二维情形下 ) .最后做了数值实验 (由于软硬件条件的限制 ,并行算法未能在并行计算机上实现 ,鉴于这种情况 ,我们所做的数值实验均是在串行机上完成的 )

基于非线性共轭梯度法的唯相直接数据域算法

提出一种基于非线性共轭梯度法的唯相直接数据域最小二乘算法。根据标准直接数据域算法得到代价函数,由小相位扰动效应和泰勒展式推导得到代价函数的梯度,使用非线性共轭梯度法对代价函数进行优化,最终确定最优唯相权值向量。作为一种唯相自适应算法,它在硬件实现上比传统算法更具简单性。同时,它只对单快拍数据进行处理,避免了样本协方差矩阵的构造以及矩阵求逆运算,更适合于实时处理。仿真结果表明,算法具有良好的信号恢复和干扰置零性能。

求双变量LME一种异类约束最小二乘解的MCG算法

借鉴求线性矩阵方程(LME)同类约束最小二乘解的修正共轭梯度法,建立了求双变量LME的一种异类约束最小二乘解的修正共轭梯度法,并证明了该算法的收敛性.在不考虑舍入误差的情况下,利用该算法不仅可在有限步计算后得到LME的一组异类约束最小二乘解,而且选取特殊初始矩阵时,可求得LME的极小范数异类约束最小二乘解.另外,还可求得指定矩阵在该LME的异类约束最小二乘解集合中的最佳逼近.算例表明,该算法是有效的.

基于加权最小二乘的主结构快速提取算法

从复杂纹理图像中提取主结构是计算机视觉和图形应用的基本过程.针对加权最小二乘法依赖于梯度大小、无法去除对图像语义贡献很小的小规模、高对比度的振荡细节(如纹理)的问题,提出一种新的用于抑制图像纹理的权重算子,并对该权重算子的有效性进行验证.为了解决在优化全局目标函数过程中需要求解大型稀疏拉普拉斯矩阵、计算成本高的问题,采用代数多重网格算法作为共轭梯度法的预处理算子加快稀疏矩阵方程的求解速度.实验表明,提出的权重算子能有效地抑制图像纹理,并且图像主结构的边缘不会被模糊,其滤除纹理、提取主结构的效果优于其他同类算法.另外,所用的加速算法和其他传统预处理算法相比,能将主结构的提取时间缩短很多.

线性子空间上求解AXB+CXD=F的最小二乘问题的迭代算法

应用共轭梯度方法和线性投影算子,给出了求解线性矩阵方程AXB+CXD=F在任意线性子空间上的最小二乘解问题的迭代算法.在不考虑舍入误差的情况下,理论上可以证明,所给迭代算法经过有限步迭代可得到矩阵方程AXB+CXD=F的最小二乘解,极小范数解及其最佳逼近.该算法可以应用于任何线性子空间,包括由对称矩阵,中心对称矩阵等构成的线性子空间.文中的数值例子证实了该算法的有效性.