求解稀疏逻辑回归问题的嵌套BB算法的分裂增广拉格朗日算法

逻辑回归是经典的分类方法,广泛应用于数据挖掘、机器学习和计算机视觉.现研究带有程。模约束的逻辑回归问题.这类问题广泛用于分类问题中的特征提取,且一般是NP-难的.为了求解这类问题,提出了嵌套BB(Barzilai and Borwein)算法的分裂增广拉格朗日算法(SALM-BB).该算法在迭代中交替地求解一个无约束凸优化问题和一个带程。模约束的二次优化问题.然后借助BB算法求解无约束凸优化问题.通过简单的等价变形直接得到带程。模约束二次优化问题的精确解,并且给出了算法的收敛性定理.最后通过数值实验来测试SALM-BB算法对稀疏逻辑回归问题的计算精确性.数据来源包括真实的UCI数据和模拟数据.数值实验表明,相对于一阶算法SLEP,SALM-BB能够得到更低的平均逻辑损失和错分率.

基于增广拉格朗日差分进化算法的长江内河船舶航速优化问题研究

航速优化作为内河船舶实现节能减排以及降低运营成本的有效措施之一,深受学术界的关注。本文以航行于长江航道的某7500 t内河散货船为研究对象,以实船设计数据为基础建立船舶阻力-主机-螺旋桨之间的能量传递关系模型;基于长江航道环境数据建立用于航速优化的长江航道数据模型;进一步地,以增广拉格朗日方程(augmented Lagrange equation)以及差分进化(differential evolution)算法为基础设计用于求解内河航速优化问题的ALDE算法。通过选取典型工况,分析7500 t内河散货船往返于江阴港与宜宾港之间的航速优化以及油耗结果。仿真结果表明:所设计的ALDE算法能够有效求解内河航速优化问题;通过实施航速优化,在指定航行到达时间的约束下能够节约2.76%的船舶柴油消耗。本研究可对内河船舶的节能以及降低航运成本起到重要的作用。

分数阶q-Laplace 全变差图像修补模型的增广拉格朗日算法实现

分数阶TV正则项已被广泛应用于图像处理领域,本文针对一类q-Laplace全变差图像修补模型,采用增广拉格朗日方法进行求解并设计了快速算法,数值实验表明本文所提出的算法对有文字遮挡和人工涂画痕迹的图像具有一定的修补作用。

分裂增广拉格朗日收缩反卷积声源识别算法

提出了一种新颖高效的、超高分辨率的反卷积声源识别方法,即分裂增广拉格朗日收缩(SALSA)反卷积声源识别算法。该方法利用主要声源通常具有的稀疏特性和求解大规模稀疏恢复问题的交替方向思想,在波束形成反卷积数学模型中引入一个和源强等价的分裂变量,进而建立了增广拉格朗日变量分裂声源识别数学模型,并采用SALSA来交替迭代求解该分裂模型获得声源强度。仿真和试验结果表明,该方法与经典的反卷积声源成像方法(DAMAS)相比,源强量化能力相当,还拥有更优的收敛性,在整个分析频率范围内都拥有超高的分辨率,迭代计算速度快数十倍。

基于增广拉格朗日的全变分正则化CT迭代重建算法

采用一种基于增广拉格朗日方法 (augmented Lagrangian method)求解全变分正则化(total variation regularization)算法(ALMTVR)来进行CT图像重建.将ALMTVR算法与经典的代数重建算法(algebraic reconstruction technique,ART)进行比较,并采用仿真数据与实际数据进行实验.在实验中,使用ALMTVR算法与ART算法分别进行图像重建,并对重建图像进行对比分析.实验结果表明:所提算法与ART算法相比,显著提高了图像重建的质量与速度,显示了其对图像重建的有效性及在CT成像系统中潜在的应用价值.

Toeplitz矩阵填充的?-步修正增广拉格朗日乘子算法（英文）

基于Toeplitz矩阵填充(TMC)的修正增广拉格朗日乘子(MALM)算法,本文给出此算法的一种加速策略,提出Toeplitz矩阵填充的l-步修正增广拉格朗日乘子算法.该方法通过削减原MALM算法中每一步迭代的频繁数据传输,提高算法的运行效率.同时也证明了新算法的收敛性.最后以数值实验表明l-步修正增广拉格朗日乘子算法比原MALM算法更有效.

结构可靠度的增广拉格朗日乘子算法

从结构可靠指标 β的几何意义出发 ,提出了相关正态随机向量下求解β的优化模型 ,并给出了求解β的增广拉格朗日乘子算法。在理论上论证了方法的可行性 ,数值实例说明该法是有效的。

求解绝对值方程稀疏解的增广拉格朗日方法

设计了一类求绝对值方程稀疏解的增广拉格朗日方法.首先将绝对值方程稀疏解问题转换成含不等式约束的线性规划问题.然后将该线性规划视为4块可分离的凸规划问题,进而设计了求解该凸规划问题增广拉格朗日方法.与经典的增广拉格朗日方法不同,该方法包含了一个带常数步长的校正步,同时与其他类似方法相比,该步长的取值范围更大.利用该方法求解绝对值方程的稀疏解.数值结果验证了方法的可行性与有效性.

求解多设施韦伯问题的半光滑牛顿增广拉格朗日法

重点研究了解决多设施韦伯问题(MFWP)的有效算法。首先,将MFWP重新表述为它的等价形式,然后提出一种半光滑牛顿增广拉格朗日(Ssnal)算法来求解MFWP,并且刻画了Ssnal算法的全局收敛性和局部渐近超线性收敛性。最后,在数据集上进行数值实验,结果表明,Ssnal算法在鲁棒性和计算效率方面都优于双曲近似过程(HAP)算法和交替方向乘子法(ADMM)。

修正的增广拉格朗日算法的收敛性

考虑了四种不同的算法策略来修正增广拉格朗日算法,表明不要求乘子有界就能收敛到原问题的全局最优解.

Toeplitz矩阵填充的尾端修正增广拉格朗日乘子算法

基于均值的增广拉格朗日乘子(MALM)算法,提出了一种尾端修正的Toeplitz矩阵填充新算法.该算法利用增广拉格朗日乘子(ALM)算法迭代速度较快的优点,对迭代矩阵序列进行结构化与尾端修正.在一定程度上减少了每步均值处理所产生的数据传输量,从而降低了计算代价.同时详细讨论了新算法的收敛性.最后通过数值实验证明了新算法比l步修正的增广垃格朗日乘子(l-MALM)、MALM以及ALM算法在计算时间上有较大程度的减少.

分裂增广拉格朗日收缩法移除SAR影像相干斑

针对SAR影像相干斑移除过程中影像纹理细节容易丢失的问题以及非凸保真项求解困难的问题,提出一种用分裂增广拉格朗日收缩法移除SAR影像相干斑的算法。首先,在分析SAR影像成像机理和统计特性的基础上,利用最大后验估计和总变分TV项,建立SAR图像相干斑移除问题的数学模型;然后,利用分裂增广拉格朗日收缩法,将模型转换为易于求解的双参数最优化的形式并用交替迭代法分解成2个子优化模型;最后,利用牛顿迭代法求解第1个子优化模型,利用对偶方法求解第2个子优化模型。利用武汉某地区高分三号影像验证了该算法的有效性。

矩阵填充的混合型增广拉格朗日乘子算法

文章在经典增广拉格朗日乘子算法的基础上,提出了一种新的混合型增广拉格朗日乘子矩阵填充算法.通过定义混合型奇异值阈值算子,得到了一种求解矩阵填充问题的新的混合型增广拉格朗日乘子算法.数值实验表明,新算法大大提高了矩阵填充的求解效率,节约了计算花费,其效果明显优于经典的增广拉格朗日乘子算法.

基于增广拉格朗日交替方向法的矩阵秩最小化算法研究

针对含有较大奇异值的矩阵秩最小化问题,采用对数行列式函数代替核范数作为秩函数的非凸近似,应用增广拉格朗日交替方向法求解矩阵秩最小化问题。当罚参数β>1时,证明此算法产生的迭代序列收敛到原问题的稳定点。最后利用实际数据和随机数据,通过数值实验验证所提出的算法较现有的求解核范数矩阵秩最小化问题的算法更高效。

基于粒子群算法和增广拉格朗日乘子法的混合可靠性分析

本文提出了一种基于粒子群算法和增广拉格朗日乘子法的混合可靠性分析方法.该方法通过引入参数的不确定性和区间变量,得到一种概率-区间混合不确定模型,充分利用增广拉格朗日乘子法将有约束优化问题转化为无约束优化问题,基于此进行求解和结构可靠性分析.数值算例和工程实例验证了该算法在计算结构可靠性问题时对于线性和非线性的功能函数有良好的收敛性和较高的计算效率.

基于增广拉格朗日协调的集群式供应链动态优化配置方法

面向集群企业的独立决策需求,建立了包含水平型订单外协和垂直型零部件外购在内的通用性、分布式集群供应链优化配置模型。将具有开放式优化结构的增广拉格朗日协调方法引入该问题的求解中,建立了增广拉格朗日协调基础优化框架并给出可行的求解步骤。通过结果分析,验证了该方法对该类问题的可行性。最后,从供应链管理的角度,对订单量变化情况下的最优供应链结构进行了敏感性分析,提供了集群供应链的最优合作模式的考量方法。

配气凸轮优化设计的惩罚函数法和增广拉格朗日乘子法

将约束最优化问题的间接解法中有代表性的惩罚函数法和增广拉格朗日乘子法应用到配气机构五项式凸轮型线的最优化设计中 ,优化设计结果表明混合法 (内点法 )的求解精度最高 ,外点法的收敛速度最快 ,而增广拉格朗日乘子法的求解精度较高且收敛速度也较快 ,更适于用来求解此类问题 .

对等式约束非线性规划问题的Hestenes-Powell增广拉格朗日函数的进一步研究(英文)

本文对用无约束极小化方法求解等式约束非线性规划问题的Hestenes-Powell 增广拉格朗日函数作了进一步研究．在适当的条件下,我们建立了Hestenes-Powell增广拉格朗日函数在原问题变量空间上的无约束极小与原约束问题的解之间的关系,并且也给出了Hestenes-Powell增广拉格朗日函数在原问题变量和乘子变量的积空间上的无约束极小与原约束问题的解之间的一个关系．因此,从理论的观点来看,原约束问题的解和对应的拉格朗日乘子值不仅可以用众所周知的乘子法求得,而且可以通过对Hestenes-Powell 增广拉格朗日函数在原问题变量和乘子变量的积空间上执行一个单一的无约束极小化来获得．

基于增广拉格朗日方法的多柔体动力学研究

采用绝对节点坐标方法研究了受非线性约束的大变形多柔体系统动力学问题。基于增广拉格朗日方法推导建立了系统的动力学方程。方程中的未知变量数目与约束方程数目无关,仅以广义位置为基本变量进行求解。采用不变矩阵法计算系统弹性力,引入Broyden拟牛顿法大大提高了求解效率。系统仿真结果表明了所用方法的有效性。

不等式约束优化问题的一个精确增广拉格朗日函数

给出了求解只带有不等式约束非线性规划问题的一个连续可微精确增广拉格朗日函数法,并讨论了它的精确性质.该方法的主要特点是:在适当的假设下,通过对这个增广拉格朗日函数在原问题变量和乘子变量的积空间上进行一个单一的无约束极小化,即可获得原约束问题的解,从而可以有效地使用标准的无约束极小化方法求解不等式约束非线性规划问题.