基于优化最小化的软阈值问题迭代求解方法

软阈值问题是优化理论中非常重要的一种问题。该问题存在显式解,可以通过软阈值算子来求解。软阈值问题的解在信号降噪、深度学习等领域中得到了广泛应用。文章从一种全新的角度来探索软阈值问题的解,在优化最小化框架下给出该问题的一种新的迭代求解方法,并从理论上保证最终得到该问题的局部最优解。在模拟数据上的实验表明,该方法与软阈值算子法求出的解完全一致。

基于优化最小算法的齿轮箱复合故障特征稀疏表示

复合故障信号中多种特征成分的有效分离是实现齿轮箱复合故障诊断的核心,也是难点。针对此,提出一种基于优化最小算法(Majorization-Minimization,MM)的稀疏表示方法,并将其应用于齿轮箱齿轮轴承复合故障特征成分的提取与分离。首先,根据齿轮箱中轴承和齿轮在局部故障激励下的瞬态成分存在差异性,利用相关滤波优选来分别构造与轴承和齿轮故障瞬态特征相匹配的过完备字典,建立目标函数;然后,采用所提优化最小算法对稀疏表示目标函数进行优化求解;在此基础上,根据复合故障信号中轴承和齿轮瞬态成分能量的强弱,依次进行稀疏表示及瞬态成分重构,最终实现齿轮箱复合故障特征的提取与分离。通过对仿真和实验信号的分析表明:所提方法能够分别提取复合故障信号中轴承和齿轮的瞬态特征,实现齿轮箱复合故障诊断,验证了所提方法的有效性。

迭代优化最小化唯相位波束形成

为了增强唯相位波束形成(Phase-Only Beamforming,POB)的干扰和噪声抑制性能,提高非凸POB权值求解的实时性,该文设计了迭代优化最小化(Iterative Majorization Minimization,IMM)唯相位最小方差无失真响应波束形成器(Minimum Variance Distortion-less Response Beamformer,MVDRB)。将无失真响应约束转化成最大化期望方向阵列响应,推导了二次型目标函数的上界,得到IMM-POB优化模型,并进一步推导出每次迭代的闭式最优解。仿真分析表明所设计的IMM-POB:在相同输入信噪比下,可获得高于现有迭代算法和最优MVDRB的信干噪比改善;干扰抑制性能几乎完全逼近最优MVDRB,且具有更优的噪声抑制性;受快拍数影响较小;闭式最优权仅包含单次矩阵和向量乘法,使算法具有较强的实时性,可应用于大规模阵列。

压缩感知ISAR成像的全变差优化最小算法

对于逆合成孔径雷达(ISAR)目标成像,从少量压缩测量回波数据重建高分辨率运动目标是不适定问题,且观测噪声也会影响重建结果。在频率步进连续波ISAR系统回波观测模型基础上,结合压缩感知原理,给出了一种基于全变差正则化的ISAR压缩感知成像模型,通过将该优化模型转化为一系列简单代理函数进行求解,提出了一种快速优化最小算法。最后在不同回波信噪比条件下进行仿真验证。实验结果表明,当回波信噪比大于10 dB时,本文方法明显优于距离–多普勒算法和基于L1范数的压缩感知成像方法。

基于优化最小化框架的墙体成像算法

在穿墙雷达建筑物布局成像中,针对现有成像算法因没有充分利用墙体本身的物理特性而出现墙体轮廓模糊、边缘不连贯以及成像过程耗时的问题,提出一种基于优化最小化框架的墙体成像算法。该算法首先利用像素块来表征墙体连续块状的物理特性,并将其引入信号模型,然后以LASSO(Least Absolute Shrinkage and Selection Operator)模型为基础,在优化最小化框架下构造稳健的优化目标函数,最后利用墙体回波信号的时移特性并结合卷积得到迭代过程的快速实现。实验结果表明,该算法对墙体成像特征明显,不仅保证了墙体轮廓特性,而且杂波少、分辨率高,并较大幅度减小了成像算法处理时间。

一种方向优化最小均方算法

最小均方(Least Mean Square,LMS)算法的更新方向是对最速下降方向的估计,其收敛速度也受到最速下降法的约束。为了摆脱该约束,该文在对LMS算法分析的基础上,提出一种针对LMS算法的分块方向优化方法。该方法通过分析误差信号来选择更新向量,使得算法的更新方向尽可能接近Newton方向。基于此方法,给出一种方向优化LMS(Direction Optimization LMS,DOLMS)算法,并推广到变步长DOLMS算法。理论分析与仿真结果表明,该方法与传统分块LMS算法相比,有更快的收敛速度和更小的计算复杂度。

最小约束违背非线性凸优化

本文基于不可行性度量和互补约束优化模型的角度研究最小约束违背凸优化问题。首先我们对约束不相容的凸优化问题建立了最小约束违背优化模型。当问题中的约束相容时,该模型可退化为原始问题。当约束不相容时,该模型等价于某个MPCC问题。其次我们证明了该等价问题的W-稳定性。最后我们用增广拉格朗日方法求解该等价问题,证明了该方法生成的点列收敛到等价MPCC问题的W-稳定点。In this paper, the problem of least constrained contracorvex optimization is studied from the perspective of the infeasibility measure and the complementary constraint optimization model. Firstly, we establish a minimum constraint violation optimization model for the convex optimization problem with incompatible constraints. When the constraints in the problem are compatible, the model can degenerate to the original problem. When the constraints are incompatible, the model is equivalent to an MPCC problem. Second, we demonstrate the W-stability of the equivalence problem. Finally, we use the augmented Lagrangian method to solve the equivalence problem, and prove that the point series generated by the method converges to the W-stable point of the equivalent MPCC problem.

基于L1范数正则化和最小二乘优化的冲击载荷识别研究

为了改善冲击载荷识别问题的病态特性,最大限度提高识别精度,在时域内提出一种基于L1范数正则化和最小二乘优化的改进冲击载荷识别方法。采用L1范数正则化方法构建冲击载荷稀疏反卷积模型,使用截断牛顿内点法求解L1范数的最小二乘优化问题,同时根据预条件共轭梯度法确定最优搜索路径和计算方向。最后,考虑不同冲击工况、不同响应位置对识别结果的影响。通过对铝合金板进行冲击载荷识别试验进行验证,发现在铝板受单次冲击和多次冲击工况下所识别载荷与施加的实际载荷吻合良好。结果还表明,与Tikhonov正则化方法相比,该方法能够提高冲击载荷识别的准确性和稳定性。

基于多判断和加权最小二乘优化的NSCT红外和可见图像融合

为了克服传统方法的一些缺陷和单一特征提取信息的不足,在进一步提高红外和可见图像融合的同时,寻找针对不同类型特点的适应能力强的方法,提出了一种基于多判断与加权最小二乘优化(WLS)的非下采样轮廓波变换(NSCT)红外可见图像融合方法。首先,采用NSCT对图像进行多尺度分解,得到图像的低频和高频子带。其次,低频子带选择局部平方熵和修正拉普拉斯和(SML)来相互补充,在保证好的对比度下提取少量细节信息;高频子带充分考虑底层特征的重要性,选择相位一致性(PC)、局部加权修正拉普拉斯算子和(WSML)以及局部加权能量(WLE)相互补充的方式融合细节层,对其进行WLS优化,融合后的图像细节更自然,更适合人眼视觉感知。最后,对融合后的低频和高频子带进行逆变换,得到融合图像。对不同类型特点的图像进行了实验验证,实验结果表明,与其他融合方法相比,本文方法在主观上目标显著、背景清晰、视觉效果好。在4个客观评价指标平均梯度(AG)、信息熵(IE)、空间频率(SF)、互信息(MI)中,在保证MI指标比较好的前提下,其他3个指标都处于最好的状态,尤其是对于光照均匀的camp图像,AG和SF与最好的数值相比提高了6.9%和4.8%,从而验证了本文方法的有效性。

基于最大最小蚁群优化算法的缓层土质三维边坡临界滑动面搜索

解决滑坡问题的关键在于边坡的稳定性分析,而边坡稳定性分析的要点在于边坡临界滑动面的搜索以及边坡安全系数的计算。为更准确地搜索边坡的临界滑动面,将最大最小蚁群优化算法应用于缓层土质三维边坡临界滑动面搜索。首先采用光滑有限元法结合莫尔-库伦强度准则对边坡模型进行弹塑性分析,计算得到边坡的应力场;然后在边坡内部构建一组独立于有限元法单元网格的条带结点网络,在此基础上引入最大最小蚁群优化算法,结合滑动面应力法建立搜索边坡临界滑动面并求取对应安全系数的计算模型;最后利用该计算模型分别对均质边坡算例、双层材料边坡算例和公路路堑边坡工程实例进行计算与分析。结果表明:通过将该计算模型的计算结果与二维极限平衡法和三维强度折减法的计算结果进行对比,并结合某公路路堑边坡实例的滑坡实际发展趋势,验证了该计算模型的有效性和准确性,可为缓层土质边坡的开挖和支护设计提供依据。

序贯最小优化的改进算法

序贯最小优化(sequential minimal optimization,简称SMO)算法是目前解决大量数据下支持向量机(support vector machine,简称SVM)训练问题的一种十分有效的方法,但是确定工作集的可行方向策略会降低缓存的效率.给出了SMO的一种可行方向法的解释,进而提出了一种收益代价平衡的工作集选择方法,综合考虑与工作集相关的目标函数的下降量和计算代价,以提高缓存的效率.实验结果表明,该方法可以提高SMO算法的性能,缩短SVM分类器的训练时间,特别适用于样本较多、支持向量较多、非有界支持向量较多的情况.

无线传感器网络簇内优化的最小跳数路由算法

对无线传感器路由协议的发展过程进行了简要的概述,结合无线传感器节点能量有限的特点,在已有的分层网络模式下,通过对最小跳数路由算法的优化,将其应用于分层网络中的簇内路由,使传感器节点仅需记忆自己唯一的转发节点就可将数据转发至簇头节点,同时引入能量水平这一参数,对低能量节点进行了有效的保护。实验结果表明,此方法能够有效地达到节省节点能量和延长网络寿命的目标。

回归支持向量机的改进序列最小优化学习算法

支持向量机(support vector machine,简称SVM)是一种基于结构风险最小化原理的学习技术,也是一种新的具有很好泛化性能的回归方法,提出了实现回归支持向量机的一种改进的SMO(sequential minimal optimization)算法,给出了两变量子优化问题的解析解,设计了新的工作集选择方法和停止条件,仿真实例说明,所提出的SMO算法比原始SMO算法具有更快的运算速度.

支持向量机改进序列最小优化学习算法

为提高支持向量机序列最小优化学习算法的学习性能,提出了一种支持向量机改进序列最小优化学习算法,对传统SMO学习方法进行了多方面改进,从优化变量的选择和2个变量的优化方法分别提出具体可行的改进方法.改进后的SMO学习算法提高了学习速度,加快了网络收敛速度.基于改进SMO算法的仿真结果验证了改进SMO算法的有效性和优越性,并通过仿真,与原始算法进行了比较,显示了改进SMO算法的快速性.

电容器串联电抗消除谐振的最大值最小优化

针对变电站并联电容器合理的串联电抗率，建立了适用于220 kV 和110 kV 变电站的全参数谐波电路和模型。该模型包含变电站短路阻抗、变压器、电容器、负荷以及谐波源，提出了以负荷母线谐波电压放大倍数等反映谐振程度的目标函数。采用最大值最小优化方法，使目标函数在全部电网状态空间中的最大值通过调整电容器串联电抗率优化后达到最小，并对电容器电抗率的技术经济性进行了分析。计算结果表明：12%电抗率消除谐振的效果最好，并具有普适性；4.2%~4.5%电抗率的消除谐振效果其次，但具有更好技术经济价值，适应于大多数的220 kV 和110 kV 变电站。

一种训练支撑向量机的改进贯序最小优化算法

对于大规模问题,分解方法是训练支撑向量机主要的一类方法.在很多分类问题中,有相当比例的支撑向量对应的拉格朗日乘子达到惩罚上界,而且在训练过程中到达上界的拉格朗日乘子变化平稳.利用这一统计特性,提出了一种有效的缓存策略来加速这类分解方法,并将其具体应用于Platt的贯序最小优化(sequential minimization optimization,简称SMO) 算法中.实验结果表明,改进后的SMO算法的速度是原有算法训练的2~3倍.

优化极限学习机的序列最小优化方法

针对传统二次规划求解方法训练优化极限学习机(OMELM)存在速度慢和效率低的问题,提出了单变量迭代序列最小优化(SSMO)算法.该算法通过在框式约束中优化拉格朗日乘子来实现目标函数的最小化:首先在初始化拉格朗日乘子中选择使目标函数值下降最大的拉格朗日乘子,将该拉格朗日乘子作为目标函数的唯一变量;然后求解目标函数的最小值并更新该变量的值;重复这个过程直到所有的拉格朗日乘子都满足二次规划问题的Karush-Kuhn-Tucker条件为止.实验结果表明:SSMO算法只需调节很少的参数值便可得到足够好的泛化性能;采用SSMO算法的OMELM方法在泛化性能上要好于采用序列最小优化算法的支持向量机方法;在随机数据集测试中,SSMO算法具有较好的鲁棒性.

改进工作集选择策略的序贯最小优化算法

针对标准序贯最小优化(sequential minimal optimization,SMO)算法采用可行方向工作集选择策略所带来的缓存命中率低下问题,给出了SMO类型算法每次迭代所带来的目标函数下降量的二阶表达式,并据此提出了一种改进的工作集选择策略.新策略综合考虑算法收敛所需的迭代次数及缓存效率,从总体上减少了核函数计算次数,因此极大提高了训练效率,并且,它在理论上具有严格的收敛保障.实验结果表明,核函数越复杂,样本维度越高,缓存容量相对训练样本的规模越小,改进工作集选择策略的SMO算法相较于标准SMO算法的性能提高就越显著.

一种改进的支持向量机序列最小优化算法

提出一种改进的序列最小优化算法,它在选取工作集时选取优化步长最大的违反KKT条件的样本和其配对样本,并且对求解过程进行简化,从而使训练过程速度更快。实验表明,该算法是有效、可行的。

一种改进的序贯最小优化算法

序贯最小优化(SMO)算法是目前解决支持向量机训练问题的一种十分有效的方法,但是当面对大样本数据时,SMO训练速度比较慢。本文分析了SMO迭代过程中目标函数值的变化情况,进而提出以目标函数值的改变量作为算法终止的判定条件。几个著名的数据集的试验结果表明,该方法可以大大缩短SMO的训练时间,特别适用于大样本数据。