针对结构化的非凸非光滑优化问题,提出了一种改进的惯性近端交替方向乘子法(Modified Inertial Proximal Alternating Direction Method of Multipliers, MID-PADMM)。该问题在多个领域,包括机器学习、信号处理和经济学中具有重要应用...针对结构化的非凸非光滑优化问题,提出了一种改进的惯性近端交替方向乘子法(Modified Inertial Proximal Alternating Direction Method of Multipliers, MID-PADMM)。该问题在多个领域,包括机器学习、信号处理和经济学中具有重要应用。现有算法在处理这类问题时,往往面临收敛速度慢或无法保证收敛的挑战。为了克服这些限制,引入了一种双重松弛项,以增强算法的鲁棒性和灵活性。理论分析表明,MID-PADMM算法在适当的条件下能够实现全局收敛,并且具有O(1/k)的迭代复杂度,其中k代表迭代次数。数值实验结果表明,与现有的状态最优算法相比,MID-PADMM在多个实例中展现出更快的收敛速度和更高的求解质量。展开更多
传统的无网格压缩感知在进行波达方向(Direction of Arrival,DOA)估计时,使用凸优化工具箱(如CVX)来求解半正定规划问题(Semi-Definite Programming,SDP),所消耗的时间会随着矢量水听器阵列规模的增加,逐渐增大。为了提高算法的收敛速度...传统的无网格压缩感知在进行波达方向(Direction of Arrival,DOA)估计时,使用凸优化工具箱(如CVX)来求解半正定规划问题(Semi-Definite Programming,SDP),所消耗的时间会随着矢量水听器阵列规模的增加,逐渐增大。为了提高算法的收敛速度,将交替方向乘子法(Alternative Direction Method of Multiplier,ADMM)应用到矢量水听器阵列的DOA估计中,考虑到海洋环境噪声,使用原子范数去噪方法(Atomic Norm Soft Thresholding,AST)来估计线谱参数,将原子范数最小化问题(Atomic Norm Minimization,ANM)转化为SDP问题,使用ADMM对SDP问题进行求解,最后使用对偶多项式估计角度。为了验证ADMM算法的性能,在不同信噪比和矢量阵元数条件下,与快速求根多重信号分类(Root-Multiple Signal Classification,ROOTMUSIC)算法和CVX进行对比仿真实验。结果表明,ADMM在保证DOA估计模型收敛性的同时,提高了算法效率。展开更多
为解决交替方向乘子法(alternating direction method of multipliers,ADMM)正则化极限学习机(regularized extreme learning machine,RELM)迭代收敛速度慢和迭代后期误差衰减停滞的问题,提出一种基于动态步长ADMM的正则化极限学习机,记...为解决交替方向乘子法(alternating direction method of multipliers,ADMM)正则化极限学习机(regularized extreme learning machine,RELM)迭代收敛速度慢和迭代后期误差衰减停滞的问题,提出一种基于动态步长ADMM的正则化极限学习机,记为VAR-ADMM-RELM.该算法在ADMM算法的基础上采用动态衰减步长进行迭代,并同时使用L1和L2正则化对模型复杂度进行约束,解得具有稀疏性和鲁棒性的极限学习机输出权重.在UCI和MedMNIST数据集中对VAR-ADMM-RELM、极限学习机(extreme learning machine,ELM)、正则化极限学习机(regularized ELM,RELM)和基于ADMM的L1正则化ELM(ADMMRELM)进行拟合、分类和回归对比实验.结果表明,VAR-ADMM-RELM算法的平均分类准确率和平均回归预测精度分别比ELM算法提升了1.94%和2.49%,较标准ADMM算法可以取得3~5倍的速度提升,且对异常值干扰具有更好的鲁棒性和泛化能力,在高维度多样本的场景下建模效率逼近标准极限学习机.该方法有效提升了ADMM算法的收敛速度,取得了比主流ELM算法更加优秀的性能表现.展开更多
空间正则化相关滤波算法跟踪过程中仅采用手工特征表征目标,高斯-赛德尔方法训练滤波器的复杂度高,跟踪结果不可靠时仍逐帧更新模型,导致跟踪效果不佳。针对空间正则化相关滤波算法存在的问题,提出深度特征目标感知交替方向乘子法(Alter...空间正则化相关滤波算法跟踪过程中仅采用手工特征表征目标,高斯-赛德尔方法训练滤波器的复杂度高,跟踪结果不可靠时仍逐帧更新模型,导致跟踪效果不佳。针对空间正则化相关滤波算法存在的问题,提出深度特征目标感知交替方向乘子法(Alternating Direction Method of Multipliers,ADMM)优化多指标更新相关滤波跟踪算法。该算法融入预训练网络提取的深度特征,并依回归损失的梯度信息进行通道选择,增强了对目标的表征能力;采用交替方向乘子法训练相关滤波器,降低算法复杂度,提升跟踪速度;根据多指标更新方法判断是否进行模型更新,不但提升了算法运行效率,而且避免了因学习到错误信息而导致的模型腐败。实验结果表明,所提算法的成功率、精确度在数据集OTB2015上均优于其它8种对比算法,且在复杂场景下具有更强的跟踪鲁棒性。展开更多
针对目标函数中包含耦合函数H(x,y)的非凸非光滑极小化问题,提出了一种线性惯性交替乘子方向法(Linear Inertial Alternating Direction Method of Multipliers,LIADMM)。为了方便子问题的求解,对目标函数中的耦合函数H(x,y)进行线性化...针对目标函数中包含耦合函数H(x,y)的非凸非光滑极小化问题,提出了一种线性惯性交替乘子方向法(Linear Inertial Alternating Direction Method of Multipliers,LIADMM)。为了方便子问题的求解,对目标函数中的耦合函数H(x,y)进行线性化处理,并在x-子问题中引入惯性效应。在适当的假设条件下,建立了算法的全局收敛性;同时引入满足Kurdyka-Lojasiewicz不等式的辅助函数,验证了算法的强收敛性。通过两个数值实验表明,引入惯性效应的算法比没有惯性效应的算法收敛性能更好。展开更多
蜂巢状有源配电网是一种通过规模化链接微网群,实现大规模分布式可再生能源高效接入的新型配网形态。针对蜂巢状配电网中微网群与互联基站协调运行机制复杂的难题,提出一种以系统运行成本最小为目标,基于多分块交替方向乘子法(block-wis...蜂巢状有源配电网是一种通过规模化链接微网群,实现大规模分布式可再生能源高效接入的新型配网形态。针对蜂巢状配电网中微网群与互联基站协调运行机制复杂的难题,提出一种以系统运行成本最小为目标,基于多分块交替方向乘子法(block-wise alternating direction method of multipliers,BADMM)的分布式优化调度策略,有效克服了多基站与多微网之间协调运行的挑战。首先根据拓扑结构建立蜂巢状配电网的优化数学模型,然后以智能功率/信息交换基站为中心将蜂巢状配电网划分为多个区域,每个基站协调同步计算与其相邻微网的优化问题。最后通过算例验证了所提策略的有效性和收敛性,为大规模微网群的经济优化调度提供了参考。展开更多
文摘针对结构化的非凸非光滑优化问题,提出了一种改进的惯性近端交替方向乘子法(Modified Inertial Proximal Alternating Direction Method of Multipliers, MID-PADMM)。该问题在多个领域,包括机器学习、信号处理和经济学中具有重要应用。现有算法在处理这类问题时,往往面临收敛速度慢或无法保证收敛的挑战。为了克服这些限制,引入了一种双重松弛项,以增强算法的鲁棒性和灵活性。理论分析表明,MID-PADMM算法在适当的条件下能够实现全局收敛,并且具有O(1/k)的迭代复杂度,其中k代表迭代次数。数值实验结果表明,与现有的状态最优算法相比,MID-PADMM在多个实例中展现出更快的收敛速度和更高的求解质量。
文摘传统的无网格压缩感知在进行波达方向(Direction of Arrival,DOA)估计时,使用凸优化工具箱(如CVX)来求解半正定规划问题(Semi-Definite Programming,SDP),所消耗的时间会随着矢量水听器阵列规模的增加,逐渐增大。为了提高算法的收敛速度,将交替方向乘子法(Alternative Direction Method of Multiplier,ADMM)应用到矢量水听器阵列的DOA估计中,考虑到海洋环境噪声,使用原子范数去噪方法(Atomic Norm Soft Thresholding,AST)来估计线谱参数,将原子范数最小化问题(Atomic Norm Minimization,ANM)转化为SDP问题,使用ADMM对SDP问题进行求解,最后使用对偶多项式估计角度。为了验证ADMM算法的性能,在不同信噪比和矢量阵元数条件下,与快速求根多重信号分类(Root-Multiple Signal Classification,ROOTMUSIC)算法和CVX进行对比仿真实验。结果表明,ADMM在保证DOA估计模型收敛性的同时,提高了算法效率。
文摘空间正则化相关滤波算法跟踪过程中仅采用手工特征表征目标,高斯-赛德尔方法训练滤波器的复杂度高,跟踪结果不可靠时仍逐帧更新模型,导致跟踪效果不佳。针对空间正则化相关滤波算法存在的问题,提出深度特征目标感知交替方向乘子法(Alternating Direction Method of Multipliers,ADMM)优化多指标更新相关滤波跟踪算法。该算法融入预训练网络提取的深度特征,并依回归损失的梯度信息进行通道选择,增强了对目标的表征能力;采用交替方向乘子法训练相关滤波器,降低算法复杂度,提升跟踪速度;根据多指标更新方法判断是否进行模型更新,不但提升了算法运行效率,而且避免了因学习到错误信息而导致的模型腐败。实验结果表明,所提算法的成功率、精确度在数据集OTB2015上均优于其它8种对比算法,且在复杂场景下具有更强的跟踪鲁棒性。
文摘针对目标函数中包含耦合函数H(x,y)的非凸非光滑极小化问题,提出了一种线性惯性交替乘子方向法(Linear Inertial Alternating Direction Method of Multipliers,LIADMM)。为了方便子问题的求解,对目标函数中的耦合函数H(x,y)进行线性化处理,并在x-子问题中引入惯性效应。在适当的假设条件下,建立了算法的全局收敛性;同时引入满足Kurdyka-Lojasiewicz不等式的辅助函数,验证了算法的强收敛性。通过两个数值实验表明,引入惯性效应的算法比没有惯性效应的算法收敛性能更好。
文摘蜂巢状有源配电网是一种通过规模化链接微网群,实现大规模分布式可再生能源高效接入的新型配网形态。针对蜂巢状配电网中微网群与互联基站协调运行机制复杂的难题,提出一种以系统运行成本最小为目标,基于多分块交替方向乘子法(block-wise alternating direction method of multipliers,BADMM)的分布式优化调度策略,有效克服了多基站与多微网之间协调运行的挑战。首先根据拓扑结构建立蜂巢状配电网的优化数学模型,然后以智能功率/信息交换基站为中心将蜂巢状配电网划分为多个区域,每个基站协调同步计算与其相邻微网的优化问题。最后通过算例验证了所提策略的有效性和收敛性,为大规模微网群的经济优化调度提供了参考。