具有双重松弛项的改进惯性近端交替方向乘子法在结构化非凸和非光滑问题中的应用

针对结构化的非凸非光滑优化问题,提出了一种改进的惯性近端交替方向乘子法(Modified Inertial Proximal Alternating Direction Method of Multipliers, MID-PADMM)。该问题在多个领域,包括机器学习、信号处理和经济学中具有重要应用。现有算法在处理这类问题时,往往面临收敛速度慢或无法保证收敛的挑战。为了克服这些限制,引入了一种双重松弛项,以增强算法的鲁棒性和灵活性。理论分析表明,MID-PADMM算法在适当的条件下能够实现全局收敛,并且具有O(1/k)的迭代复杂度,其中k代表迭代次数。数值实验结果表明,与现有的状态最优算法相比,MID-PADMM在多个实例中展现出更快的收敛速度和更高的求解质量。

基于拉格朗日乘子法的防空武器编组方法

针对舰艇防空作战中各型防空武器分组配置及协同运用问题,提出了基于拉格朗日待定乘子法求解被拦截目标数学期望的方法,归纳构建了舰艇防空武器协同作战的数学模型,推导了舰艇防空武器数学期望计算过程,给出了不同类型防空武器作战效能计算方法,基于改进的拉格朗日乘子法求解了拦截来袭目标的数学期望。结合典型舰艇防空作战想定进行仿真计算,得出了不同类型舰艇防空武器的最佳配置,仿真结果表明提出的方法正确可行。

基于等效松弛与交替方向乘子法的岸电系统优化调度

船舶在不同系泊方式下岸电系统电气参数频繁变化,同时岸电能量优化时存在目标函数非光滑、约束条件非线性、非凸等问题,通过引入辅助变量实现目标函数非光滑项的等效松弛,利用半正定规划与交替方向乘子法实现船舶在不同接线方式下的最优调度,满足安全性与经济性保障。算例仿真表明,所提方法针对船舶径向连接与多船并靠连接混合模态共存条件下均表现突出,对于异构岸电系统共存的实际应用场景具备较好的工程实用性。

基于动态步长交替方向乘子法正则化极限学习机

为解决交替方向乘子法(alternating direction method of multipliers,ADMM)正则化极限学习机(regularized extreme learning machine,RELM)迭代收敛速度慢和迭代后期误差衰减停滞的问题,提出一种基于动态步长ADMM的正则化极限学习机,记为VAR-ADMM-RELM.该算法在ADMM算法的基础上采用动态衰减步长进行迭代,并同时使用L1和L2正则化对模型复杂度进行约束,解得具有稀疏性和鲁棒性的极限学习机输出权重.在UCI和MedMNIST数据集中对VAR-ADMM-RELM、极限学习机(extreme learning machine,ELM)、正则化极限学习机(regularized ELM,RELM)和基于ADMM的L1正则化ELM(ADMMRELM)进行拟合、分类和回归对比实验.结果表明,VAR-ADMM-RELM算法的平均分类准确率和平均回归预测精度分别比ELM算法提升了1.94%和2.49%,较标准ADMM算法可以取得3~5倍的速度提升,且对异常值干扰具有更好的鲁棒性和泛化能力,在高维度多样本的场景下建模效率逼近标准极限学习机.该方法有效提升了ADMM算法的收敛速度,取得了比主流ELM算法更加优秀的性能表现.

交替方向乘子法的矢量水听器DOA估计方案

传统的无网格压缩感知在进行波达方向(Direction of Arrival,DOA)估计时,使用凸优化工具箱(如CVX)来求解半正定规划问题(Semi-Definite Programming,SDP),所消耗的时间会随着矢量水听器阵列规模的增加,逐渐增大。为了提高算法的收敛速度,将交替方向乘子法(Alternative Direction Method of Multiplier,ADMM)应用到矢量水听器阵列的DOA估计中,考虑到海洋环境噪声,使用原子范数去噪方法(Atomic Norm Soft Thresholding,AST)来估计线谱参数,将原子范数最小化问题(Atomic Norm Minimization,ANM)转化为SDP问题,使用ADMM对SDP问题进行求解,最后使用对偶多项式估计角度。为了验证ADMM算法的性能,在不同信噪比和矢量阵元数条件下,与快速求根多重信号分类(Root-Multiple Signal Classification,ROOTMUSIC)算法和CVX进行对比仿真实验。结果表明,ADMM在保证DOA估计模型收敛性的同时,提高了算法效率。

惯性对称交替方向乘子算法

在本文中提出一种惯性对称交替方向乘子法求解两分块凸极小化优化问题,文章中证明了所提算法收敛到原问题的最优解,最后通过数据分析,验证所提算法的有效性和优越性。

基于改进交替方向乘子法的配电网柔性负荷分层集群调控方法

可调负荷、电动汽车等各种负荷侧资源快速发展,对其进行精准调控是目前重要的研究热点。为充分发挥配电网柔性负荷的调节能力,提出一种基于改进交替方向乘子法的配电网柔性负荷分层集群调控方法。首先,采用综合层次聚类算法对柔性负荷进行分层集群;其次,基于纳什谈判理论,将原问题分解为成本最小化和收益分配2个子问题,建立配电网柔性负荷集群调控模型;然后,引入自适应变参数加速因子,提出改进的交替方向乘子法;最后,通过模拟算例验证所提方法的有效性。结果表明,所提方法能够有效实现大规模柔性负荷接入情况下的集群调控,收敛性能较常规方法有所提高。

深度特征目标感知交替方向乘子法优化多指标更新相关滤波跟踪算法

空间正则化相关滤波算法跟踪过程中仅采用手工特征表征目标,高斯-赛德尔方法训练滤波器的复杂度高,跟踪结果不可靠时仍逐帧更新模型,导致跟踪效果不佳。针对空间正则化相关滤波算法存在的问题,提出深度特征目标感知交替方向乘子法(Alternating Direction Method of Multipliers,ADMM)优化多指标更新相关滤波跟踪算法。该算法融入预训练网络提取的深度特征,并依回归损失的梯度信息进行通道选择,增强了对目标的表征能力;采用交替方向乘子法训练相关滤波器,降低算法复杂度,提升跟踪速度;根据多指标更新方法判断是否进行模型更新,不但提升了算法运行效率,而且避免了因学习到错误信息而导致的模型腐败。实验结果表明,所提算法的成功率、精确度在数据集OTB2015上均优于其它8种对比算法,且在复杂场景下具有更强的跟踪鲁棒性。

基于改进交替方向乘子法的电-气综合能源系统优化调度

在电-气综合能源系统分布式优化调度中,非线性非凸的Weymouth方程给问题求解带来了巨大挑战。一方面,目前许多研究采用二阶锥松弛Weymouth方程,较为复杂;另一方面,主流分布式算法即交替方向乘子法(ADMM)的计算效率并不高。对此,该文提出一种精确近似的Weymouth方程线性化模型和多参数规划改进ADMM算法以解决上述两个问题。Weymouth方程线性化模型基于泰勒展开,利用一簇切线松弛Weymouth方程。特别地,增加了惩罚项以收紧松弛间隙,通过变量替换的方法减少切线的数量,并给出了一种有效的切线选取方法。对于多参数规划改进ADMM算法,其通过多参数规划得到子问题最优解的解析式。迭代过程中,若参数落在临界域内,可直接将参数代入最优解解析式获得子问题的最优解,无需求解子问题,提高了迭代速度。此外,该文还对多参数规划中难以避免的退化问题进行了处理,提升了算法的通用性。最后在两个不同规模的系统中验证了Weymouth方程线性化模型的精确性和多参数规划改进ADMM算法的高效性。

向量格中关于拉格朗日乘子存在性的证明

通过研究向量格中的Hahn-Banach定理,利用线性算子扩张的一般结果,进一步给出向量格中拉格朗日乘子存在性的证明.

单侧障碍问题的交替方向乘子法

基于最优罚参数的交替方向乘子算法可用于一类单侧障碍自由边界问题的数值求解。单侧障碍问题经过差分离散化后转变为有限维互补问题。表示区域位移的辅助变量和增广Lagrangian函数的引入将原问题等价转化为鞍点问题,然后交替方向乘子算法可用于求解。对此算法的辅助变量进行消除,可导出交替方向乘子算法的纯对偶算法,进而进行收敛分析和最优罚参数的讨论。数值算例结果验证了该算法的可靠性和有效性。

分裂可行性问题的外推加速线性交替方向乘子法及其全局收敛性

针对在图像重建以及语言处理系统等领域有着广泛应用的分裂可行性问题(SFP)的最优化求解,提出了外推加速线性交替方向乘子法。首先将SFP描述为一个具有线性约束的可分离凸极小化问题;然后引进外推线性交替方向乘子法,利用问题的可分离结构,产生了具有闭式解的子问题,并在适当条件下证明了该算法的全局收敛性;最后,通过数值实验验证了该算法的可行性和有效性。

拉格朗日乘子法的数学解释

本文简单回顾拉格朗日乘子法的产生的历史背景,并为其提供了一种新的数学解释.我们指出,拉格朗日乘子法将为求点到平面距离问题推广到了非线性规划求解问题.

基于多分块交替方向乘子法的蜂巢状配电网分布式优化调度

蜂巢状有源配电网是一种通过规模化链接微网群,实现大规模分布式可再生能源高效接入的新型配网形态。针对蜂巢状配电网中微网群与互联基站协调运行机制复杂的难题,提出一种以系统运行成本最小为目标,基于多分块交替方向乘子法(block-wise alternating direction method of multipliers,BADMM)的分布式优化调度策略,有效克服了多基站与多微网之间协调运行的挑战。首先根据拓扑结构建立蜂巢状配电网的优化数学模型,然后以智能功率/信息交换基站为中心将蜂巢状配电网划分为多个区域,每个基站协调同步计算与其相邻微网的优化问题。最后通过算例验证了所提策略的有效性和收敛性,为大规模微网群的经济优化调度提供了参考。

广义乘子法求解构造变分问题的神经网络方法

边界条件的施加是求解偏微分方程定解问题的重要步骤。神经网络方法求解偏微分方程定解问题时,将原问题转化为对应的构造变分问题后,损失函数是包含控制方程与边界条件的泛函。采用经典罚函数法及其改进方法施加边界条件时,罚因子的取值直接影响计算精度和求解效率;直接采用Lagrange乘子法施加边界条件,计算结果可能偏离原问题最优解。为破解此局限性,使用广义乘子法施加边界条件。基于神经网络获得原问题的预测解,再使用广义乘子法构建神经网络的损失函数并计算损失值,利用梯度下降法进行参数寻优,判断损失值是否满足要求;不满足则更新罚因子与乘子后再进行求解直至损失满足要求。数值算例的计算结果表明:与采用经典罚函数法、L1精确罚函数法和Lagrange乘子法施加边界条件构造的神经网络相比,该文提出的方法具有更好的数值精度和更高的求解效率,且求解过程更加稳定。

基于改进交替方向乘子法的输配电网分散协调鲁棒优化调度模型

随着分布式可再生能源大量接入主动配电网,输配电网间的耦合日益密切,由此面临的可再生能源出力不确定性和集中式调度带来的海量通讯等问题,使得输配电网的协调调度迎来巨大挑战。在考虑电力低碳化发展要求的基础上,计及碳捕集电厂低碳与调峰特性,提出基于改进交替方向乘子法的输配电网分散协调两阶段鲁棒优化调度模型。首先,采用凸多面体不确定集合描述风电出力的不确定性,构造含碳捕集电厂的输配协同两阶段鲁棒优化调度模型。进而,通过基于交替方向乘子法,并嵌套列和约束生成算法的循环迭代方法,对输配电网进行解耦和迭代求解。最后,在2个规模不同的算例系统上进行仿真分析。结果表明,所提方法在降低计算规模的同时提高了求解效率,实现了输配电网的完全分散自治,有效缓解了可再生能源并网带来的调峰压力。

应用于异常事件检测的深度交替方向乘子法网络

针对大规模无线传感器网络(WSN)中的事件检测问题(EDP),传统的方法通常依赖先验信息,阻碍了实际应用。该文为EDP提出了一种基于深度学习的算法,称为交替方向乘子法网络(ADMM-Net)。首先,采用低秩稀疏矩阵分解来建模事件的时空相关性。之后,EDP被表述为一个带约束的优化问题并用交替方向乘子法(ADMM)求解。然而,优化算法收敛慢且算法的性能依赖于对先验参数的仔细选择。该文基于深度学习中“展开”的概念,提出了一种用于EDP的深度神经网络ADMM-Net。通过“展开”ADMM算法的方式得到。ADMM-Net具有固定层数,其参数可以通过监督学习训练获得。无需先验信息。相比于传统算法,提出的ADMM-Net收敛快且不需先验信息。人造数据集和真实数据集的仿真结果验证了ADMM-Net的有效性。

Dirichlet空间的乘子代数

为进一步完善Dirichlet空间理论,运用内函数和外函数研究了Dirichlet空间乘子代数的数学结构:首先,得到Dirichlet空间的乘子代数与交集代数、Dα代数之间的包含关系;然后,研究Dα代数、Dirichlet空间的乘子代数、交集代数的内函数和外函数应具有的特征;最后,获得乘子代数外函数的一个商分解定理。

对数Bloch空间上的乘子和循环元

对α∈R,定义α-对数Bloch空间为BL^(α)={f∈H(D):‖f‖L^(α)=sup_(z∈D)(1-|z|^(2))(loge/1-|z|^(2))^(α)|f’(z)|<∞}.该文研究了α-对数Bloch空间上的点乘子和循环元,给出了当α,β≠1时,点乘空间M(BL^(α),BL^(β))的刻划,也给出了α-对数Bloch空间上循环元的一些性质.特别地,当α>1时,f是BL^(α)的循环元当且仅当f在闭单位圆盘上没有零点.

基于交替方向乘子法的单天线ADS-B信号分离

广播式自动相关监视(automatic dependent surveillance-broadcast,ADS-B)系统是一种针对空中交通管理的监视系统。然而,由于ADS-B信号传输的随机性不可避免地导致多个ADS-B信号之间的重叠。传统的单天线Capon算法由于频率估计误差导致算法性能下降,针对以上问题提出了一种非频率估计的ADS-B信号分离算法。首先,基于矩阵重构,将单天线ADS-B信号分离问题重新表述成一个与Capon算法类似,但是约束条件完全不同的非凸优化问题。然后,针对该非凸优化问题,使用了交替方向乘子法求解了该非凸优化问题。仿真结果表明,当非重叠的数据的长度大于1μs时,提出的算法就能有效地分离出重叠的单天线ADS-B信号。此外,即使在Capon算法已知重叠信号的频率精确而所提算法未知的情况下,所提算法的性能也优于Capon算法。