一种自适应选取步长的随机交替方向乘子法

本文研究了具有可分离变量的凸随机优化问题,提出了一种新的随机交替方向乘子(ADMM)算法。该算法是ADMM与自适应选取步长的随机缩减梯度算法(SVRG-BB)的结合,利用BB步长实现了SVRG-ADMM方法自适应选取步长,而无需再使用递减步长或者手动调节步长。在一般的假设条件下,证明了算法的收敛性。 最后给出相关数值实验表明了算法的有效性。

通过随机排序的交替方向乘子法的矩阵恢复

为了解决交替方向乘子法(ADMM)在求解广义的鲁棒主成分分析(G-RPCA)模型时结果不收敛的问题,提出用随机排序的交替方向乘子法(RP-ADMM)来求解这一模型,并且通过数值模拟和实例验证证明了该算法的有效性。结果表明,该算法求解G-RPCA模型较目前已有的算法速度更快、鲁棒性更高;在处理同时被稀疏大噪声和稠密小噪声污染的图片时,能较理想地分离出图像的低秩部分、大噪声部分和小噪声部分。

基于交替方向乘子法的球磨机负荷分布式随机权值神经网络模型

针对传统集中式机器学习处理大规模数据存在通信开销大、算法时间和空间复杂度高等问题,基于交替方向乘子法(ADMM),提出一种球磨机负荷分布式随机权值神经网络建模方法,局部网络节点采用正则化随机权值功能连接RVFL网络,全局球磨机负荷模型参数采用分布式优化学习ADMM方法交替迭代更新求解。实验结果表明,基于ADMM-RVFL的球磨机负荷模型在计算速度和精度方面具有相对优越性。

求解可分离凸优化问题的惯性近似松弛交替方向乘子法

基于交替方向乘子法(ADMM)提出了一种求解可分离凸优化可行问题的惯性近似松弛交替方向乘子法(IPR-ADMM)。新构造的算法不仅具有提高算法收敛性的优势的惯性外推项,而且引入随机变量以随机加速新步长,从而提高算法的灵活性。并在适当的假设下,证明了算法的全局迭代收敛性。数值实验结果表明,数据维数取值越大,算法收敛越快,越趋于稳定,且IPRADMM算法的收敛性明显优于扩展的邻近交替方向法(ePADM)。

基于广义近似交替方向乘子法求解可分离凸优化问题

本文提出了一种广义近似交替方向乘子法(gPADMM)来求解可分离凸优化问题。和近似邻近点算法(APPA)和扩展邻近交替方向方法(ePADM)相比,新算法不仅更新自定义矩阵的结构,而且引入随机变量进行随机加速更新步长,从而克服了旧算法固定步长的不灵活性。在某些适当的假设条件下,本文证明了新算法的全局收敛性,并且初步数值实验表明该算法是有效的,收敛速度比旧算法更快。

随机椭圆最优控制问题的随机配置方法

本文讨论求解随机系数泊松方程约束最优控制问题的有效数值方法.通过应用有限元方法和随机配置法,将原最优控制问题离散转化为最优化问题,再利用交替方向乘子法求解最优化问题.之后,对所提出的算法进行了收敛性分析,并通过数值实验验证了算法的有效性.

n比特随机量子系统实时状态估计及其反馈控制

研究了n比特随机量子系统实时状态估计及其反馈控制的问题.对于连续弱测量(Continuous weak measurement, CWM)过程存在高斯噪声的情况,基于在线交替方向乘子法(Online alternating direction multiplier method,OADM)推导出一种适用于n比特随机量子系统的实时量子状态估计算法,即QSE-OADM (Quantum state estimation based on OADM).运用李雅普诺夫方法设计控制律,实现基于实时量子状态估计的反馈控制,并证明所提控制律的收敛性.以2比特随机量子系统为例进行数值仿真实验,通过与基于QST-OADM (Quantum state tomography based on OADM)算法和OPG-ADMM (Online proximal gradient-based alternating direction method of multipliers)算法的量子反馈控制方案的性能对比,验证了所提控制方案的优越性.

基于IR-ADMM组合技术对地震随机噪声的压制

稀疏表示是一种现行有效的随机噪声压制方法,常采用交替方向乘子法逐道分解地震信号,但实际应用中交替方向乘子法计算效率高但精度不足,难以满足高保真地震数据处理的要求。通过结合迭代重加权和交替方向乘子法2种算法,提出了一种新的基于迭代重加权交替方向乘子法的联合稀疏表示方法,兼具收敛速度快和重建精度高的优点。共偏移距道集地震数据具有水平同相轴结构,满足共稀疏性条件,将联合稀疏表示算法应用于共偏移距道集就能够利用信号的空间相干性,提高去噪算法性能。理论和实际资料试算结果表明,所提算法具有较好的应用效果。

基于联合稀疏表示的共偏移距道集随机噪声压制方法

受多解性和单道信号处理方法制约,传统基于稀疏表示的一维随机噪声压制方法面临着单道数据处理方法没有考虑有效信号的空间相关性,去噪的同时会损害有效波,以及稀疏表示算法具有多解性,相邻地震道处理结果差异大,难以适应信号空间变化的问题。叠前共偏移距道集中各波形均为水平同相轴,具有相同的双程旅行时间,各道信号具有相同的支撑。在该道集中利用联合稀疏表示进行随机噪声压制处理,能够兼顾信号的道间相干性和空间变化,降低算法的多解性,参与计算的各道在同一条件下获得最优稀疏表示,因此处理结果具有较好的一致性。数值模拟和实际资料试算结果表明,该方法不仅可以实现随机噪声的压制,而且可以很好地保持有效信号,具有良好的应用效果。

求解结构型优化问题的随机步长的新LADMM算法

考虑求解等带式约束结构型优化问题.在新线性化交替方向乘子法(NLADMM)的基础上,将延长因子改为利用随机数生成,提出了带随机步长的NLADMM,并证明了新算法的收敛性.

求解结构型优化问题的随机步长ADMM下降算法

本文考虑求解带有两块变量的结构型凸优化问题.ADMM算法是求解该问题的一种经典算法,主要思想是在増广拉格朗日乘子算法的基础上,利用目标函数关于两块变量的可分性,降低了子问题的计算难度.ADMM下降算法是ADMM算法的一种改进,对部分变量利用最优步长外加一个固定的延长因子进行延长,以加快ADMM算法的收敛速度.数值实验结果表明,ADMM下降算法比ADMM算法收敛速度更快.根据徐海文提出的随机步长收缩算法的思想,我们在ADMM下降算法的基础上,将延长因子改为利用随机数生成,提出了带随机步长的ADMM下降算法,并证明了新算法的收敛性.初步数值实验结果,表明新算法的计算效率优于经典ADMM算法和ADMM下降算法,且新算法的计算效率对问题规模的增长有更好的尺度适应性.

考虑风电不确定性的多区电力系统分散式随机调度方法

在考虑风电出力不确定性的基础上研究了多区域电网分散式优化问题。首先,对区域边界共享节点进行复制以实现互联电网的解耦,然后,基于场景法对风电随机性进行建模,构建区域电网两阶段随机优化模型,最后,采用同步型交替方向乘子法(Synchronous Alternating Direction Method of Multipliers,SADMM)交替求解全网分散优化问题和区域两阶段随机优化问题。采用修改的新英格兰39节点系统构建3区域互联电网进行仿真测试,验证了所提模型能够有效应对风电的随机不确定性,并实现各区域电网调度的分散自治。

低秩张量填充的随机算法

以高精度低秩张量填充算法为基础,引入随机的思想,提出了一种新的低秩张量填充算法.该算法在每次迭代过程中,只对张量随机产生的某个模进行展开,奇异值分解及折叠,减少了计算花费.最后,通过数值实验以及MRI图像填充证明新算法比HaLRTC及DR-TR算法更有效.

基于核随机逼近的概率风电预测方法

针对已有的参数化的风电概率预测方法存在的问题,即提前确定的预测模型不够精确导致预测性能不佳的问题,文中提出了一种基于核随机逼近和交替方向乘子法的非参数的概率风电预测方法,即基于核随机逼近的概率风电预测方法。在不预先假定真实预测模型的具体形式的情况下,该方法能逼近任何非线性预测模型。为了验证所提出方法的有效性和优越性,基于真实风电数据集,对所提出的方法以及参数化的方法就概率风电预测性能进行比较。实验结果显示前者的平均预测误差为0. 024 23,而后者的平均预测误差为0. 030 97,那么前者的预测性能优于后者,从而验证了所提出方法的有效性和优越性。

MIMO系统探通一体化信号矩阵设计方法

由于多输入多输出(MIMO)系统具有波形、空间分集和多路复用等优势,MIMO探通一体化(DFRC)系统通过共享软硬件资源以同时实现目标探测和保密通信功能受到了极大关注。该文针对基于预编码矩阵调制的MIMO探通一体化系统,提出了基于交替方向乘子(ADMM)的一体化信号矩阵设计方法。通过用户和窃听用户参考密码本约束下最大化方向图峰值主瓣旁瓣电平比(PMSR),保证了探测方向图性能的同时防止通信信息被窃听。针对预编码矩阵通信解调问题,提出了基于交替方向惩罚(ADPM)的排序学习优化解调方法,提升了一体化波形信息解调效率。数值仿真验证了所提设计方法实现探通一体化的有效性,与已有算法相比可实现多用户通信和更高的PMSR。

配电网与微电网群日前电能交易纳什议价方法

随着售电侧电力市场改革的不断深入,研究配电网与微电网群之间的电能交易问题对推动区域电网经济效益具有重要意义。针对此问题,本文研究提出了一种基于纳什议价的配电网与微电网群日前电能交易方法。该方法在充分考虑可再生能源发电和电力负荷波动对微电网电能交易调度影响的基础上,以配电运营商与微电网运营商在电网电价下的最优交易成本作为纳什议价的谈判破裂点,构建了配电运营商与多个微电网运营商分别独立议价的合作博弈模型。其合作博弈均衡的求解问题可转化为社会效益最大化和支付效益最大化两个连续子问题,并采用交替方向乘子法进行分步求解。最后,通过算例分析验证了所提方法对提升区域电网中电能交易主体经济效益的有效性。

计及风电随机性的跨区域电-气互联系统分散协调调控

针对风电出力强随机性和不同能源主体间信息私密性,影响跨区域能源合作协调调控问题,文章提出一种计及风电随机性的跨区域电-气互联系统(Cross-Regional Integrated Electricity-Gas System,CRIEGS)分散协调调控策略。首先,介绍CRIEGS内、外双层结构及跨区协调特点,并基于交替方向乘子法(Alternating Direction Method of Multipliers,ADMM)和节点撕裂法在联络管线和耦合元件处实现系统分解,利用场景法表征风电出力随机性;然后,以各个能源主体运行成本的期望值最小为目标,构建CRIEGS日前优化调控模型,并采用了变惩罚参数的交替迭代方式,分别对非线性交流潮流模型、潘汉德尔修正稳态潮流模型进行线性化处理;最后,通过多个算例对所提CRIEGS分散分布式协调调控策略的有效性进行验证。

Lasso问题的最新算法研究

随着大规模数据的增加,解决Lasso问题成为一个新的热点,以往的方法很难满足大数据背景下的时间和效率问题。为了解决大规模数据及高维数据而带来的计算和储存的困难,本文从三个方面分析最新的算法,即一阶方法、随机方法及并行和分布计算。本文介绍和分析了解决最小收缩和选择算子(Least absolute shrinkage and selection operator,Lasso)问题的最新算法:梯度下降方法、交替方向乘子法(Alternating direction method of multipliers,ADMM)和坐标下降方法。其中梯度下降结合一阶方法和Nesterov的加速和光滑技术;交替方向乘子方法将随机方法融入在最新的算法中;坐标下降方法利用其坐标系的特点结合一阶方法、随机方法和并行和分布计算,本文分别从原始目标函数和对偶目标函数的角度对算法进行分析和研究。

随机Bregman ADMM及其在训练具有离散结构的支持向量机中的应用

针对具有多块可分结构的非凸优化问题提出了一类新的随机Bregman交替方向乘子法,在周期更新规则下,证明了该算法的渐进收敛性;在随机更新的规则下,几乎确定的渐进收敛性得以证明。数值实验结果表明,该算法可有效训练具有离散结构的支持向量机。

基于光滑化L1正则项的随机配置网络

为了提高随机配置网络(stochastic configuration networks,SCN)的泛化能力,提出一种适用于SCN的光滑化L1正则化方法.针对L1正则化算子局部不可微的缺陷,在曲线不光滑点的邻域内进行光滑处理,并在此基础上构建SCN的光滑误差函数,提出增量计算权值的算法,进而以交替方向乘子法为基础给出权值的全局优化算法并且在理论上分析算法的收敛性.与L1正则化的稀疏性和L2正则化均匀减小参数的特点相比,所提出方法按重要程度保留数据的全部特征,使参数既保持在较小的范围内又具有层次分明的分布,从而使网络具有更好的泛化能力.最后,通过数值仿真实验验证了所提出方法的可行性和有效性.