一种求解低秩矩阵补全的修正加速近端梯度算法

设计适应大规模数据的快速算法是求解低秩矩阵补全的重点。文章改变了加速近端梯度算法的步长,对近似函数的近端最优点和上一迭代点增加了一个仿射组合。通过控制仿射系数,能够使得到的新迭代点有靠近原函数的趋势,进而能在保持算法精度的同时提高算法效率。最后通过相应的数值实验证明了算法的有效性和稳定性。

一类分式优化问题的带非单调线搜索的近端梯度次梯度算法研究

本文主要研究一类分式优化问题,其中分子是凸非光滑连续函数与非凸光滑函数的和,分母为凸 非光滑函数。 首先给出了问题的一阶最优性条件,然后给出了求解分式优化问题的新算法,即带 非单调线搜索的近端梯度次梯度算法(简称NL-PGSA)。此外,基于Kurdyka-L- ojasiewicz性质, 可以保证算法生成的整个序列的全局收敛性,最后,对l1/l2稀疏信号恢复问题进行了数值实验,验 证了该算法的有效性。

基于近端梯度下降算法展开的盲图像去模糊方法

目前在盲图像去模糊任务中,深度学习技术已展现出卓越的性能。然而,当前多数方法主要聚焦于启发式网络架构的构建,而对模糊核与清晰图像之间物理生成机制的显式嵌入关注不足。这在一定程度上限制了方法对不同模糊核的通用性和模型的可解释性。为克服这一局限性,提出一种创新的模型驱动深度神经网络。通过迭代算法精确求解盲图像去模糊的优化模型,并将迭代步骤巧妙地嵌入相应的网络模块中,从而实现网络学习过程与盲图像去模糊物理机制的深度融合。实验结果表明,所提出的方法在准确性和通用性方面均显著优于现有的代表性盲图像去模糊技术,能够有效应对各种模糊类型,为盲图像去模糊研究提供了新的思路和方法。

具有双重松弛项的改进惯性近端交替方向乘子法在结构化非凸和非光滑问题中的应用

针对结构化的非凸非光滑优化问题,提出了一种改进的惯性近端交替方向乘子法(Modified Inertial Proximal Alternating Direction Method of Multipliers, MID-PADMM)。该问题在多个领域,包括机器学习、信号处理和经济学中具有重要应用。现有算法在处理这类问题时,往往面临收敛速度慢或无法保证收敛的挑战。为了克服这些限制,引入了一种双重松弛项,以增强算法的鲁棒性和灵活性。理论分析表明,MID-PADMM算法在适当的条件下能够实现全局收敛,并且具有O(1/k)的迭代复杂度,其中k代表迭代次数。数值实验结果表明,与现有的状态最优算法相比,MID-PADMM在多个实例中展现出更快的收敛速度和更高的求解质量。

基于压缩感知的加速近端梯度下降法

运用图像处理技术对卫星、侦察机和无人机侦察获取的图像进行校正和去噪等处理,可以提高战场环境影像和打击目标图像清晰度,有利于提升战场侦察监视效能。基于压缩感知技术能够以远小于奈奎斯特采样率从少量的测量值中重构出原信号的基本原理,提出了一种基于压缩感知的加速近端梯度下降(DAPG)图像去噪重构算法,并证明了该算法的收敛性。试验结果表明,与4种传统算法相比,该算法重构的图像有效提高了清晰度,其目标特征更加明显。

分块凸-非凹极小极大问题的交替近端梯度算法

本文提出一种单循环分块交替近端梯度算法求解分块凸-非凹的极小极大优化问题。在该算法的每次迭代中,采用近端梯度法交替更新目标函数中的各个变量。从理论上证明了算法达到ε-稳定点需要的迭代复杂度是O(ε-4),这是求解分块凸-非凹的极小极大优化问题的首个带复杂度的单循环算法。

基于近端梯度算法的协作拥塞策略

经典的协作拥塞策略忽略了目的节点端所受到的干扰信号,并使用了较多的中继数量和中继功率.为了减少中继总功耗和中继使用数量,同时保持较高的安全容量,文中在安全容量的优化问题中引入组稀疏惩罚,并采用近端梯度算法(PGA)进行求解,提出了基于PGA的协作拥塞策略.仿真结果表明,PGA算法能有效解出安全容量,通过调节惩罚因子的大小,可以在损失小部分安全容量的情况下,大大减少中继总功耗和中继使用数量,合理分配系统资源,提高中继使用效率.

降低多用户大规模MIMO-OFDM系统PAPR的加速近端梯度算法

针对多用户大规模多输入多输出(Multiple-Input Multiple-Output,MIMO)正交频分复用(Orthogonal Frequency Division Multiplexing,OFDM)系统存在较高峰值平均功率比(Peak-to-Average Power Ratio,PAPR)问题,在系统的下行链路中利用基站大量天线提供的冗余自由度,将OFDM调制、消除多用户之间干扰及降低PAPR联合成凸优化问题,并设计加速近端梯度算法(Accelerated Proximal Gradient Method,APGM)求解上述优化问题。仿真结果表明,所提方法显著降低了发射信号的峰均比,同时获得了较好的系统误符号率。与其他相关方法对比,APGM具有更低的计算复杂度和更快的收敛速度。

深度强化学习之近端策略优化研究

随着信息技术的不断发展,机器的智能化成为热点研究问题。深度学习能有效地提取出环境中的特征信息,强化学习能有效地提出行为策略,将二者进行融合形成深度强化学习是人工智能研究领域的必然趋势,多种深度强化学习算法也随之发展。其中近端策略优化算法稳定性好、采样率高,在连续控制问题中有良好表现,在飞行器及机器人控制、机器博弈、无人驾驶等领域得到广泛应用。围绕深度强化学习的发展历程,总结深度强化学习常用算法的分类及各个算法的特点,包括基于值函数的方法、基于策略的方法、基于模型的方法和基于分层的方法,并重点介绍近端策略优化算法的原理、优化路径,涉及加入分布式计算、改进优势函数、分层优化等方向及相关优化算法的适用场景。

哈达玛流形上的近端梯度法收敛性分析

本文在哈达玛流形上提出了近端梯度算法,并给出了收敛性分析。具体地说,我们将非凸非光滑问题的近端梯度法从欧氏空间推广到哈达玛流形上。在黎曼流形上存在着非线性的困难,我们根据哈达玛流形的特殊结构,给出了理论证明。

快速L1范数最小化算法的性能分析和比较

随着新兴压缩传感（Compressive Sensing，cs）理论的出现，使用L1范数最小化（L1-min）算法进行信号处理和优化成为近几年的热门课题．由于传统的求解方法对于大规模数据的处理效率很低，例如内点法，越来越多的快速L1－min算法被提出，这些算法在速度和处理效果上都各有优势．该文首先介绍了L1-min算法以及影响算法效率的主要因素，然后通过实验数据对五种快速L1－min算法在处理大规模数据时的性能进行分析和客观评价。

再生核Hilbert空间中两阶段稀疏表示目标跟踪算法

在强干扰复杂环境下,有效的特征选择对于目标跟踪模型的可解释性至关重要.针对这一问题,本文基于再生核Hilbert空间(RKHS)理论,对特征空间构建生成式的两阶段稀疏表示(TSSR)模型,从而描述图像样本与字典之间的非线性关系,避免了在字典中引入大量的琐碎模板.在第1阶段,首先建立图像样本与字典在原始低维空间中的关系,然后利用批处理最小二乘算法求得稀疏表示系数的初值,根据观测模型确定初始跟踪位置的分布;在第2阶段,首先利用核方法将原始低维空间映射到高维特征空间,然后提出一种基于核的加速近端梯度算法(KAPG),从而求得字典元素系数的核稀疏表示,最终确定跟踪目标.最后实验结果证明了本文所提出的TSSR方法在面对视角变化和部分遮挡时的有效性.

鲁棒性主成分分析算法综述

对低秩矩阵中的存在的鲁棒性主成分分析进行综述,并分析该存在的优化模型及其优化算法,并分析这些不同的优化方法存在的优缺点以及可能的应用领域,最后指出该模型进一步的研究方向。

一种使用Bi-ADMM优化深度学习模型的方案

ADMM算法被广泛应用于传统机器学习模型优化领域,它解决了某些深度学习的优化问题。该算法在优化深度学习模型方面的表现已经超过了大多数基于梯度的优化算法,而Bi-ADMM算法比ADMM算法的收敛速度更快、更稳定。文章提出了一种优化深度学习模型方案dlBi-ADMM算法,并用该算法来训练深度学习模型。首先,文章采用加速近端梯度算法优化耦合变量来降低矩阵求逆运算的复杂度;然后,详细给出每个变量的优化子问题的具体函数;最后,通过实验证明文章所提dlBiADMM算法优化的结果比dlADMM优化的结果更能提高模型的精度,且dlBi-ADMM算法比dlADMM算法在时间效率上表现更好。

基于改进对偶分解的智能电网快速实时定价方法

实时电价是需求侧管理策略的重要手段,是解决智能电网供需平衡的理想需求响应机制,能起到削峰填谷的作用。为此,为智能电网设计了一种分布式实时电价算法:基于改进对偶分解的近端中心算法,求解用户总效用与电能供应商成本之差最大的优化问题。在此算法中,对偶问题的拉格朗日乘子即为实时电价,通过迭代更新拉格朗日乘子,形成电能供应商的实时电价与用户的实时能耗水平之间的互动,算法最终为每个用户找到最优的能耗水平(即用户的总效用最大化),同时使得电能供应商的成本最小化。所提算法既保留了问题的可分离性,又加快了收敛速度,克服了基于对偶分解的次梯度法求解该优化问题在用户规模较大时收敛慢甚至不收敛的缺点。仿真结果充分表明了所提算法具有快速收敛的特性。

基于多任务学习的炼钢终点预测方法

钢水质量通常根据终点命中率来判断,但炼钢过程影响因素众多,机理分析难以准确预测终点温度和含碳量,鉴于此,提出一种由数据驱动的多任务学习(MTL)炼钢终点预测方法。首先,分析并提取炼钢过程的输入和输出要素,结合炼钢两阶段吹炼特点选择多个子学习任务;其次,根据子任务与终点参数的相关性选择合适的子任务,提升终点预测的准确度并构建多任务学习模型,再对模型输出结果进行二次优化;最后,通过近端梯度算法对处理后的生产数据进行模型训练,获取多任务学习模型的过程参数。以某钢厂为案例,该方法相比神经网络在终点温度12℃误差范围内和终点含碳量0.01%误差内的准确度提升了10%,误差范围6℃和0.005%的预测准确度分别提升了11%和7%。实验结果表明,多任务学习在实际中能够提升终点预测的准确性。

基于低秩矩阵恢复的去噪方法在石油测井中的应用

随着测井技术的发展,各大油田采集和存储的测井数据量呈井喷式增长,并存在大量冗余和噪声,在进行油气层识别前必须对测井数据进行压缩和去噪等预处理。低秩矩阵恢复(Low-Rank Matrix Recovery,LRMR)理论将压缩感知(Compressed Sensing,CS)中向量样例的稀疏表示推广到矩阵的低秩情形,从较大但稀疏的误差中恢复出本质上低秩的数据矩阵,可更好地保持数据结构,提高去噪效果。因此将低秩矩阵恢复理论中的去噪方法应用于石油测井中,实现对测井数据的去噪处理。对比研究了加速近端梯度算法(Accelerate Proximal Gradient,APG)、精确增广拉格朗日乘子(Exact Augmented Lagrange Multipliers,EALM)法和非精确增广拉格朗日乘子法(Inexact Augmented Lagrange Multipliers,IALM)在测井数据中的去噪效果,对去噪前后的测井数据分别采用支持向量机(Support Vector Machine,SVM)和相关向量机(Relevance Vector Machine,RVM)进行油气层识别,结果表明,与不去噪情况相比,利用三种算法进行去噪处理后油气层识别精度都有了显著提升。通过参数优化减少迭代次数,可使得IALM算法在运算时间上优于EALM算法和APG算法,明显提高了运算效率。

基于快速加权l_1范数最小化的FBG信号去噪方法

光纤布拉格光栅(FBG)信号去噪是实际FBG传感系统的核心问题。现有的方法可以达到较高的信噪比,但不能保证较低的峰值位置漂移,这是FBG传感系统的关键。文章提出了一种基于快速加权l_1范数最小化的FBG信号去噪方法,该方法基于加速近端梯度算法,具有低DPP的特点,去噪后峰值位置几乎不变。仿真结果表明,该算法具有快速高效的去噪效果,对参数选择具有较强的鲁棒性,而且文章算法只涉及基本运算操作,易于应用在实际处理系统中。

一种应用于高阶数据修复的非负稀疏Tucker分解算法

针对传统的张量填充算法对于不满足低秩条件的张量填充效果难以保证,本文采用张量分解的方法实现缺失张量的修复,即对传统Tucker分解算法进行改造,在其目标函数中增加对核心张量和系数矩阵的非负性以及核心张量的稀疏性约束,再利用凸优化理论中的交替近端梯度算法(APGM)对目标函数进行迭代寻优,在分解的同时实现缺失数据点的填充。医学图像、彩色图像和视频图像的修复结果表明,本文算法能够对高阶非负张量的缺失实现较好地修复,修复的视觉效果和技术指标都优于当前主流算法。