多层局部块坐标下降法及其驱动的分类重构网络

卷积稀疏编码(Convolutional sparse coding,CSC)已广泛应用于信号或图像处理、重构和分类等任务中,基于深度学习思想的多层卷积稀疏编码(Multi-layer convolutional sparse coding,ML-CSC)模型的多层基追踪(Multi-layer basic pursuit,ML-BP)问题和多层字典学习问题成为研究热点.但基于傅里叶域的交替方向乘子法(Alternating direction multiplier method,ADMM)求解器和基于图像块(Patch)空间域思想的传统基追踪算法不能容易地扩展到多层情况.在切片(Slice)局部处理思想的基础上,本文提出了一种新的多层基追踪算法:多层局部块坐标下降(Multi-layer local block coordinate descent,ML-LoBCoD)算法.在多层迭代软阈值算法(Multi-layer iterative soft threshold algorithm,ML-ISTA)和对应的迭代展开网络ML-ISTA-Net的启发下,提出了对应的迭代展开网络ML-LoBCoD-Net.ML-LoBCoD-Net实现信号的表征学习功能,输出的最深层卷积稀疏编码用于分类.此外,为了获得更好的信号重构,本文提出了一种新的多层切片卷积重构网络(Multi-layer slice convolutional reconstruction network,ML-SCRN),ML-SCRN实现从信号稀疏编码到信号重构.我们对这两个网络分别进行实验验证.然后将ML-LoBCoD-Net和ML-SCRN进行级联得到ML-LoBCoD-SCRN合并网,同时实现图像的分类和重构.与传统基于全连接层对图像进行重建的方法相比,本文提出的ML-LoBCoD-SCRN合并网所需参数少,收敛速度快,重构精度高.本文将ML-ISTA和多层快速迭代软阈值算法(Multilayer fast iterative soft threshold algorithm,ML-FISTA)构建为ML-ISTA-SCRN和ML-FISTA-SCRN进行对比实验,初步证明了所提出的ML-LoBCoD-SCRN分类重构网在MNIST、CIFAR10和CIFAR100数据集上是有效的,分类准确率、损失函数和信号重构结果都优于ML-ISTA-SCRN和ML-FISTA-SCRN.

基于块坐标下降法的有砟轨道大机捣固维修经济决策模型及算法

为了更好地利用检修数据指导轨道维修决策计划,在预防性维修理念下提出1种基于块坐标下降法的有砟轨道大机捣固维修经济决策模型及算法。考虑多种捣固模式下不同的捣固效果和相应成本,以轨道质量年末保持值和维修经济成本为决策目标,结合大机养修效率和现场实际条件,建立大机捣固维修经济决策模型;采用块坐标下降算法,以并行计算为主要思路并通过聚类算法调整捣固区段的连续性,实现最佳捣固模式、捣固时机和捣固区段的高效求解。依托某120 km·h~(-1)、50 km试验区段在某年份的实测数据,验证模型及算法有效性。结果表明:依据模型及算法得出的维修计划,采用09-32型捣固车开展单捣、双捣2种捣固模式后,每年可较实际平推捣固计划分别节省18%和15%的费用,改良型大机捣固质量指数MTQI的年末平均值从实际平推捣固计划的6.5 mm分别降低约0.80和1.35 mm;模型及算法能够快捷有效地制定符合线路实际的大机捣固维修计划,不仅实现了大机作业的连续捣固,还较大幅度提升了捣固维修的经济性。

基于块坐标下降法的神经网络学习算法

针对当前一阶优化算法收敛速度慢,对学习率依赖性强和二阶优化方法复杂度高等问题,利用神经网络固有的可分性,提出递归最小二乘与梯度下降的混合算法(Hybrid Recursive Least-Squares with Stochastic Gradient Descent, HRLSGD),将原本复杂的网络模型分解为更易解决的低维优化问题。实验结果表明,HRLSGD的收敛速度优于主流的一阶优化算法,对于学习率的鲁棒性更高。

基于块坐标下降法的微网群日前联合优化调度

文章顾及微网群调度中心和微电网用户两类主体,建立一类含多个并列下层双层规划结构的微网群联合优化调度模型,上层以微网群调度中心总运行成本最小为优化目标,下层以各微电网用户运行成本最低为优化目标。首先,通过增广拉格朗日松弛法将原双层规划模型松弛;用块坐标下降法将松弛问题分解为多个子问题;然后,通过基于块坐标下降-不精确嵌套乘子法的双层循环求解模型,逐次逼近原问题的全局最优解;采用由松至紧的内循环容限值,以避免内循环计算代价过大的问题。算例的验证结果表明,文章所提的基于块坐标下降-不精确嵌套乘子法的双层循环求解模型,能有效求解微网群双层优化调度模型,为此类优化调度问题提供新的并行求解模式。

超密集网络中基于BCD的联合频谱资源优化方法

针对超密集网络(ultra dense network,UDN)中基站密集部署导致的严重层间干扰问题,构建了考虑频谱复用和共信道干扰条件下最大化系统总吞吐量问题模型,提出了一种基于块坐标下降(block coordinate descent,BCD)法的联合频谱资源优化(joint resource optimization based on BCD,JROBB)方法。该方法将原问题分解为分簇、子信道分配和功率分配三个子问题,通过BCD法迭代优化子信道分配和功率分配,逼近原问题的最优解。仿真分析表明,在复杂度提升有限的情况下,系统总吞吐量比现有典型算法平均至少提升22%,可以有效提升频谱利用率。

自适应步长带回代的邻近分块乘子极小化算法

本文考虑求解带线性约束的多块凸优化问题,其中的目标函数有一项不可分离。对于目标函数中存在不可分离项,晁绵涛等人将块坐标下降法与交替方向乘子法相结合提出了PBMM-MS算法,并通过数值实验验证了其有效性。本文对PBMM-MS算法进行改进,提出了自适应步长带回代的邻近分块乘子极小化算法,该算法结合了步长的自适应调整技术,使步长在迭代过程中自动调整,提高了算法的计算效率。对于提出的算法,我们证明了其收敛性。

多无人机辅助通信中用户匹配与频谱资源联合优化方法

针对多无人机作为空中基站为地面设备提供临时服务的动态频谱分配问题,主要考虑无人机与地面用户匹配、子信道分配和功率分配三个方面。为了保证用户通信的公平性,在考虑频谱复用和共信道干扰的情况下,以最大化地面用户最小传输速率为目标,提出了一种用户匹配与频谱资源联合优化算法来解决上述混合整数非线性优化问题,通过聚类算法优化无人机与地面用户的最佳匹配,通过块坐标下降法迭代优化子信道分配和功率分配。仿真实验分析表明,提出的求解方法可以有效提升用户的传输速率,保证用户通信公平性。

交替方向块稀疏信号快速重构算法

研究模型压缩感知中的块稀疏信号重构问题.在l2/l1模型基础上,提出一种基于交替方向法的块稀疏信号重构算法.在该算法中,首先对目标函数进行变量分裂,然后利用交替方向法对各变量进行交替更新,直至满足收敛条件.仿真实验中,将该算法与块正交匹配追踪和块压缩采样匹配追踪算法进行比较,结果表明该算法能够在保持高重构精度的前提下获得更快的计算速度.

稀疏性正则化非负矩阵分解的在线学习方法

针对非负矩阵分解效率低的不足,提出一种基于在线学习的稀疏性非负矩阵分解的快速方法.通过对目标函数添加正则化项来控制分解后系数矩阵的稀疏性,将问题转化成稀疏表示的字典学习问题,利用在线字典学习算法求解目标函数,并对迭代过程的矩阵更新进行转换,采取块坐标下降法进行矩阵更新,提高算法收敛速度.实验结果表明,该方法在有效保持图像特征信息的同时,运行效率得到提高.

基于干扰辅助下的多监听器COMP联合监听技术

在无线通信领域,COMP联合通信因其能够显著增强信号质量被广泛运用。考虑利用COMP技术提升物理层信息监听性能,文中采取多个合法监听器对多个正交的可疑通信对进行联合监听,并进一步利用无人机对这些可疑通信对实施干扰,旨在联合优化无人机的位置以及干扰功率分配,以最大化多个可疑通信对的最小监听成功概率。文中使用蒙特卡罗法验证了COMP信噪比的累积分布函数(CDF)近似值和精确值,鉴于提出的优化问题高度非凸,采用连续凸近似和块坐标下降算法对无人机的位置和干扰功率分配进行交替优化,以获取局部最优解。仿真结果表明,相较于其他方案,所提出的方案能够显著提升系统最小监听成功概率。

多UAV辅助反向散射边缘计算网络能耗优化方案

为了改善通信过程中由于遮挡导致信号衰落及设备能量不足以支撑大数据传输的问题,提出一种多无人机(Unmanned Aerial Vehicle,UAV)辅助反向散射边缘计算(Mobile Edge Computing,MEC)网络能耗优化方案。该方案根据UAV与反向散射辅助MEC系统模型构建非凸优化问题,利用块坐标下降法(Block Coodinate Descent,BCD)和变量替换将非凸优化问题转化为凸问题,再利用拉格朗日对偶算法和次梯度算法对该凸问题进行迭代求解。基于连续凸近似(Successive Convex Approximation,SCA)算法优化UAV轨迹,以最小化用户设备与UAV的能耗加权和。仿真结果表明,所提方案在不同参数下均有效可靠,与固定所有UAV轨迹、固定通信UAV轨迹、固定功率UAV轨迹等3种方案相比,所提方案能够有效降低系统能耗。

基于相同稀疏模式的稀疏主成分分析算法

稀疏主成分分析是一种用于降维和特征选择的无监督方法。由于计算多个主成分时主载荷向量间不具有相同的稀疏模式,导致难以从原始特征空间中确定出对主成分贡献最大的小部分变量,为解决此问题,提出一种自适应稀疏主成分分析(Adaptive sparse principal component analysis,ASPCA)算法。首先使用组套索模型,通过在载荷向量上施加块稀疏约束得出自适应稀疏主成分分析公式,随后对稀疏矩阵的不同列使用不同的调整参数获得自适应惩罚,最后运用块坐标下降法对自适应稀疏主成分分析公式进行两阶段优化,从而找到稀疏载荷矩阵和正交矩阵,实现降维的最优化。对稀疏主成分分析(Sparse principal component analysis,SPCA)算法、结构化且稀疏的主成分分析(Structured and sparse principal component analysis,SSPCA)算法和ASPCA算法进行仿真比较,结果表明ASPCA算法的降维性能更优,能提取更有价值的特征,从而显著提高了分类模型的平均分类准确率。

基于块稀疏快速重构的MISO活跃用户集与信道联合估计

针对多用户多输入单输出(Multiple input single output,MISO)系统的用户选择与信道估计问题,引入基于用户分布式自选择的信道接入策略,设计一种新的结合该策略的时分双分复用(Time division duplex,TDD)模式数据传输帧结构。利用用户活跃模式自然稀疏性和信道冲激响应时延域稀疏性,将基站接收上行随机导频序列建模为块稀疏线性模型。基于凸松弛的l2/l1模型提出一种快速的块稀疏重构算法求解问题模型。算法首先对目标函数进行变量分裂,然后利用交替方向法对各变量进行交替更新,直至满足收敛条件。交替更新中,对于无法获得闭式解的信号变量项,采取块坐标下降法求解。计算机仿真表明,与块正交匹配追踪和块压缩采样匹配追踪比较,新算法能够在保持高重构精度的前提下获得更快的计算速度。

D2D毫米波通信中基于多变量联合优化的吞吐量提升算法

为了提升设备直连(device-to-device, D2D)的毫米波通信系统的吞吐量,提出基于多变量联合优化的吞吐量提升(multi-variable joint optimization-based throughput improvement, MJTI)算法。MJTI算法将共享同一子信道的D2D对形成一个联盟,以最大化联盟速率之和为联盟收益。先构建关于联盟形成、定向天线波束转向角设置和最佳传输功率的目标问题。然后,采用块坐标下降法将目标问题分解成3个子问题。再分别利用联盟博弈、拉格朗日乘法和内点法求解。最后,通过仿真数据分析联盟数、D2D对数和天线增益对吞吐量的影响。仿真数据表明,相比于随机方式形成联盟,MJTI算法的吞吐量平均提升约15%。

面向隐蔽侦察任务的无人机中继通信频谱资源优化方法

战场环境下,无人机因其自身辐射被敌侦收而产生安全威胁,并容易对其他通信网络产生干扰。为提高无人机安全执行战场侦察任务时的侦察信息传输速率,提出面向隐蔽侦察任务的无人机中继通信频谱资源优化方法,通过功率控制避免被敌方反侦测,并利用无人机中继增大系统通信速率,通过频谱资源优化达到无有害干扰通信的目的。同时提出了基于块坐标下降法与连续凸近似法相结合的频谱资源联合优化算法,通过对带宽分配、发射功率和无人机轨迹等变量的联合优化获得次优解。仿真结果表明:与基准策略相比,联合优化算法具有更高的信息传输速率。

基于非负张量分解的投资组合策略

有效提取股票价格时间序列中股票对之间的相互依赖关系能够提高投资组合的收益率。采用基于块坐标下降法的非负张量分解技术从股票价格时间序列中提取复杂关系,构建预测距离矩阵来代替原有的相关系数矩阵,提出基于非负张量分解的投资组合策略。选取2019—2021年中证100指数数据进行实证分析,实验结果表明:基于非负张量分解的投资组合策略具有较高的可行性,且在股市动荡时期表现要优于等权重和市值加权投资组合。

无人机辅助通信的联合功率分配和轨迹规划研究

为了提高系统传输性能和频谱利用效率,基于设备对设备直连通信系统的无人机辅助通信系统频谱共享规划,将无人机作为中继为远距离设备进行信息传输,提出了一种基于块坐标下降法的功率分配和轨迹优化算法,采用双凸差分规划研究固定无人机轨迹下的功率优化问题,提出了两步轨迹优化方法解决固定功率下的轨迹优化问题.该算法在满足信息因果约束,系统传输功率约束和无人机和地面点对点共存通信的约束下,最大化接收方的吞吐量.仿真结果表明:该算法在多种情况下均能具备有效性且能够有效优化接收方的吞吐量.

基于移动边缘计算的无人机资源分配及轨迹优化

传感器网络中传感器设备计算能力有限,且不方便收集处理其存储的信息。针对这个问题,提出一种传感器网络中无人机支持下的移动边缘计算系统,且对无人机设计一种动态任务缓存模型。提出一种基于天牛群算法的块坐标下降法来提高无人机的能耗效率,并引入Cubic映射和Levy飞行改进天牛群算法得到最优的无人机轨迹。实验结果表明,与其他能耗控制方法相比,该方法提高了无人机的能耗效率,进而提高整个移动边缘计算系统的收益。

基于正则化秩k矩阵逼近的稀疏主成分分析

在计算稀疏主成分(PCs)时,由于同时求k个主成分的做法可以减少计算所产生的累积误差,因此提出了基于正则化秩k矩阵逼近的稀疏主成分模型,并设计了求解该模型的块坐标下降法(BCD-s PCA-r SVD)。该算法的主要思想是先把变量按坐标分成2k个块,当固定其他2k-1个坐标块的变量时,求解关于单个坐标块的子问题并给出子问题的显式解,循环地求解这些子问题直至满足终止条件。该算法每次迭代的计算复杂度关于样本个数与变量维数都是线性的,并且证明了它是收敛的。该算法不仅易于实现,数值仿真结果表明,该算法应用到真实数据与合成数据上都是可行且有效的。它不仅使累积误差降低,而且具有较低的计算复杂度,因而可以有效地求解大规模稀疏主成分分析问题。

A Coordinate Gradient Descent Method for Nonsmooth Nonseparable Minimization

This paper presents a coordinate gradient descent approach for minimizing the sum of a smooth function and a nonseparable convex function.We find a search direction by solving a subproblem obtained by a second-order approximation of the smooth function and adding a separable convex function.Under a local Lipschitzian error bound assumption,we show that the algorithm possesses global and local linear convergence properties.We also give some numerical tests(including image recovery examples) to illustrate the efficiency of the proposed method.