一类自适应梯度裁剪的差分隐私随机梯度下降算法

梯度裁剪是一种防止梯度爆炸的有效方法,但梯度裁剪参数的选取通常对训练模型的性能有较大的影响。为此,本文针对标准的差分隐私随机梯度下降算法进行改进。首先,提出一种自适应的梯度裁剪方法,即在传统裁剪方法基础上利用分位数和指数平均策略对梯度裁剪参数进行自适应动态调整,进而提出一类自适应梯度裁剪的差分隐私随机梯度下降算法。其次,在非凸目标函数的情况下对提出的自适应算法给出收敛性分析和隐私性分析。最后,在MNIST、Fasion-MNIST和IMDB数据集上进行数值仿真。其结果表明,与传统梯度裁剪算法相比,本文提出的自适应梯度裁剪算法显著提高了模型精度。

基于梯度下降算法和动量因子的醇基燃料锅炉燃烧温度非线性控制方法

醇基燃料锅炉燃烧温度与控制参数之间的关系不是简单的线性关系,增加了控制的难度,提出基于梯度下降算法和动量因子的醇基燃料锅炉燃烧温度非线性控制方法。建立醇基燃料锅炉的气流三维流动方程,确定燃烧速率、实际温度与期望温度之间的差值以及差值变化率等温度非线性控制参数。搭建燃烧温度控制的模糊神经PID控制器,采用梯度下降算法和动量因子对PID神经网络的权值展开训练,将所得温度非线性控制参数输入训练后的模糊神经PID控制器,实现醇基燃料锅炉燃烧温度非线性控制。实验结果表明,所提方法对于燃烧速率、实际温度与期望温度之间的差值以及差值变化率计算结果精准,温度控制精度高,温度变化率低,燃料能源利用率高,实际应用效果好。

卷积神经网络中基于差分隐私的动量梯度下降算法

针对卷积神经网络(CNN)模型的训练过程中,模型参数记忆数据部分特征导致的隐私泄露问题,提出一种CNN中基于差分隐私的动量梯度下降算法(DPGDM)。首先,在模型优化的反向传播过程中对梯度添加满足差分隐私的高斯噪声,并用加噪后的梯度值参与模型参数的更新过程,从而实现对模型整体的差分隐私保护;其次,为了减少引入差分隐私噪声对模型收敛速度的影响,设计学习率衰减策略,改进动量梯度下降算法;最后,为了降低噪声对模型准确率的影响,在模型优化过程中动态地调整噪声尺度的值,从而改变在每一轮迭代中需要对梯度加入的噪声量。实验结果表明,与DP-SGD(Differentially Private Stochastic Gradient Descent)相比,所提算法可以在隐私预算为0.3和0.5时,模型准确率分别提高约5和4个百分点。可见,所提算法提高了模型的可用性,并实现了对模型的隐私保护。

一种修正学习率的梯度下降算法

近年来,随着神经网络的广泛应用,梯度下降算法成为神经网络调整参数的核心优化算法。随着SGDM、AdaGrad、RMPprop、Adam等算法被提出,神经网络的性能有了极大的提升。为改善Adam算法由极端学习率引起的泛化能力较差问题,利用梯度的指数加权平均对Adam算法中学习率进行修正,提出了MonAdam算法。通过在线学习框架,说明MonAdam算法具有O(√T)的遗憾界。经过大量实验在多种非凸函数和深度神经网络模型中将MonAdam算法与其他算法进行对比,结果表明该算法收敛性较好。

特征值与梯度下降算法

文中以特征值为工具,讨论了求解无约束优化问题的梯度下降法的步长和收敛速度的一些性质,并利用特征值解释了数据的标准化为何能提高最小二乘线性回归的收敛速度.

随机梯度下降算法研究进展

在机器学习领域中,梯度下降算法是求解最优化问题最重要、最基础的方法.随着数据规模的不断扩大,传统的梯度下降算法已不能有效地解决大规模机器学习问题.随机梯度下降算法在迭代过程中随机选择一个或几个样本的梯度来替代总体梯度,以达到降低计算复杂度的目的.近年来,随机梯度下降算法已成为机器学习特别是深度学习研究的焦点.随着对搜索方向和步长的不断探索,涌现出随机梯度下降算法的众多改进版本,本文对这些算法的主要研究进展进行了综述.将随机梯度下降算法的改进策略大致分为动量、方差缩减、增量梯度和自适应学习率等四种.其中,前三种主要是校正梯度或搜索方向,第四种对参数变量的不同分量自适应地设计步长.着重介绍了各种策略下随机梯度下降算法的核心思想、原理,探讨了不同算法之间的区别与联系.将主要的随机梯度下降算法应用到逻辑回归和深度卷积神经网络等机器学习任务中,并定量地比较了这些算法的实际性能.文末总结了本文的主要研究工作,并展望了随机梯度下降算法的未来发展方向.

一种基于混合误差梯度下降算法的过程神经网络训练

针对过程神经网络(PNN)单一训练算法自适应调整能力差、缺乏对学习性质有效控制的问题,提出一种梯度下降与牛顿迭代相结合的求解算法——混合误差梯度下降算法.在训练初始阶段,基于网络训练目标函数,采用梯度下降法进行迭代寻优,只需计算目标函数一阶导数数值公式,复杂度低且误差下降快;当梯度下降法学习效率降低时,引入牛顿迭代法,并将梯度下降法的训练结果作为初始参数代入目标函数,使问题转化为求解非线性方程组,不需要一维搜索而提高网络训练效率.通过学习效率分析自适应调节两种算法的切换,直至满足停机条件.将其应用于时变信号模式分类,实验结果表明,该算法较大地提高PNN训练效率.

基于BP神经网络梯度下降算法的7003铝合金热处理工艺优化

为有效缩短7003铝合金热处理工艺,采用误差回转(BP)神经网络控制的方案,利用梯度下降法导出网络算法,建立热处理工艺与硬度之间BP神经网络模型。结果表明:预测值和实测值吻合较好,克服了以往单因素实验法不能正确有效反映热处理工艺和硬度之间高度非线性、时变性的弱点。该方法为有效、快捷、经济地开发有色金属和黑色金属的热处理工艺优化提供了新的思路。

随机并行梯度下降算法在激光束整形中的应用

为了满足高光束质量要求,校正激光束在传输过程中产生的波前畸变,改善激光位相分布,进而提高聚焦光斑的能量集中度,基于79单元微机械薄膜变形镜(MMDM)搭建了一套激光束整形实验系统。利用随机并行梯度下降(SPGD)算法,分别选择聚焦光斑半径、形心为中心的环围能量比和质心为中心的环围能量比作为算法性能指标,开展了激光束整形实验研究。3种情况下,分别经过58次、197次、133次迭代趋于收敛,但光斑半径作为性能指标时振荡严重;环围能量比从整形前的0.200 5、0.127 7、0.200 5分别增加到整形后的0.669 9、0.733 9、0.864 0。实验结果表明:MMDM用于激光束整形具有良好的效果,光斑半径作为性能指标整形速度最快,其次为质心环围能量比,形心环围能量比最慢;质心环围能量比作为性能指标整形效果最好,其次为形心环围能量比,光斑半径最差。综合比较,质心环围能量比作为性能指标时综合效果最好。

基于Zernike模式的随机并行梯度下降算法的收敛速率

为了加快控制变形镜进行波前整形的随机并行梯度下降(SPGD)算法的收敛速率,提高实时波前整形能力,本文利用由12阶Zernike多项式构成的畸变波前和32单元变形镜建立了仿真模型。基于Zernike多项式的单位正交性,得到了两个常数矩阵,当斯特列尔比(SR)达到0.8时,需要算法迭代660次,简化了算法的运算过程,加快了算法运行时间。通过Matlab7.8.0对6种SPGD算法进行仿真对比,结果显示:当SR要求不高时,可使用间接固定双边SPGD算法来提高收敛速度;当SR要求较高时,则应当使用间接自动双边SPGD算法。提出的算法为实际的激光整形提供了理论指导。

自适应光学系统随机并行梯度下降算法

随机并行梯度下降（SPGD）算法可以对系统性能指标直接优化来校正畸变波前。对基于SPGD算法的61单元自适应光学系统进行仿真模拟,分析了对不同初始静态畸变波前的校正能力,并比较了不同性能指标情况下的算法增益系数、扰动幅度值的选取及校正情况。仿真结果表明：算法收敛速度很大程度上依赖于增益系数和扰动幅度值,对畸变较大的波前,随机扰动幅度在0.50~0.85范围内,性能指标采用焦斑平均半径比采用斯特列尔比取得的校正效果好。

基于随机并行梯度下降算法的湍流像差校正仿真

随机并行梯度下降(SPGD)算法可不依赖波前探测直接优化系统性能指标来校正畸变波前。建立了基于随机并行梯度下降算法控制的61单元湍流校正仿真模型,实现了通过该算法控制倾斜镜和变形镜对湍流引起的像差的校正。结果发现,该算法能够找到补偿湍流像差所需的倾斜镜和变形镜的最优面形。采用SPGD算法控制,倾斜镜校正后,远场光斑质心更靠近轴心而且轴上斯特列尔比有所提高;倾斜镜和变形镜共同校正比变形镜单独校正的效果好,这也说明倾斜镜的校正是有效的。

自适应光学随机并行梯度下降算法波前整形规律仿真(英文)

本文首先介绍了基于Zernike模式的SPGD算法对大气湍流畸变波前的整形原理,通过推导得到了关于性能指标的简明表达式,使SPGD算法收敛速率得到明显提升。然后建立了自适应光学随机并行梯度下降算法波前整形系统模型,主要对SPGD算法收敛速率、整形能力和整形效果随波前畸变量和变形镜模型的变化规律作了较为详细的仿真研究,整体定性结果表明：三者的变化规律有一定的相似性,同时利用最小二乘法得到了关于整形能力和整形效果变化规律的定量表达式,若从自适应光学波前整形系统的实时性和简单性考虑,在保证一定整形效果的情况下,选择37单元变形镜对畸变波前的3~27（25）阶Zernike像差进行整形即可。

基于并行梯度下降算法模拟高功率固体激光装置的相干合成(英文)

多路光的相干合成是高功率固体激光装置的关键技术之一。基于合成模型,对4组tilt/tip-piston镜采用并行梯度算法,通过模拟计算实现了光束间的位相锁定和相干合成。结果表明有限次算法迭代次数内,相干合成时远场焦斑10μm半径范围内的强度比约为非相干合成时的4倍。基于高频响应驱动器和对应的高速控制算法将有可能实现高功率固体激光装置多路输出光束间的相干合成。

基于随机并行梯度下降算法的光束相干合成技术

介绍了随机并行梯度下降算法的基本原理,对算法流程进行了仿真验证,并对其中随机扰动幅度和增益系数两个关键参数进行了仿真分析。分析结果表明,这两个参数存在一个最适区间,只有在此区间内取值时算法才能有效收敛。以仿真分析为依据开展了光纤激光的相干合成实验,结果表明光束相干合成效果显著,有效地验证了仿真分析的结果。

基于Zernike模式的自适应光学系统随机并行梯度下降算法

控制算法的收敛速度一定程度上限制了无波前探测自适应光学技术在实时波前畸变校正中的应用。从理论分析角度提出将模式法和区域法结合起来以提高算法收敛速度,并以61单元变形镜为校正器,建立基于随机并行梯度下降算法自适应光学系统仿真模型。结果表明:达到同样的校正效果时,采用组合优化的算法收敛速度要明显优于基于区域法的收敛速度,从而验证了理论分析的合理性。

识别桥梁断面18个颤振导数的梯度下降算法

桥梁断面颤振导数识别问题可转化为最小二乘优化问题,提出了梯度下降算法求解该优化问题,提取桥梁主梁断面18个颤振导数。梯度下降算法在随机搜索过程中引入反馈机制,能够快速搜索到最优解,可用于系统参数识别,并且能够保证精度。采用该算法识别了苏拉马都大桥主梁断面18个颤振导数,并且与随机子空间方法识别结果进行对比分析。给出了现有弹簧悬挂系统自由振动方法识别桥梁断面颤振导数高风速时稳定性较差、侧向颤振导数识别精度相对较低的原因。试验方法是影响颤振导数识别精度的决定性因素,识别方法是相对次要因素。

ICA的梯度下降算法框架(英文)

为了设计更多有效的独立分量分析(ICA)算法,本文提出了ICA梯度下降算法(GDA)的一般框架,覆盖了许多目前流行的算法,如Infomax,MMI,MLE等等。该框架由一种新的基于II类超加(减)性函数的参比函数理论导出,并采用推广的EASI形式作为更新规则来获得更好的性能。同时本文也展示了一个基于二次熵函数的框架使用例子,并提出了其梯度的快速计算方法,最后仿真证明了它的有效性。实验结果表明,该框架非常实用,可作为开发更多有效ICA算法的有利工具。

梯度下降算法在时间同步中的优化

规模化无线传感网各节点时间同步的关键因素是提高节点间的同步精度和收敛速度。该文提出一种基于梯度下降法的多跳时间同步(GDTS)算法,采用梯度下降算法对误差函数的步长进行迭代更新,调整接收节点的逻辑时钟频率和偏移值,得到使误差函数最小化的逻辑时钟频率和偏移比值的最优估计值。数值分析和仿真结果表明,与FBTS和PISync两种算法对比,GDTS算法具有良好的可扩展性,收敛速度及同步精度性能上均有优化。

对“基于Python和梯度下降算法的物理实验数据一元线性拟合方法”稿件的评审意见

来稿作者在教学任务较繁重的情况下坚持开展教学研究,同时学习现代应用统计学和人工智能领域的新方法,并力图引入基础物理实验教学中,这种努力和做法值得鼓励.但是文章存在较多问题,有些问题是数据处理类文章的共性,现在指出如下.