基于小批量随机梯度下降法的SVM训练隐私保护方案

使用支持向量机(support vector machine,SVM)处理敏感数据时,隐私保护很重要,已有SVM隐私保护方案基于批量梯度下降法(batch gradient descent,BGD)进行训练,计算开销巨大.针对该问题,提出基于小批量随机梯度下降法(mini-batch stochastic gradient descent,Mini-batch SGD)的SVM隐私保护方案.首先,设计基于Mini-batch SGD的SVM训练算法;然后在此基础上,对模型权重进行乘法扰动,利用大整数分解问题困难假设确保模型的隐私性,使用同态密码体制对数据加密后再执行SVM训练,之后运用同态哈希函数进行验证;最终构建了SVM隐私保护方案.针对安全威胁,论证了数据隐私性、模型隐私性、模型正确性.对方案进行仿真实验和分析,结果表明,该方案在分类性能接近已有方案的情况下,其计算时间开销平均节约了92.4%.

基于梯度下降法的大房郢水库洪水预报模型参数率定及适用性研究

大房郢水库长期承担合肥市的防洪、供水任务,准确可靠地开展洪水预报对当地防汛抗旱工作具有重要意义。分别采用新安江模型和前期影响雨量(antecedent precipitation index,API)模型构建大房郢水库入库洪水预报模型,基于梯度下降法对模型参数进行优选,并以方案合格率作为评价指标,对2种模型在该水库的适用性进行分析。结果表明:新安江模型和API模型预报方案合格率均为90.7%,预报精度达到甲等;2种模型在不同预报项目中各有优势,对于洪峰和峰现时差,API模型预报效果更好,预报合格率分别为88.9%和100%,较新安江模型分别提高6.7%和5.9%;对于径流深,新安江模型预报效果更为理想,预报合格率可达94.4%,相对于API模型其提升幅度约13.3%。此外,API模型更适用于单式洪水预报,而新安江模型则更适用于复式洪水预报。研究成果可为提升大房郢水库入库洪水预报精度提供理论依据。

基于变增益最速梯度下降法的表贴式永磁同步电机位置修正策略

滑模观测器具有响应速度快、鲁棒性强等优点,已广泛应用于表贴式永磁同步电机无位置传感器的中、高速控制系统。然而,具有固定参数的滑模观测器很难在宽速度范围内保持一致的估算精度,而采用基于速度观测器带宽限制的方法进行噪声和扰动抑制会降低电机的动态性能。针对上述问题,该文首先分析滑模观测器估算表贴式永磁同步电机转子位置的误差产生机理,提出一种新型位置误差观测器,主要思想是基于磁链观测进行位置误差连续估算,并采用最速梯度下降法对积分过程进行反馈校正;然后,通过变增益循环迭代优化提高位置误差观测器的速度与准确性;最后搭建表贴式永磁同步电机加载测试平台进行实验,结果验证了所提方法具有位置观测精度高、鲁棒性强的特点。

一种新型的分数阶梯度下降法在深度神经网络中的应用

文章基于Caputo分数阶微积分,提出了一种新型的适用于神经网络模型训练的分数阶梯度下降法。该算法通过改变积分区间下界,成功将分数阶阶次拓展到了(0, 2)区间,增加了阶次的选择范围,同时,本文基于梯度裁剪机制,从遗憾函数的角度证明了该算法的收敛性,保证了算法的理论可行性。最后,基于CIFAR-10公开数据集的数值实验表明,在选择了合适的阶次的情况下,本文所提出的算法相比于传统的整数阶梯度法,能够获得更快的收敛速度和更高的收敛精度。

基于梯度下降法的永磁同步电机弱磁控制仿真

永磁同步电机在运行过程中,弱磁轨迹若出现偏差会直接影响电机的运行效果。为提升电机运行质量,提出基于梯度下降法的永磁同步电机弱磁控制方法。分析永磁同步电机弱磁控制影响因素,建立永磁电机稳态电压方程与电磁转矩方程,获取永磁同步电机的弱磁移动轨迹。基于分析结果制定弱磁控制策略,结合梯度下降法在电机输出电流、电流被限制的情况下,计算电流的下降梯度与转矩角度,辨识电流的缩减方向,实现永磁电机的弱磁控制。实验结果表明,使用上述方法开展电机弱磁控制时,能够有效测试出电机直、交轴电流输出,电机转速能够达到电机期望转速,说明其控制效果较好。

基于压缩感知的加速近端梯度下降法

运用图像处理技术对卫星、侦察机和无人机侦察获取的图像进行校正和去噪等处理,可以提高战场环境影像和打击目标图像清晰度,有利于提升战场侦察监视效能。基于压缩感知技术能够以远小于奈奎斯特采样率从少量的测量值中重构出原信号的基本原理,提出了一种基于压缩感知的加速近端梯度下降(DAPG)图像去噪重构算法,并证明了该算法的收敛性。试验结果表明,与4种传统算法相比,该算法重构的图像有效提高了清晰度,其目标特征更加明显。

基于批量梯度下降法的混凝土破坏准则参数研究

为解决混凝土破坏准则中参数的系统误差导致混凝土破坏强度预测精度不足问题,本文利用批量梯度下降法对混凝土破坏准则参数进行重新拟合,选取的破坏准则分别为Ottosen准则、Hsieh-Ting-Chen准则、Willam-Warnke准则,得出3种破坏准则根据新参数拟合的破坏包络曲面、拉压子午线和偏平面内破坏迹线近似重合。结果表明:新参数下3种混凝土破坏准则近似描述了相同的混凝土破坏包络曲面,证明利用批量梯度下降计算破坏准则参数的有效性。通过批量梯度下降法,可根据有限的实验样本重新计算不同破坏准则参数,得出最接近真实破坏曲面的参数最优解,为破坏准则研究的参数计算提供新途径。

基于梯度下降法的异步电机离线参数辨识方法

针对异步推进电机辨识过程中电机电压和电流幅值和相位计算不准确而导致的电机参数辨识精度低的问题,提出了一种基于梯度下降法的异步电机参数辨识算法;通过向定子电阻中通入不同电压,得到能够辨识电机的定子电阻、转子电阻以及互感的相关电机采样数据。通过三次函数拟合的方式对逆变器的理论电压进行修正以提高转子电阻的辨识精度;通过梯度下降法对电机交流电压和交流电流的波形进行数值分析,得到准确的正弦数据幅值和相位并求解得到功率因数,进而求得更加准确的电机转子电阻、漏感以及互感。在基于TMS320F28379D的自主研发变频器中对一台7.5 kW的电机进行了辨识实验,证明了该离线辨识算法的辨识精度。

基于近似梯度下降法的ℓ_(q)范数约束的压缩鬼成像

由于鬼成像在图像重构领域的优异表现,因此一直是研究的热点之一。近年来,有学者也将鬼成像与压缩感知理论相结合,提出了压缩鬼成像技术。为了以最少的测量值获得最优的重建效果,学者们提出了很多图像重构算法,其中应用最为广泛的是基于ℓ_(1)范数或核范数的重构算法,因其凸性和光滑性在很多领域都有很好应用效果。非凸的ℓ_(q)(0<q<1)约束可能具有更好的效果。在满足相同限制等距性(restricted isometry property,RIP)的测量矩阵的条件下,ℓ_(q)约束实现重建所需要的测量值更少,并且相较于ℓ_(1)约束,ℓ_(q)范数的限制等距性条件更为宽松。为此,利用ℓ_(q)范数约束来进行压缩鬼成像,并介绍了ℓ_(q)范数的近似点算子和近似梯度下降算法,通过实验验证该算法对进行压缩鬼成像的可行性,对比分析各种不同算法在不同类型的图像之间的重建效果。

基于梯度下降法选取高斯径向基函数形状参数

高斯径向基函数是径向基函数中常用的函数,对于高斯径向基函数插值形状参数的取值,常规的方法一般是通过人工修改形状参数的取值,计算成本较高,插值精度较低。本文基于梯度下降算法,通过设定针对性的目标函数,通过迭代的方式得到形状参数,有更好的插值效果,为高斯径向基函数的应用提供了更加便捷的途径。

基于小批量梯度下降法的高斯核参数优化

核函数是核方法的重要组成部分,设计得好坏直接影响模型的分类效果,高斯核函数以其优良的特性被广泛应用,但高斯核参数的优化十分困难.针对此问题,使用核目标度量准则制定目标函数,将问题转化为求极小值的最优化问题,利用小批量梯度下降法求解目标函数.在十六组机器学习领域常用的数据集上进行测试,实验结果表明,该方法均具有最短的训练时间和较高的分类准确率.

改进梯度下降法在地下管道惯性定位姿态解算中的应用

针对地下管道惯性定位姿态解算传统算法存在效率较低、最优参数难以确定等问题,文章提出了一种自适应调节参数的梯度下降法。该方法将加速度计、陀螺仪和磁力计的数据进行融合,并自动调节梯度下降参数,实现了四元数姿态信息的更新。试验结果表明,该方法解算横滚角和俯仰角的精度与传统梯度下降法一致,航向角的精度有11.2%的改善,计算效率相对于扩展卡尔曼滤波方法有50%的提升。

基于HSV空间和梯度下降法的弱光照图像增强算法

针对弱光照图像的处理问题,提出一种基于HSV(色调,饱和度,亮度)空间和梯度下降法的弱光照图像增强算法,将图像由RGB空间转换到HSV空间中,保持H通道和S通道不变,对弱光照图像的V通道进行梯度下降法处理,再由HSV空间转换回RGB空间,完成图像增强。实验结果表明,本算法可有效增强图像的细节,保持图像的整体色彩与原始图像一致,提高图像的视觉效果。

基于梯度下降法的单相幅相锁相环优化设计

基于目标函数优化的思想设计了单相幅相锁相环系统(1MPLL),详细讨论了系统中参数的设计方法。为了提高系统的谐波抑制能力,以最近时域区间系统偏差的积分构造目标函数,通过梯度下降法分析了目标函数的最速下降方向,推导出锁相环系统的非线性状态方程,从而对输入信号属性进行估计。为了进行系统性能分析和参数设计,对系统非线性状态方程在平衡点进行线性化处理,采用根轨迹理论对系统参数进行设计。系统能在各种电能质量问题下(如幅值突变、频率波动、相位突变,尤其是谐波污染)对输入信号的属性进行快速精确估计,为并网电力电子设备的检测和控制提供有效、可靠的基准。仿真实验验证了系统设计的正确性和良好性能。

基于梯度下降法反演于田Mw7.1地震同震滑动分布

利用InSAR技术与ENVISAT ASAR雷达数据,获取了2008年3月21日于田7.1级地震同震形变场;结合野外考察优化了于田地震三分段破裂模型;并基于梯度下降法反演获得了于田地震的同震破裂模式与深部滑动特征。结果表明:滑动分布集中位于断层面0～14 km深部,最大滑动量位于中段F2深部2.05 km处,为5.47 m;北段F1为左旋与正断基本相当的倾滑破裂,而中段F2、南段F3-N/F3-S以正断为主、兼具一定左旋走滑分量;滑动量主要集中在中段与南段,北段滑动量较小,反演获得的地震矩Mo=5.16×1019N.m,相当于矩震级7.07级。

基于梯度下降法的自适应模糊控制系统研究

一般的二维模糊控制器的输出控制量是误差和误差变化率的固定函数,对于时变、不确定性被控对象难以取得预期的效果。针对该问题,引入梯度下降学习算法,修正输入输出变量高斯型隶属度函数的均值和方差,使模糊控制系统具有自适应性。同时,澄清了王立新提出的梯度下降学习算法容易引起的一些混淆。给定信号分别选择阶跃信号、斜坡信号、加速度信号和正弦信号,作了仿真研究,仿真结果表明,该控制算法是可行的,有效的。

随机梯度下降法的一些性质(英文)

本文研究了一般核空间下的随机梯度下降法.通过迭代方法,给出了该算法的一些重要性质,这些性质对于研究收敛速度起到至关重要的作用.

梯度下降法

该文提出了一个无约束优化的新算法——梯度下降法。该法利用已得迭代点的信息,根据|g_(k+1)|≤|g_k|的要求,通过解非线性方程组g=g_(k+1)得下一个迭代点x_(k+1)。该法特点是:不需进行一维搜索;对正定二次函数具有二步迭代收敛性;对连续可微的凸函数保证收敛到全局极小点;其收敛域比牛顿法大;收敛速度比牛顿法慢些,但比著名的BFGS变尺度法和FR共轭梯度法快。

基于遗传算法的UPFC模糊阻尼控制器参数优化及与梯度下降法的比较

设计了一种统一潮流控制器(UPFC)模糊辅助控制器,能够阻尼互联系统之间功率低频振荡,分别使用遗传算法和梯度下降法实现了模糊阻尼控制器(FDC)的参数优化。建立了UPFC的频域模型,给出了主控制和辅助控制的框图,推导了模糊阻尼控制器参数优化的公式。互联多机系统算例显示了2种优化方法都具有很好的收敛性,且结果吻合,同时由这2种方法优化的阻尼控制器能够很好地阻尼系统的功率振荡,且比传统的基于线性系统设计的辅助控制器在不同的系统运行方式和振荡模式下具有更好的鲁棒性。

随机梯度下降法的收敛速度(英文)

本文研究了正则化格式下随机梯度下降法的收敛速度.利用线性迭代的方法,并通过参数选择,得到了随机梯度下降法的收敛速度.