基于小批量随机梯度下降法的SVM训练隐私保护方案

使用支持向量机(support vector machine,SVM)处理敏感数据时,隐私保护很重要,已有SVM隐私保护方案基于批量梯度下降法(batch gradient descent,BGD)进行训练,计算开销巨大.针对该问题,提出基于小批量随机梯度下降法(mini-batch stochastic gradient descent,Mini-batch SGD)的SVM隐私保护方案.首先,设计基于Mini-batch SGD的SVM训练算法;然后在此基础上,对模型权重进行乘法扰动,利用大整数分解问题困难假设确保模型的隐私性,使用同态密码体制对数据加密后再执行SVM训练,之后运用同态哈希函数进行验证;最终构建了SVM隐私保护方案.针对安全威胁,论证了数据隐私性、模型隐私性、模型正确性.对方案进行仿真实验和分析,结果表明,该方案在分类性能接近已有方案的情况下,其计算时间开销平均节约了92.4%.

基于梯度下降法的大房郢水库洪水预报模型参数率定及适用性研究

大房郢水库长期承担合肥市的防洪、供水任务,准确可靠地开展洪水预报对当地防汛抗旱工作具有重要意义。分别采用新安江模型和前期影响雨量(antecedent precipitation index,API)模型构建大房郢水库入库洪水预报模型,基于梯度下降法对模型参数进行优选,并以方案合格率作为评价指标,对2种模型在该水库的适用性进行分析。结果表明:新安江模型和API模型预报方案合格率均为90.7%,预报精度达到甲等;2种模型在不同预报项目中各有优势,对于洪峰和峰现时差,API模型预报效果更好,预报合格率分别为88.9%和100%,较新安江模型分别提高6.7%和5.9%;对于径流深,新安江模型预报效果更为理想,预报合格率可达94.4%,相对于API模型其提升幅度约13.3%。此外,API模型更适用于单式洪水预报,而新安江模型则更适用于复式洪水预报。研究成果可为提升大房郢水库入库洪水预报精度提供理论依据。

非对称弦测法中基于梯度下降的轨道不平顺复原方法

本研究提出了一种基于梯度下降的轨道不平顺复原方法。基于非对称弦测法理论,轨道不平顺的复原过程可描述为一个欠定线性系统的优化问题。本文提出采用梯度下降法求解该优化问题,采用了考虑正则项的二次型代价函数。为了评估所提出方法的性能,本研究搭建了一个轨道检测小车,并在一个缩尺桥梁模型上进行了现场试验。通过与水准仪测量值的比较,验证了基于梯度下降轨道不平顺复原方法具有良好精度。与传统的需要专门设计逆滤波器的轨道不平顺复原方法相比,本研究所提出的方法物理意义明确,只需基于非对称弦测法原理建立优化模型,这表明本方法在现场实测中具有良好的可操作性。此外,重复性评估表明,在调整不同的弦长以及多次重复测量时,本研究所提出的方法可复现一致的轨道不平顺结果,表明该方法具有良好的测量重复性。本研究所提出的方法可对轨道不平顺进行准确复原,为轨道平顺性状态及时有效评估提供数据支撑,进而保证列车运行的平稳与安全。

基于变增益最速梯度下降法的表贴式永磁同步电机位置修正策略

滑模观测器具有响应速度快、鲁棒性强等优点,已广泛应用于表贴式永磁同步电机无位置传感器的中、高速控制系统。然而,具有固定参数的滑模观测器很难在宽速度范围内保持一致的估算精度,而采用基于速度观测器带宽限制的方法进行噪声和扰动抑制会降低电机的动态性能。针对上述问题,该文首先分析滑模观测器估算表贴式永磁同步电机转子位置的误差产生机理,提出一种新型位置误差观测器,主要思想是基于磁链观测进行位置误差连续估算,并采用最速梯度下降法对积分过程进行反馈校正;然后,通过变增益循环迭代优化提高位置误差观测器的速度与准确性;最后搭建表贴式永磁同步电机加载测试平台进行实验,结果验证了所提方法具有位置观测精度高、鲁棒性强的特点。

一种新型的分数阶梯度下降法在深度神经网络中的应用

文章基于Caputo分数阶微积分,提出了一种新型的适用于神经网络模型训练的分数阶梯度下降法。该算法通过改变积分区间下界,成功将分数阶阶次拓展到了(0, 2)区间,增加了阶次的选择范围,同时,本文基于梯度裁剪机制,从遗憾函数的角度证明了该算法的收敛性,保证了算法的理论可行性。最后,基于CIFAR-10公开数据集的数值实验表明,在选择了合适的阶次的情况下,本文所提出的算法相比于传统的整数阶梯度法,能够获得更快的收敛速度和更高的收敛精度。

某信息系统二次规划同态加密梯度下降算法研究

同态加密方法能够实现在不泄露内容情况下分析或操作加密数据的功能,但该方法计算开销大,一直以来难以在控制领域的实践中实现。为解决这一问题,首先计算分析梯度下降算法在同态加密方法中解决二次规划的适用性,降低了同态加密电路乘法深度对梯度下降算法迭代的限制,并量化了原型示例,为后续的研究打下基础。其次,对梯度下降及加速梯度下降方法的选择进行了权衡和评估,为同态加密技术的工程应用开辟了道路。所采用的CKKS方案,通过选择合适的步长使程序实现收敛,直接展示了同态加密梯度下降算法的可行性。

基于梯度下降法的永磁同步电机弱磁控制仿真

永磁同步电机在运行过程中,弱磁轨迹若出现偏差会直接影响电机的运行效果。为提升电机运行质量,提出基于梯度下降法的永磁同步电机弱磁控制方法。分析永磁同步电机弱磁控制影响因素,建立永磁电机稳态电压方程与电磁转矩方程,获取永磁同步电机的弱磁移动轨迹。基于分析结果制定弱磁控制策略,结合梯度下降法在电机输出电流、电流被限制的情况下,计算电流的下降梯度与转矩角度,辨识电流的缩减方向,实现永磁电机的弱磁控制。实验结果表明,使用上述方法开展电机弱磁控制时,能够有效测试出电机直、交轴电流输出,电机转速能够达到电机期望转速,说明其控制效果较好。

基于梯度下降算法的基准值更新方法

近年全球各地极端气候频发,各国政府也加快了建设碳排放基础设施的进程。构建碳排放权交易市场(ETS),以引导企业优化生产工艺,刺激有助于企业低碳转型的创新,减少产品的碳排放强度,被证明是低成本且有效的方法。其中以“基准值”为核心的配额方式是最流行的分配方式。但随着生产工艺的进步、产业升级重组,基准值和相关数据也必须周期性地更新,以反应领域内实际生产情况,保证政策的持续效果。由于目前企业碳排放信息尚无统一标准的信息采集手段,若以“普查”的方式获取经济体的碳排放并计算基准值,会存在较大的系统误差,影响基准值的有效性。结合基准值的定义和产业链条的几何关系,进一步标准化处理,推导出产业链中不同产品之间的标准化基准值的关系,提出一种基于梯度下降的迭代式更新算法。

基于压缩感知的加速近端梯度下降法

运用图像处理技术对卫星、侦察机和无人机侦察获取的图像进行校正和去噪等处理,可以提高战场环境影像和打击目标图像清晰度,有利于提升战场侦察监视效能。基于压缩感知技术能够以远小于奈奎斯特采样率从少量的测量值中重构出原信号的基本原理,提出了一种基于压缩感知的加速近端梯度下降(DAPG)图像去噪重构算法,并证明了该算法的收敛性。试验结果表明,与4种传统算法相比,该算法重构的图像有效提高了清晰度,其目标特征更加明显。

基于改进梯度下降算法优化的磁梯度张量组合不变量算法的管道缺陷边缘识别模型

针对油气管道磁记忆检测受方向影响较大且缺陷边缘精确识别困难的问题,提出了一种基于改进梯度下降算法(MGD)优化的磁梯度张量组合不变量算法模型,用于管道缺陷边缘的精确识别。以L245N管线钢为试验材料,预制不同深度、不同直径的圆孔状缺陷,设计磁梯度张量测量系统,结合TSC-5M-32型磁记忆仪进行检测实验,获得管道的磁梯度张量矩阵。为克服检测方向对磁记忆信号的影响,分别提取磁梯度张量第二、第三不变量I_(1)、I_(2),进一步考虑这两种不变量在缺陷边缘处易出现模糊,根据Cardano公式对两种不变量进行改进,并分别设置权值a、b进行叠加获得组合不变量I,利用分数阶求导改进梯度下降算法确定最优权值,建立管道缺陷边缘磁记忆识别模型。研究结果表明:该模型对缺陷边缘识别平均相对误差为3.59%,最大相对误差为6%,为实际工程中管道缺陷边缘精准识别提供了可行办法。

基于动量梯度下降神经网络的岩爆预测方法

为了弥补现有BP神经网络(传统误差逆传播算法训练的多层前馈网络)岩爆预测模型的不足,选取应力系数(σ_(θ)/σ_(c))、脆性系数(σ_(c)/σ_(t))和弹性能量指数(Wet)为模型预测指标,收集46组实例样本数据集,对传统的BP神经网络进行优化,建立岩爆预测的动量梯度下降(BPM)神经网络模型,总体预测准确率达84.78%,优化效果良好。最后将模型应用于3个实例工程中,预测结果与现场结果吻合。

基于梯度下降的串联机械臂逆运动学求解

将梯度下降法用于机械臂的逆运动学求解,解决了不同自由度串联机械臂逆运动学求解的问题;将求解过程中间解利用起来,在保证了系统性能的同时,完成了轨迹规划任务;针对使用梯度下降得到的轨迹较差的问题,采用改进的梯度下降对轨迹进行了优化。用OpenGL和C++搭建了仿真平台,对六自由度和七自由度机械臂进行了仿真,算法收敛精度可达到0.01 mm,实验结果表明将梯度下降用于机械臂逆运动学求解具有实用性。

基于监督下降法的大地电磁二维反演及应用研究

传统的大地电磁二维反演方法较为成熟,但仍存在反演结果依赖初始模型和正则化参数选取、容易陷入局部极小值等问题。监督下降法是一种学习平均下降方向来预测数据残差的机器学习算法。本文尝试采用监督下降法解决传统的大地电磁二维反演存在的问题,基于监督下降法理论开发了大地电磁二维反演算法,设计理论模型合成算例验证了算法的正确性,并对西藏高原实测数据进行反演,检验了监督下降法的实用性。理论模型合成数据和实测数据反演结果表明,相较于传统的非线性共轭梯度反演,基于监督下降法的反演具有收敛速度快、反演效果好、抗噪能力强等特点。

基于鲁棒控制的自适应分数阶梯度优化算法设计

当目标函数是强凸函数时,一般的分数阶梯度下降法不能够使函数收敛到最小值点,只能收敛到一个包含最小值点的区域内或者是发散的.为了解决这个问题,本文提出了自适应分数阶梯度下降法(AFOGD)和自适应分数阶加速梯度下降法(AFOAGD)两种新的优化算法.受到鲁棒控制理论中二次约束和李雅普诺夫稳定性理论的启发,建立了一个线性矩阵不等式去分析所提出的算法的收敛性.当目标函数是L-光滑且m-强凸时,算法可以达到R线性收敛.最后几个数值仿真证明了算法的有效性和优越性.

尺寸效应对坩埚下降法生长氟化钙晶体影响机制的数值模拟分析

高质量大尺寸氟化钙晶体是深紫外光刻、空天相机等高端应用不可或缺的光学材料,同时制备高质量大尺寸晶体也是晶体生长领域的难题。本文以数值手段分别模拟了3、7和20英寸(1英寸=2.54 cm)氟化钙晶体在不同生长阶段的传热、流动及相变过程。结果表明,晶体尺寸增加大幅加强熔体流动强度,而且造成坩埚外壁散热部分的面积急剧增加,由此引发固液界面局部凹陷、径向温差增大、晶体边缘-中心温差翻转、生长界面附近的轴向温梯大幅衰减等问题。此外,本文还就大尺寸氟化钙晶体生长中的坩埚下降速率和发热体功率的优化控制策略进行了探讨。

梯度投影法实现永磁同步电机最优曲线跟踪

针对永磁同步电机弱磁控制在线计算复杂度高、计算负担较重的问题,提出一种高效的弱磁曲线跟踪方法,以实现永磁同步电机的运动控制,通过一种更优化的投影与迭代结合的方法实现在一定的电流、电压约束下,电机最优运行状态的在线跟踪。同时,提出了针对ADADELTA梯度下降法的一种简化方法,优化了梯度下降法的计算流程,减少了迭代次数,提高了运算性能。该方法避免了不同运行区域的算法切换,有效地发挥了电机潜能,保证电机高功率输出。最后通过电机对拖实验,验证了此算法的合理性。

一种基于正则化模型的Dai-Liao共轭梯度法

给出一种基于正则化模型的Dai-Liao共轭梯度法.首先,通过极小化3次正则化模型,得到新的Dai-Liao参数t,并在此基础上根据函数在迭代点附近的性质,产生一个自适应的Dai-Liao参数;其次,结合改进的Wolfe线搜索,提出一种基于正则化模型的Dai-Liao共轭梯度法;最后,证明该算法的搜索方向满足充分下降性,并在一般假设下建立该算法的全局收敛性.数值结果表明该算法有效.

基于批量梯度下降法的混凝土破坏准则参数研究

为解决混凝土破坏准则中参数的系统误差导致混凝土破坏强度预测精度不足问题,本文利用批量梯度下降法对混凝土破坏准则参数进行重新拟合,选取的破坏准则分别为Ottosen准则、Hsieh-Ting-Chen准则、Willam-Warnke准则,得出3种破坏准则根据新参数拟合的破坏包络曲面、拉压子午线和偏平面内破坏迹线近似重合。结果表明:新参数下3种混凝土破坏准则近似描述了相同的混凝土破坏包络曲面,证明利用批量梯度下降计算破坏准则参数的有效性。通过批量梯度下降法,可根据有限的实验样本重新计算不同破坏准则参数,得出最接近真实破坏曲面的参数最优解,为破坏准则研究的参数计算提供新途径。

Wolfe线搜下改进的FR型谱共轭梯度法

谱共轭梯度法作为经典共轭梯度法的推广,它是求解大规模无约束优化问题的有效方法之一.基于标准Wolfe线搜索准则和充分下降性条件,提出了一种具有充分下降性质的FR型谱共轭梯度法.在温和的假设条件下,该算法具有全局收敛性.最后,将新算法与现存的修正FR型谱共轭梯度法进行比较,数值结果表明提出的算法是极其有效的.

基于梯度下降法的异步电机离线参数辨识方法

针对异步推进电机辨识过程中电机电压和电流幅值和相位计算不准确而导致的电机参数辨识精度低的问题,提出了一种基于梯度下降法的异步电机参数辨识算法;通过向定子电阻中通入不同电压,得到能够辨识电机的定子电阻、转子电阻以及互感的相关电机采样数据。通过三次函数拟合的方式对逆变器的理论电压进行修正以提高转子电阻的辨识精度;通过梯度下降法对电机交流电压和交流电流的波形进行数值分析,得到准确的正弦数据幅值和相位并求解得到功率因数,进而求得更加准确的电机转子电阻、漏感以及互感。在基于TMS320F28379D的自主研发变频器中对一台7.5 kW的电机进行了辨识实验,证明了该离线辨识算法的辨识精度。