GLOBAL CONVERGENCE RESULTS OF A THREE TERM MEMORY GRADIENT METHOD WITH A NON-MONOTONE LINE SEARCH TECHNIQUE

In this paper, a new class of three term memory gradient method with non-monotone line search technique for unconstrained optimization is presented. Global convergence properties of the new methods are discussed. Combining the quasi-Newton method with the new method, the former is modified to have global convergence property. Numerical results show that the new algorithm is efficient.

基于改进麻雀搜索算法优化LSTM的滚动轴承故障诊断

为了对滚动轴承的工作状态及故障类别进行准确的诊断,本文采用长短时记忆(LSTM)神经网络作为分类器对滚动轴承数据集进行分类诊断。首先,从滚动轴承原始运行振动信号中提取时域和频域特征参数,组成具有高维特征参数的数据集;使用核主成分分析(KPCA)方法对高维特征集进行降维处理,选取重要性程度高的特征构成输入特征向量。然后,针对LSTM神经网络在滚动轴承故障诊断中存在的超参数难以确定的问题,提出一种基于自适应t分布策略的麻雀搜索算法优化LSTM神经网络的故障诊断方法(tSSA–LSTM)。最后,使用凯斯西储大学滚动轴承数据中心的数据进行故障诊断精度测试、泛化性能测试及噪声环境下故障诊断性能测试等多个仿真实验,并将本文提出的诊断模型与麻雀搜索算法优化长短时记忆神经网络(SSA–LSTM)、遗传算法优化长短时记忆神经网络(GA–LSTM)、粒子群算法优化长短时记忆神经网络(PSO–LSTM)及传统LSTM诊断模型进行对比。结果表明:tSSA可以更有效地对LSTM的隐含层神经元数量、周期次数、学习率等超参数进行合理优化;所提方法的平均诊断准确率达到98.86%,交叉验证平均诊断结果为98.57%;所提方法在噪声干扰下的故障诊断准确率也优于对比方法。因此,本文提出的tSSA–LSTM模型不仅可以更精准地诊断滚动轴承故障状态,而且具有更强的泛化能力及抗干扰能力,有效地提高了滚动轴承故障诊断的性能。

基于奇异谱分析和辛几何模态分解的短期碳排放预测模型

在短时期内对碳排放水平进行评估和规划,对制定精准的减排目标和有效的政策措施可以起到辅助作用。将奇异谱分析分解法(Singular spectrum analysis decomposition,SSAD)和辛几何模态分解(Symplectic geometry mode decomposition,SGMD)组合成新型的二次信号分解法,并应用于每日碳排放量预测。在对原始序列进行二次分解之后,利用快速傅里叶变换对子序列进行重构,并应用偏自相关函数来选择合适的输入变量。最后,利用麻雀搜索算法(Sparrow search algorithm,SSA)对长短期记忆网络(Long short-term memory network,LSTM)进行优化,建立了SSAD-SGMD-SSA-LSTM模型。通过与其他模型进行对比实验,发现SSAD-SGMD二次分解更加适合碳排放时间序列预处理,并且可以进一步提高预测精度。SSAD-SGMD模型与集成经验模态分解和变分模态分解相结合的二次分解模型相比,模型的可决系数R2提高了1.83%,平均绝对百分比误差(Mean absolute percentage error,MAPE)有所降低,均方根误差(Root mean square error,RMSE)降低了43.16%。此外,经过SSA优化后的LSTM模型,R2提高了1.49%,MAPE有所降低,RMSE降低了38.64%。所提出的模型能够有效提升短期碳排放预测的准确性。

面向动态交通分配的交通需求深度学习预测方法

为满足动态交通分配对高精度、高时效性交通需求的要求,本文建立了一种交通需求深度学习预测方法。根据动态交通分配要求确定交通需求数据的时间间隔,构建对复杂交通需求预测性能较优的长短期记忆神经网络预测方法;针对动态交通分配中交通需求的周期性、随机性和非线性等特征,为减少数据噪声的干扰,引入局部加权回归周期趋势分解方法将交通需求数据分解,将其中的趋势分量和余项分量作为深度学习预测方法的输入量,周期分量采用周期估计进行预测;选用具有随机寻优能力强、寻优效率高等特点的布谷鸟寻优算法优化预测方法的隐藏层单元数量、学习速率和训练迭代次数等核心参数。应用西安市长安区的卡口车牌数据验证该方法。结果表明:本文模型的预测结果在高峰及平峰各连续4个时段内相比于自回归滑动平均模型、长短期记忆神经网络模型、支持向量回归模型,平均绝对误差降低了10.55%~19.80%,均方根误差降低了11.20%~17.99%,决定系数提升了8.62%~12.48%;相比遗传算法、粒子群算法优化的模型,平均绝对误差降低了7.36%~13.81%,均方根误差降低了4.23%~10.67%,决定系数提升了3.50%~7.01%,且本文模型运行时间最短。说明与对比模型相比,本文所建立的预测方法在面向动态交通分配的交通需求预测中具有更高的预测精度。

基于ISSA-LSTM模型的可再生能源电力需求预测

为了更精准地预测未来能源结构调整方向及成效,选用ISSA-LSTM组合预测模型对中国2023-2030年可再生能源的电力需求进行预测。首先,利用Circle混沌映射改进麻雀搜索算法(SSA)以提高搜索能力以及种群多样性;然后引入长短期记忆神经网络(LSTM)以有效捕捉可再生能源电力需求随机波动性和时序性;最后,通过ISSA-LSTM模型预测长期可再生能源的电力需求,验证测试集数据,并与其他传统模型进行对比。结果表明:ISSA-LSTM模型预测结果能够满足对可再生能源电力需求预测的精度要求;在未来2023-2030年可再生能源电力需求稳定,波动幅度不大,可达到全国用电量的1/3;利用Circle混沌映射改进策略能有效提升SSA寻优能力。与PSO算法相比,SSA算法寻找LSTM超参数最优解的能力更优,ISSA-LSTM模型预测可再生能源电力需求精度更高。

麻雀搜索算法优化的外啮合齿轮泵泄漏量预测

预测齿轮泵泄漏量的变化趋势有助于定量分析其性能退化过程。变分模态分解(Variational Modal Decomposition, VMD)方法对齿轮泵原始泄漏量数据进行变分模态分解,得到本征模态函数IMF,提出一种结合麻雀优化算法(Sparrow Search Algorithm, SSA)和长短期记忆神经网络(Long-Short Term Memory, LSTM)的模型,建立VMD-SSA-LSTM模型预测齿轮泵泄漏量的变化情况,并对每一个分量进行单独预测,最后将预测结果进行叠加,获得完整的预测结果。通过对比不同时间段预测结果可知,VMD-SSA-LSTM模型较单一的LSTM模型预测结果的平均相对误差最高可减小25.2%,能够完成对泄漏量的有效预测。研究结论可为齿轮泵性能衰退的定量预测提供理论支持。

基于VMD-SSA-LSTM的架空输电导线覆冰预测模型

针对输电导线覆冰过程间断性强且波动性大而导致的现有模型预测精度不高的问题,从覆冰厚度数据的时序信息和气象信息出发,提出一种基于变分模态分解(variational mode decomposition,VMD)的麻雀搜索算法(sparrow search algorithm,SSA)优化长短期记忆网络(long short-term memory network,LSTM)的覆冰组合预测模型.该方法首先使用VMD分解覆冰厚度数据,降低了原始序列的不稳定性,得到具有不同中心频率的本征模态分量;其次,采用SSA算法对LSTM中的3个参数进行寻优;最后,对模态分量分别建立LSTM预测模型,将各个模态分量的预测值叠加为覆冰厚度的总预测值.通过实例仿真,对所提预测模型进行验证.结果表明:VMD-SSA-LSTM组合模型与其他模型相比,其预测精度有进一步提高,验证了所提方法的有效性.

基于VMD-SSA-LSTM考虑刀具磨损的数控铣床切削功率预测模型研究

传统的切削过程功率获取需要基于复杂的切削功率模型且很少考虑刀具磨损的影响,针对此设计了一种基于变分模态分解(VMD)、麻雀搜索算法(SSA)、长短时记忆(LSTM)神经网络的考虑刀具磨损的数控铣床切削功率预测模型,该模型无需解构数控铣床运行过程的能耗机理,基于一次性的历史实验数据即可实现数控铣床切削过程功率的高精度预测。首先,采用人工智能机器视觉技术对刀具磨损图片进行分析处理,获取刀具磨损图像的数字化特征,从而得到刀具最大磨损量;然后,建立基于VMD-SSA-LSTM考虑刀具磨损的数控铣床切削功率预测模型,利用VMD对数控铣床运行数据进行分解,采用SSA算法对LSTM神经网络超参数进行寻优,并将分解出的铣床运行数据分量输入到LSTM神经网络中,接着将每个分量的预测值相加,得到切削功率预测值;最后以面铣加工为例,将所提出的预测模型与BP神经网络、LSTM神经网络和传统模型进行对比分析,验证了所提模型的有效性和优越性。

基于改进LSTM-SVM的双向DC-DC电力变换器故障诊断

目的为了解决双向DC-DC电力变换器的软故障诊断精度不高的问题,方法提出基于改进LSTM-SVM的双向DC-DC电力变换器故障诊断模型。首先,分析双向DC-DC电力变换器中电容、电感和MOSFET管的故障机理,通过仿真实验模拟各元件失效后变换器的输出电气参数变化,从而确定变换器不同元件故障时对应的故障特征参数;其次,构建改进的LSTM-SVM双向DC-DC电力变换器故障诊断组合模型,在LSTM中添加Mogrifier门机制,提高LSTM提取时间序列原始数据中微弱特征的能力;最后,由于传统LSTM的末端分类器为Softmax,其主要解决单一元件诊断问题,变换器故障类型较多,维数较高,所以采用麻雀搜索算法优化的SVM代替原有的Softmax函数,对LSTM输出的数据进行故障分类,提高故障诊断的准确率。设置双向DC-DC电力变换器充放电两种状态下,包含电解电容、电感和MOSFET单双管故障在内的24组故障,分别采用本文构建的改进的LSTM-SVM和原始的LSTM-SVM双向DC-DC变换器故障诊断模型进行诊断。结果结果表明,改进的LSTM-SVM故障诊断模型诊断准确率平均值为99.71%,原始的LSTM-SVM故障诊断模型诊断准确率平均值为88.48%,改进的LSTM-SVM故障诊断模型对各元件的故障诊断正确率均高于原始的LSTM-SVM故障诊断模型的。结论基于改进LSTM-SVM的双向DC-DC电力变换器故障诊断模型实现了对双向DC-DC电力变换器中的电解电容、电感和MOSFET单双管故障的准确诊断。

基于经验模态分解和优化BiLSTM的短期负荷预测

针对电力负荷数据的非线性和不稳定性问题,提出了一种基于经验模态分解改进麻雀搜索算法双向长短期记忆神经网络相结合的EMD ISSA BiLSTM预测模型。首先采用EMD处理非线性负荷数据,将原始负荷数据分解为多个不同尺度的本征模态函数(IMF),引入反向学习策略和Levy飞行策略分别改进麻雀搜索算法(SSA)的收敛速度慢和容易陷入局部最优问题,利用改进麻雀搜索算法(ISSA)对BiLSTM神经网络进行参数寻优。然后再利用优化后的BiLSTM模型对每个分量进行预测,并将各预测结果叠加组合,得到整个负荷序列的预测结果。最后通过实际算例分析,证明该方法相对于传统的预测方法具有更好的预测精度和稳定性,可作为一种有效的短期负荷预测方法。

基于双模态分解的发电站母线短期负荷预测

母线负荷预测是电力系统运营和规划中至关重要的一项任务,针对电力负荷数据的非线性强以及影响因素多等问题,提出了一种基于双模态分解、深度学习和注意力机制的负荷预测模型。首先,对输入数据进行经验模态分解(Empirical mode decomposition,EMD),通过K-means聚类分析对复杂度相似的分量进行集合得到三个组合分量。其次,使用变分模态分解(Variational mode decomposition, VMD)对组合分量再次进行分解得到不同分量,使用麻雀搜索算法(Sparrow search algorithm,SSA)对变分模态分解的参数进行优化。再次,将变分模态分解得到的分量与影响因素连接并输入长短期记忆网络(Long short-term memory network, LSTM),通过注意力机制挖掘数据内部的相关性,并使用SSA对LSTM网络的参数进行优化。最后,采用宁夏某电站一年的负荷数据进行验证,经过与不同模型的对比分析,所提模型有更高的预测精度。

基于功率特征的K-ISSA-LSTM光伏功率预测

历史功率特征能反映一段时间内光伏功率的波动情况,结合聚类算法对原始数据进行聚类,利用长短期记忆神经网络实现对光伏发电功率的预测。同时使用改进的麻雀搜索算法进行神经网络超参数寻优,实现对不同功率特征场景的超参数优化。采用华东地区某光伏电站的实测数据进行验证,预测模型功率波动情况下较传统预测方法对该组数据有更高的预测精度。

基于ESSA-LSTM的养殖工船水质溶解氧预测方法研究

为了准确预测水质参数中的溶氧量,采用长短时记忆网络(Long Short-Term Memory,LSTM)模型,提出一种增强型麻雀搜索算法(Enhance Sparrow Search Algorithm,ESSA)以改进预测率的精确性。该算法引入了Circle混沌映射进行种群初始化,并结合正弦余弦算法和Levy飞行策略分别对侦察者、跟踪者的位置进行更新,以促使麻雀个体能够快速跳出局部最优解。首先将ESSA与多种其他算法进行多形态基准函数对比测试,结果表明该算法在多个基准函数上展现出出色的性能和鲁棒性;随后将其应用于LSTM模型参数寻优,并与其他优化算法进行比较,结果显示基于ESSALSTM模型的预测率达到99.071%,相较于基本麻雀搜索算法(Sparrow Search Algorithm,SSA)、灰狼优化算法(Grey Wolf Optimizer,GWO)、海洋捕食算法(Marine Predators Algorithm,MPA)、鲸鱼算法(Whale Optimization Algorithm,WOA)分别提升了2.142%、6.653%、6.682%、7.714%。研究表明,使用ESSA显著提高了溶解氧预测率,并有效减少了参数设置的盲目性和时间成本。

基于深度学习的循环自动调度研究

循环代码的自动调度问题是编译优化领域中的热门问题,然而当前大部分此类研究都基于不同领域的领域特定语言或编程框架,缺乏对通用编程语言的支持.本文提出了一个面向通用编程语言的循环自动调度框架.该自动调度框架使用蒙特卡洛树搜索算法对循环调度空间进行高效的搜索,在搜索样本评估阶段,本文利用深度学习技术为循环调度构建了基于Tree-LSTM的代价模型对搜索过程进行指导以加速搜索过程.经实验验证,本文提出的自动调度框架能够达到优于前沿的启发式循环优化编译器Polly的优化效果,同时本文构建的代价模型能够在10%以内的调度性能损失的前提下显著提升调度搜索过程的效率.

二次分解组合LSTM的短期风电功率预测模型

随着风电在电力系统中的占比逐步提高,风电功率的精确预测对电力系统的安全稳定运行具有重要意义。然而,风电的随机性和间歇性极大地影响其功率的精确预测。为此,提出二次分解组合长短期记忆(LSTM)的短期风电功率预测模型。首先,采用经验模态分解(EMD)技术将原始风电序列分解为若干固有模态分量;再采用样本熵(SE)技术将各分量重组为高、中、低频3个序列,针对高频模态混叠再次采用麻雀搜索算法-变分模态分解(SSA-VMD)二次分解技术;最后,采用SSA算法对LSTM的参数进行寻优并完成风电功率预测。以湖北省某风电场对所提模型进行验证,并与其他模型进行对比。结果表明,所提模型的平均绝对误差(MAE)为5.79 kW,均方根误差(RMSE)为5.64 kW,平均百分比误差(MAPE)为17.38%,具有更好的预测精度。

基于VMD-ISSA-LSTM的短时交通流预测研究

针对城市短时交通流随机波动性强、可靠性低、预测精度差等问题,将变分模态分解(VariationalMode Decomposition,VMD)和改进麻雀搜索算法(ImproveSparrowSearchAlgorithm,ISSA)与长短期记忆(LongShort-Term Memory, LSTM)神经网络相结合,建立一种短时交通流预测模型(VMD-ISSA-LSTM)。首先利用VMD对历史原始交通流数据进行分解;然后采用佳点集、正弦函数扰动和Tent混沌映射等策略对标准的SSA算法加以改进,增强ISSA算法的寻优能力;最后,将每个分量送入ISSA-LSTM中进行预测,同时将预测结果线性叠加,得到交通流量预测值。以上海市中山北路-曹杨路口2018年11月1日—30日的历史交通数据对模型进行验证。结果表明,与LSTM、VMD-LSTM、VMD-SSA-LSTM等传统预测模型相比,VMD-ISSA-LSTM模型的预测结果的平均绝对百分比误差为1.278 4%,能够更好地应用于短时交通流预测中。

基于时序序列分解和IBAS LSTM的滑坡数据预测模型

针对传统静态机器学习模型在周期项位移预测中的缺陷和动态神经网络超参数人工选择困难的问题,在时序序列分解的基础上,提出一种新的滑坡预测耦合模型。首先,用最大相关最小冗余算法对周期项位移筛选合适的环境特征,作为长短期记忆人工神经网络的输入。然后,在天牛须搜索算法搜索过程中引入反馈机制,以避免原算法中出现远离最优解的问题;在算法迭代过程中将固定的递减因子改为动态递减因子,以提升前期全局和后期局部的寻优能力;利用改进的天牛须搜索算法对长短期记忆人工神经网络超参数进行寻优,以获得最佳的网络参数组合。最后,重构趋势项和周期项预测结果,得到最终预测位移。以发耳滑坡为例进行分析,结果表明:相较于其他方法,所提模型在平均绝对误差、均方根误差以及拟合度等方面更具优势。

基于ESMD-FE-AJSO-LSTM算法的水闸深基坑变形预测

水闸深基坑开挖变形具有明显的非线性和非稳定性特征,基于此,引入极点对称模态分解算法(extremepoint symmetric mode decomposition method,ESMD)对水闸深基坑开挖变形原型监测序列进行多模态分解,并基于模糊熵(fuzzy entropy, FE)理论对各分解分量进行模糊多模态相空间重构,从而有效甄别水闸基坑变形不同时间尺度有效物理特征。构建基于人工水母搜索算法(artificial jellyfish search optimizer,AJSO)优化的长短期记忆(long short-term memory,LSTM)人工神经网络模型,以重构后的各重构子序列为基础进行优化训练,并把训练后的各预测模态分量合并,实现对水闸基坑开挖变形动态预测和分析。以张家港市十一圩江边枢纽改建工程基坑开挖变形监测为例,采用上述方法对该枢纽工程基坑开挖过程变形进行预测和分析。结果表明:基于ESMD-FE-AJSOLSTM算法的水闸深基坑变形预测方法能够有效预测基坑开挖变形非线性特征,相比传统LSTM、循环神经网络(recurrent neural network, RNN)和支持向量机(support vector machine,SVM)等算法具有更高的预测精度和稳定性,为实现对基坑开挖安全性态实时科学诊断和分析提供技术参考。

基于SSA-LSTM的瓦斯浓度预测模型

为了更好地捕捉瓦斯浓度的时变规律及有效信息,实现对采煤工作面瓦斯浓度的精准预测,采用麻雀搜索算法(SSA)优化长短期记忆(LSTM)网络,提出了一种基于SSA-LSTM的瓦斯浓度预测模型。采用均值替换法对原始瓦斯浓度时序数据中的缺失数据及异常数据进行处理,再进行归一化和小波阈值降噪;对比测试了SSA与灰狼优化(GWO)算法、粒子群优化(PSO)算法的性能差异,验证了SSA在寻优精度、收敛速度和适应能力等方面的优势;利用SSA的自适应性依次对LSTM的学习率、隐藏层节点个数、正则化参数等超参数进行寻优,以此来提高全局寻优能力,避免预测模型陷入局部最优;将得到的最佳超参数组合代入LSTM网络模型中,输出预测结果。将SSA-LSTM与LSTM、GWO-LSTM、PSO-LSTM瓦斯浓度预测模型进行比较,实验结果表明:基于SSA-LSTM的瓦斯浓度预测模型的均方根误差(RMSE)较LSTM,PSO-LSTM,GWO-LSTM分别减少了77.8%,58.9%,69.7%;平均绝对误差(MAE)分别减少了83.9%,37.8%,70%,采用SSA优化的LSTM预测模型相较于传统LSTM模型具有更高的预测精度和鲁棒性。

基于二次分解和乌鸦搜索算法优化组合模型的超短期风速预测

针对风速的波动性和随机性等特点,提出一种基于二次分解和乌鸦搜索算法优化组合模型的超短期风速预测方法。该方法的基本思路是构造基于变分模态分解、样本熵和奇异谱分析的二次分解的方法,将原始风速序列分解为不同的子序列,并对这些子序列分别建立预测模型,最后重构。对变分模态分解的子序列建立基于长短时记忆网络的深度学习模型预测,而残差序列进行二次分解后的子序列建立乌鸦搜索算法优化的组合预测模型预测。最后,对子序列进行重构并得到最终的预测结果。使用实际的风速观测资料开展模拟实验,结果表明:在3个风电场中,所提模型与其他模型相比平均相对误差分别提升了30.07%、37.56%和37.40%,验证了混合模型在超短期风速预测中的有效性和稳定性,以及在不同数据集上的泛化性能。