Prophet-LSTM组合模型在运输航空征候预测中的应用

为准确预测中国运输航空征候万时率,提出了一种将时间序列模型和神经网络模型组合的预测方法。首先,利用2008年1月—2020年12月的运输航空征候万时率数据建立Prophet模型,使用RStudio软件进行模型拟合,获取运输航空征候万时率的线性部分;其次,利用长短期记忆网络(Long Short-Term Memory,LSTM)建模,获取运输航空征候万时率的非线性部分;最后,利用方差倒数法建立Prophet-LSTM组合模型,使用建立的组合模型对2021年1—12月运输航空征候万时率进行预测,将预测结果与实际值进行对比验证。结果表明,Prophet-LSTM组合模型的EMA、EMAP、ERMS分别为0.0973、16.1285%、0.1287。相较于已有的自回归移动平均(Auto Regression Integrated Moving Average,ARIMA)+反向传播神经网络(Back Propagation Neural Network,BPNN)组合模型和GM(1,1)+ARIMA+LSTM组合模型,Prophet-LSTM组合模型的EMA、EMAP、ERMS分别减小了0.0259、10.4874百分点、0.0143和0.0128、2.0599百分点、0.0086,验证了Prophet-LSTM组合模型的预测精度更高,性能更优良。

基于注意力机制的CNN-BiLSTM的IGBT剩余使用寿命预测

针对绝缘栅双极型晶体管(IGBT)可靠性问题,提出了一种融合卷积神经网络(CNN)、双向长短期记忆(BiLSTM)网络和注意力机制的剩余使用寿命(RUL)预测模型,可用于IGBT的寿命预测。模型中使用CNN提取特征参数,BiLSTM提取时序信息,注意力机制加权处理特征参数。使用IGBT加速老化数据集对提出的模型进行验证。结果表明,对比自回归差分移动平均(ARIMA)、长短期记忆(LSTM)、多层LSTM(Multi-LSTM)、 BiLSTM预测模型,在均方根误差和决定系数等评价指标方面该模型的性能最优。验证了提出的寿命预测模型对IGBT失效预测是有效的。

基于GA-LSTM自适应卡尔曼滤波的路面不平度识别

准确、快速地识别出车辆当前行驶的路面激励信息,是实现智能底盘控制进而保证车辆平顺性的关键。针对传统路面不平度识别算法准确率低、自适应性差等问题,提出了基于遗传算法(genetic algorithm,GA)优化长短期记忆神经网络(long short-term memory networks,LSTM)自适应卡尔曼滤波的路面不平度识别算法。基于2自由度车辆悬架模型,通过灰色关联法选择LSTM神经网络的特征输入变量,并采用GA优化LSTM神经网络的模型参数以准确识别路面等级,并据此实时更新卡尔曼滤波器算法中的噪声矩阵,实现了在复杂路况下对路面不平度的自适应识别。仿真和试验研究表明,所提出的基于GA-LSTM自适应卡尔曼滤波算法能够快速准确的识别路面不平度与路面等级,与传统卡尔曼滤波算法相比,相关系数、均方根误差和最大绝对误差分别提高3.11%、37.5%和51.2%,表明所提算法对复杂工况具有很好的自适应能力。

基于AM-LSTM的飞行区航空器滑行轨迹预测与冲突识别

为解决航空器点源定位难以有效预测而引发冲突风险愈来愈多的问题,构建基于注意力机制(AM)和长短期记忆网络(LSTM)的时间序列轨迹预测模型AM-LSTM,预测未来短时间内飞行区航空器的瞬时点源位置;在此基础上,根据航空器型号和滑行航向对其进行轮廓扩展,以航空器速度作为安全距离权重,通过射线法实现轮廓冲突的判定;并以乌鲁木齐地窝堡机场为例进行验证,利用训练完成的轨迹预测模型预测飞行区航空器滑行轨迹,以识别航空器轮廓间的滑行冲突。结果表明:AM-LSTM预测模型能够准确预测飞行区航空器运动轨迹。未来3 s内轨迹位置预测的平均位移误差为1.05 m,轨迹点位置预测精准性可达94.37%,故能在轨迹预测的基础上精确识别滑行冲突风险,有利于保障飞行区的安全运行。

基于多维可预知特征的TCN-LSTM城轨短期客流预测

地铁客流量波动受众多因素影响,准确的客流预测数据有利于制定更高效的行车控制方案和客流管控方案。为提高客流预测精度,提出一种基于多维可预知特征的时序卷积神经网络-长短期记忆神经网络模型(TCNLSTM)地铁短期客流预测方法。考虑外部因素的影响,引入Spearman相关系数分析并提取日期、天气等可预知特征及其状态集,以提升预测精度,缩小特征空间,克服了冗余特征数据导致的模型过于复杂问题;通过融合时序卷积神经网络(TCN)提取的客流时间序列特征和可预知特征状态集构建了长短期记忆神经网络(LSTM)层输入,组合模型学习客流与外部影响因素的长短期依赖,从而实现常规日、节假日、不同天气等多场景下的短期客流预测。基于某西南城市地铁刷卡交易数据,对比差分整合移动平均自回归模型(ARIMA)、TCN、LSTM及TCN-LSTM模型的短期客流预测结果,得出组合模型的总体平均绝对误差(MAE)值比其他方法低27%~48%,均方误差(MSE)值低13%~35%,平均绝对百分比误差(MAPE)值低2.8%~6.7%,上述3项指标均表明TCN-LSTM模型的客流预测效果更好。此外,对比实验表明通过融入提取的可预知特征数据,TCN-LSTM模型在测试集上的预测误差评价指标明显降低,所提方法能有效提高地铁短期客流预测精度。

基于K均值聚类算法和LSTM神经网络的管道腐蚀阶段预测方法

针对声发射检测获得的管道腐蚀信号,提出了一种基于K均值(K-means)聚类算法和长短期记忆(LSTM)神经网络的管道腐蚀阶段预测方法。首先,利用K-means聚类算法将腐蚀信号分类,再构建LSTM神经网络模型,并采取了无监督学习的方式,以声发射波形为出发点,对模型进行参数优化,最后进行管道腐蚀阶段预测,并根据评价指标对模型进行评价。研究表明:对LSTM神经网络模型适当增加隐藏层,可以使得模型更加稳定,鲁棒性更好;与现有故障诊断模型相比,LSTM神经网络模型的精度更高。

基于CNN-LSTM和卷复制方法的高可用系统设计方法

针对单机服务器存在的单点故障问题,以及主备双机中存在的逻辑故障导致数据丢失的问题,设计了一种基于卷积和长短期记忆神经网络(CNN-LSTM)和卷复制方法的HA(High Availability)系统。系统至少包含两个节点,一个主节点以及一个或多个备用节点,主节点和备节点之间支持主备切换。每个服务器节点上包含4个模块,分别是负责接收配置信息与读写请求的代理模块;进行磁盘读写操作和重定向读写的磁盘I/O(输入输出)模块;负责主备节点间备份快照、映射表、数据块复制的卷复制模块以及基于CNN-LSTM进行状态检测的高可用模块。实验表明,该系统不仅可以解决单点故障问题,也可以解决主备双机集群中无法解决的逻辑错误问题;同时基于CNN-LSTM方法,自动针对服务器的运行健康状态进行分析和预测,可以根据预测结果自动通知管理员进行处理或自动进行主备切换。

基于LSTM-AE的民机空调热交换器性能异常检测方法

空调热交换器性能异常检测技术是快速判断民机空调系统运行状态并合理安排维修任务的关键,传统的异常检测方法难以有效处理高维时序数据,无法实现系统早期故障预警。为此,本文提出了一种基于长短期记忆网络(LSTM,long-short term memory)与自编码器(AE,autoencoder)模型的无监督异常检测方法,用以识别民机空调系统异常运行状态。首先,基于民机空调系统原始传感器参数构建表征空调热交换器性能的特征监测参数;其次,构建LSTM-AE模型进行数据特征重构并计算重构误差;最后,使用孤立森林(iForest, isolation forest)进行无监督异常监测。将本文构建的无监督异常检测方法与传统方法对比,并建立模型评估指标,验证结果表明,所构建的模型方法可以对民机空调热交换器性能异常状态进行有效检测。

基于改进LSTM-AdaBoost的铣刀磨损量预测

针对铣刀磨损量预测时精度低的问题,提出一种基于黑寡妇算法(BWO)优化的长短期记忆神经网络(LSTM)与AdaBoost集成学习算法相结合的铣刀磨损量预测方法。在铣刀磨损振动信号中提取时域、频域以及时频域多域特征。通过BWO算法优化LSTM的核心参数,并将优化后的LSTM网络与AdaBoost算法进行结合,构建铣刀磨损量预测模型。最后用PHM Society 2010铣刀全寿命周期的振动数据进行实验。研究结果表明:所提方法能够有效地预测出铣刀磨损量变化值,优化后模型的平均绝对误差百分比为3.436%、均方根误差为6.471、决定系数R^(2)为0.935。该方法能够获得准确率更高的铣刀磨损量预测值,预测效率更高。

利用长短期记忆网络LSTM对赤道太平洋海表面温度短期预报

海表面温度作为海洋中一个最重要的变量,对全球气候、海洋生态等有很大的影响,因此十分有必要对海表面温度(SST)进行预报。深度学习具备高效的数据处理能力,但目前利用深度学习对整个赤道太平洋的SST短期预报及预报技巧的研究仍较少。本文基于最优插值海表面温度(OISST)的日平均SST数据,利用长短期记忆(LSTM)网络构建了未来10天赤道太平洋(10°S~10°N,120°E~80°W)SST的逐日预报模型。LSTM预报模型利用1982~2010年的观测数据进行训练,2011~2020年的观测数据作为初值进行预报和检验评估。结果表明:赤道太平洋东部地区预报均方根误差(RMSE)大于中、西部,东部预报第1天RMSE为0.6℃左右,而中、西部均小于0.3℃。在不同的年际变化位相,预报RMSE在拉尼娜出现时期最大,正常年份次之,厄尔尼诺时期最小,RMSE在拉尼娜时期比在厄尔尼诺时期可达20%。预报偏差整体表现为东正、西负。相关预报技巧上,中部最好,可预报天数基本为10天以上,赤道冷舌附近可预报天数为4~7天,赤道西边部分地区可预报天数为3天。预报模型在赤道太平洋东部地区各月份预报技巧普遍低于西部地区,相比较而言各区域10、11月份预报技巧最低。总的来说,基于LSTM构建的SST预报模型能很好地捕捉到SST在时序上的演变特征,在不同案例中预报表现良好。同时该预报模型依靠数据驱动,能迅速且较好地预报未来10天以内的日平均SST的短期变化。

基于Bi-TCN-LSTM的滚动轴承剩余使用寿命预测方法

由于时间卷积网络(temporal convolutional networks, TCN)感知场不足,轴承的关键退化信息常常被忽略,导致轴承剩余使用寿命(remaining useful life, RUL)预测结果不佳;而长短期记忆网络(long short-term memory, LSTM)随着数据量及序列长度的增加,长期依赖问题仍可能得不到很好解决。因此,课题组提出了一种基于双向时间卷积网络和长短期记忆(Bi-TCN-LSTM)的滚动轴承寿命预测方法。首先对多传感器数据进行归一化并做融合处理,然后采用Bi-TCN-LSTM进行数据特征提取与深度学习,其中对TCN模块引入卷积注意力机制(convolutional attention module, CAM),将LSTM的3个门简化为1个门,有效加快了预测模型学习的速度并提高了预测模型的精确度;采用IEEE PHM 2012轴承数据集作为实验数据集,进行了RUL预测实验。结果表明:与其他先进的预测模型相比,Bi-TCN-LSTM方法预测结果的误差相对较低,预测性能较好。

基于VMD-SSA-LSTM的架空输电导线覆冰预测模型

针对输电导线覆冰过程间断性强且波动性大而导致的现有模型预测精度不高的问题,从覆冰厚度数据的时序信息和气象信息出发,提出一种基于变分模态分解(variational mode decomposition,VMD)的麻雀搜索算法(sparrow search algorithm,SSA)优化长短期记忆网络(long short-term memory network,LSTM)的覆冰组合预测模型.该方法首先使用VMD分解覆冰厚度数据,降低了原始序列的不稳定性,得到具有不同中心频率的本征模态分量;其次,采用SSA算法对LSTM中的3个参数进行寻优;最后,对模态分量分别建立LSTM预测模型,将各个模态分量的预测值叠加为覆冰厚度的总预测值.通过实例仿真,对所提预测模型进行验证.结果表明:VMD-SSA-LSTM组合模型与其他模型相比,其预测精度有进一步提高,验证了所提方法的有效性.

基于VMD-SSA-LSTM考虑刀具磨损的数控铣床切削功率预测模型研究

传统的切削过程功率获取需要基于复杂的切削功率模型且很少考虑刀具磨损的影响,针对此设计了一种基于变分模态分解(VMD)、麻雀搜索算法(SSA)、长短时记忆(LSTM)神经网络的考虑刀具磨损的数控铣床切削功率预测模型,该模型无需解构数控铣床运行过程的能耗机理,基于一次性的历史实验数据即可实现数控铣床切削过程功率的高精度预测。首先,采用人工智能机器视觉技术对刀具磨损图片进行分析处理,获取刀具磨损图像的数字化特征,从而得到刀具最大磨损量;然后,建立基于VMD-SSA-LSTM考虑刀具磨损的数控铣床切削功率预测模型,利用VMD对数控铣床运行数据进行分解,采用SSA算法对LSTM神经网络超参数进行寻优,并将分解出的铣床运行数据分量输入到LSTM神经网络中,接着将每个分量的预测值相加,得到切削功率预测值;最后以面铣加工为例,将所提出的预测模型与BP神经网络、LSTM神经网络和传统模型进行对比分析,验证了所提模型的有效性和优越性。

基于Transformer-LSTM的闽南语唇语识别

针对端到端句子级闽南语唇语识别的问题,提出一种基于Transformer和长短时记忆网络(LSTM)的编解码模型.编码器采用时空卷积神经网络及Transformer编码器用于提取唇读序列时空特征,解码器采用长短时记忆网络并结合交叉注意力机制用于文本序列预测.最后,在自建闽南语唇语数据集上进行实验.实验结果表明:模型能有效地提高唇语识别的准确率.

基于多源信息融合和WOA-CNN-LSTM的外脚手架隐患分类预警研究

面对施工现场外脚手架隐患信息的多样性,传统的基于传感器监测的单一信号预警研究存在容错力不佳、含有信息有限等问题。针对施工现场外脚手架“图像+监测”数据,提出一种基于数据层和特征层信息融合的脚手架隐患分类预警方法。首先,利用Revit三维建模软件建立外脚手架实体模型,对不同初始隐患下的外脚手架进行有限元分析,划分隐患预警等级;其次,利用无迹卡尔曼滤波算法(Unscented Kalman Filter,UKF)及卷积长短时记忆网络(Convolutional Neural Network-Long Short Term Memory Network,CNN-LSTM)实现脚手架同类信息数据层融合及异类信息特征层融合;最后,通过实时收集西安市某在建项目落地式双排扣件式钢管脚手架隐患信息,对其进行分类预警,并使用鲸鱼优化算法(Whale Optimization Algorithm,WOA)对CNN-LSTM网络进行参数优化,发现隐藏节点个数为30、学习率为0.0072、正则化系数为1×10^(-4)时分类效果最佳,优化后预警精度达到了91.4526%。通过可视化WOA-CNN-LSTM、CNN-LSTM、CNN-SVM(Support Vector Machine,支持向量机)及CNN-GRU(Gate Recurrent Unit,门控循环单元)分类预警结果,证实了优化后的CNN-LSTM网络在脚手架分类预警方面的优越性。

基于CNN-BiLSTM的油田注水流量预测

针对深度学习中的RNN(Recurrent Neural Networks)常用于时间序列预测,但其存在难以对历史序列进行特征提取、以及无法突出关键信息的影响且时间序列过长时早期信息易丢失等问题,提出一种基于双重注意力机制CNN(Convolutional Neural Networks)-BiLSTM(Bi-directional Long Short-Term Memory)的油田注水流量预测方法。该方法以油田历史注水数据为输入,利用CNN层提取历史注水数据特征,并引入特征注意力机制层,通过计算权重值的方式为特征赋予相应权重,使关键特征更容易得到较大权重,进而对预测结果产生影响;BiLSTM层对数据进行时序建模,并引入时间步注意力机制,通过选取关键时间步并突出该时间步的隐藏状态表达,使早期隐藏状态不会随时间消失,能提升模型对长时间序列的预测效果,最后完成流量预测。以公开数据集和中国南部某地区油田注水数据为算例,并与MLP(Multilayer Perceptron)、GRU(Gate Recurrent Unit)、LSTM(Long Short-Term Memory)、BiLSTM,CNN进行对比,证明该方法在油田注水流量预测中精度更高,可帮助油田制定生产计划、减少资源浪费以及提高注采率,具有一定的实际工程应用价值。

改进蜣螂算法优化LSTM的光伏阵列故障诊断

为提高光伏阵列故障诊断精度,提出一种基于变分模态分解VMD(variational mode decomposition)和改进蜣螂算法IDBO(improved dung beetle optimizer)优化长短期记忆LSTM(long short-term memory)网络的光伏阵列故障诊断方法。首先,针对蜣螂算法DBO(dung beetle optimizer)收敛精度低且易陷入局部最优的问题,提出一种融合Levy飞行策略、T分布扰动策略及多种群机制的IDBO算法,通过与DBO、麻雀搜索算法、鲸鱼优化算法寻优测试对比,证明IDBO算法的优越性,再与LSTM结合搭建IDBO-LSTM故障诊断模型。其次,为充分挖掘故障特征,利用VMD提取故障数据多个层面的特征分量,作为IDBO-LSTM模型输入量。最后,实验对比结果表明,该方法的故障诊断准确率达到98.34%,优于其他5种模型,证明了所提方法的可行性及优越性。

基于LSTM模型的船舶材料成本滚动预测

船舶建造周期长、材料成本占比大,易受大宗商品价格指数和汇率等多个因素的影响,造成实际完工成本与报价估算存在较大误差的情况。采用灰色关联分析(Grey Correlation Analysis,GCA)方法识别材料成本的影响因素,基于长短期记忆网络(Long Short-Term Memory,LSTM)模型构建船舶材料成本滚动预测模型,并使用某造船企业53艘64000 t散货船63个月的材料成本数据和对应的影响因素数据进行试验分析。结果表明,预测数据与实际数据误差在可接受范围内,可证明所选择方法和构建模型的有效性。研究结果对制造过程的成本实时预测和控制具有现实意义。

基于SDP和MCNN-LSTM的齿轮箱故障诊断方法

齿轮箱在长期使用过程中,不可避免地会产生齿轮故障和轴承故障,严重影响传动精度和设备运行安全。基于此,针对齿轮箱常见故障类型,研究多通道对称点图案(symmetrized dot pattern, SDP)数据处理方法,并利用最小能量误差法实现SDP关键参数的选取。结合多尺度卷积神经网络(multi-scale convolutional neural network, MCNN)的空间处理优势、长短时记忆网络(long short term memory, LSTM)的时间处理优势及其良好的抗噪性和鲁棒性,提出了一种基于SDP和MCNN-LSTM的齿轮箱故障诊断模型。同时利用东南大学齿轮箱数据集,验证了基于SDP和MCNN-LSTM的齿轮箱故障诊断方法对齿轮和轴承常见故障类型特征提取的有效性,并与现有其他故障诊断方法进行对比,结果表明了所提方法具有更高的精度。

基于CNN‑LSTM‑SE的心电图分类算法研究

心血管疾病是我国死亡率较高的疾病之一,通过观察心电图来判断心电信号是否出现异常能够对心血管疾病进行预防和筛查。由于心电图数据规模大且繁杂,临床医护人员在心电图筛查时,工作负担大且容易出现误诊或漏诊的情况。为了提高心电图的筛查效率、减少医护人员的压力,提出了一种基于卷积神经网络、长短期记忆神经网络和SE网络的心电图分类算法模型(CNN-LSTM-SE),该模型将心电图分成5种不同的类别。主要研究内容包括:选用MIT-BIH心律失常数据集作为心电信号的数据来源,使用巴特沃斯带通滤波器对心电信号进行去噪处理,通过Z-score方法对心电信号进行标准化处理,利用独热编码方法对心电信号标签进行编码,最后使用处理后的心电数据对所提算法模型进行训练和测试。实验结果表明:所提模型相较于其它模型,能够有效提高心电图分类的准确性,在实验数据集上的分类准确率达到99.1%。