基于LSTM神经网络的现地烈度实时估算模型——以JMA烈度为例

如何快速并且准确估计目标场点烈度是地震预警中的关键问题。常用基于衰减关系的场点烈度估计和基于P波信息的现地烈度估计往往存在大震烈度低估的问题。本文提出了一种基于长短时记忆神经网络(logn short-term memery,LSTM)的现地JMA烈度持续估计模型。该模型以现地观测地震动的能量、能量增长率、地震动卓越周期和震源距作为输入,以该点的最大仪器地震烈度为预测目标。选取了日本K-NET台网记录101次地震数据作为训练集,94次地震数据作为测试集,训练了现地烈度估算LSTM神经网络模型。结果表明:在采用3 s时窗长度的序列进行预测时,高估的比例为1.51%,低估的比例为4.00%;并且,随着时窗长度的增加,高估和低估的比例也在不断降低。模型对高烈度(大于等于4.5度)样本的预测时效性随震源距的增加而增加,对大震远场高烈度区域能提供20 s以上的预警时间。

基于长短时记忆神经网络的励磁涌流与故障电流识别方法

变压器空载合闸时产生励磁涌流导致差动保护误动作的问题至今仍未能被完全解决.针对该问题,提出一种利用长短时记忆(LSTM)神经网络识别励磁涌流与故障电流的方法.首先,在PSCAD软件平台上搭建变压器空载合闸及内部故障仿真模型,通过仿真产生大量三相电流瞬时采样数据作为训练神经网络的样本集;然后,利用Keras平台搭建LSTM神经网络模型并完成训练;最后,利用新的仿真数据和现场故障录波数据对训练好的LSTM神经网络进行测试.结果表明LSTM神经网络可以快速准确地区分各种情况下的励磁涌流和故障电流,从而证实该方法的有效性.

基于长短时记忆神经网络的Multi-GNSS卫星钟差建模预报

针对卫星钟差预报中二次多项式模型存在易受噪声干扰、预报精度不高的问题,构建一种基于长短时记忆神经网络的multi-GNSS卫星钟差预报模型,并分析不同卫星系统、不同钟类型基于不同建模方案的模型精度。为验证该模型的有效性和可行性,利用LSTM模型、QP模型、QP-LSTM模型分别基于12 h和24 h钟差序列进行建模,预报1 h、3 h、6 h、12 h钟差。结果表明,LSTM模型建模24 h、预报1 h精度最高。multi-GNSS卫星钟差LSTM预报模型中Galileo系统精度最高,其次为BDS-2系统和GPS系统,GLONASS系统精度最低,精度分别为0.018 ns、0.069 ns、0.133 ns、0.242 ns。不同原子钟预报精度不同,氢原子钟预报精度优于铷原子钟、铯原子钟。LSTM神经网络模型预报精度相较于QP-LSTM模型提升27%,相较于QP模型提升36%。

基于时空长短时记忆神经网络的地基云图预测算法

针对传统云运动轨迹预测方法存在的预测精度差、空间结构细节信息丢失等问题,提出一种基于时空长短时记忆(ST-LSTM)神经网络的地基云图预测模型。首先使用卷积编码网络提取输入视频流的高维图像特征;然后在特征提取模型中对图像潜在信息进行多分支获取,一部分使用ST-LSTM神经网络提取不同帧之间的时空特征,另一部分将图像序列进行分解,并通过基于门控机制的记忆融合网络来获取分解后图像中的结构细节信息;最后将得到的分支特征进行组合后经过解码网络输出最终的预测视频流。在地基云图、Moving MNIST和Human 3.6M数据集上的实验结果表明,在图像预测准确率、结构细节信息保留效果以及人眼主观感受上,该预测模型均优于对比模型。与基准模型TaylorNet相比,所提模型在Moving MNIST数据集上均方误差指标和平均绝对误差指标分别降低15.7%和11.8%,在地基云图数据集上,其结构相似性指标与峰值信噪比指标分别提升1%和3.2%,且生成的视频流数据更为清晰,能够更准确地描述云层未来的运动状况,从而更可靠地预测光伏电站未来的输出功率。

基于改进灰狼算法优化双向长短时记忆神经网络的水冷壁壁温预测

提出一种基于改进灰狼(MGWO)算法优化双向长短时记忆(BiLSTM)神经网络的水冷壁壁温预测模型,灰狼算法采用非线性因子调整策略、自适应位置更新策略和动态权重修改策略进行改进以提升算法的全局寻优能力,利用改进灰狼算法优化BiLSTM模型的隐藏层数量、学习率和正则化参数以提高模型的预测精度,采用新疆某电厂的数据进行预测仿真,结果表明:改进后的算法预测精度更高,在机组升、降负荷时,均可以预测到壁温的变化趋势,模型的平均均方根误差相比于长短时记忆(LSTM)神经网络、BiLSTM模型分别降低了9.86%和3.69%,且可以提前预测到水冷壁壁温的超温情况,对于预防水冷壁超温有重要意义。

基于长短时记忆神经网络易损性分析的适用性研究

桥梁的损坏或失效可能导致严重的人员伤亡和巨大的经济损失。因此,对桥梁的破坏损失和地震性能进行准确的定量评估至关重要。为了实现这一目标,通常会采用构建易损性曲线的方法。易损性曲线表征在给定地震动强度下,桥梁部件或结构达到或超过某一破坏程度的条件概率。采用桥墩位移延性比作为损伤指标,利用长短时记忆(long short-term memory,简称LSTM)神经网络成功地建立了桥梁地震易损性曲线。研究结果表明,该模型展现了高计算效率和精度,可快速而准确地预测地震作用下桥梁结构构件的损伤指标。

基于图嵌入长短时记忆神经网络的非线性动态过程监控与诊断

针对复杂工业过程存在的非线性、动态性,以及故障标签难获取等特征,提出一种图嵌入长短时记忆神经网络在线监控与故障诊断方法。首先,对正常工况下采集的多维时序数据进行图嵌入,获得结构信息。其次,采用图注意力神经网络融合结构信息,并将融合后的结构信息输入用于预测的长短时记忆神经网络中。最后,提出一种新的基于预测误差指标的非线性动态过程在线监控方法和基于因果分析图的故障诊断方法。采用田纳西-伊斯曼数据集进行实验验证,结果表明了所提方法的有效性。

阀控液压马达位置伺服系统长短时记忆神经网络预测抗扰反步控制

针对阀控液压马达位置伺服系统中存在的时滞性与摩擦非线性问题,设计了一种长短时记忆神经网络预测抗扰反步控制器。该控制器通过引入长短时记忆神经网络对当前位置轨迹进行预测,并将预测值反馈给控制器对系统时滞进行直接补偿。对于系统中难以建模的摩擦非线性,将其视为扰动,通过设计扩张状态观测器进行估测,并使用反步法对估测得到的总扰动进行补偿。最后,在Simulink中搭建长短时记忆神经网络预测抗扰反步控制算法进行仿真验证,并与径向基函数滑模控制算法、反步控制算法和自抗扰控制算法进行对比,证明其在对含有时滞及摩擦非线性的阀控液压马达位置伺服系统进行控制时,具有较快的响应速度及较好的跟踪性能。

基于K均值聚类算法和LSTM神经网络的管道腐蚀阶段预测方法

针对声发射检测获得的管道腐蚀信号,提出了一种基于K均值(K-means)聚类算法和长短期记忆(LSTM)神经网络的管道腐蚀阶段预测方法。首先,利用K-means聚类算法将腐蚀信号分类,再构建LSTM神经网络模型,并采取了无监督学习的方式,以声发射波形为出发点,对模型进行参数优化,最后进行管道腐蚀阶段预测,并根据评价指标对模型进行评价。研究表明:对LSTM神经网络模型适当增加隐藏层,可以使得模型更加稳定,鲁棒性更好;与现有故障诊断模型相比,LSTM神经网络模型的精度更高。

基于长短时记忆神经网络的非侵入式电力负荷辨识方法

常规的非侵入式电力负荷辨识方法忽略了暂态特征对负荷辨识的影响,为此,设计了基于长短时记忆神经网络的非侵入式电力负荷辨识方法。提取非侵入式电力负荷特征,采集电流、电压、功率信号,获取暂态负荷特征与稳态负荷特征。基于长短时记忆神经网络辨识电力负荷类别,利用时间特征细分负荷事件,划分负荷事件的区间,得到负荷类型数量,使负荷事件与负荷序列相匹配,从而实现电力负荷的精准辨识。采用对比实验验证了该方法的辨识效果更佳。

基于长短时记忆神经网络(LSTM)的钟差预报算法

原子钟钟差预报在原子时计算和原子钟频率驾驭中发挥着重要的作用。长短时记忆神经网络(LSTM)预报算法能够处理多参数长期依赖关系的时间序列预报,以氢钟和铯钟实测数据为样本,通过构建LSTM钟差预报模型,降低了长期原子钟内部噪声以及原子钟漂移对钟差预报的影响,并以72h, 240h和720h为预报时长,分别与线性多项式模型、灰色模型和Kalman模型原子钟钟差预报模型进行预报误差对比。研究表明,在240h以上的预报时长中,LSTM建模长期依赖关系的优势得以体现,相较于其他3类模型可以获得更高的预报精度。

基于LSTM循环神经网络的故障时间序列预测

有效地预测使用阶段的故障数据对于合理制定可靠性计划以及开展可靠性维护活动等具有重要的指导意义。从复杂系统的历史故障数据出发,提出了一种基于长短期记忆(LSTM)循环神经网络的故障时间序列预测方法,包括网络结构设计、网络训练和预测过程实现算法等,进一步以预测误差最小为目标,提出了一种基于多层网格搜索的LSTM预测模型参数优选算法,通过与多种典型时间序列预测模型的实验对比,验证了所提出的LSTM预测模型及其参数优选算法在故障时间序列分析中具有很强的适用性和更高的准确性。

基于长短时记忆卷积神经网络的刀具磨损在线监测模型

为了提高机械加工过程中刀具磨损在线监测的准确性,提出了一种基于长短时记忆卷积神经网络(LSTM-CNN)的刀具磨损在线监测模型。在该监测模型中,通过振动、力、声发射传感器对刀具切削过程中的振动、力和声发射信号进行采集,采集的数据其本质为时间序列数据。考虑采集数据的序列和多维度特性,采用LSTM-CNN网络对采集的数据进行序列和多维度特征提取,利用线性回归实现特征到刀具磨损值的映射。通过实验验证了该模型的有效性和可行性,模型的精度较其他几种方法有了较大的提高。

基于长短时记忆神经网络的风电机组滚动轴承故障诊断方法

风能作为一种绿色能源在我国能源结构中发挥着越来越重要的作用;风电机组的滚动轴承作为传动系统的重要组成部分,是其主要故障部件之一;随着风电规模的不断增长,及时地发现风电机组滚动轴承的故障对风电场安全稳定运行具有重要意义;针对传统回归神经网络存在的梯度消失问题,提出了利用长短时记忆神经网络对风电机组滚动轴承进行故障诊断的模型;首先,利用小波包变换对风电机组滚动轴承振动信号进行处理,提取其特征向量,将其作为长短时神经网络的输入,从而诊断出风电机组滚动轴承的3种常见故障;通过算例分析,结果表明所提出的方法能够有效地对风电机组的滚动轴承进行故障诊断,并且在故障特征量差异不明显的情况下长短时记忆神经网络仍具有良好的故障诊断性能,说明了该方法的可行性和有效性。

基于量子加权长短时记忆神经网络的状态退化趋势预测

提出基于量子加权长短时记忆神经网络（QWLSTMNN）的旋转机械状态退化趋势预测方法。首先采用小波包能量熵误差构建状态退化特征集,然后将该特征集输入QWLSTMNN以完成旋转机械状态退化趋势预测。在QWLSTMNN中,将输入层权值量子位扩展到隐层以获取额外的梯度信息;利用隐层权值量子位的反馈信息以获取输入序列的全部记忆,改善了原长短时记忆神经网络（LSTMNN）的非线性逼近能力和泛化性能,使所提出的状态退化趋势预测方法具有较高的预测精度;另外,采用新型的基于量子相移门和量子梯度下降法的学习算法以实现QWLSTMNN的网络量子参数（即权值量子位和活性值量子位）的快速更新,提高了网络收敛速度,使所提出的预测方法具有较高的计算效率。滚动轴承状态退化趋势预测实例验证了该方法的有效性。

基于CNN-LSTM-AM神经网络的多维长序列物流需求预测

物流需求预测是物流管理中的关键环节,但是在现实生活中,物流需求可能受到诸如天气、经济状况、特殊事件等多方面因素的影响,这使得问题呈现出多维度、长序列的特征。随着深度学习和神经网络的发展,越来越多的研究开始尝试使用神经网络模型进行物流需求预测,但是单一的神经网络模型在处理多维度、长时间序列的预测任务时常常表现欠佳。由此文章提出了一种基于CNN-LSTM-AM的神经网络模型,用于多维长序列物流需求预测。通过消融实验与其他模型的对比,结果表明,其平均绝对误差(MAE)、均方根误差(RMSE)、决定系数(R2)均值分别为1.56、1.63和0.981,均优于其他6种神经网络模型,为物流企业提供了一个有效的参考来更好地规划资源和降低成本。

模型误差影响下基于CNN+BiLSTM神经网络的非圆信号目标直接跟踪算法

针对运动观测阵列状态误差与接收频率抖动同时影响下的非圆信号无源跟踪问题,提出了一种基于卷积神经网络(Convolutional Neural Network,CNN)+双向长短时记忆网络(Bi-directional Long Short-Term Memory,BiL⁃STM)的直接跟踪算法.该算法首先利用多运动观测阵列信号各频带间的相关性与辐射源信号的非圆特性,建立模型误差影响下的扩展多站观测矢量;接着利用多个观测时隙内扩展多站观测矢量的信号子空间构造空时特征输入序列;然后设计基于CNN与BiLSTM混合神经网络的直接跟踪模型,通过训练实现对非圆目标的轨迹矢量直接估计.本文算法是从原始数据信号子空间中估计轨迹矢量的直接跟踪模式,相比传统“观测参数估计+滤波轨迹跟踪”的两步估计模式,具有更高的估计精度.由于本文算法在神经网络训练过程中学习到模型误差的信息,因此能够实现对多种误差的校正.仿真结果表明,本文算法较传统两步跟踪算法与现有直接跟踪算法均具有更高的轨迹估计精度,能够明显提升模型误差影响下多站协同跟踪的鲁棒性.

基于卷积神经网络及长短时记忆网络的短时船舶交通流量预测

由于船舶交通流具有非线性和复杂性的特征,传统交通流量预测方法的预测结果精度普遍不高,且需大量历史数据进行训练。在考虑船舶交通流数据时间特性的基础上增加了对数据空间特性的考虑,提出一种基于卷积神经网络(Convolutional Neural Networks,CNN)和长短时记忆网络(Long Short-Term Memory,LSTM)的短时船舶交通流量预测模型,并引入动态时间规整(Dynamic Time Warping,DTW)算法构造损失函数,提升模型的预测精度。结果表明:通过与灰色模型(Grey Model,GM)、差分整合移动平均自回归模型(Autoregressive Integrated Moving Average Model,ARIMA)、小波神经网络(Wavelet Neural Network,WNN)、反向传播神经网络(Back Propagation Neural Network,BPNN)和CNN-LSTM等模型对比,所提出的CNN-LSTM-DTW预测模型的预测结果相对误差最小,可信度高,预测精度优于对比模型。

基于生成对抗网络和混合时空神经网络的入侵检测

针对网络入侵检测领域存在检测准确率低的问题,研究异常流量样本少和分类器性能不佳时的入侵检测模型,提出一种基于改进生成对抗网络和混合时空神经网络的入侵检测模型。改进生成对抗网络通过学习异常流量样本的分布特性,生成具有特定标签的人工异常流量样本;融合卷积神经网络和双向长短时记忆神经网络提取攻击流量的时空融合特征,利用注意力机制对时空融合特征进行加权,构建混合时空神经网络对网络流量进行分类预测。在UNSW-NB15数据集上对所提模型进行仿真实验,准确率和F1分数分别为92.93%和94.81%,表明所提模型能够有效改善原始数据集中的类别不平衡性问题,提高对异常流量样本的检测能力和网络入侵的检测准确率。

基于粒子群优化算法和长短时记忆神经网络的蟹塘溶解氧预测

为准确预测蟹塘溶解氧质量浓度,及时掌握溶解氧质量浓度的变化趋势,提前采取防控措施从而降低河蟹养殖风险,提出了一种基于粒子群优化算法(PSO)和长短时记忆神经网络(LSTM)的蟹塘溶解氧质量浓度预测模型,采用PSO算法优化LSTM模型参数后对蟹塘溶解氧质量浓度进行预测。结果表明,PSO-LSTM模型不仅整体优于ARIMA模型,相较于其他LSTM模型也有更高的预测精度,在连续10个时间点的预测中相比于LDO-LSTM、LSTM和ARIMA模型平均百分误差分别降低了2.55%、1.891%和4.055%。说明PSO-LSTM模型在蟹塘溶解氧质量浓度预测中具有良好的准确性和稳定性,可以为河蟹养殖中水质精准预测与调控提供参考。