基于时空长短时记忆神经网络的地基云图预测算法

针对传统云运动轨迹预测方法存在的预测精度差、空间结构细节信息丢失等问题,提出一种基于时空长短时记忆(ST-LSTM)神经网络的地基云图预测模型。首先使用卷积编码网络提取输入视频流的高维图像特征;然后在特征提取模型中对图像潜在信息进行多分支获取,一部分使用ST-LSTM神经网络提取不同帧之间的时空特征,另一部分将图像序列进行分解,并通过基于门控机制的记忆融合网络来获取分解后图像中的结构细节信息;最后将得到的分支特征进行组合后经过解码网络输出最终的预测视频流。在地基云图、Moving MNIST和Human 3.6M数据集上的实验结果表明,在图像预测准确率、结构细节信息保留效果以及人眼主观感受上,该预测模型均优于对比模型。与基准模型TaylorNet相比,所提模型在Moving MNIST数据集上均方误差指标和平均绝对误差指标分别降低15.7%和11.8%,在地基云图数据集上,其结构相似性指标与峰值信噪比指标分别提升1%和3.2%,且生成的视频流数据更为清晰,能够更准确地描述云层未来的运动状况,从而更可靠地预测光伏电站未来的输出功率。

基于改进灰狼算法优化双向长短时记忆神经网络的水冷壁壁温预测

提出一种基于改进灰狼(MGWO)算法优化双向长短时记忆(BiLSTM)神经网络的水冷壁壁温预测模型,灰狼算法采用非线性因子调整策略、自适应位置更新策略和动态权重修改策略进行改进以提升算法的全局寻优能力,利用改进灰狼算法优化BiLSTM模型的隐藏层数量、学习率和正则化参数以提高模型的预测精度,采用新疆某电厂的数据进行预测仿真,结果表明:改进后的算法预测精度更高,在机组升、降负荷时,均可以预测到壁温的变化趋势,模型的平均均方根误差相比于长短时记忆(LSTM)神经网络、BiLSTM模型分别降低了9.86%和3.69%,且可以提前预测到水冷壁壁温的超温情况,对于预防水冷壁超温有重要意义。

基于长短时记忆神经网络易损性分析的适用性研究

桥梁的损坏或失效可能导致严重的人员伤亡和巨大的经济损失。因此,对桥梁的破坏损失和地震性能进行准确的定量评估至关重要。为了实现这一目标,通常会采用构建易损性曲线的方法。易损性曲线表征在给定地震动强度下,桥梁部件或结构达到或超过某一破坏程度的条件概率。采用桥墩位移延性比作为损伤指标,利用长短时记忆(long short-term memory,简称LSTM)神经网络成功地建立了桥梁地震易损性曲线。研究结果表明,该模型展现了高计算效率和精度,可快速而准确地预测地震作用下桥梁结构构件的损伤指标。

基于图嵌入长短时记忆神经网络的非线性动态过程监控与诊断

针对复杂工业过程存在的非线性、动态性,以及故障标签难获取等特征,提出一种图嵌入长短时记忆神经网络在线监控与故障诊断方法。首先,对正常工况下采集的多维时序数据进行图嵌入,获得结构信息。其次,采用图注意力神经网络融合结构信息,并将融合后的结构信息输入用于预测的长短时记忆神经网络中。最后,提出一种新的基于预测误差指标的非线性动态过程在线监控方法和基于因果分析图的故障诊断方法。采用田纳西-伊斯曼数据集进行实验验证,结果表明了所提方法的有效性。

基于长短时记忆神经网络的Multi-GNSS卫星钟差建模预报

针对卫星钟差预报中二次多项式模型存在易受噪声干扰、预报精度不高的问题,构建一种基于长短时记忆神经网络的multi-GNSS卫星钟差预报模型,并分析不同卫星系统、不同钟类型基于不同建模方案的模型精度。为验证该模型的有效性和可行性,利用LSTM模型、QP模型、QP-LSTM模型分别基于12 h和24 h钟差序列进行建模,预报1 h、3 h、6 h、12 h钟差。结果表明,LSTM模型建模24 h、预报1 h精度最高。multi-GNSS卫星钟差LSTM预报模型中Galileo系统精度最高,其次为BDS-2系统和GPS系统,GLONASS系统精度最低,精度分别为0.018 ns、0.069 ns、0.133 ns、0.242 ns。不同原子钟预报精度不同,氢原子钟预报精度优于铷原子钟、铯原子钟。LSTM神经网络模型预报精度相较于QP-LSTM模型提升27%,相较于QP模型提升36%。

双向长短时记忆神经网络在滩坝砂储层岩性识别中的应用

研究区致密滩坝砂储层油气储量丰富,勘探开发潜力较高,但存在埋藏深、单层厚度薄、渗透率超低、孔隙结构复杂以及单井自然产能极低的特征,储层划分与岩性识别困难。针对测井数据具有纵向时序连续的特点,构建一个双向长短时记忆神经网络(BiLSTM)岩性识别模型,采用随机森林方法对常规测井数据等参数进行特征选择,将选择的参数作为输入变量训练BiLSTM模型。应用该模型对测试集的井资料进行验证,结果表明模型的岩性识别准确率为0.86,取得了良好的应用效果,证明了BiLSTM模型适用于滩坝砂储层岩性识别。

冲击噪声下基于演化长短时记忆神经网络的调制信号识别

为了解决冲击噪声下长短时记忆(long short term memory,LSTM)神经网络调制信号识别方法抗冲击噪声能力弱和超参数难以确定的问题,本文提出了一种演化长短时记忆神经网络的调制识别方法。利用基于短时傅里叶变换的卷积神经网络(convolution neural network,CNN)去噪模型对数据集去噪;结合量子计算机制和旗鱼优化器(sailfish optimizer,SFO)设计了量子旗鱼算法(quantum sailfish algorithm,QSFA)去演化LSTM神经网络以获得最优的超参数;使用演化长短时记忆神经网络作为分类器进行自动调制信号识别。仿真结果表明,采用所设计的CNN去噪和演化长短时记忆神经网络模型,识别准确率有了大幅度的提高。量子旗鱼算法演化LSTM神经网络模型降低了传统LSTM神经网络容易陷于局部极小值或者过拟合的概率,当混合信噪比为0 dB,所提方法对11种调制信号的平均识别准确率达到90%以上。

一种采用记忆神经网络和曲线形状修正的负荷预测方法

针对分布式电源和新型负荷容量累积造成负荷影响因素多元化和不确定性特性增强的问题,文中提出一种采用记忆神经网络和曲线形状修正的负荷预测方法。在负荷峰值预测中,采用最大信息系数计算负荷峰值与影响因素的非线性相关性,实现对输入特征的筛选;综合考虑负荷峰值序列的长短期自相关性和输入特征与负荷峰值的不同程度相关性,结合Attention机制和双向长短时记忆(bidirectional long short-term memory,BiLSTM)神经网络建立负荷峰值预测模型。在负荷标幺曲线预测中,通过误差倒数法组合相似日和相邻日,建立负荷标幺曲线预测模型;针对预测偏差的非平稳特征,利用自适应噪声的完全集成经验模态分解和BiLSTM网络建立误差预测模型,对曲线形状进行修正。应用中国北方某城市的区域电网负荷数据为算例,验证了所提模型的有效性。

基于生成对抗网络和混合时空神经网络的入侵检测

针对网络入侵检测领域存在检测准确率低的问题,研究异常流量样本少和分类器性能不佳时的入侵检测模型,提出一种基于改进生成对抗网络和混合时空神经网络的入侵检测模型。改进生成对抗网络通过学习异常流量样本的分布特性,生成具有特定标签的人工异常流量样本;融合卷积神经网络和双向长短时记忆神经网络提取攻击流量的时空融合特征,利用注意力机制对时空融合特征进行加权,构建混合时空神经网络对网络流量进行分类预测。在UNSW-NB15数据集上对所提模型进行仿真实验,准确率和F1分数分别为92.93%和94.81%,表明所提模型能够有效改善原始数据集中的类别不平衡性问题,提高对异常流量样本的检测能力和网络入侵的检测准确率。

长短时记忆脉冲神经网络手语识别模型

手语识别是人机交互领域中的重要问题之一。随着人工智能技术的发展,越来越多的机器学习和深度学习方法被应用在手语识别任务上。文章设计一种轻量级的长短时记忆脉冲神经网络(long short-term memory-spiking neural network,LSTM-SNN)手语识别模型用于识别常用手语。首先提出自适应脉冲编码,将手语信号转化为脉冲信号;接着将脉冲信号输入到改进的带泄漏整合发放(leaky integrate-and-fire,LIF)神经元模型,以时间驱动的方式进行信息传导,完成网络训练。在收集到的101个手语手势数据集上的实验结果表明,该模型准确率达到95.37%,表明该文提出的模型优于其他深度学习和机器学习模型。

融合自动储备池神经网络和长短时记忆网络的森林火灾成灾面积预测方法

针对森林火灾数据维度高、易变性、可用信息少的问题,提出一种融合自动储备池神经网络(ARNN)与长短时记忆(LSTM)网络的森林火灾成灾面积预测方法。首先,根据森林火灾数据特征,基于ARNN随机生成权重;然后运用LSTM对随机权重进行进一步训练,以减少它的随机性带来的影响;最后以葡萄牙Montesinho国家森林公园的火灾数据集为例,验证所提ARNN-LSTM融合模型预测方法的合理性和有效性。实验结果表明,在平均百分比误差(MAPE)统计指标下,与目前流行的反向传播神经网络(BP-NN)、卷积神经网络(CNN)、LSTM和ARNN预测方法相比,融合ARNN和LSTM的森林火灾成灾面积预测方法的准确率分别提高了93.31%、47.74%、55.27%和9.39%。可见,所提方法能够高效地、较为精准地预测森林火灾成灾面积。

基于长短时记忆神经网络的基坑周边地表沉降预测

深基坑工程的施工对紧邻环境存在诸多影响,主要体现在周边地表沉降所导致的路面沉降、房屋倾斜等,因此对基坑周边地表沉降进行准确预测具有重要意义。本文基于长短时记忆神经网络模型建立了基坑周边地表沉降预测模型,通过对某基坑工程的应用,验证模型的有效性。结果表明:模型预测结果较为准确,通过对预测结果的误差分析开展了基于实测数据的更新预测,将预测精度提高了24%。本文成果可为基坑周边地表沉降研究提供一定的借鉴与参考。

基于卷积长短时记忆网络的短时公交客流量预测

针对传统的短时客流预测方法没有考虑到时序特征中跨时段客流之间的相似性问题,提出一种改进k-means聚类算法与卷积神经网络和长短时记忆网络相结合的短时客流量预测模型k-CNN-LSTM。通过k-means算法对跨时段时序数据进行聚类,使用间隔统计确定k值,构建交通流矩阵模型,采用CNN-LSTM网络处理具有时空特征的短时客流。该模型能够对具有空间相关性的数据进行较为准确的预测。使用真实数据集对模型进行检验和参数调优,实验结果表明:k-CNN-LSTM模型较其他模型有相对较高的预测精度。

基于长短期记忆神经网络组合算法的短期电力负荷预测

短期电力负荷具有不平稳、随机性强等特点,传统的负荷预测方法在建模中常表现出一定的局限性。为提高预测精度,提出了一种基于互补集合经验模态分解(complement-ary ensemble empirical mode decomposition,CEEMD)、长短期记忆(long short-term memory,LSTM)神经网络和多元线性回归(multiple linear regression,MLR)方法组合而成的CEEMD-LSTM-MLR短期电力负荷预测方法。首先将电力负荷数据通过CEEMD分解为高频分量和低频分量;将复杂的高频分量通过经贝叶斯优化的LSTM神经网络进行预测,周期性的低频分量通过MLR方法进行预测,最后将各分量叠加重构得到最终预测结果。通过算例分析,一方面将不同分解方法进行对比,一方面将不同模型进行对比并探究贝叶斯调参对结果的影响,验证了所提模型更具可靠性与准确性。

基于长短时记忆卷积神经网络的刀具磨损在线监测模型

为了提高机械加工过程中刀具磨损在线监测的准确性,提出了一种基于长短时记忆卷积神经网络(LSTM-CNN)的刀具磨损在线监测模型。在该监测模型中,通过振动、力、声发射传感器对刀具切削过程中的振动、力和声发射信号进行采集,采集的数据其本质为时间序列数据。考虑采集数据的序列和多维度特性,采用LSTM-CNN网络对采集的数据进行序列和多维度特征提取,利用线性回归实现特征到刀具磨损值的映射。通过实验验证了该模型的有效性和可行性,模型的精度较其他几种方法有了较大的提高。

基于长短时记忆神经网络的风电机组滚动轴承故障诊断方法

风能作为一种绿色能源在我国能源结构中发挥着越来越重要的作用;风电机组的滚动轴承作为传动系统的重要组成部分,是其主要故障部件之一;随着风电规模的不断增长,及时地发现风电机组滚动轴承的故障对风电场安全稳定运行具有重要意义;针对传统回归神经网络存在的梯度消失问题,提出了利用长短时记忆神经网络对风电机组滚动轴承进行故障诊断的模型;首先,利用小波包变换对风电机组滚动轴承振动信号进行处理,提取其特征向量,将其作为长短时神经网络的输入,从而诊断出风电机组滚动轴承的3种常见故障;通过算例分析,结果表明所提出的方法能够有效地对风电机组的滚动轴承进行故障诊断,并且在故障特征量差异不明显的情况下长短时记忆神经网络仍具有良好的故障诊断性能,说明了该方法的可行性和有效性。

基于量子加权长短时记忆神经网络的状态退化趋势预测

提出基于量子加权长短时记忆神经网络（QWLSTMNN）的旋转机械状态退化趋势预测方法。首先采用小波包能量熵误差构建状态退化特征集,然后将该特征集输入QWLSTMNN以完成旋转机械状态退化趋势预测。在QWLSTMNN中,将输入层权值量子位扩展到隐层以获取额外的梯度信息;利用隐层权值量子位的反馈信息以获取输入序列的全部记忆,改善了原长短时记忆神经网络（LSTMNN）的非线性逼近能力和泛化性能,使所提出的状态退化趋势预测方法具有较高的预测精度;另外,采用新型的基于量子相移门和量子梯度下降法的学习算法以实现QWLSTMNN的网络量子参数（即权值量子位和活性值量子位）的快速更新,提高了网络收敛速度,使所提出的预测方法具有较高的计算效率。滚动轴承状态退化趋势预测实例验证了该方法的有效性。

基于卷积神经网络及长短时记忆网络的短时船舶交通流量预测

由于船舶交通流具有非线性和复杂性的特征,传统交通流量预测方法的预测结果精度普遍不高,且需大量历史数据进行训练。在考虑船舶交通流数据时间特性的基础上增加了对数据空间特性的考虑,提出一种基于卷积神经网络(Convolutional Neural Networks,CNN)和长短时记忆网络(Long Short-Term Memory,LSTM)的短时船舶交通流量预测模型,并引入动态时间规整(Dynamic Time Warping,DTW)算法构造损失函数,提升模型的预测精度。结果表明:通过与灰色模型(Grey Model,GM)、差分整合移动平均自回归模型(Autoregressive Integrated Moving Average Model,ARIMA)、小波神经网络(Wavelet Neural Network,WNN)、反向传播神经网络(Back Propagation Neural Network,BPNN)和CNN-LSTM等模型对比,所提出的CNN-LSTM-DTW预测模型的预测结果相对误差最小,可信度高,预测精度优于对比模型。

基于粒子群优化算法和长短时记忆神经网络的蟹塘溶解氧预测

为准确预测蟹塘溶解氧质量浓度,及时掌握溶解氧质量浓度的变化趋势,提前采取防控措施从而降低河蟹养殖风险,提出了一种基于粒子群优化算法(PSO)和长短时记忆神经网络(LSTM)的蟹塘溶解氧质量浓度预测模型,采用PSO算法优化LSTM模型参数后对蟹塘溶解氧质量浓度进行预测。结果表明,PSO-LSTM模型不仅整体优于ARIMA模型,相较于其他LSTM模型也有更高的预测精度,在连续10个时间点的预测中相比于LDO-LSTM、LSTM和ARIMA模型平均百分误差分别降低了2.55%、1.891%和4.055%。说明PSO-LSTM模型在蟹塘溶解氧质量浓度预测中具有良好的准确性和稳定性,可以为河蟹养殖中水质精准预测与调控提供参考。

基于长短时记忆神经网络的潜油电泵故障预警

以潜油电泵机组的运行电流为主要判别依据,将长短时记忆神经网络应用于潜油电泵运行状态预测中,对于特征不明显的故障类型,利用潜油电泵井运行电压、运行电流、功率、油压、井口温度和瞬时流量数据预测下一时刻的电流值,并利用单分类支持向量机模型来预判潜油电泵机组的运行状态,从而实现潜油电泵的故障预警。最后,利用实际生产数据对模型进行验证。结果表明,所提方法预测准确度较高,可将报警时间提前1 h,实现故障的预警及诊断。