基于鲸鱼优化算法的长短期记忆模型水库洪水预报

洪涝灾害是世界主要自然灾害之一,优化洪水预报方案对防洪决策至关重要,然而传统水文模型存在参数多、调参受人为因素影响,泛化能力弱等问题。针对上述问题,本文提出基于改进的鲸鱼优化算法和长短期记忆网络构建自动优化参数的WOA-LSTM模型,通过优化神经网络结构进一步增强该模型的稳定性和精确度,并且建立不同预见期下的洪水预报模型来分析讨论神经网络结构与预报期之间的关系。以横锦水库流域1986-1997年洪水资料为例,其中以流域7个雨量站点的降雨以及横锦站水文资料为输入,不同预见期下洪水过程作为输出,以1986-1993年作为模型的率定期,1994-1997年作为模型的检验期,研究结果表明:(1)以峰现时差、确定性系数、径流深误差和洪峰流量误差作为评价指标,相比较于LSTM模型和新安江模型对检验期的模拟结果表明WOA-LSTM模型拥有更高的精度、预报结果更稳定;(2)结合置换特征值和SHAP法分析模型特征值重要性,增强了神经网络模型的可解释性;(3)通过改变神经网络结构在一定程度避免由于预见期增加和数据关联性下降而导致的模型预报精度下降的问题,最终实验表明该模型在预见期1~6 h下都可以满足横锦水库的洪水预报要求,可以为当地的防洪决策提供依据。

Prophet-LSTM组合模型在运输航空征候预测中的应用

为准确预测中国运输航空征候万时率,提出了一种将时间序列模型和神经网络模型组合的预测方法。首先,利用2008年1月—2020年12月的运输航空征候万时率数据建立Prophet模型,使用RStudio软件进行模型拟合,获取运输航空征候万时率的线性部分;其次,利用长短期记忆网络(Long Short-Term Memory,LSTM)建模,获取运输航空征候万时率的非线性部分;最后,利用方差倒数法建立Prophet-LSTM组合模型,使用建立的组合模型对2021年1—12月运输航空征候万时率进行预测,将预测结果与实际值进行对比验证。结果表明,Prophet-LSTM组合模型的EMA、EMAP、ERMS分别为0.0973、16.1285%、0.1287。相较于已有的自回归移动平均(Auto Regression Integrated Moving Average,ARIMA)+反向传播神经网络(Back Propagation Neural Network,BPNN)组合模型和GM(1,1)+ARIMA+LSTM组合模型,Prophet-LSTM组合模型的EMA、EMAP、ERMS分别减小了0.0259、10.4874百分点、0.0143和0.0128、2.0599百分点、0.0086,验证了Prophet-LSTM组合模型的预测精度更高,性能更优良。

基于长短期记忆网络的CO_(2)气层识别方法

CO_(2)监测是油气开采中的关键环节,传统的CO_(2)监测方法面临很多挑战,在人工智能逐渐兴起的当下,深度学习技术被广泛应用于地球物理测井。珠江口盆地恩平凹陷深层CO_(2)气藏发育,传统测井方法无法准确评价储层流体。构建了基于长短期记忆网络(LSTM)的CO_(2)气层识别模型,采用m×2正则化交叉验证优选CO_(2)敏感测井参数,并对模型进行训练。利用该模型对珠江口盆地恩平凹陷L2井CO_(2)气层进行识别,并与支持向量机和K近邻算法识别结果进行对比。结果表明,3种深度学习算法对CO_(2)气层的识别效果良好,其中LSTM算法对CO_(2)气层的识别效果最好,准确度达93.4%,为深层CO_(2)气层识别工作提供了新思路。

利用卷积长短期记忆网络预测全球电离层Ne

由于电离层电子密度随时间变化,且空间分布不均匀,对不同频段的无线电波产生延缓和折射,因此电离层电子密度变化是影响短波通信、卫星通信、全球导航卫星系统和其他空间通信质量的一个主要因素,本文对全球电离层电子密度(Number of electron,Ne)的预测工作对短波通信设备三维射线实时追踪定位提供必要条件。本文采用国际电离层参考模型提供的2016年电离层Ne数据,根据数据的三维空间时间序列特征,搭建了自编码器和卷积长短期记忆(Convolutional Long Short-Term Memory Network,Conv LSTM)网络组成的网络结构,在不引入地球自转周期之外任何先验知识的条件下,对Ne数据进行深度学习并实现预测,首先通过实验对比了SGD、Adagrad、Adadelta、Adam、Adamax和Nadam六种优化算法的性能,又对比了三种预测策略的均方根误差(Root Mean Square Error, RMSE),1h-to-1h预测策略的全球平均RMSE为1.0 NEU(最大值的0.4%),1h-to-24h和24h-to-24h预测策略的全球平均RMSE为6.3 NEU(2.6%)。由实验结果得出以下结论,一是Nadam优化算法更适合电离层Ne的深度学习,二是1h预测策略的性能与之前类似的电离层TEC预测工作(RMSE高于1.5 TECU,最大值的1%)相比有竞争力,但预测时间太短且对数据的实时性要求较高,三是两种24h预测策略虽能实现长期预测但性能不理想,要实现三维空间时间序列的长期高精度预测需要进一步改善神经网络、模型结构和预测策略。

基于深度长短记忆模型的民航安保事件分析

为辅助公安民警分析民航安保事件,采用深度长短记忆(LSTM)模型,研究民航安保事件行为主体识别问题。通过搭建民航安保事件数据库,对民航安保事件概念信息进行多模态信息表示,提取安保事件时序特征,构建深度LSTM模型,进而实现安保事件行为主体的学习与预测。结果表明:该模型可基于事件时序特征分析事件行为主体,预测精度更优,且在有噪声情况下也可得出良好结果,相关研究成果已在SZX机场成功应用。

基于LSTM模型的无线物联网设备识别方法

随着无线物联网(Internet of Things,IoT)业务的兴起,海量设备的接入,无线网络受攻击的可能性大大增加,无线IoT设备的安全问题越来越重要。提出了一个基于深度机器学习长短期记忆(Long Short-Term Memory,LSTM)模型的无线IoT设备识别方法,用于甄别非法入侵的设备或者发现已经被入侵后通信异常的设备。所提方法的创新点在于通过深度机器学习对IoT设备公开传输的帧头信息进行分析识别,而不必深入分析承载信息,不依赖于易被修改和伪装的IP地址等身份信息,因此不受通信信息加密的影响,也不受各类伪装地址及其他入侵方法的影响。所提方法的应用可以自动快速地识别出非授权设备或者被入侵的授权设备,更好地保障网络安全。

基于SSA_(n)-SSA_(l)-LSTM的短期空调负荷预测模型

本文提出了一种奇异谱分析(SSA_(n))和麻雀搜索算法(SSA_(l))优化的长短期记忆网络(LSTM)的组合空调负荷预测模型。使用皮尔逊相关系数和主成分分析法对输入特征进行挑选和处理,以消除特征之间的冗余性和相关性。针对空调负荷的波动性和随机性,采用SSA_(n)将空调负荷分解为多个分量。同时针对LSTM超参数设置的问题,采用SSA_(l)对模型进行优化,使用优化后的LSTM对各个分量进行预测,对预测结果进行重构。利用办公建筑和医疗建筑的空调负荷数据对模型进行了验证和分析。研究发现,与其他模型相比,SSA_(n)-SSA_(l)-LSTM模型表现最好,在预测办公建筑空调负荷时决定系数(R^(2))高达0.996 7,平均绝对百分比误差(MAPE)、平均绝对误差(MAE)和均方根误差(RMSE)分别为0.62%、14.42 kW和18.82 kW,在预测医疗建筑空调负荷时R^(2)高达0.992 7,MAPE、MAE和RMSE分别为0.50%、19.40 kW和25.71 kW。

基于检验检测-服务质量-长短期记忆网络-情感分析模型的检验检测服务质量评价研究

为促进检验检测(IT)业服务质量提升,以检验检测服务质量(QoS)评级和用户服务需求为切入点,采用基于长短期记忆网络(LSTM)的深度学习方法进行用户情感分析(SA),识别用户对检验检测服务质量在各个评价维度上的情感倾向,设计由有形性、可靠性、响应性、安全性和移情性5个维度构成的评价体系,通过ITQoS-LSTM-SA模型对检验检测服务机构服务质量进行评价与反馈,并利用7万多条相关文本数据进行实证。结果显示:LSTM模型在检验检测用户评论分类中的准确率达到了85.24%,检验检测服务质量的总评分为0.491 6,处于满意和非常满意程度之间。基于IT-QoS-LSTM-SA模型,可以直观地看出检验检测服务质量在各项评价指标上的优劣程度。

基于长短时记忆神经网络的Multi-GNSS卫星钟差建模预报

针对卫星钟差预报中二次多项式模型存在易受噪声干扰、预报精度不高的问题,构建一种基于长短时记忆神经网络的multi-GNSS卫星钟差预报模型,并分析不同卫星系统、不同钟类型基于不同建模方案的模型精度。为验证该模型的有效性和可行性,利用LSTM模型、QP模型、QP-LSTM模型分别基于12 h和24 h钟差序列进行建模,预报1 h、3 h、6 h、12 h钟差。结果表明,LSTM模型建模24 h、预报1 h精度最高。multi-GNSS卫星钟差LSTM预报模型中Galileo系统精度最高,其次为BDS-2系统和GPS系统,GLONASS系统精度最低,精度分别为0.018 ns、0.069 ns、0.133 ns、0.242 ns。不同原子钟预报精度不同,氢原子钟预报精度优于铷原子钟、铯原子钟。LSTM神经网络模型预报精度相较于QP-LSTM模型提升27%,相较于QP模型提升36%。

基于长短期记忆模型LSTM的近断层强震动记录零基线校正方法

利用强震动记录零基线校正方法解算永久位移一直以来都是地震工程领域的难题之一。在已有的零基线校正方法中,由于校正结果依赖于人工选取的倾斜时刻和GPS数据,因此,无法得到唯一准确的校正结果,且很难实现自动化处理。利用文中提出的长短期记忆模型LSTM进行分类的校正方法,实现了自动化校正数据处理,并以集集地震为例,与GPS观测数据进行对比,结果表明准确率可达85.7%,解决了已有方法结算永久位移准确率无法控制和不能自动化处理的问题。为建筑物或公路结构物抗震设计,特别是大跨桥梁的抗震加固提供参考依据。

长短时记忆脉冲神经网络手语识别模型

手语识别是人机交互领域中的重要问题之一。随着人工智能技术的发展,越来越多的机器学习和深度学习方法被应用在手语识别任务上。文章设计一种轻量级的长短时记忆脉冲神经网络(long short-term memory-spiking neural network,LSTM-SNN)手语识别模型用于识别常用手语。首先提出自适应脉冲编码,将手语信号转化为脉冲信号;接着将脉冲信号输入到改进的带泄漏整合发放(leaky integrate-and-fire,LIF)神经元模型,以时间驱动的方式进行信息传导,完成网络训练。在收集到的101个手语手势数据集上的实验结果表明,该模型准确率达到95.37%,表明该文提出的模型优于其他深度学习和机器学习模型。

深度学习的LSTM-GRU复合模型在水文模拟中的应用

在深度学习中,长短期记忆网络(LSTM)和门控循环单元(GRU)是两种模拟时间序列、循环神经网络(RNN)的主要基础结构,各有优缺点。为弥补二者的不足,提高河流流量的预测精度,建立了LSTM-GRU复合模型,并用于海河流域大清河水系白沟河流域流量的预测。基于东茨村水文站2006—2019年的日观测数据,以8个水文气象因子(气压、水温、相对湿度、降水量、日照、地温、风速、水位)的观测数据为输入,河流流量为输出,建立LSTM-GRU水文模型。为验证该模型的优势,将LSTM-GRU的模拟结果分别与LSTM和GRU的结果进行比较。结果表明,LSTM-GRU复合模型的稳定性和精确度明显优于单一的LSTM或GRU模型,为河流流量预测提供了一个更精准的方法。

基于深度学习的调度检修预案生成模型构建

为解决传统的电力系统调度检修方法无法满足电力系统安全可靠运行要求,提出基于深度学习的调度检修预案,以提高电力系统的可靠性与运行效率。通过对数据进行收集与预处理,消除原始数据中的异常值、缺失值、错误数据。采用长短期记忆网络对电力系统历史数据进行训练学习,预测电力负荷及设备状态。采用条件生成模型,通过对抗训练来自动生成优化的调度检修预案。将提出的调度检修预案生成技术应用于实际的电力系统中,得到了电力系统1周的调度检修预案。为电力系统运维人员决策提供了参考。

基于LSTM神经网络模型分析预测钢材价格

钢价时间序列具有明显的长短记忆特征,故以施工企业安徽省的项目部实际采购规格型号为HRB400Eφ16螺纹钢的金额为例,科学合理的运用LSTM模型对其建模,并与传统的ARIMA模型进行对比,结果表明LSTM模型的预测相对误差为0.03,比ARIMA模型预测精度更好,适合用来预测建筑钢材价格。

基于堆叠长短期记忆网络的互联网流量预测

对互联网流量的有效预测是网络运营商进行网络优化的重要组成部分,为了提高互联网流量的有效预测,本文提出了一种堆叠长短期记忆网络(LSTM)模型来预测未来的互联网流量。首先,介绍了堆叠LSTM的网络结构。然后构建了4种不同堆叠层数的LSTM网络结构,并利用欧洲11个城市的ISP互联网流量和英国学术网流量数据集进行实验对比,确定了当堆叠层数为2层时,预测的精确度最高。最后为了验证该模型的有效性,通过均方根误差和平均绝对误差这两个衡量标准,与DBN、GRU、HA模型进行比较。实验结果表明,基于堆叠的LSTM预测模型较其它模型的RMSE值和ER值均有所降低。

使用深度长短时记忆模型对于评价词和评价对象的联合抽取

评价词和评价对象抽取在意见挖掘中是一个重要的任务,我们在句子级评价词和评价对象联合抽取任务上研究了长短时记忆(long short-term memory)神经网络模型的几种变种应用。长短时记忆神经网络模型是一种循环神经网络模型,该模型使用长短时记忆模型单元作为循环神经网络的记忆单元,它能够获得更多的长距离上下文信息,同时避免了普通循环神经网络的梯度消失和梯度爆炸的问题。我们对比了传统的方法,实验结果证明长短时记忆神经网络模型优于以前的方法,在细粒度评价词和评价对象的联合抽取中达到更好的性能。

基于长短期记忆网络的扩展F事件短临预测

考虑到我国区域电离层扩展F发生的物理机制和相关因素以及观测数据的可获取性,利用适宜于时间序列预测的长短期记忆网络建立了我国不同区域电离层扩展F事件的预测模型,对未来3 h是否会发生扩展F事件进行预测.以处于我国典型纬度地区的满洲里、北京、海口站为例,利用2015和2016年测试数据集对模型预测精度进行了检验,满洲里、北京、海口站平均准确率分别为92.4%、95.3%、96.0%,平均精确率分别为75.0%、61.2%、62.6%,平均召回率分别为73.0%、50.6%、31.5%.由此可见:在某些情况下,比如在低纬度地区的海口站,模型的召回率较低;除此之外,所建立的扩展F模型在多数情况下具有较高的预测能力.

基于长短期记忆神经网络模型的空气质量预测

随着城市化和工业化的快速发展,空气污染问题日益突出,空气质量预测显得尤为重要。当前一些有代表性的研究对空气质量进行实时监测和预报,例如周广强等采用数值预报的方法对中国东部地区的空气质量进行分析,但其实验结果表明该方法难以预测非常重的污染;SANKAR等使用多元线性回归对空气质量进行预测,但其实验结果表明线性模型预测精度低、效率慢;P REZ等使用统计方法对空气质量进行预测,实验结果证明统计方法的预测精度比较低;WANG等采用改进的BP神经网络建立了空气质量指数的预测模型,其实验验证了BP神经网络收敛速度慢、容易陷入局部最优解的问题;YANG等利用相邻网格的空气质量浓度效应,建立了基于随机森林的PM 2.5浓度预测模型,通过实验过程证明网格划分程序削弱了后续空气质量分析的质量和效率。这些方法都难以从时间角度建模,其中预测精度低是比较重要的问题。因为预测精度低可能会导致空气质量预测结果出现较大的误差。针对空气质量研究中预测精度低的问题,提出了基于长短期记忆单元(long short-term memory,LSTM)的神经网络模型。该模型使用MAPE,RMSE,R,IA和MAE等指标来检测LSTM神经网络与对比模型的预测性能。由于Delhi和Houston是空气污染程度比较严重的城市,所以使用的实验数据集来自Delhi的Punjabi Bagh监测站2014—2016年的空气质量数据和Houston的Harris County监测站2010—2016年的空气质量数据。LSTM神经网络与多元线性回归和回归模型(SVR)的比较结果表明,LSTM神经网络适应多个变量或多输入的时间序列预测问题,LSTM神经网络具有预测精度高、速度快和较强的鲁棒性等优点。

基于深度长短时记忆网络的多支路串联故障电弧检测方法

针对低压配电系统中,实际配电网负载端的负载串并联形式的多样化和多变性特点,研究干路点检测支路发生的故障电弧具有十分明显的实际意义,提出了一种基于深度长短时记忆(LSTM)网络的多支路串联故障电弧检测方法。首先,构建实验平台,采集支路发生不同串联故障情况下的干路电流信号共计72000组;然后,将电流信号分为训练集和测试集;最后,通过Python平台优化深度LSTM网络模型结构以识别故障电弧,并输出检测结果。实验结果显示改进的LSTM网络对于每组实验单独分类检测准确率最低为96.8%,最高可达99.0%,多组实验统一进行检测准确率达94.88%。该方法能够有效识别多支路负载下的串联故障电弧,为低压串联故障电弧的准确检测提供了新的思路和有益探索。

基于深度学习的轨道不平顺与车体垂向加速度映射模型

高速列车在长期服役条件下,其车辆悬挂系统等参数与设计值差异较大。多体动力学仿真模型难以模拟真实运营环境,且计算效率较低。为更加准确、快速地评价各种轨道结构以及不平顺激励下车体的垂向振动响应,根据实测轨道不平顺与车体垂向加速度的时空数据传递特征,建立一种卷积长短期记忆组合模型,该模型将轨道不平顺与列车运行速度作为输入,实现对车体垂向加速度的预测。结果表明,卷积长短期记忆模型预测的平均绝对百分比误差值为5.64%,相比动力学仿真模型减少3.57%。在预测一段3 km长线路的垂向车体加速度时,动力学仿真模型需要花费约53 s,而卷积长短期记忆网络只需要花费约1.6 s,预测效率提升33倍。