基于长短时记忆网络的山区中小流域降雨径流模拟

洪水预报是流域防洪减灾的重要非工程措施之一。目前我国中小河流暴雨洪水灾害频发,但应对短历时强降雨的洪水预报能力仍不强。以安徽省东部山区中小流域为研究对象,引入长短时记忆网络建立流域降雨径流模型,探讨其在山区中小流域的洪水模拟效果。结果表明,考虑降雨输入的空间差异可提升深度学习模型降雨径流模拟预测性能,且长短时记忆网络能够取得优于传统人工神经网络的精度;长短时记忆网络模型有效建立了流域降雨与径流间的复杂非线性关系,模型在所选流域内场次洪水的峰值模拟效果较好,训练、测试集场次洪水峰值合格率均在90%以上;长短时记忆网络内部结构特征与流域水文过程具有较好的相似性,对山区中小流域暴雨洪水非线性关系拟合效果突出。

基于长短时记忆网络和生成对抗网络的VRB储能系统虚假数据注入攻击检测

随着信息技术的不断发展,直流微电网储能系统已成为深度融合的信息物理系统,而精确的荷电状态估计对储能系统的实时监测和安全稳定运行至关重要。针对全钒液流电池(vanadium redox flow battery,VRB)储能系统荷电状态估计中,由虚假数据注入攻击导致的异常数据检测问题,提出一种基于长短时记忆网络和生成对抗网络的检测方法。首先,建立了VRB等效电路模型和虚假数据注入攻击模型;然后,通过训练长短时记忆网络和生成对抗网络组成的循环网络,将长短时记忆神经网络嵌入生成对抗网络框架作为生成器和鉴别器来分析电池时序数据,通过判别网络中的判别损失误差和生成网络中的重构残差得到异常损失进行综合判断;最后,以CEC-VRB-5kW型号电池为对象,并构造不同强度的虚假数据攻击进行实验,验证检测方法的准确性与可行性。结果表明,与经典循环神经网络、随机森林、自编码器、长短时记忆网络检测方法进行对比,所提方法具有较高的检测精度,在VRB储能系统荷电状态估计中能够有效辨识虚假数据攻击。

基于双重分解和双向长短时记忆网络的中长期负荷预测模型

针对中长期电力负荷序列噪声含量高、难以直接提取序列周期规律从而影响预测精度的问题,提出了一种基于完全自适应噪声集合经验模态分解(complete ensemble empirical mode decomposition with adaptive noise,CEEMDAN)和奇异谱分析(singular spectrum analysis,SSA)双重分解的双向长短时记忆网络(bidirectional long and short time memory,BiLSTM)预测模型。首先,采用CEEMDAN对历史负荷进行分解,以得到若干个周期规律更为清晰的子序列;再利用多尺度熵(multiscale entropy,MSE)计算所有子序列的复杂程度,根据不同时间尺度上的样本熵值将相似的子序列重构聚合;然后,利用SSA去噪的功能,对高度复杂的新序列进行二次分解,去除序列中的噪声并提取更为主要的规律,从而进一步提高中长序列预测精度;再将得到的最终一组子序列输入BiLSTM进行预测;最后,考虑到天气、节假日等外部因素对电力负荷的影响,提出了一种误差修正技术。选取了巴拿马某地区的用电负荷进行实验,实验结果表明,经过双重分解可以将均方根误差降低87.4%;预测未来一年的负荷序列时,采用的BiLSTM模型将拟合系数最高提高2.5%;所提出的误差修正技术可将均方根误差降低9.7%。

基于卷积长短时记忆网络的短时公交客流量预测

针对传统的短时客流预测方法没有考虑到时序特征中跨时段客流之间的相似性问题,提出一种改进k-means聚类算法与卷积神经网络和长短时记忆网络相结合的短时客流量预测模型k-CNN-LSTM。通过k-means算法对跨时段时序数据进行聚类,使用间隔统计确定k值,构建交通流矩阵模型,采用CNN-LSTM网络处理具有时空特征的短时客流。该模型能够对具有空间相关性的数据进行较为准确的预测。使用真实数据集对模型进行检验和参数调优,实验结果表明:k-CNN-LSTM模型较其他模型有相对较高的预测精度。

融合BERT和双向长短时记忆网络的中文反讽识别研究

用户对微博热点话题进行评论时会使用反语、讽刺的修辞手法,其本身带有一定的情感倾向会对情感分析结果造成一定影响。因此该文主要针对中文微博评论进行反讽识别,构建了一个包含反语、讽刺和非反讽的三分类数据集,提出一个基于BERT和双向长短时记忆网络(BiLSTM)的模型BERT_BiLSTM。该模型通过BERT生成含有上下文信息的动态字向量,输入BiLSTM提取文本的深层反讽特征,在全连接层传入softmax对文本进行反讽识别。实验结果表示,在二分类和三分类数据集上,提出的BERT_BiLSTM模型与现有主流模型相比准确率和F1值均有明显提高。

基于长短时记忆网络的恒温水浴锅温度模型预测

【目的】由于恒温水浴锅温度系统存在强非线性及大滞后性,本研究提出一种基于长短时记忆网络的恒温水浴锅温度模型预测方法。【方法】首先,对采集到的数据进行标准化处理,寻找长短时记忆网络的最优结构及超参数,用来拟合出最佳的数据映射特征,并构建恒温水浴锅温度的动态数学模型。其次,通过模型对未来一段时间内的温度趋势进行预测。最后,使用本研究提出的方法与最小二乘法所预测的结果进行对比分析。【结果】本研究所提方法构建的模型的拟合度达到了98.2%,预测结果的MSE及MAE比最小二乘法模型分别降低了4.616、0.823。【结论】本研究所提方法具有更高的预测精度,对提高恒温水浴锅的生产效率及控制精度具有重要意义。

GPU异构计算环境中长短时记忆网络模型的应用及优化

随着深度学习的广泛应用及算力资源的异构化,在GPU异构计算环境下的深度学习加速成为又一研究热点。文章探讨了在GPU异构计算环境中如何应用长短时记忆网络模型,并通过优化策略提高其性能。首先,介绍了长短时记忆网络模型的基本结构(包括门控循环单元、丢弃法、Adam与双向长短时记忆网络等);其次,提出了在GPU上执行的一系列优化方法,如CuDNN库的应用及并行计算的设计等。最终,通过实验分析了以上优化方法在训练时间、验证集性能、测试集性能、超参数和硬件资源使用等方面的差异。

基于长短时记忆网络的顶托影响下干支流洪水模拟研究

干支流交汇河段易发生洪水相互顶托现象,造成河段持续处于高水位,极大地增加了洪水模拟的难度。以三岔河口上游受顶托影响显著的嫩江大赉站为研究对象,首先分析识别大赉站历史洪水的顶托关系,并根据洪水顶托关系划分洪水类型;在此基础上采用长短时记忆(LSTM)网络建立洪水模拟模型,评估模型的模拟效果。结果表明,采用流量、水位变化率可以较为有效地识别洪水顶托关系,历史上嫩江受到洪水顶托影响的年份较多;LSTM模型输入中仅考虑上游来水对大赉站流量模拟精度影响相对较小,而对水位模拟精度影响显著;考虑顶托影响的LSTM模型对大赉站的流量、水位模拟精度均较高。可见,所构建的LSTM模型能较准确地模拟出顶托影响下的大赉站洪水过程,为类似流域或站点的洪水模拟提供参考。

基于张量空谱卷积长短时记忆网络的遥感图像分类模型

基于遥感图像的地物要素分类与提取是实现数字化战场建设、智能化战场感知的关键支撑技术之一。实际应用平台运算资源有限、样本匮乏导致训练不充分等制约深度神经网络的遥感图像地物分类效果。基于张量链式分解和权重共享,设计空谱卷积长短时记忆单元的两种张量扩展结构,提出轻量级张量空谱卷积长短时记忆网络用于遥感图像分类。在两个公开高光谱遥感图像数据集进行实验,该算法仅需0.34MB存储空间,较同类方法实现更优分类性能。

联合变分模态分解和长短时记忆网络的锂离子电池健康状态估计

准确估计和预测锂离子电池的健康状态SOH(state-of-health)对新能源领域的发展至关重要,因此提出1种基于变分模态分解VMD(variational mode decomposition)和长短时记忆LSTM(long short-term memory)网络的锂离子电池容量衰减预测模型。首先采用VMD方法将原始电池容量衰减序列分解成比较单一的固有模态分量IMF(intrinsic mode function)序列,然后应用LSTM对分解得到的一系列IMF分量进行训练预测,最后对各IMF分量的预测值进行有效集成得到电池容量衰减序列的最终预测结果。基于美国国家航天局NASA(National Aeronautics and Space Administration)锂离子电池数据集选取的4块电池的放电容量衰减序列进行实验对比分析,结果表明:相较于LSTM、BiLSTM、EMD-LSTM、EMD-BiLSTM及CEEMDAN-LSTM方法,所提方法可以明显降低序列的复杂度,减少各IMF分量的模态混叠现象,具有很高的预测精度,优于其他预测模型,预测的最大平均绝对误差不超过5%,均方根误差和平均绝对百分比误差控制在4%之内。

长短时记忆网络与新安江模型耦合的降雨径流模拟性能

深度学习技术在降雨径流模拟方面具有广阔应用前景,但受训练样本限制,需与传统水文模型相耦合,由传统水文模型提供训练数据。耦合数据的选择和超参数方案对耦合模型的模拟性能影响显著,但尚未有专门的研究。本文以东湾流域为例,用双向长短时记忆网络耦合新安江模型不同模块数据,并用灰狼优化算法优化超参数,构建降雨径流模型。结果表明:模型耦合不同数据时,对日径流和场次洪水的模拟性能均有提高,尤以耦合产流量和模拟流量数据时最为明显。不同耦合数据需调整超参数方案,灰狼优化算法可满足需求。本研究为提高耦合模型径流模拟能力提供了新思路和新方法。

基于优化长短时记忆网络的海面微弱目标检测

针对强混沌背景噪声下传统方法难以检测微弱目标信号的问题,研究了混沌相空间重构理论和麻雀寻优算法,提出一种基于优化长短时记忆网络(LSTM)的混沌背景下微弱信号检测方法。利用麻雀搜索算法优化LSTM模型参数,提高模型预测精度,降低目标检测门限,结合LSTM模型进行单步预测,利用预测误差从强海杂波背景下检测出微弱目标信号。以Lorenz混沌系统作为混沌背景进行仿真实验,对叠加的小信号进行检测,结果表明,该方法能够有效地检测微弱信号,其预测的均方根误差0.00171(信噪比为-137.707 dB),相较于传统神经网络预测模型、LSTM预测模型、GA-LSTM预测模型、PSO-LSTM预测模型均有显著提升。利用IPIX雷达信号进行预测实验,进一步验证了该方法的有效性。

基于双向长短时记忆网络和自注意力机制的药物-药物相互作用预测

提出了一种基于双层双向长短时记忆网络(bi-directional long short term memory,BiLSTM)和自注意力(self-attention)机制的药物-药物相互作用(drug-drug interactions,DDIs)预测方法SA-BiLSTM。首先,利用FP3指纹、MACCS指纹、Pubchem指纹和PaDEL分子描述符对药物特征信息进行提取。其次,使用套索回归(least absolute shrinkage and selection operator,Lasso)方法消除对分类无关的特征,并利用重复编辑最近邻(repeated edited nearest neighbors,RENN)方法对数据进行平衡处理,得到最优特征向量。最后,将最优特征向量输入结合自注意力机制和双向长短时记忆网络的分类器预测DDIs。基于五折交叉验证,同时与其它预测方法进行比较,本工作所提出的方法在两个数据集上获得较高的预测准确率。为了综合评价SA-BiLSTM的性能,对药物-药物相互作用网络进行验证。实验结果表明,SA-BiLSTM表现出优秀的预测能力,可以为DDIs的预测提供一种新的思路。

基于双向长短时记忆网络的藏语语音情感识别

为提高藏语拉萨方言的语音情感识别准确度,构建了一个包含6000条语音样本的语料库,采用了改进的MFCC特征提取方法和双向长短时记忆网络(BiLSTM)模型。改进的MFCC特征能更有效地表征藏语中的情感信息,而BiLSTM模型则能有效捕捉语音序列中的长期依赖关系,这对于情感识别任务尤为重要。研究结果显示,所设计的方法达到了81%的准确率,相较于传统方法有显著提升,在处理藏语情感识别方面具有很高的效果和潜力。未来的研究方向包括进一步优化模型结构,探索更多的深度学习架构,改进语音特征提取技术,以进一步提高模型的准确率和泛化能力,为语音情感识别技术在藏语等少数民族语言中的应用奠定重要的基础。

基于深度双向长短时记忆网络的集装箱港口卡车轨迹预测

车辆轨迹预测是交通工程和人工智能领域中的一个关键研究议题,具有广泛的应用前景,包括自动驾驶、交通管理和智能交通系统等。在本研究中,着重解决港口区域内用于搬运集装箱的卡车在遭受遮挡时出现的瞬时定位误差。为此,本文设计了一种数据驱动的车辆轨迹预测框i架。该框架通过先行处理大规模GPS数据集,并采用深度双向长短时记忆网络i(DeepBLSTM)进行模型训练。针对从实际港口内收集而来的轨迹数据,使用DeepBLSTM网络与传统算法(如i卡尔曼滤波器)、机器学习技术(如支持向量回归)进行了对比。实验结果显示,DeepBLSTM在均方根误差(RMSE)、平均绝对误差(MAE)、F1分数以及轨迹重构误差(TRE)等多个评价指标上均表现出色,相对于传统方法,性能提升约为70%。因此,本文所提出的这一基于数据驱动的目标轨迹预测方法在准确度和实用性方面均具有明显优势,为港口内集装箱卡车的精准定位提供了有效的解决方案。

基于转导长短时记忆网络的语义解析框架

语义解析(SP)技术能够帮助用户将自然语言语句转化为结构化的语义表达,从而可以在结构化和半结构化的知识库中进行高效的数据检索。本文提出了一种基于空间注意力的转导长短期记忆网络模型(TLSTM),并将其用于语义解析。这个模型在检测时间序列数据中的微妙时间变化方面表现出优越的能力,超过了传统的LSTM模型。在Wiki SQL数据集上进行测试时,实验数据表明,该模型的表现优于同类模型。

基于长短时记忆网络的计算机网络数据传输节点入侵行为辨识方法

入侵行为正呈现出多样化和隐蔽化的特点,在这种复杂环境下,对于新型或未知的入侵行为,辨识灵敏度较低。为此,提出了一种基于长短时记忆网络的计算机网络数据传输节点入侵行为辨识方法。该方法深入分析网络入侵节点的聚集度,揭示入侵节点在网络中的分布规律。随后,针对入侵行为的特性,提取入侵行为特征,为后续的入侵检测提供关键依据。接着,利用长短时记忆网络模型,结合节点的历史行为数据和实时状态信息,实现对节点入侵行为的精准检测。最后,在检测到可疑行为后,通过设定合理的阈值和判定标准,对入侵行为进行准确辨识。实验结果表明:对于异常数据,基于长短时记忆网络的计算机网络数据传输节点入侵行为辨识方法表现出平稳且中等偏上的灵敏度增长趋势,明显优于基于统计分析和模式识别的入侵行为辨识方法,具有更高的应用价值。

基于卷积长短时记忆网络的国际平整度指标预测

公路的快速发展带来了对路面各项指标快速检测和分析的需求,针对路面国际平整度指标的特点,提出使用卷积神经网络与长短期记忆神经网络的结合(CNN-LSTM)对国际平整度指标进行预测,卷积神经网络和长短期记忆神经网络分别学习激光雷达距离数据的空间维度特征和时间维度特征,完成对平整度指标的预测。实验结果表明,相比较与LSTM网络,CNN-LSTM模型的MAPE值仅有2.3488,准确度和召回率分别达到90.61%和87.89%。通过真实值和预测值的对比可以发现CNN-LSTM更加适用于国际平整度指标的预测。

基于孪生网络和长短时记忆网络结合的配电网短期负荷预测

保证数据驱动型配电网短期负荷预测精准的关键是选取合适的相似日数据集和构建合理的日负荷预测模型。文中研究了一种基于孪生网络(SN)和长短时记忆(LSTM)网络相结合的配电网短期负荷预测模型。基于配电网负荷相似日的影响因素具有多样化、强随机性的特点,利用SN两个输入权重共享的特点对历史负荷数据进行分析,进而对待测日的特征进行分类,以完成相似日数据选取。此外,利用灰狼优化算法全局搜索能力强、收敛速度快等特点,对基于LSTM网络的配电网短期负荷预测模型进行参数优化。最后,以某一个区域配电网的实际数据为例,验证上述预测方法的准确性与鲁棒性,与LSTM网络、基于粒子群优化的LSTM网络、支持向量机等方法对比可知,所提方法具有较高的准确度和计算效率。

基于长短时记忆网络的人体姿态检测方法

针对在循环神经网络(RNN)网络结构下较为遥远的历史信号无法传递至当前时刻的问题,长短时记忆(LSTM)网络作为RNN的一种变体被提出,在继承RNN对时间序列优秀的记忆能力的前提下,LSTM克服了这种时间序列的长期依赖问题,并在自然语言处理与语音识别领域有较好的表现。对于人体行为动作中也存在作为时间序列的长期依赖问题与使用传统滑窗算法采集数据时造成的无法实时检测的问题,将LSTM扩展应用到人体姿态检测,提出了基于LSTM的人体姿态检测方法。通过目前智能手机中一般都带有的加速度传感器、陀螺仪、气压计和方向传感器实时采集的时序数据,制作了包含3 336条带有人工标注数据的人体姿态数据集,对行走、奔跑、上楼梯、下楼梯和平静五种日常持续性行为姿态与跌倒、起立、坐下和跳跃这四个突发行为姿态进行预测分类。对比LSTM网络与该研究领域内常用的浅层学习算法、深度学习全连接神经网络与卷积神经网络,实验结果表明,所提方法使用端对端的深度学习的方法相比基于所制作数据集的人体姿态检测算法模型的正确率提高了4.49个百分点,验证了该网络结构的泛化能力且更适合姿态检测。