基于双重分解和双向长短时记忆网络的中长期负荷预测模型

针对中长期电力负荷序列噪声含量高、难以直接提取序列周期规律从而影响预测精度的问题,提出了一种基于完全自适应噪声集合经验模态分解(complete ensemble empirical mode decomposition with adaptive noise,CEEMDAN)和奇异谱分析(singular spectrum analysis,SSA)双重分解的双向长短时记忆网络(bidirectional long and short time memory,BiLSTM)预测模型。首先,采用CEEMDAN对历史负荷进行分解,以得到若干个周期规律更为清晰的子序列;再利用多尺度熵(multiscale entropy,MSE)计算所有子序列的复杂程度,根据不同时间尺度上的样本熵值将相似的子序列重构聚合;然后,利用SSA去噪的功能,对高度复杂的新序列进行二次分解,去除序列中的噪声并提取更为主要的规律,从而进一步提高中长序列预测精度;再将得到的最终一组子序列输入BiLSTM进行预测;最后,考虑到天气、节假日等外部因素对电力负荷的影响,提出了一种误差修正技术。选取了巴拿马某地区的用电负荷进行实验,实验结果表明,经过双重分解可以将均方根误差降低87.4%;预测未来一年的负荷序列时,采用的BiLSTM模型将拟合系数最高提高2.5%;所提出的误差修正技术可将均方根误差降低9.7%。

基于长短时记忆网络的恒温水浴锅温度模型预测

【目的】由于恒温水浴锅温度系统存在强非线性及大滞后性,本研究提出一种基于长短时记忆网络的恒温水浴锅温度模型预测方法。【方法】首先,对采集到的数据进行标准化处理,寻找长短时记忆网络的最优结构及超参数,用来拟合出最佳的数据映射特征,并构建恒温水浴锅温度的动态数学模型。其次,通过模型对未来一段时间内的温度趋势进行预测。最后,使用本研究提出的方法与最小二乘法所预测的结果进行对比分析。【结果】本研究所提方法构建的模型的拟合度达到了98.2%,预测结果的MSE及MAE比最小二乘法模型分别降低了4.616、0.823。【结论】本研究所提方法具有更高的预测精度,对提高恒温水浴锅的生产效率及控制精度具有重要意义。

GPU异构计算环境中长短时记忆网络模型的应用及优化

随着深度学习的广泛应用及算力资源的异构化,在GPU异构计算环境下的深度学习加速成为又一研究热点。文章探讨了在GPU异构计算环境中如何应用长短时记忆网络模型,并通过优化策略提高其性能。首先,介绍了长短时记忆网络模型的基本结构(包括门控循环单元、丢弃法、Adam与双向长短时记忆网络等);其次,提出了在GPU上执行的一系列优化方法,如CuDNN库的应用及并行计算的设计等。最终,通过实验分析了以上优化方法在训练时间、验证集性能、测试集性能、超参数和硬件资源使用等方面的差异。

基于张量空谱卷积长短时记忆网络的遥感图像分类模型

基于遥感图像的地物要素分类与提取是实现数字化战场建设、智能化战场感知的关键支撑技术之一。实际应用平台运算资源有限、样本匮乏导致训练不充分等制约深度神经网络的遥感图像地物分类效果。基于张量链式分解和权重共享,设计空谱卷积长短时记忆单元的两种张量扩展结构,提出轻量级张量空谱卷积长短时记忆网络用于遥感图像分类。在两个公开高光谱遥感图像数据集进行实验,该算法仅需0.34MB存储空间,较同类方法实现更优分类性能。

长短时记忆网络与新安江模型耦合的降雨径流模拟性能

深度学习技术在降雨径流模拟方面具有广阔应用前景,但受训练样本限制,需与传统水文模型相耦合,由传统水文模型提供训练数据。耦合数据的选择和超参数方案对耦合模型的模拟性能影响显著,但尚未有专门的研究。本文以东湾流域为例,用双向长短时记忆网络耦合新安江模型不同模块数据,并用灰狼优化算法优化超参数,构建降雨径流模型。结果表明:模型耦合不同数据时,对日径流和场次洪水的模拟性能均有提高,尤以耦合产流量和模拟流量数据时最为明显。不同耦合数据需调整超参数方案,灰狼优化算法可满足需求。本研究为提高耦合模型径流模拟能力提供了新思路和新方法。

基于长短时记忆网络和生成对抗网络的VRB储能系统虚假数据注入攻击检测

随着信息技术的不断发展,直流微电网储能系统已成为深度融合的信息物理系统,而精确的荷电状态估计对储能系统的实时监测和安全稳定运行至关重要。针对全钒液流电池(vanadium redox flow battery,VRB)储能系统荷电状态估计中,由虚假数据注入攻击导致的异常数据检测问题,提出一种基于长短时记忆网络和生成对抗网络的检测方法。首先,建立了VRB等效电路模型和虚假数据注入攻击模型;然后,通过训练长短时记忆网络和生成对抗网络组成的循环网络,将长短时记忆神经网络嵌入生成对抗网络框架作为生成器和鉴别器来分析电池时序数据,通过判别网络中的判别损失误差和生成网络中的重构残差得到异常损失进行综合判断;最后,以CEC-VRB-5kW型号电池为对象,并构造不同强度的虚假数据攻击进行实验,验证检测方法的准确性与可行性。结果表明,与经典循环神经网络、随机森林、自编码器、长短时记忆网络检测方法进行对比,所提方法具有较高的检测精度,在VRB储能系统荷电状态估计中能够有效辨识虚假数据攻击。

基于卷积长短时记忆网络的短时公交客流量预测

针对传统的短时客流预测方法没有考虑到时序特征中跨时段客流之间的相似性问题,提出一种改进k-means聚类算法与卷积神经网络和长短时记忆网络相结合的短时客流量预测模型k-CNN-LSTM。通过k-means算法对跨时段时序数据进行聚类,使用间隔统计确定k值,构建交通流矩阵模型,采用CNN-LSTM网络处理具有时空特征的短时客流。该模型能够对具有空间相关性的数据进行较为准确的预测。使用真实数据集对模型进行检验和参数调优,实验结果表明:k-CNN-LSTM模型较其他模型有相对较高的预测精度。

基于长短时记忆网络的山区中小流域降雨径流模拟

洪水预报是流域防洪减灾的重要非工程措施之一。目前我国中小河流暴雨洪水灾害频发,但应对短历时强降雨的洪水预报能力仍不强。以安徽省东部山区中小流域为研究对象,引入长短时记忆网络建立流域降雨径流模型,探讨其在山区中小流域的洪水模拟效果。结果表明,考虑降雨输入的空间差异可提升深度学习模型降雨径流模拟预测性能,且长短时记忆网络能够取得优于传统人工神经网络的精度;长短时记忆网络模型有效建立了流域降雨与径流间的复杂非线性关系,模型在所选流域内场次洪水的峰值模拟效果较好,训练、测试集场次洪水峰值合格率均在90%以上;长短时记忆网络内部结构特征与流域水文过程具有较好的相似性,对山区中小流域暴雨洪水非线性关系拟合效果突出。

融合BERT和双向长短时记忆网络的中文反讽识别研究

用户对微博热点话题进行评论时会使用反语、讽刺的修辞手法,其本身带有一定的情感倾向会对情感分析结果造成一定影响。因此该文主要针对中文微博评论进行反讽识别,构建了一个包含反语、讽刺和非反讽的三分类数据集,提出一个基于BERT和双向长短时记忆网络(BiLSTM)的模型BERT_BiLSTM。该模型通过BERT生成含有上下文信息的动态字向量,输入BiLSTM提取文本的深层反讽特征,在全连接层传入softmax对文本进行反讽识别。实验结果表示,在二分类和三分类数据集上,提出的BERT_BiLSTM模型与现有主流模型相比准确率和F1值均有明显提高。

基于麻雀搜索算法和长短期记忆神经网络的轨道交通站点客流预测

准确的短时客流预测可以为城市轨道交通的良好运营提供保障,但轨道交通的短时客流具有非线性和高随机性等特点,为了提高对短时客流的预测精度,提出将ISSA算法和LSTM模型进行组合,构建城市轨道交通短时客流预测模型.针对SSA算法收敛速度慢,容易陷入局部最优解的问题,引入黄金莱维飞行策略,通过动态调整探索者移动步长的方法,使得它在未知范围内搜索时,能够覆盖更大的范围,提高SSA算法全局搜索的能力.通过使用ISSA算法对LSTM模型的隐含层、学习率和迭代次数的神经元个数进行优化,构建ISSA-LSTM组合预测模型,用于城市轨道交通短时客流的预测.将该模型与BP、LSTM和SSA-LSTM等3种短时客流预测模型进行对比,结果表明:在针对工作日和非工作日客流的预测中,ISSA-LSTM模型预测误差最小,具有较好的预测效果.

基于长短时记忆神经网络的励磁涌流与故障电流识别方法

变压器空载合闸时产生励磁涌流导致差动保护误动作的问题至今仍未能被完全解决.针对该问题,提出一种利用长短时记忆(LSTM)神经网络识别励磁涌流与故障电流的方法.首先,在PSCAD软件平台上搭建变压器空载合闸及内部故障仿真模型,通过仿真产生大量三相电流瞬时采样数据作为训练神经网络的样本集;然后,利用Keras平台搭建LSTM神经网络模型并完成训练;最后,利用新的仿真数据和现场故障录波数据对训练好的LSTM神经网络进行测试.结果表明LSTM神经网络可以快速准确地区分各种情况下的励磁涌流和故障电流,从而证实该方法的有效性.

基于长短时记忆卷积神经网络的刀具磨损在线监测模型

为了提高机械加工过程中刀具磨损在线监测的准确性,提出了一种基于长短时记忆卷积神经网络(LSTM-CNN)的刀具磨损在线监测模型。在该监测模型中,通过振动、力、声发射传感器对刀具切削过程中的振动、力和声发射信号进行采集,采集的数据其本质为时间序列数据。考虑采集数据的序列和多维度特性,采用LSTM-CNN网络对采集的数据进行序列和多维度特征提取,利用线性回归实现特征到刀具磨损值的映射。通过实验验证了该模型的有效性和可行性,模型的精度较其他几种方法有了较大的提高。

基于长短时记忆网络的顶托影响下干支流洪水模拟研究

干支流交汇河段易发生洪水相互顶托现象,造成河段持续处于高水位,极大地增加了洪水模拟的难度。以三岔河口上游受顶托影响显著的嫩江大赉站为研究对象,首先分析识别大赉站历史洪水的顶托关系,并根据洪水顶托关系划分洪水类型;在此基础上采用长短时记忆(LSTM)网络建立洪水模拟模型,评估模型的模拟效果。结果表明,采用流量、水位变化率可以较为有效地识别洪水顶托关系,历史上嫩江受到洪水顶托影响的年份较多;LSTM模型输入中仅考虑上游来水对大赉站流量模拟精度影响相对较小,而对水位模拟精度影响显著;考虑顶托影响的LSTM模型对大赉站的流量、水位模拟精度均较高。可见,所构建的LSTM模型能较准确地模拟出顶托影响下的大赉站洪水过程,为类似流域或站点的洪水模拟提供参考。

基于卷积长短时记忆网络的国际平整度指标预测

公路的快速发展带来了对路面各项指标快速检测和分析的需求,针对路面国际平整度指标的特点,提出使用卷积神经网络与长短期记忆神经网络的结合(CNN-LSTM)对国际平整度指标进行预测,卷积神经网络和长短期记忆神经网络分别学习激光雷达距离数据的空间维度特征和时间维度特征,完成对平整度指标的预测。实验结果表明,相比较与LSTM网络,CNN-LSTM模型的MAPE值仅有2.3488,准确度和召回率分别达到90.61%和87.89%。通过真实值和预测值的对比可以发现CNN-LSTM更加适用于国际平整度指标的预测。

结合长短时记忆网络和宽度学习的股票预测新模型研究

长短时记忆网络(LSTM)近年来广泛应用于股票预测中,其结构特点易陷入局部最优,从而影响预测精度。借鉴宽度学习系统(BLS)在时间序列预测上良好的逼近能力,本文尝试宽度学习与深度学习相结合。进一步地,针对股票序列不平稳特点,引入互补集成经验模态分解(CEEMD)进行降噪处理,提出CEEMD-LSTM-BLS(C-L-B)股票预测模型。选取农林牧渔行业股票价格,对新提出的模型进行实证研究。通过与基线模型、现有股票预测模型对比,证明了新模型在多个精度指标上都有明显提升。特别地,通过分别将C-L-B模型与不融入BLS的CEEMD-LSTM模型,对CEEMD分解后的分量预测结果进行对比发现:LSTM模型预测存在一定的误差,且越是拐点处,越是高频波动,预测误差越明显。而C-L-B模型中的BLS模块能够解决这类问题。当数据出现较大波动时,本文提出的新模型与现有模型相比,可以很好的解决拟合差、时滞等问题。

基于时空长短时记忆神经网络的地基云图预测算法

针对传统云运动轨迹预测方法存在的预测精度差、空间结构细节信息丢失等问题,提出一种基于时空长短时记忆(ST-LSTM)神经网络的地基云图预测模型。首先使用卷积编码网络提取输入视频流的高维图像特征;然后在特征提取模型中对图像潜在信息进行多分支获取,一部分使用ST-LSTM神经网络提取不同帧之间的时空特征,另一部分将图像序列进行分解,并通过基于门控机制的记忆融合网络来获取分解后图像中的结构细节信息;最后将得到的分支特征进行组合后经过解码网络输出最终的预测视频流。在地基云图、Moving MNIST和Human 3.6M数据集上的实验结果表明,在图像预测准确率、结构细节信息保留效果以及人眼主观感受上,该预测模型均优于对比模型。与基准模型TaylorNet相比,所提模型在Moving MNIST数据集上均方误差指标和平均绝对误差指标分别降低15.7%和11.8%,在地基云图数据集上,其结构相似性指标与峰值信噪比指标分别提升1%和3.2%,且生成的视频流数据更为清晰,能够更准确地描述云层未来的运动状况,从而更可靠地预测光伏电站未来的输出功率。

基于长短期记忆神经网络和改进型K-means聚类算法的居民峰谷时段划分模型

为了解决传统峰谷时段划分方法因只选取单一典型日而无法在较长时间范围内适用的问题,提出一种基于长短期记忆神经网络(long short-term memory,LSTM)和改进型K-means聚类算法的居民峰谷时段划分模型:首先对居民用户一整年的负荷数据进行有效性检查和归一化处理,保证数据的准确可靠;接着将处理后的负荷数据按照不同季节及不同日期类型进行相应的分类,保证分类的数据具有较强的相似性;然后将数据按分类分别加入LSTM进行训练,获得用户在不同分类下的负荷特征数据;最后利用改进型K-means聚类算法对训练得到的负荷特征数据进行聚类分析,并依据相应的权重矩阵及划分原则获得最终的时段划分结果。结果表明,相对于经典及当地的时段划分,所提方法的时段划分轮廓系数平均值更大,方差更小,更能反映居民用户实际的用电特点及用电规律,有利于挖掘用户侧需求响应潜力,获得更优的削峰填谷效果。

联合变分模态分解和长短时记忆网络的锂离子电池健康状态估计

准确估计和预测锂离子电池的健康状态SOH(state-of-health)对新能源领域的发展至关重要,因此提出1种基于变分模态分解VMD(variational mode decomposition)和长短时记忆LSTM(long short-term memory)网络的锂离子电池容量衰减预测模型。首先采用VMD方法将原始电池容量衰减序列分解成比较单一的固有模态分量IMF(intrinsic mode function)序列,然后应用LSTM对分解得到的一系列IMF分量进行训练预测,最后对各IMF分量的预测值进行有效集成得到电池容量衰减序列的最终预测结果。基于美国国家航天局NASA(National Aeronautics and Space Administration)锂离子电池数据集选取的4块电池的放电容量衰减序列进行实验对比分析,结果表明:相较于LSTM、BiLSTM、EMD-LSTM、EMD-BiLSTM及CEEMDAN-LSTM方法,所提方法可以明显降低序列的复杂度,减少各IMF分量的模态混叠现象,具有很高的预测精度,优于其他预测模型,预测的最大平均绝对误差不超过5%,均方根误差和平均绝对百分比误差控制在4%之内。

改进时间卷积网络和长短时记忆网络的泸水河流域月径流量预测模型

为提升水文模型预测精度和计算效率,解决传统方法难以浓缩多源水文特征,以及长时间跨度下数据量纲、值域不同造成的特征冗杂问题,提出基于改进时间卷积网络(TCN)和长短时记忆网络(LSTM)的月径流量预测模型。通过构造多卷积核并行网,以提取多源时序特征,并保持原因果卷积特性。引入扩张卷积抽取高阶水文特征,提升长时间跨度记忆单元处理效率。利用残差链接方式跨层传输底层完整特征,丰富特征结果,同时优化整体网络学习过程,并以泸水河流域为例进行验证。实验结果表明,该模型在计算效率、精度、网络结构上均优于其他对比模型,从而验证了其在该流域水文预测的有效性。

基于优化长短时记忆网络的海面微弱目标检测

针对强混沌背景噪声下传统方法难以检测微弱目标信号的问题,研究了混沌相空间重构理论和麻雀寻优算法,提出一种基于优化长短时记忆网络(LSTM)的混沌背景下微弱信号检测方法。利用麻雀搜索算法优化LSTM模型参数,提高模型预测精度,降低目标检测门限,结合LSTM模型进行单步预测,利用预测误差从强海杂波背景下检测出微弱目标信号。以Lorenz混沌系统作为混沌背景进行仿真实验,对叠加的小信号进行检测,结果表明,该方法能够有效地检测微弱信号,其预测的均方根误差0.00171(信噪比为-137.707 dB),相较于传统神经网络预测模型、LSTM预测模型、GA-LSTM预测模型、PSO-LSTM预测模型均有显著提升。利用IPIX雷达信号进行预测实验,进一步验证了该方法的有效性。