基于集群辨识和卷积神经网络-双向长短期记忆-时序模式注意力机制的区域级短期负荷预测

为了解决区域级短期电力负荷预测时输入特征过多和负荷时序性较强的问题,提出一种基于集群辨识和卷积神经网络(convolutional neural networks,CNN)-双向长短期记忆网络(bi-directional long short-term memory,BiLSTM)-时序模式注意力机制(temporal pattern attention,TPA)的预测方法。首先,将用电模式和天气作为影响因素,基于二阶聚类算法对区域内的负荷节点进行集群辨识,再从每个集群中挑选代表特征作为深度学习模型的输入,这样既能减少输入特征维度,降低计算复杂度,又能综合考虑预测区域的整体特征,提升预测精度。然后,针对区域电力负荷时序性的特点,用CNN-BiLSTM-TPA模型完成训练和预测,该模型能提取输入数据的双向信息生成隐状态矩阵,并对隐状态矩阵的重要特征加权,从多时间步上捕获双向时序信息用于预测。最后,在美国加利福尼亚州实例上分析验证了所提方法的有效性。

基于卷积长短时记忆网络的短时公交客流量预测

针对传统的短时客流预测方法没有考虑到时序特征中跨时段客流之间的相似性问题,提出一种改进k-means聚类算法与卷积神经网络和长短时记忆网络相结合的短时客流量预测模型k-CNN-LSTM。通过k-means算法对跨时段时序数据进行聚类,使用间隔统计确定k值,构建交通流矩阵模型,采用CNN-LSTM网络处理具有时空特征的短时客流。该模型能够对具有空间相关性的数据进行较为准确的预测。使用真实数据集对模型进行检验和参数调优,实验结果表明:k-CNN-LSTM模型较其他模型有相对较高的预测精度。

卷积与长短期记忆网络在火灾源强实时预测中的应用

针对火灾场景中火源位置及强度实时、准确识别困难的问题,利用卷积神经网络(Convolutional Neural Networks,CNN)与长短期记忆(Long Short-Term Memory,LSTM)网络的算法优势,构建一种火灾源强实时预测模型,该模型通过建筑内温度传感器接收的序列数据,实时、准确地预测火灾场景中的火源位置及强度信息。采用火灾动力学模拟软件(Fire Dynamics Simulator,FDS)模拟火灾场景,获得温度传感器实时接收的序列数据,建立火灾场景数据库,进行火灾场景数据分析并对火灾源强实时预测模型完成训练,通过实例验证该模型的准确性、及时性和鲁棒性。结果表明,该模型能够通过较短长度样本数据实时、准确预测火灾场景中火源位置及强度,预测准确率为99.18%,在温度传感器间隔损坏且损坏率不高于70%时,预测准确率仍可达到95.10%以上。

基于变分模态分解的卷积长短时记忆网络短期电力负荷预测方法

电力负荷序列易受多重外部因素影响而呈现复杂性,不利于精准预测。为此,提出一种基于变分模态分解(variational mode decomposition,VMD)的卷积神经网络和长短期记忆网络(convolutional neural network and long short-term memory network,CNN-LSTM)相结合的短期电力负荷并行预测方法。先采用VMD将负荷数据分解为规律性强的各本征模态函数(intrinsic mode function,IMF)及残差;再将各分量分别输入到各自对应的CNN-LSTM混合预测网络,获得各初始预测值,并将该值与由气候、日期类型等组合得到的相关因素特征集相结合,进一步得出修正预测值;最终,叠加各分量修正预测值即得到完整预测结果。在实际负荷数据上做验证分析,结果表明,考虑相关外部因素特征集后日负荷预测平均相对误差均值可降低2.18%。与几种常规负荷预测方法进行效果对比,验证了该方法的有效性和可行性。

基于卷积长短时记忆网络的国际平整度指标预测

公路的快速发展带来了对路面各项指标快速检测和分析的需求,针对路面国际平整度指标的特点,提出使用卷积神经网络与长短期记忆神经网络的结合(CNN-LSTM)对国际平整度指标进行预测,卷积神经网络和长短期记忆神经网络分别学习激光雷达距离数据的空间维度特征和时间维度特征,完成对平整度指标的预测。实验结果表明,相比较与LSTM网络,CNN-LSTM模型的MAPE值仅有2.3488,准确度和召回率分别达到90.61%和87.89%。通过真实值和预测值的对比可以发现CNN-LSTM更加适用于国际平整度指标的预测。

基于足底压力和卷积长短期记忆神经网络的前交叉韧带断裂智能辅助诊断

提出一种基于卷积长短期记忆神经网络的深度学习模型PressureConvLSTM,用来提取行走过程中足底压力的空间特征和时序特征,并进行步态分类。通过对前交叉韧带断裂患者的足底压力数据分析,实现智能辅助诊断。结合临床数据的实验结果表明,PressureConvLSTM模型对前交叉韧带断裂的辅助诊断,能够达到95%的预测准确度;与卷积神经网络等其他模型相比,准确度得到大幅度提升。

基于双重分解和双向长短时记忆网络的中长期负荷预测模型

针对中长期电力负荷序列噪声含量高、难以直接提取序列周期规律从而影响预测精度的问题,提出了一种基于完全自适应噪声集合经验模态分解(complete ensemble empirical mode decomposition with adaptive noise,CEEMDAN)和奇异谱分析(singular spectrum analysis,SSA)双重分解的双向长短时记忆网络(bidirectional long and short time memory,BiLSTM)预测模型。首先,采用CEEMDAN对历史负荷进行分解,以得到若干个周期规律更为清晰的子序列;再利用多尺度熵(multiscale entropy,MSE)计算所有子序列的复杂程度,根据不同时间尺度上的样本熵值将相似的子序列重构聚合;然后,利用SSA去噪的功能,对高度复杂的新序列进行二次分解,去除序列中的噪声并提取更为主要的规律,从而进一步提高中长序列预测精度;再将得到的最终一组子序列输入BiLSTM进行预测;最后,考虑到天气、节假日等外部因素对电力负荷的影响,提出了一种误差修正技术。选取了巴拿马某地区的用电负荷进行实验,实验结果表明,经过双重分解可以将均方根误差降低87.4%;预测未来一年的负荷序列时,采用的BiLSTM模型将拟合系数最高提高2.5%;所提出的误差修正技术可将均方根误差降低9.7%。

基于卷积和长短期记忆网络的地浸开采铀浓度预测研究

文章通过集成经验模态分解(Empirical Mode Decomposition,EMD)、卷积神经网络(Convolutional Neural Networks,CNN)、长短期记忆网络(Long Short-Term Memory,LSTM)、傅里叶变换,提出了一种新型地浸单元浸出液铀浓度预测方法。该方法将浸出液铀浓度监测值时间序列使用EMD进行分解,分解为趋势项、周期项和随机项。通过构建CNN+LSTM网络,并结合傅里叶变换和多项式拟合对铀浓度趋势项、周期项和随机项进行预测,3者预测之和作为铀浓度预测结果。实证结果表明:EMD能够有效分解铀浓度时间序列,模型拟合度比未进行EMD分解的模型提升超50%;基于EMD、CNN+LSTM和傅里叶变换的集成方法预测精度良好,预测的平均绝对百分比误差(Mean Absolute Percentage Error,MAPE)为0.348,与LSTM、反向传播(Back Propagation,BP)和门控循环网络(Gate Recurrent Unit,GRU)等模型相比最高提升超80%。文章提出的集成方法能够准确预测浸采单元铀浓度变化,解决了原有方法和模型无法对非线性、非平稳铀浓度序列进行准确预测的问题,从而为地浸矿山生产规划提供技术支持,并有助于提升中国铀矿山的数字化、信息化程度。

基于长短时记忆网络的恒温水浴锅温度模型预测

【目的】由于恒温水浴锅温度系统存在强非线性及大滞后性,本研究提出一种基于长短时记忆网络的恒温水浴锅温度模型预测方法。【方法】首先,对采集到的数据进行标准化处理,寻找长短时记忆网络的最优结构及超参数,用来拟合出最佳的数据映射特征,并构建恒温水浴锅温度的动态数学模型。其次,通过模型对未来一段时间内的温度趋势进行预测。最后,使用本研究提出的方法与最小二乘法所预测的结果进行对比分析。【结果】本研究所提方法构建的模型的拟合度达到了98.2%,预测结果的MSE及MAE比最小二乘法模型分别降低了4.616、0.823。【结论】本研究所提方法具有更高的预测精度,对提高恒温水浴锅的生产效率及控制精度具有重要意义。

GPU异构计算环境中长短时记忆网络模型的应用及优化

随着深度学习的广泛应用及算力资源的异构化,在GPU异构计算环境下的深度学习加速成为又一研究热点。文章探讨了在GPU异构计算环境中如何应用长短时记忆网络模型,并通过优化策略提高其性能。首先,介绍了长短时记忆网络模型的基本结构(包括门控循环单元、丢弃法、Adam与双向长短时记忆网络等);其次,提出了在GPU上执行的一系列优化方法,如CuDNN库的应用及并行计算的设计等。最终,通过实验分析了以上优化方法在训练时间、验证集性能、测试集性能、超参数和硬件资源使用等方面的差异。

基于长短时记忆网络和生成对抗网络的VRB储能系统虚假数据注入攻击检测

随着信息技术的不断发展,直流微电网储能系统已成为深度融合的信息物理系统,而精确的荷电状态估计对储能系统的实时监测和安全稳定运行至关重要。针对全钒液流电池(vanadium redox flow battery,VRB)储能系统荷电状态估计中,由虚假数据注入攻击导致的异常数据检测问题,提出一种基于长短时记忆网络和生成对抗网络的检测方法。首先,建立了VRB等效电路模型和虚假数据注入攻击模型;然后,通过训练长短时记忆网络和生成对抗网络组成的循环网络,将长短时记忆神经网络嵌入生成对抗网络框架作为生成器和鉴别器来分析电池时序数据,通过判别网络中的判别损失误差和生成网络中的重构残差得到异常损失进行综合判断;最后,以CEC-VRB-5kW型号电池为对象,并构造不同强度的虚假数据攻击进行实验,验证检测方法的准确性与可行性。结果表明,与经典循环神经网络、随机森林、自编码器、长短时记忆网络检测方法进行对比,所提方法具有较高的检测精度,在VRB储能系统荷电状态估计中能够有效辨识虚假数据攻击。

基于长短时记忆神经网络的励磁涌流与故障电流识别方法

变压器空载合闸时产生励磁涌流导致差动保护误动作的问题至今仍未能被完全解决.针对该问题,提出一种利用长短时记忆(LSTM)神经网络识别励磁涌流与故障电流的方法.首先,在PSCAD软件平台上搭建变压器空载合闸及内部故障仿真模型,通过仿真产生大量三相电流瞬时采样数据作为训练神经网络的样本集;然后,利用Keras平台搭建LSTM神经网络模型并完成训练;最后,利用新的仿真数据和现场故障录波数据对训练好的LSTM神经网络进行测试.结果表明LSTM神经网络可以快速准确地区分各种情况下的励磁涌流和故障电流,从而证实该方法的有效性.

利用卷积长短期记忆网络预测全球电离层Ne

由于电离层电子密度随时间变化,且空间分布不均匀,对不同频段的无线电波产生延缓和折射,因此电离层电子密度变化是影响短波通信、卫星通信、全球导航卫星系统和其他空间通信质量的一个主要因素,本文对全球电离层电子密度(Number of electron,Ne)的预测工作对短波通信设备三维射线实时追踪定位提供必要条件。本文采用国际电离层参考模型提供的2016年电离层Ne数据,根据数据的三维空间时间序列特征,搭建了自编码器和卷积长短期记忆(Convolutional Long Short-Term Memory Network,Conv LSTM)网络组成的网络结构,在不引入地球自转周期之外任何先验知识的条件下,对Ne数据进行深度学习并实现预测,首先通过实验对比了SGD、Adagrad、Adadelta、Adam、Adamax和Nadam六种优化算法的性能,又对比了三种预测策略的均方根误差(Root Mean Square Error, RMSE),1h-to-1h预测策略的全球平均RMSE为1.0 NEU(最大值的0.4%),1h-to-24h和24h-to-24h预测策略的全球平均RMSE为6.3 NEU(2.6%)。由实验结果得出以下结论,一是Nadam优化算法更适合电离层Ne的深度学习,二是1h预测策略的性能与之前类似的电离层TEC预测工作(RMSE高于1.5 TECU,最大值的1%)相比有竞争力,但预测时间太短且对数据的实时性要求较高,三是两种24h预测策略虽能实现长期预测但性能不理想,要实现三维空间时间序列的长期高精度预测需要进一步改善神经网络、模型结构和预测策略。

基于时空长短时记忆神经网络的地基云图预测算法

针对传统云运动轨迹预测方法存在的预测精度差、空间结构细节信息丢失等问题,提出一种基于时空长短时记忆(ST-LSTM)神经网络的地基云图预测模型。首先使用卷积编码网络提取输入视频流的高维图像特征;然后在特征提取模型中对图像潜在信息进行多分支获取,一部分使用ST-LSTM神经网络提取不同帧之间的时空特征,另一部分将图像序列进行分解,并通过基于门控机制的记忆融合网络来获取分解后图像中的结构细节信息;最后将得到的分支特征进行组合后经过解码网络输出最终的预测视频流。在地基云图、Moving MNIST和Human 3.6M数据集上的实验结果表明,在图像预测准确率、结构细节信息保留效果以及人眼主观感受上,该预测模型均优于对比模型。与基准模型TaylorNet相比,所提模型在Moving MNIST数据集上均方误差指标和平均绝对误差指标分别降低15.7%和11.8%,在地基云图数据集上,其结构相似性指标与峰值信噪比指标分别提升1%和3.2%,且生成的视频流数据更为清晰,能够更准确地描述云层未来的运动状况,从而更可靠地预测光伏电站未来的输出功率。

基于卷积神经网络和长短期记忆网络的坝上水位精细化建模方法

坝上水位是水电站调度运行的重要依据,然而受调峰非恒定流的影响,传统插值计算的水电站坝上水位与实际值存在较大的误差,不利于水库水位的精细控制和实际调度。本研究采用最大互信息系数探索水电站坝上水位变化的关联因素,并提出一种基于深度学习的CNN-LSTM模型计算方法,实现了准确计算受调峰非恒定流影响的水电站坝上水位。为验证本文所提模型的有效性,将其与传统法在三种评价准则进行对比,结果表明,所提的CNN-LSTM模型在汛期和枯水期的各种评价准则下均优于传统法,模型计算结果更接近实际坝上水位。本文所提模型在水电运行时可有效避免计算水位不准确带来的控制风险,降低水电站运行风险。

使用CNN(卷积神经网络)-LSTM(长短期记忆)联合神经网络预测盾构隧道施工引起的地面沉降

[目的]地铁盾构隧道施工会引起周围地面沉降,影响周围环境。传统地面沉降预测方法难以综合考虑沉降影响因素,对此,为提高地面沉降的预测精度,使用CNN(卷积神经网络)-LSTM(长短期记忆)联合神经网络,对盾构隧道施工引起的地面沉降进行预测。[方法]以某地铁施工区间地面沉降监测数据为研究对象,使用CNN对影响参数(压缩模量、黏聚力、内摩擦角、泊松比、土层厚度、隧道埋深和施工参数)与地面沉降监测值进行连接,使用LSTM神经网络对地面沉降进行分析,建立了基于CNN-LSTM联合神经网络的地面沉降预测模型,探讨了同时考虑多个因素对地面沉降预测值的影响。[结果及结论]使用CNN对地面沉降相关的影响参数特征提取效果较好;所建CNN-LSTM模型的准确率比单独使用LSTM模型的准确率提高了3%、比传统BP(反向传播)神经网络模型准确率提高了9%;所建CNN-LSTM模型,对单测点短时间地面沉降预测准确率达到93%,预测值与监测值吻合较好。

基于卷积神经网络-长短期记忆神经网络模型利用光学体积描记术重建动脉血压波信号

目的直接动脉血压(arterial blood pressure,ABP)连续监测是侵入式的,传统袖带式的间接血压测量法无法实现连续监测。既往利用光学体积描记术(photoplethysmography,PPG)实现了连续无创血压监测,但其为收缩压和舒张压的离散值,而非ABP波的连续值,本研究期望基于卷积神经网络-长短期记忆神经网络(CNN-LSTM)利用PPG信号波重建ABP波信号,实现连续无创血压监测。方法构建CNN-LSTM混合神经网络模型,利用重症监护医学信息集(medical information mart for intensive care,MIMIC)中的PPG与ABP波同步记录信号数据,将PPG信号波经预处理降噪、归一化、滑窗分割后输入该模型,重建与之同步对应的ABP波信号。结果使用窗口长度312的CNN-LSTM神经网络时,重建ABP值与实际ABP值间误差最小,平均绝对误差(mean absolute error,MAE)和均方根误差(root mean square error,RMSE)分别为2.79 mmHg和4.24 mmHg,余弦相似度最大,重建ABP值与实际ABP值一致性和相关性情况良好,符合美国医疗器械促进协会(Association for the Advancement of Medical Instrumentation,AAMI)标准。结论CNN-LSTM混合神经网络可利用PPG信号波重建ABP波信号,实现连续无创血压监测。

基于改进灰狼算法优化双向长短时记忆神经网络的水冷壁壁温预测

提出一种基于改进灰狼(MGWO)算法优化双向长短时记忆(BiLSTM)神经网络的水冷壁壁温预测模型,灰狼算法采用非线性因子调整策略、自适应位置更新策略和动态权重修改策略进行改进以提升算法的全局寻优能力,利用改进灰狼算法优化BiLSTM模型的隐藏层数量、学习率和正则化参数以提高模型的预测精度,采用新疆某电厂的数据进行预测仿真,结果表明:改进后的算法预测精度更高,在机组升、降负荷时,均可以预测到壁温的变化趋势,模型的平均均方根误差相比于长短时记忆(LSTM)神经网络、BiLSTM模型分别降低了9.86%和3.69%,且可以提前预测到水冷壁壁温的超温情况,对于预防水冷壁超温有重要意义。

基于长短时记忆神经网络易损性分析的适用性研究

桥梁的损坏或失效可能导致严重的人员伤亡和巨大的经济损失。因此,对桥梁的破坏损失和地震性能进行准确的定量评估至关重要。为了实现这一目标,通常会采用构建易损性曲线的方法。易损性曲线表征在给定地震动强度下,桥梁部件或结构达到或超过某一破坏程度的条件概率。采用桥墩位移延性比作为损伤指标,利用长短时记忆(long short-term memory,简称LSTM)神经网络成功地建立了桥梁地震易损性曲线。研究结果表明,该模型展现了高计算效率和精度,可快速而准确地预测地震作用下桥梁结构构件的损伤指标。

长短时记忆网络与新安江模型耦合的降雨径流模拟性能

深度学习技术在降雨径流模拟方面具有广阔应用前景,但受训练样本限制,需与传统水文模型相耦合,由传统水文模型提供训练数据。耦合数据的选择和超参数方案对耦合模型的模拟性能影响显著,但尚未有专门的研究。本文以东湾流域为例,用双向长短时记忆网络耦合新安江模型不同模块数据,并用灰狼优化算法优化超参数,构建降雨径流模型。结果表明:模型耦合不同数据时,对日径流和场次洪水的模拟性能均有提高,尤以耦合产流量和模拟流量数据时最为明显。不同耦合数据需调整超参数方案,灰狼优化算法可满足需求。本研究为提高耦合模型径流模拟能力提供了新思路和新方法。