基于ConvLSTM的飞机发动机喷流时空预测

为探究起飞飞机发动机喷流对后侧穿越飞机的影响程度,提出一种基于卷积长短时记忆网络(ConvLSTM)的飞机发动机喷流预测模型,旨在预测未来某一时段的流场数据。通过激光测风雷达采集飞机发动机喷流数据并进行预处理。分别采用时间子网和空间子网捕捉飞机发动机喷流的时间和空间结构特征。通过融合时空特征,使用全连接层输出未来流场数据,以此构建卷积长短时记忆网络面向飞机发动机复杂喷流数据的未来帧预测。结果表明:ConvLSTM模型能够准确地预测出飞机发动机喷流的时空分布,取得RMSE12.28和MAE9.26的实验结果,较传统神经网络模型预测结果拥有更稳定的RMSE值及预测精度,有效提高了喷流时空预测的质量和精度,为研究飞机发动机喷流影响范围提供支撑。

基于ConvLSTM融合RMAPS-NOW数据的雷达回波外推研究

雷达回波外推是临近预报、人工影响天气作业及效果评估的主要参考依据之一,快速准确的回波外推技术一直是雷达气象领域的研究热点。近年来,基于深度学习的时空序列预测模型在雷达回波外推中得到了广泛应用。然而,这些外推网络架构的输入大多用16级伪彩色雷达回波强度产品转化而来的灰度图,丢失了许多回波细节,并且随着外推时间延长,误差不可避免地增大。回波的生消、移动、演变与天气背景紧密相关,因此,将北京城市气象研究院研发的新一代快速更新多尺度资料分析和预报系统的临近数值预报子系统(RMAPS-NOW)初始零场的部分物理量产品融入华北雷达拼图原始数据,构建多个雷达单元(Radar cells),并将这些雷达单元作为输入,基于卷积长短期记忆网络(ConvLSTM),设计了一个多通道雷达回波外推网络架构(MR-ConvLSTM)。另外,考虑到卷积算法的平滑性,构建了自定义损失函数,增加回波强度的时空权重进行时空衰减订正。选取(40.65°—41.65°N,114°—115.4°E)内2018—2021年的6—9月共13000组华北雷达组合反射率因子拼图及RMAPS-NOW初始零场数据,其中的80%共10400组为训练集,20%共2600组为测试集。引入的物理量包括多个高度层的u、v风(1350 m),相对湿度(RH,150 m),水平散度(1350 m)等,基于ConvLSTM及MR-ConvLSTM加自定义损失函数,分别训练得到5个雷达回波外推模型。采用临界成功指数(CSI)、命中率(POD)、虚警率(FAR)作为评价指标,利用测试集对所有模型进行评估。基于引入物理量的MR-ConvLSTM训练得到的模型在20、30、35 dBz反射率阈值下,比未引入物理量的基于ConvLSTM的外推模型CSI值平均高4.67%、13.8%、5.98%,POD值平均高3.1%、7.68%、8.38%,FAR值平均低6.37%、8.54%、10.17%,同时引入3种物理量(RH、u、v)的外推模型在不同阈值的各项指标中综合表现最好,其CSI、 POD值在3种不同阈值下比未引入物理量模型平均高16.01%、13.38%,FAR值平均低14.88%。从模型应用的个例可视化也可以看出,引入物理量后有效提升了雷达回波外推的准确度,证明基于MR-ConvLSTM架构训练的雷达回波外推模型有较强的泛化能力。

基于eBPF和ConvLSTM的5G-R网络安全审计系统研究

在铁路5G专网快速发展的背景下,铁路网络信息安全关系到铁路运行安全等方面。但当前成熟的铁路网络安全设备多是针对可能存在的非法入侵、外网干预等外部安全隐患,对于内部使用不当或通信异常带来的安全问题,还未有系统性的检测方法。因此,提出一种可同时进行网络内外异常检测、集流量抓取和数据分析为一体的实时性较强的网络安全审计系统成为迫切需要。设计从网络安全审计的三大关键技术出发,分别对应本系统的数据采集、数据解析、流量识别三个模块,并说明系统在网络中部署的环境与位置。具体运用了eBPF技术抓取网络流量数据包,利用深度学习的数据预处理方法提取其中特征信息,并导入已训练好的ConvLSTM模型中进行预测,最终判断是否出现异常流量。通过两个数据集的实验验证并与传统算法进行对比,此网络安全审计系统针对外部攻击流量的预测准确率可以达到0.97,针对内部通信异常预测准确率为0.96,实现了对外部或内部因素导致的网络流量异常问题的监测与排查,以便快速反应采取进一步措施。针对5G-R场景进行的网络安全审计系统设计和研究可以为未来铁路面临的网络安全挑战提供技术支撑和帮助。

基于POI-ConvLSTM模型的周期来压预测研究

针对综采工作面周期来压预测的技术难题,研究了理论分析、数据采集与预处理、模型评估与优化等方法,提出了具有时空关联分析与POI(Point of Intersesting)数据的ConvLSTM模型,利用多源数据融合得到周期来压预测的最优解,实现工作面环境状态的实时感知和预测。试验结果表明:基于POI-ConvLSTM的工作面周期来压预测模型,均方误差为0.159,R 2评价指标为0.999,相比于Seq2Seq和ConvLSTM模型的均方误差分别降低了68.07%和4.22%。可见,融合了多元数据POI-ConvLSTM模型的预测精度更高,普适性更强,能够准确地提前预测周期来压问题。

基于ConvLSTM的西北太平洋海表温度中短期预报

尽管海表温度(Sea Surface Temperature,SST)短期变化较小,但这种变化对海洋涡旋、海洋锋以及热带气旋的发生发展仍有着重要的影响,因此短期SST预报意义重大,且对预报精度的要求较高。本文基于ConvLSTM的深度学习模型,利用SST和温度平流双预报因子对西北太平洋划定区域内SST进行7 d的连续预报,将其结果与仅使用SST预报因子ConvLSTM以及混合坐标海洋模型(HYbrid Coordinate Ocean Model,HYCOM)的预报结果分别进行了对比。结果表明,在7 d的预报时效内,温度平流预报因子的加入可使得ConvLSTM模型预报技巧大幅提升,明显优于HYCOM模式。此外,本文将预报时效进一步延长至30 d,对模型在不同季节的预报能力进行了分析,发现ConvLSTM模型在春、秋季(夏、冬季)的预报效果相对较好(差)。

基于ConvLSTM的南京地区共享单车需求预测研究

针对传统单车需求预测研究在处理不同地区无桩共享单车需求预测中存在的特征提取不精细和地区需求预测匹配度不精准等问题,在对南京地区两个自然年度、三类典型地区共享单车的使用需求数量、天气状态、季节周期等多类数据进行采集和特征工程的基础上,提出了一种兼顾时空序列的基于ConvLSTM(Convolutional Long Short Term Memory)深度学习预测模型,该模型通过卷积操作后能够提取数据中隐含的更多空间信息,将其应用于测试集中并与经典时序LSTM(长短期记忆网络)和CNN(卷积神经网络)进行对比发现,RMSE分别提升0.05和0.04,最大误差分别提升约0.86和0.3。

基于ConvLSTM的北京区域电离层延迟建模

电离层延迟是影响卫星定位精度的重要因素,针对GNSS单频定位中电离层延迟改正精度较低的问题,文中利用Bernese5.2软件处理北京13个CORS站从2016-09-15—2016-10-14的GNSS观测数据,得到北京市及周边区域(31°~47°N,108°~124°E)的VTEC值,并基于ConvLSTM神经网络建立北京市及周边区域的电离层延迟模型VclNet,并将该模型与Klobuchar模型和GIM(c1pg)、GIM(c2pg)、三角级数模型、多项式模型的VTEC预报值进行了精度对比分析。6种预报中,VclNet的效果最好,其对北京市中心点VTEC预报值精度为1.99 TECU,区域VTEC预报值精度为2.09 TECU,Klobuchar模型的预报效果最差,中心点精度和区域精度分别为5.92 TECU和5.99 TECU。

基于ConvLSTM网络的北极海冰时空序列预测研究

为了开辟北极航运路线、支持极地科学研究和资源开发,准确预测海冰密集度(SIC)显得尤为关键。在海洋预报领域,统计预报发挥着重要作用。文章引入了一种级联式的卷积长短时记忆神经网络(ConvLSTM)用于北极SIC的中、短期预测。该网络具备图像处理和时空预测的能力,可用于对海冰时空序列进行精确的预报。它能够处理不同长度的输入序列,在各种数据情境下展现出强大的预测潜力。通过对网络架构进行优化,该架构取得了更强的性能,能够更准确地捕捉和分析SIC的动态变化。实验结果表明,该模型在7天预报中的均方根误差为0.0599,相关系数高达95.42%。

基于ConvLSTM的移动边缘计算服务器能耗模型

针对现有能耗模型对动态工作负载波动具有低敏感性和低精度的问题,该文基于卷积长短期记忆(convolutional long short-term memory, ConvLSTM)神经网络,提出了用于移动边缘计算的服务器智能能耗模型(intelligence server energy consumption model,IECM),用于预测和优化服务器的能量消耗。通过收集服务器运行时间参数,使用熵值法筛选和保留显著影响服务器能耗的参数。基于选定的参数,利用ConvLSTM神经网络训练服务器能耗模型的深度网络。与现有的能耗模型相比,IECM在CPU密集型、I/O密集型、内存密集型和混合型任务上,能够适应服务器工作负载的动态变化,并在能耗预测上具有更好的准确性。

基于ConvLSTM的中国东南沿海波浪智能预报和评估

相较于半理论半分析和数值模型的波浪预报方法,智能波浪预报有着精度高、计算资源需求低的优势。该文基于卷积长短期记忆网络(convolutional long short-term memory network,ConvLSTM)算法,建立了有效波高(significant wave height,SWH)二维预报模型,以中国东南沿海2014—2022年ERA5数据进行训练,通过敏感性试验优化模型配置,并开展中国东南沿海SWH在2023年4个预报时效(6 h、12 h、18 h、24 h)下的预测性能评估。敏感性试验显示,输入时间序列长度N=4(即输入-18 h,-12 h,-6 h,0 h的SWH值)时,模型在4个预报时效下的准确性均优于其他时间序列长度;输入物理要素组合为SWH、平均波向和海面10 m风矢量时,模型在12 h、18 h和24 h预报时效下的准确性优于其他组合。通过对ConvLSTM模型训练及配置的精细调整,可以实现对中国东南沿海SWH的二维、高精度的智能预报。

基于ConvLSTM的改进雷达回波外推方法研究

海上大风及其引发的次生灾害是导致海洋气象灾害的主要因素;雷达观测数据是临近预报主要参考数据之一,准确的雷达外推数据对于提升海上强对流大风临近预报能力极为关键;面向海上大风预报需求和大风天气雷达回波特征,从输入数据格式和损失函数两方面对ConvLSTM进行改进,在损失函数中增加观测真实值作为系数提高强回波影响,构建了基于自编码的ConvLSTM网络,利用4年的沧州历史雷达回波数据对其进行训练,得到了可基于历史1 h雷达数据预测未来1 h雷达回波的雷达回波外推模型;测试集及个例检验结果表明,改进模型在强回波预测方面具备更好效果。

基于ST-ConvLSTM的南海海表面CO_(2)分压的空间和时间序列预测

海表面二氧化碳分压(pCO_(2))的未来变化趋势,对统计评估全球碳收支以及理解全球气候变化背景下的海洋酸化现象至关重要。目前传统的海面pCO_(2)预测方法大部分基于有限的实测数据,然而实测数据存在着时间和地理方面的制约,且计算成本较高。近年来,随着时空观测数据的爆炸性增长,基于深度学习的数据驱动模型在海表面pCO_(2)预测方面中表现出良好的潜力。然而,由于多种环境因素与海表面pCO_(2)之间的关系错综复杂,到目前为止尚无十分简单有效的相关模型来对海表面pCO_(2)进行预测。为应对这一挑战,利用时空卷积长短时记忆神经网络(ST-ConvLSTM)模型,通过海面温度(sea surface temperature,SST)、海面盐度(sea surface salinity,SSS)、叶绿素a浓度(chl a)和海面pCO_(2)数据,预测南海的海面pCO_(2),并将2019年1~12月的数据作为测试集对模型的表现进行了验证。结果显示,ST-ConvLSTM模型的预测因子均方根误差、平均绝对误差和决定系数分别为0.981 Pa、0.711 Pa和0.997。对比卷积LSTM(ConvLSTM)、随机森林和广义回归神经网络(generalized regression neural network,GRNN)三种方法,证实本文所提出的方法在解决南海pCO_(2)预测问题上是可靠的。

基于GCA-ConvLSTM预测网格的短临降水雷达回波外推方法

短临降水预报对于暴雨和强对流天气监测预警服务具有重要意义,使用雷达回波外推方法进行短临降水预报是目前较为常用的预报方法之一,但是传统的雷达回波外推方法普遍存在数据利用率低、外推准确性差和外推模糊等问题。针对上述问题,利用陕西全省雷达拼接数据资料,选择深度学习中编码器-解码器结构,以卷积长短期记忆网络(Convolutional Long Short-Term Memory Network,ConvLSTM)作为循环单元,构造了基于全局通道注意力的ConvLSTM预测网络(Global Channel Attention based ConvLSTM,GCA-ConvLSTM);此外,为进一步提高GCA-ConvLSTM预测网络的拟合能力,使用集成学习算法对其进行改进,通过装袋算法对数据集进行采样,训练3个GCA-ConvLSTM预测网络作为基学习器,使用加权投票策略将这3种基学习器进行有效组合,最终获得了一个性能更优的组合模型。试验结果表明,基于集成学习算法改进的GCA-ConvLSTM雷达回波外推方法与现有深度学习方法相比,提升了短临降水预报方法的准确性和时效;该方法在25 dBz、35 dBz和45 dBz反射率阈值下的评估试验中分别比对比的主流深度学习模型CSI值平均高出0.149、0.192、0.085;同时该方法的外推结果拥有更加清晰的边缘和细节性纹理,减轻了外推后期模糊问题。

基于ConvLSTM模型的短文本情感分类研究

CNN在处理短文本情感分类时,使用卷积层抽取局部特征,用最大池化层选取局部特征最大值,易忽略其长期序列特性。该文使用一种新的深度学习模型ConvLSTM,利用长LSTM替代CNN中的最大池化层,以减少局部信息的丢失并捕获句子序列中的长期依赖关系。在IMDB影评数据集和Amazon评论数据集上的实验表明,该模型较CNN和单纯的LSTM在准确率、召回率和F值等方面均有较明显的提高。

基于ConvLSTM的高速公路交通流预测仿真研究

交通流通常具有复杂时空关联性,且易受天气、速度等外部因素的影响。为提高高速公路关键节点交通流预测的准确性,设计一种基于ConvLSTM网络且融合时空关联性和外部因素的交通流预测模型——STE-ConvLSTM。构建交通流、速度、天气时空矩阵,将其延深度方向堆叠,通过滑动窗口模型将其处理为类图像时间序列数据,利用ConvLSTM网络提取交通流的时空关联性和外部因素特征;利用卷积层实现交通流预测多变量多步输出。实验结果表明,相较于传统的交通流预测模型,该模型在交通流多步预测方面的预测准确度有所提升。

基于ConvLSTM的空间进动锥体目标HRRP序列预测

宽带雷达对空间进动锥体目标进行持续探测能够形成高分辨距离像(high resolution range profile,HRRP)序列。HRRP序列携带空间进动锥体目标的空间几何信息和运动规律等信息,是进行目标关联跟踪和分类识别的重要依据,因此研究空间进动锥体目标的HRRP序列预测具有重要意义。卷积长短时记忆(ConvLSTM)网络将CNN和LSTM二者的特点有效结合,能够充分挖掘HRRP序列的空间和时间特性,完成对HRRP的预测。本文基于空间锥体目标的进动模型建立了多种尺寸、运动速度和运动方向等不同参数的HRRP序列数据集,并利用此数据集根据HRRP特性设计实现了适用于空间进动椎体目标HRRP预测的ConvLSTM网络模型。为了测试本文设计的ConvLSTM网络预测效果,将ConvLSTM网络与二维卷积神经网络模型进行预测效果对比分析。仿真实验结果表明,ConvLSTM网络预测结果与物理光学法计算得到的HRRP一致性高,皮尔逊相关系数高达0.9731,平均绝对误差低至0.0334,相较于二维卷积神经网络预测结果更加准确。证明本文设计的ConvLSTM网络模型能够有效提取HRRP序列的时间和空间特征,实现对HRRP序列的高精度预测。

基于ConvLSTM多特征融合的农田杂草群落扩散模型研究

杂草在作物生长初期受环境变化影响快速扩散,严重压缩作物生长环境。为有效管理农田并准确获取杂草群落扩散位置和生长状况,采用深度学习技术,基于卷积长短期记忆网络(Convolutional long short term memory,ConvLSTM)模型及多特征融合对农田杂草群落扩散准确预测,通过无人机获取具有时间序列的数字正射图像(Digital orthophoto map,DOM)数据,数据预处理后,优化土壤调节植被指数(Optimizing soil adjustment vegetation index,OSAVI)阈值法,构建多种输入特征制作数据集。将ConvLSTM模型与多种输入特征融合并对模型进行堆叠优化,构建多特征融合卷积长短期记忆网络(Multi-feature convolutional long short term memory networks,MF-ConvLSTM)模型,实现多步预测,使用制作数据集进行网络训练,综合对比MF-ConvLSTM、ConvLSTM、深度神经网络(Deep neural network,DNN)、全连接长短期记忆网络(Fully-connected long short term memory networks,FC-LSTM)4个模型。结果表明,构建的MF-ConvLSTM模型预测效果较好,其综合性能优于ConvLSTM、DNN和FC-LSTM,均方误差(Mean square error,MSE)值为0.0191,较传统FC-LSTM模型下降0.0087、POD提高0.0702、CSI提高0.0583、FAR降低0.0727。在不同覆盖度和降雨量条件下,MF-ConvLSTM模型杂草群落扩散预测结果较为平均,拥有较稳定MSE值及预测精度,体现模型较好的鲁棒性。此外,根据试验可知特征输入和预测步长对MF-ConvLSTM模型有不同程度影响。研究提出MF-ConvLSTM模型能自适应学习短期时空依赖关系,在多特征共同输入和短期预测步长情况下达到最佳性能。研究为准确获取农田杂草群落扩散位置和生长状况提供思路和方法,也可为后续农田精准除草和制作杂草处方图提供参考。

融合ConvLSTM和多注意力机制网络的高光谱图像分类

近年来,基于深度学习的模型在高光谱图像(HSI)分类方面效果显著。针对小样本数据基于深度学习的高光谱图像分类方法分类精度不高的问题,提出一种融合卷积长短期记忆(ConvLSTM)和多注意力机制网络的高光谱图像分类方法。该方法分三个分支:光谱分支、空间X分支和空间Y分支分别提取光谱特征、空间X特征和空间Y特征,并将三个方向的特征融合进行高光谱图像分类。由于ConvLSTM在学习有价值的特征和对光谱数据中的长期依赖关系建模方面表现出良好的性能,所以在光谱分支中用了3个隐藏层、卷积核大小为3×3、通道分别为150、100和60提取光谱信息。在空间X分支和空间Y分支,采用基于DenseNet和3D-CNN的Dense空间X块和Dense空间Y块分别提取空间X特征和空间Y特征。为了增强特征提取,在这三个分支中还分别引入了其特征方向的注意力机制,针对信息丰富的光谱波段设计了光谱注意块,信息丰富的像素点分别设计了空间X和空间Y注意块。在三个公开的高光谱数据集上进行了实验,即Indian Pines(IP)、Pavia University(UP)和Salinas Valley(SV)数据集;并对比了其他五种方法:基于RBF径向核的支持向量机模型(SVM)、更深更广的卷积神经网络模型(CDCNN)、快速密集光谱-空间卷积网络模型(FDSSC)、空谱残差网络模型(SSRN)、双分支双注意力机制网络模型(DBDA)。实验中,IP数据集上训练样本和验证样本的大小设为总样本的3%,UP和SV数据集上训练样本和验证样本的大小设为总样本的0.5%。该方法和所有基于深度学习的方法,批处理大小均设置为16,优化器设为Adam,学习率设置为0.0005,并动态调整学习率。由于SVM直接利用光谱信息进行分类,输入样本块像素大小为1×1,其他基于深度学习方法的输入样本块像素均设置为9×9。实验结果表明,该方法能充分利用高光谱图像的光谱和空间特征,在OA、AA、KAPPA等评价标准上均获得了更好的效果,其中,该方法的OA指标比次优的算法平均提高0.12%~2.04%。

基于CLDAS和ConvLSTM的海南岛区域网格温度短临预报

利用中国气象局陆面数据同化系统实时产品数据集(CLDAS),结合ConvLSTM网络提出了新的网格温度短临预报方法,通过实验实现了海南岛区域网格温度的1 h分辨率短临预报.在模型测试当中,12 h连续预报的网格误差超过2℃的比率约11.5%,验证了本次研究所提出的模型应用于网格温度短临预报的可能性.

基于ConvLSTM网络的维度情感识别模型研究

学业情绪能够影响和调节学习者的注意、记忆、思维等认知活动,情绪自动识别是智慧学习环境中情感交互和教学决策的基础。目前情绪识别研究主要集中在离散情绪的识别,其在时间轴上是非连续的,无法精准刻画学生学业情绪演变过程,为解决这个问题,基于众包方法建立真实在线学习情境中的中学生学习维度情感数据集,设计基于连续维度情感预测的深度学习分析模型。实验中根据学生学习风格确定触发学生学业情绪的学习材料,并招募32位实验人员进行自主在线学习,实时采集被试面部图像,获取157个学生学业情绪视频;对每个视频进行情感Arousal和Valence二维化,建立包含2178张学生面部表情的维度数据库;建立基于ConvLSTM网络的维度情感模型,并在面向中学生的维度情感数据库上进行实验,得到一致性相关系数(Concordance Correlation Coefficient,CCC)均值为0.581,同时在Aff-Wild公开数据集上进行实验,得到的一致相关系数均值为0.222。实验表明,提出的基于维度情感模型在Aff-Wild公开数据集维度情绪识别中CCC相关度系数指标提升了7.6%~43.0%。