基于卷积长短时记忆网络的短时公交客流量预测

针对传统的短时客流预测方法没有考虑到时序特征中跨时段客流之间的相似性问题,提出一种改进k-means聚类算法与卷积神经网络和长短时记忆网络相结合的短时客流量预测模型k-CNN-LSTM。通过k-means算法对跨时段时序数据进行聚类,使用间隔统计确定k值,构建交通流矩阵模型,采用CNN-LSTM网络处理具有时空特征的短时客流。该模型能够对具有空间相关性的数据进行较为准确的预测。使用真实数据集对模型进行检验和参数调优,实验结果表明:k-CNN-LSTM模型较其他模型有相对较高的预测精度。

基于卷积长短时记忆网络的国际平整度指标预测

公路的快速发展带来了对路面各项指标快速检测和分析的需求,针对路面国际平整度指标的特点,提出使用卷积神经网络与长短期记忆神经网络的结合(CNN-LSTM)对国际平整度指标进行预测,卷积神经网络和长短期记忆神经网络分别学习激光雷达距离数据的空间维度特征和时间维度特征,完成对平整度指标的预测。实验结果表明,相比较与LSTM网络,CNN-LSTM模型的MAPE值仅有2.3488,准确度和召回率分别达到90.61%和87.89%。通过真实值和预测值的对比可以发现CNN-LSTM更加适用于国际平整度指标的预测。

基于卷积注意力长短时记忆网络的轴承寿命预测方法

传统的滚动轴承寿命预测方法缺乏明确的学习机制,无法有效识别不同时序特征之间的差异并突出重要特征,影响其预测精度.为克服上述缺点,本文提出了一种基于卷积注意力长短时记忆网络(CAN-LSTM)的剩余使用寿命预测模型.该模型主要由两部分组成:前端为卷积注意力网络(CAN),学习通道和时间维度中的深层故障特征,提高特征的表征能力;后端为改进LSTM网络,基于退化特征对轴承进行寿命预测.归一化健康指标至[0,1]区间内,得到相同的失效阈值;使用五点平滑法对预测结果进行处理,实现预测结果的输出;利用留一法对轴承全寿命试验数据进行验证,测试模型的准确性和适应性.试验结果表明:所提模型的平均均方根误差和平均绝对值误差比仅用CNN模型预测值低54.12%和59.05%,比仅用LSTM模型预测值低39.06%和43.42%,比卷积长短时记忆网络(CNN-LSTM)低20.41%和25.86%.

基于并行多通道卷积长短时记忆网络的轴承寿命预测方法

在预测轴承剩余使用寿命时,数据间的时序特性是一个可以利用的重要隐藏信息。为了更好地提取具有时序信息的特征用于预测,提出了一种基于并行多通道卷积长短时记忆网络(PMCCNN-LSTM)的剩余使用寿命预测模型。该模型主要由两部分组成:前端为并行多通道卷积网络(PMCCNN),提取信号特征,挖掘数据的时序特性,并采用逐层训练和微调的方式提升参数的收敛性;后端为长短时记忆(LSTM)网络,基于特征进行剩余使用寿命预测,并采用加权平均的方法对预测结果进行平滑处理。在一个轴承加速寿命实验的公开数据集上使用留一法验证了该模型的准确性,实验结果表明:所提模型的平均误差与最大误差分别比传统的卷积神经网络(CNN)低23.38%和15.84%,比传统的LSTM低24.14%和19.01%,比卷积长短时记忆网络(CNN-LSTM)低30.32%和23.09%。

冲击噪声下基于演化长短时记忆神经网络的调制信号识别

为了解决冲击噪声下长短时记忆(long short term memory,LSTM)神经网络调制信号识别方法抗冲击噪声能力弱和超参数难以确定的问题,本文提出了一种演化长短时记忆神经网络的调制识别方法。利用基于短时傅里叶变换的卷积神经网络(convolution neural network,CNN)去噪模型对数据集去噪;结合量子计算机制和旗鱼优化器(sailfish optimizer,SFO)设计了量子旗鱼算法(quantum sailfish algorithm,QSFA)去演化LSTM神经网络以获得最优的超参数;使用演化长短时记忆神经网络作为分类器进行自动调制信号识别。仿真结果表明,采用所设计的CNN去噪和演化长短时记忆神经网络模型,识别准确率有了大幅度的提高。量子旗鱼算法演化LSTM神经网络模型降低了传统LSTM神经网络容易陷于局部极小值或者过拟合的概率,当混合信噪比为0 dB,所提方法对11种调制信号的平均识别准确率达到90%以上。

基于多通道卷积双向长短时记忆网络的输电线故障分类

针对单通道故障分类器不能全面表达三相故障特征信息引起分类精度不高的问题,提出了一种基于多通道卷积双向长短时记忆神经网络(MCCNN-BiLSTM)的输电线故障分类方法。该方法可同时输入故障三相信号,并能有效提取故障信号的空间和时间特征,实现了三相故障信号特征的全面提取,有效地提高了神经网络的分类的精度。基于735 kV三相串联补偿输电线模型大量故障数据分析,对三相故障电压信号不采用任何特征提取算法,仅截取故障周期的三相电压幅值数据作为基本故障特征信号输入。仿真实验结果表明:该网络能快速准确地分类识别11种故障,并且不易受故障时刻、过度电阻等因素的影响,具有良好的鲁棒性和适应性。

基于并行多尺度卷积记忆残差网络的物联网流量预测

针对现有物联网流量预测方法中特征提取不足、丢失重要信息、预测准确度不高的问题,提出了一种基于并行多尺度卷积记忆残差网络的物联网流量预测方法。首先,采用并行结构,CNN提取多尺度的局部特征得到包含有局部特征的序列,LSTM和BiLSTM分别提取前向的时间关系和前后向的时间关系得到有合适比例的前后向时间特征序列;其次,引入ResNet结构,在CNN、LSTM、BiLSTM的输入和输出之间加入跳跃连接,即通过跳跃连接在特征序列中加入原始序列信息;再次,在有原始信息的特征序列中分配可训练的权重参数,突出相应序列的重要性,进行拼接得到总的输出序列;最后,将总的输出序列输入到全连接网络中得到预测结果。实验结果表明,本方法在均方根误差(RMSE)、平均绝对误差(MAE)、拟合系数(R2)3项指标上要优于其他方法,能更准确地进行物联网流量的预测。

基于分组双阶段双向卷积长短期方法的高光谱图像超分辨率网络

文章提出基于分组的双阶段Bi-ConvLSTM网络(GDBN),可以充分利用图像的空间和光谱信息,通过使用以波段为单位的分组策略,有效缓解了计算负担,并对光谱信息进行保护。在编码器的不同阶段,对浅层信息提取模块和深度特征提取模块进行不同层次信息的提取,浅层信息提取模块能够对不同尺度的浅层特征信息进行充分捕捉,深度特征提取模块能够捕捉图像的高频特征信息。文章还引入通道注意力机制,增强网络对特征的组织能力,并在自然数据集cave上进行大量实验,效果普遍优于目前主流的深度学习方法。

基于长短时记忆卷积神经网络的刀具磨损在线监测模型

为了提高机械加工过程中刀具磨损在线监测的准确性,提出了一种基于长短时记忆卷积神经网络(LSTM-CNN)的刀具磨损在线监测模型。在该监测模型中,通过振动、力、声发射传感器对刀具切削过程中的振动、力和声发射信号进行采集,采集的数据其本质为时间序列数据。考虑采集数据的序列和多维度特性,采用LSTM-CNN网络对采集的数据进行序列和多维度特征提取,利用线性回归实现特征到刀具磨损值的映射。通过实验验证了该模型的有效性和可行性,模型的精度较其他几种方法有了较大的提高。

基于卷积神经网络及长短时记忆网络的短时船舶交通流量预测

由于船舶交通流具有非线性和复杂性的特征,传统交通流量预测方法的预测结果精度普遍不高,且需大量历史数据进行训练。在考虑船舶交通流数据时间特性的基础上增加了对数据空间特性的考虑,提出一种基于卷积神经网络(Convolutional Neural Networks,CNN)和长短时记忆网络(Long Short-Term Memory,LSTM)的短时船舶交通流量预测模型,并引入动态时间规整(Dynamic Time Warping,DTW)算法构造损失函数,提升模型的预测精度。结果表明:通过与灰色模型(Grey Model,GM)、差分整合移动平均自回归模型(Autoregressive Integrated Moving Average Model,ARIMA)、小波神经网络(Wavelet Neural Network,WNN)、反向传播神经网络(Back Propagation Neural Network,BPNN)和CNN-LSTM等模型对比,所提出的CNN-LSTM-DTW预测模型的预测结果相对误差最小,可信度高,预测精度优于对比模型。

基于卷积长短时记忆网络的心律失常分类方法

心律失常等慢性心血管疾病严重影响人类健康,采用心电信号(ECG)实现心律失常自动分类可有效提高该类疾病的诊断效率,降低人工成本。为此,该文基于1维心电信号,提出一种改进的长短时记忆网络(LSTM)方法实现心律失常自动分类。该方法首先设计深层卷积神经网络(CNN)对心电信号进行深度编码,提取心电信号形态特征。其次,搭建长短时记忆分类网络实现基于心电信号特征的心律失常自动分类。基于MIT-BIH心律失常数据库进行的实验结果表明,该方法显著缩短分类时间,并获得超过99.2%的分类准确率,灵敏度等评价参数均得到不同程度的提高,满足心电信号自动分类实时高效的要求。

基于一维卷积长短时记忆网络的多信号融合刀具磨损评估

为实现刀具磨损状态的有效在线监测,提出一种基于一维卷积长短时记忆网络的多信号融合刀具磨损评估模型。该模型综合使用加工过程中主轴和工作台的振动和声发射信号,以实现信号间的优势互补,弥补单一信号的不足;基于一维卷积的特征学习能力和长短时记忆网络的时序特征分析能力,充分挖掘信号中包含的刀具磨损状态信息;最后通过全连接层和softmax分类器对刀具磨损状态进行评估。试验结果表明,该模型在各单一工况下对刀具磨损状态的识别准确率均可达93.8%以上,整体工况下识别准确率达95.3%,具有很好的稳定性和多工况通用性。

改进时间卷积网络和长短时记忆网络的泸水河流域月径流量预测模型

为提升水文模型预测精度和计算效率,解决传统方法难以浓缩多源水文特征,以及长时间跨度下数据量纲、值域不同造成的特征冗杂问题,提出基于改进时间卷积网络(TCN)和长短时记忆网络(LSTM)的月径流量预测模型。通过构造多卷积核并行网,以提取多源时序特征,并保持原因果卷积特性。引入扩张卷积抽取高阶水文特征,提升长时间跨度记忆单元处理效率。利用残差链接方式跨层传输底层完整特征,丰富特征结果,同时优化整体网络学习过程,并以泸水河流域为例进行验证。实验结果表明,该模型在计算效率、精度、网络结构上均优于其他对比模型,从而验证了其在该流域水文预测的有效性。

基于卷积长短时记忆深度神经网络的带内全双工非线性数字自干扰消除

带内全双工(IBFD)技术能够有效提高无线通信系统的频谱效率,近年来引起了广泛关注。然而,同时发送和接收引起的线性和非线性自干扰给IBFD带来了巨大挑战。传统的非线性自干扰消除主要是基于多项式模型和深度神经网络(DNN)来实现。多项式模型方法存在模型失配导致自干扰效果恶化的风险,而DNN方法无法针对高维数据特有的空频相关性、时间相关性等特点进行处理。该文基于卷积长短时记忆深度神经网络(CLDNN),通过在输入层中引入3维张量以及在卷积层设置复数卷积层结构,分别设计了两种重建自干扰信号的网络结构——2维CLDNN(2D-CLDNN)和复值CLDNN(CV-CLDNN),充分利用卷积神经网络局部感知和权值共享的优势,在高维特征中学习到更抽象的低维特征,从而提高自干扰消除的效果。实际场景中获得数据的评估结果显示,当功率放大器记忆长度M和自干扰信道多径长度L满足M+L=13时,通过总共60次训练轮数,该文提出的结构比传统DNN方法在非线性自干扰消除方面可以实现至少26%的改进,训练轮数也有明显减少。

基于卷积神经网络和长短时记忆网络的心肌梗死检测

为了进一步提升心肌梗死的诊断效果,提出一种基于卷积神经网络和长短时记忆网络的心肌梗死检测方法,用于准确地从心电图信号中检测心肌梗死。具体来讲,提出3种分别基于卷积神经网络、卷积神经网络结合长短时记忆网络以及它们的集成模型的检测方法,以期从心电信号中检测心肌梗死和正常搏动。此外,采用数据重采样方法,即合成少数类过采样方法和Tomek Link解决数据集不平衡问题。最终与其他方法的实验结果相比,经过数据重采样的集成卷积神经网络模型的结果取得了明显优势,证明提出方法的有效性。

基于双向长短时记忆单元和卷积神经网络的多语种文本分类方法

针对日渐丰富的多语种文本数据,为了实现对同一类别体系下不同语种的文本分类,充分发挥多语种文本信息的价值,提出一种结合双向长短时记忆单元和卷积神经网络的多语种文本分类模型BiLSTM-CNN模型。针对每个语种,利用双向长短时记忆神经网络提取文本特征,并引入卷积神经网络进行特征优化,获得各语种更深层次的文本表示,最后将各语种的文本表示级联输入到softmax函数预测类别。在中英朝科技文献平行数据集上进行了实验验证,结果表明,该方法相比于基准方法分类正确率提高了4%,且对任一语种文本均能正确分类,具有良好的扩展性。

基于卷积长短时记忆神经网络的蛋白质二级结构预测

鉴于不同类型氨基酸的相互作用对蛋白质结构预测的影响不同,文中融合卷积神经网络和长短时记忆神经网络模型,提出卷积长短时记忆神经网络,并应用到蛋白质8类二级结构的预测中.首先基于氨基酸序列的类别信息和氨基酸结构的进化信息表示蛋白质序列,并采用卷积提取氨基酸残基之间的局部相关特征,然后利用双向长短时记忆神经网络提取蛋白质序列内部残基之间的远程相互作用,最后将提取的蛋白质的局部相关特征和远程相互作用用于蛋白质8类二级结构的预测.实验表明,相比基准方法,文中模型提高8类二级结构预测的精度,并具有良好的可扩展性.

基于动态加权卷积长短时记忆网络的滚动轴承剩余寿命预测方法

现有数据驱动方法在滚动轴承剩余使用寿命预测中,因不能有效提取对轴承退化过程敏感的特征信息而导致预测精度不足。为此提出一种基于动态加权卷积长短时记忆网络(DW-CNN-LSTM)的滚动轴承剩余寿命预测方法。对滚动轴承振动信号进行小波包分解,将获得的小波包系数矩阵通过可训练参数动态加权层进行动态加权,来实现对轴承退化的表征信息进行有效筛选,以增强轴承振动特征学习能力;利用卷积神经网络的自适应挖掘数据深层特征能力,从动态加权后的小波包系数矩阵中提取对轴承退化过程敏感的特征集;借助长短时记忆网络(LSTM)预测时间信息序列的优势,由双层LSTM进一步提取其高维退化特征,来提高滚动轴承剩余寿命预测精度。对XJTU-SY轴承数据和IMS轴承数据的试验结果表明,所提DW-CNN-LSTM方法相比于经典的长短时记忆网络方法,其均方根误差指标平均降低了61.08%,预测准确度平均提高了9.95%,模型训练时间平均减少了44.14%,获得了较满意的寿命预测精度和鲁棒性。

注意力卷积长短时记忆网络的弱小目标轨迹检测

红外弱小目标的轨迹检测是红外导引的一项关键技术,在小天体探测、导弹制导和战场侦察等航空航天领域具有重要地位。针对传统基于检测前跟踪技术的轨迹搜索算法存在需要事先获取目标的灰度分布函数或运动速度等先验知识限定条件的问题,提出了基于注意力机制卷积长短时记忆神经网络的弱小目标轨迹检测算法。这种算法通过3D卷积核提取连续15帧红外图像序列的短期时间维信息和空间维信息,结合卷积长短时记忆网络提取红外序列的长期时空信息,利用注意力机制关注与弱小目标运动轨迹有关的关键信息并舍弃无关信息,实现了网络端对端的预测输出。在5个红外图像序列上进行了均方根误差、平均绝对误差、峰值信噪比和结构相似度等4个客观度量指标的实验评估。结果表明,基于输出门注意力机制的卷积长短时记忆网络在均方根误差和平均绝对误差上相对于3DCNN,3D-ConvLSTM,3D-AIConvLSTM方法平均降低了32.8%和46.3%,在峰值信噪比和结构相似度指标上平均提高了18.3%和4.3%,能够优秀地检测低于6 pixel红外目标的运动轨迹,预测轨迹与真实轨迹非常吻合,且背景杂波残留最少,检测效果最优。

基于卷积长短时记忆网络的人体行为识别研究

人体行为识别利用深度学习网络模型自动提取数据的深层特征,但传统机器学习算法存在依赖手工特征提取、模型泛化能力差等问题。提出基于空时特征融合的深度学习模型(CLT-net)用于人体行为识别。采用卷积神经网络(CNN)自动提取人体行为数据的深层次隐含特征,利用长短时记忆(LSTM)网络构建时间序列模型,学习人体行为特征在时间序列上的长期依赖关系。在此基础上,通过softmax分类器实现对不同人体行为分类。在DaLiAc数据集的实验结果表明,相比CNN、LSTM、BP模型,CLT-net模型对13种人体行为的总体识别率达到了97.6%,具有较优的人体行为识别分类性能。