基于注意力机制的CNN-LSTM网络下肢膝关节角度预测

解析膝关节运动意图是实现下肢外骨骼机器人穿戴舒适性的核心。神经系统疾病患者常伴有下肢运动障碍,通过表面肌电信号对其进行运动评估。为实现上述患者在运动评估与关节角度预测的融合,本文提出一种新型的基于注意力机制的CNN-LSTM网络模型,通过10通道表面肌电信号实现水平行走、上坡和上楼梯时3种日常运动膝关节角度预测,其预测误差指标均方根误差(Root mean square error,RMSE)、平均绝对误差(Mean absolute error,MAE)和决定系数(R^(2))均值分别为2.74、2.50和0.97,均优于传统网络模型。进一步,通过消融实验,显示上述3个预测指标分别平均下降了20.47%、34.36%和6.59%。可见,本文提出的基于注意力机制的CNN-LSTM模型端到端预测方法具有最高的预测精度,为下肢外骨骼机器人系统的人机交互控制方案提供了参考。

基于添加Dropout层的CNN-LSTM网络短期负荷预测

精准的短期负荷预测能帮助电力部门制订合理的生产调度计划,达到节省能源消耗的目的。为提升短期负荷预测的准确性,提出一种添加Dropout层的CNN-LSTM网络短期负荷预测方法。首先,根据电力负荷预测流程对预测的影响因素如气象、日期类型等进行相关性验证后构建输入特征向量;其次,使用一维卷积网络对输入的特征向量进行卷积、池化处理,并在LSTM网络全连接层添加Dropout层进行短期负荷预测仿真实验;最后,使用某电网历史数据进行测试。结果表明,相比于单独的LSTM网络,所建模型对短期负荷的预测效果更好。

基于CNN-LSTM网络的电力负荷预测

为了及时掌握电力负荷的变动信息,就需要对电力负荷进行准确预测。鉴于此,探究出一种CNN和LSTM的组合模型来预测一日到一周的电力短期负荷波动情况。CNN模型负责从输入信息中提取特征,LSTM模型利用CNN模型的输出信息进行负荷预测,最终得到预测结果。选取西班牙公开的电力数据为实验数据,运用Python语言搭建预测模型,分别与CNN和LSTM单一模型进行对比,验证了所提组合预测模型的可靠性,其在电力短期负荷预测领域应用效果较好,可为供电部门电力规划提供理论依据。

基于CNN-LSTM网络的电网电压稳定紧急控制策略

运行方式的复杂多变性、扰动故障的不确定性、电力电子设备的弱抗扰性为交直流混联电网的安全稳定运行带来了巨大挑战。为保证大扰动故障后电网电压的稳定,提出一种基于卷积神经网络(CNN)和长短期记忆(LSTM)网络的响应驱动紧急控制策略。首先,分析关键母线节点电压时序值和电压稳定水平的映射关系,离线建立基于CNN-LSTM网络的大干扰电压稳定评估模型。然后,采用评估模型预测备选切机、切负荷点控制措施动作后电网电压稳定水平的提升量,确定响应驱动紧急控制措施灵敏度。最后,考虑紧急控制措施灵敏度,建立计及电网实际运行约束的紧急控制优化问题,求解得到最优紧急控制策略。面向存在电压失稳问题的交直流混联电网实际场景,仿真结果验证了所提响应驱动控制灵敏度预测方法的准确性,电压稳定紧急控制措施优化协调策略可以保证大扰动故障后电网的安全稳定运行。

基于CNN-LSTM网络的声纹识别研究

传统声纹识别方法过程复杂,模型识别准确率低,是声纹识别应用发展的关键问题。利用深度学习具有自主特征提取及分类的特点,结合卷积神经网络(CNN)和长短期记忆网络(LSTM),提出一种结合的网络模型学习声纹识别特征及对其进行身份认证。将原始语音转换为固定长度语谱图,顺序进入CNN、LSTM,结合网络进行训练以及声纹特征学习。通过对比CNN、LSTM以及DNN网络,验证CNN-LSTM网络在声纹识别中具有较少迭代次数情况下高准确率的特性。经实验结果可以得出,语音空间特征及时序特征均是声纹识别中重要的影响因素,实验中的CNN-LSTM网络模型准确率达到95.42%,损失低值达到0.097 3。该方法有利于实际声纹识别的应用。

基于注意力机制的CNN-LSTM网络车内CAN总线入侵检测技术

随着智能汽车功能的不断扩展和用户群体的增加,汽车自身的网络安全性问题也逐渐引起人们的重视.智能汽车的大量外部接口为攻击者提供了许多种入侵车内网络的机会,而由于车内网络本身没有任何抵御外部攻击的机制,攻击者可以很容易地通过外部接口接入车辆内部网络并操控车辆,引发严重的交通安全事故.目前针对车辆内部网络的入侵检测系统被认为是抵御车辆内部网络入侵的有效方法.提出一种基于带有注意力机制的卷积-长短期记忆神经网络算法进行车内控制器局域网(controller area network,CAN)总线入侵检测.该方法首先将CAN总线通信数据转化为图像,然后利用卷积神经网络提取其中特征,再通过带有注意力机制的长短期记忆神经网络判断CAN总线通信是否异常.实验结果证明提出的方法在各项指标中都有较好的表现,能够有效检测针对CAN总线的入侵.

基于CNN-LSTM网络的计算机网络内部丢包节点识别技术

因传统计算机网络内部丢包节点识别技术准确度不高,关键节点识别效率低且无法满足实际的应用需求,因此,提出基于CNN-LSTM(卷积神经网络)的计算机网络内部丢包节点识别技术方法。首先,在计算机网络内部丢包节点进行识别时,对计算机网络内部攻击模型进行分析;其次,建立网络信道模型,从而构建出节点交互成功的概率模型,提高交互成功的概率;最后,采用假设检验的异常节点识别。通过对比结果分析,随着恶意节点丢包率增加,导致选择性转发攻击路径的检测成功概率相应增加,证明了本文识别技术的检测功能具有实用性。

负重环境下基于足底压力和CNN-LSTM网络的性别识别方法研究

目前卷积神经网络(Convolutional Neural Networks,CNN)已被很广泛地用于步态识别领域,但CNN在分类时仅考虑单张静态步态图像,缺少对连续特征的关注,影响识别系统的准确率。因此,本文提出附加长短期记忆网络(Long Short-Term Memory networks,LSTM)来获取足底压力的连续特征。针对传统人工鉴定依赖主观经验的不足,及现有自动识别模式偏差较大、不能完全克服负重干扰的问题,本文采集不同负重环境下的足底压力数据,依据足底压力特征与男女性别差异,通过CNN-LSTM网络实现对足底压力进行个体性别的自动分类,算法识别率达到98.31%。

基于多流CNN-LSTM网络的群体情绪识别

针对群体情绪识别准确率的问题,结合卷积神经网络(CNN)与长短期记忆网络(LSTM),提出一种多流CNN-LSTM网络模型学习群体情绪的静态和动态特征。以视频序列的原始图像、视觉显著图形和叠加的光流图像分别作为三个通道的输入,利用CNN网络对空间特征和局部运动特征进行分析,得到的特征图直接输入LSTM网络,进行全局运动特征的学习。最后连接Softmax分类器,对三个通道的Softmax输出进行加权融合,得到分类结果。实验结果表明,模型可有效地识别四种典型的群体情绪,且识别率高于已有算法,准确度(ACC)和宏平均精度(MAP)分别最高可达82. 6%、84. 1%。

基于CNN-LSTM网络模型的风电功率短期预测研究

风电功率预测对电力系统的稳定运行与经济调度至关重要。为充分挖掘历史数据中的有效信息以提高风电功率短期预测精度,提出一种基于卷积神经网络(convolution neural network,CNN)和长短期记忆(long short-term memory network,LSTM)网络模型的风电功率短期预测方法,利用CNN序列特征提取能力进行有效信息的提取,保留更长的有效记忆信息以解决梯度弥散问题,弥补了LSTM网络模型面对过长序列时出现不稳定与梯度消失现象的不足。用国内某风电场数据进行实验,预测结果表明文中提出的方法与反向传播神经网络和LSTM网络预测方法相比,具有更高的预测精度。

基于CNN-LSTM网络分析金融二级市场数据

在金融二级市场上对数据的分析方法主要是基于统计学和人工建模的方法,本文的提出了使用神经网络的方法分析二级市场金融数据。本文首先提出了在金融二级市场上使用神经网络方法的思路,其次证明了在二级市场使用神经网络进行数据分析的可行性,并且根据金融数据的特点设计出一种适合于处理金融数据的CNN-LSTM网络来处理数据。该网络对比传统的简单的统计方法和一些神经网络方法比如逻辑回归,卷积神经网络(CNN),长短期记忆网络(LSTM)等方法,在对市场价格变化在较短时间内的预测和在较长时间内的预测都有显著的提高,比简单的统计方法提高10%,比其他神经网络提高5%。提出了一种能够较为有效分析金融二级市场数据的方法。

基于CNN-LSTM网络的睡眠分期研究

睡眠分期是睡眠数据分析的基础,用自动标定方法来替代人工标定方法可以提高效率,结果也更为客观。不管是人工手动标定还是自动标定都是基于多导睡眠图(Polysomnography,PSG)。采用长短时记忆模型(LSTM-RNN)及长短时记忆模型与卷积神经网络(CNN)相结合的模型(CNN-LSTM)对三个通道信号(EEG、EOG、EMG)的组合进行自动睡眠分期研究。通过对9个受试数据进行分析,LSTM-RNN和CNN-LSTM分别达到了81.9%和83.1%的分类准确率。相对于LSTM-RNN模型,结合卷积神经网络的CNN-LSTM模型获得的分期准确率更高,平均准确率提高了1.2%。

基于对称CNN-LSTM网络的太阳辐照度超短期预测研究

为进一步提高太阳光照度的预测,文章提出一种融合对称模型的光照度预测方法。首先对光照度气象数据进行预处理,将数值进行归一化。为了减少超短期内云层运动变化引起光照度的变化,引入了一种定义云层与太阳中心的距离,并建立输入矩阵。通过设置不同超参数测试网络效果,将不同数据通过文章构建的多输入多输出对称融合网络进行训练并得到预测值,并与对照实验比较,通过实验证明,文章提出网络架构比对照实验组拥有更好的预测效果,能够更好反应超短期内光照度变化趋势。

基于CNN-LSTM网络的短期电力负荷预测

传统的神经网络在时间相关性较强的负荷预测中精度不高。为了有效提高短期电力负荷预测精度,提出了一种基于卷积神经网络CNN和长短时记忆网络LSTM相结合的负荷预测方法。采集5维负荷特征数据,以CNN卷积层和池化层作为特征提取单元,提取数据空间耦合交互特征;将重构数据输入到LSTM网络挖掘负荷时序特征,采用Dropout技术增加模型泛化能力;利用适应性矩估计(Adam)优化器训练模型;将测试数据输入训练后的神经网络模型,预测未来1 h和12 h电负荷。实验结果表明,该负荷预测模型收敛速度和预测精度均优于改进的BP神经网络、LSTM等预测模型,其1 h负荷预测精度达到98.66%,12 h负荷预测精度达到96.81%,提高了短期电力负荷预测精度。

基于CNN-LSTM网络的在线多任务销售预测模型

有效的销售预测利于企业制定正确的营销策略,针对当前销售预测研究中存在无法进行实时在线多任务销售预测、稳定获取序列数据中的时序特征等问题,提出了一种基于CNN-LSTM网络的在线多任务销售预测模型。该模型上层CNN网络抽取得到重要的时序数据特征,进而输入到下层LSTM网络中进一步抽取复杂的不规则特征进行建模,最终得到预测结果。实验结果表明:CNN-LSTM模型不仅能在测试集上取得12.61%的最小平均绝对百分比误差,同时在长时间销售预测中,在线模型预测效果优于离线模型。

基于CNN-LSTM网络模型的散打动作辨识方法

针对散打运动的动作特点,设计和制作一套人体惯性运动捕捉系统。系统包括一系列数据采集节点和一个收发主机以及上位机软件,建立一个用于验证算法模型的散打动作数据库,进而设计出含有两层一维卷积神经网络(CNN)和一层长短期记忆网络(LSTM)的深度学习神经网络模型,能够实现对散打技法的准确、实时识别。实验数据集采集于某校散打队,通过穿戴在身的传感器采集惯性信息获得,经分析后可识别左右勾拳、左右摆拳、左右直拳这6种散打动作,识别准确率达98.5%。

基于CNN-LSTM混合神经网络的高速铁路地震响应预测

为了更好地挖掘高速铁路在地震时的响应信息,提高光纤光栅监测的效率及预测精度,该文针对地震响应数据的时序性及非线性的特点,提出卷积神经网络(CNN)和长短期记忆(LSTM)网络的混合神经网络模型预测方法.通过在高速铁路简支梁桥上布设准分布式光纤光栅采集地震时轨道板、钢轨、底座板、箱梁的响应数据,在每根光纤上布置7个光栅,利用两边光栅的响应数据预测中间点的光栅响应,将采集位置、历史数据及地震波形等信息作为特征图输入.利用CNN提取特征,再将提前提取出来的特征数据以时序方式作为LSTM网络的输入数据,最后LSTM网络进行地震应变响应预测.实验结果表明,LSTM网络在3层时效果最好,CNN-LSTM方法具有较高的预测精度,根均平方误差(R_(RMSE))、平均绝对误差(R_(MAE))、决定系数(R^(2))分别达到了0.3753、0.2968、0.9371.

基于CNN-LSTM混合神经网络的卷烟滤棒质量预测

为了在卷烟生产数据中挖掘出滤棒生产过程的有效信息,解决各批次产品质量检测困难的问题,结合卷积神经网络的特征提取能力与长短期记忆网络处理时序数据的有效性,提出了基于CNN-LSTM混合神经网络的卷烟滤棒质量预测模型。该模型通过卷积层提取输入数据的局部特征,然后在LSTM层中捕捉特征之间的时序关系,分层结构使其具有同时处理不同时间维度信息的能力,从而提升了预测精度。将滤棒的质量定义为圆周值与吸阻值两个物理量,利用卷烟厂6万余条实时生产数据进行模型训练和预测,结果表明:以平均绝对百分误差(MAPE)作为评价标准,圆周指标预测误差为0.078%,吸阻指标预测误差为1.42%,对比各类传统机器学习方法,CNN-LSTM混合神经网络表现出了更高的精确性。该方法可为快速准确地预测卷烟滤棒质量提供技术支持,提升烟草工业的自动化水平。

基于CNN-LSTM-Attention的工业控制系统网络入侵检测方法研究

随着各类网络攻击事件的增加,能源电力基础设施中工业控制系统安全问题也逐渐成为人们关注的焦点。结合电力系统的特点,提出一种融合卷积神经网络(convolutional neural network,CNN)、长短时记忆(long short-term memory,LSTM)神经网络和注意力(Attention)机制的CNN-LSTM-Attention网络入侵检测算法模型,通过在实验室仿真环境中构造和采集600 MW燃煤机组制粉系统在3种典型工况下受到网络攻击的运行状态数据集,对所提出的检测算法模型进行训练和评估。结果表明:相较于CNN、LSTM模型,所提出的入侵检测算法模型性能最优;模型准确率、精确率、召回率等评级指标均为最好,综合评价优于其他的入侵检测方法。该入侵检测算法模型具有较强的创新性和实用性。

基于CNN-LSTM神经网络的磁盘故障预测方法

运维人员准确预测将要发生的磁盘故障是保障数据安全的关键。然而,不平衡数据、不准确磁盘特性标记影响预测的准确性。提出一种基于预故障重置窗口(pre_Failure Reseting Window,pre_FRW)数据处理并组合卷积神经网络(CNN)和长短期记忆网络(LSTM),即pre_FRW-CNN-LSTM的磁盘故障预测方法。pre_FRW数据处理既可以解决样本不平衡,又能减少潜在的模糊样本。而CNN-LSTM模型结构能提取数据的空间特征,还能有效捕捉时间序列之间的依赖关系。在真实监控数据集上实验表明,pre_FRW-CNN-LSTM的磁盘故障预测方法对比业界其他方法提升2%~10%的故障预测率,并保持较低的错误告警率。