基于注意力机制的CNN-BiLSTM的IGBT剩余使用寿命预测

针对绝缘栅双极型晶体管(IGBT)可靠性问题,提出了一种融合卷积神经网络(CNN)、双向长短期记忆(BiLSTM)网络和注意力机制的剩余使用寿命(RUL)预测模型,可用于IGBT的寿命预测。模型中使用CNN提取特征参数,BiLSTM提取时序信息,注意力机制加权处理特征参数。使用IGBT加速老化数据集对提出的模型进行验证。结果表明,对比自回归差分移动平均(ARIMA)、长短期记忆(LSTM)、多层LSTM(Multi-LSTM)、 BiLSTM预测模型,在均方根误差和决定系数等评价指标方面该模型的性能最优。验证了提出的寿命预测模型对IGBT失效预测是有效的。

基于多源信息融合和WOA-CNN-LSTM的外脚手架隐患分类预警研究

面对施工现场外脚手架隐患信息的多样性,传统的基于传感器监测的单一信号预警研究存在容错力不佳、含有信息有限等问题。针对施工现场外脚手架“图像+监测”数据,提出一种基于数据层和特征层信息融合的脚手架隐患分类预警方法。首先,利用Revit三维建模软件建立外脚手架实体模型,对不同初始隐患下的外脚手架进行有限元分析,划分隐患预警等级;其次,利用无迹卡尔曼滤波算法(Unscented Kalman Filter,UKF)及卷积长短时记忆网络(Convolutional Neural Network-Long Short Term Memory Network,CNN-LSTM)实现脚手架同类信息数据层融合及异类信息特征层融合;最后,通过实时收集西安市某在建项目落地式双排扣件式钢管脚手架隐患信息,对其进行分类预警,并使用鲸鱼优化算法(Whale Optimization Algorithm,WOA)对CNN-LSTM网络进行参数优化,发现隐藏节点个数为30、学习率为0.0072、正则化系数为1×10^(-4)时分类效果最佳,优化后预警精度达到了91.4526%。通过可视化WOA-CNN-LSTM、CNN-LSTM、CNN-SVM(Support Vector Machine,支持向量机)及CNN-GRU(Gate Recurrent Unit,门控循环单元)分类预警结果,证实了优化后的CNN-LSTM网络在脚手架分类预警方面的优越性。

基于CNN-LSTM的永磁同步风力发电机转子偏心早期故障诊断

对永磁同步风力发电机转子早期动偏心和早期静偏心故障的特点和诊断方法进行研究,通过Ansys建立永磁同步风力发电机的早期动偏心和早期静偏心模型,提出一种基于CNN-LSTM的故障诊断和分类方法。通过对永磁同步风力发电机定子三相电流及其Welch功率谱数据的分析,判断是否为正常的动偏心趋势和静偏心趋势;然后通过空载电动势对不同故障程度进行分类。最后,在神经网络模型中完成故障诊断和分类任务。所提方法大大降低了设备维修成本,可准确快速地识别转子早期偏心故障。

自样本特征构造的1DCNN-BiLSTM网侧光伏功率预测

为解决电网难以获取NWP数据和无法建立光伏功率预测模型的问题,提出一种自样本特征构造的一维卷积双向长短期记忆神经网络光伏发电功率预测方法。通过K均值聚类和功率骤减事件检测的特征工程获取细粒度的天气状态标签,实现基于自身样本的特征构造,以解决样本特征缺少问题;采用卷积和长短期记忆网络结合的模型结构,解决局部特征提取和长期依赖的问题。算例验证结果表明,所提方法改善整体的预测性能,降低多特征数据存在的数据匮乏和数据稳定性风险,为模型输入特征较少的网侧光伏功率短期预测提供一种有效途径。

Track correlation algorithm based on CNN-LSTM for swarm targets

The rapid development of unmanned aerial vehicle(UAV) swarm, a new type of aerial threat target, has brought great pressure to the air defense early warning system. At present, most of the track correlation algorithms only use part of the target location, speed, and other information for correlation.In this paper, the artificial neural network method is used to establish the corresponding intelligent track correlation model and method according to the characteristics of swarm targets.Precisely, a route correlation method based on convolutional neural networks (CNN) and long short-term memory (LSTM)Neural network is designed. In this model, the CNN is used to extract the formation characteristics of UAV swarm and the spatial position characteristics of single UAV track in the formation,while the LSTM is used to extract the time characteristics of UAV swarm. Experimental results show that compared with the traditional algorithms, the algorithm based on CNN-LSTM neural network can make full use of multiple feature information of the target, and has better robustness and accuracy for swarm targets.

基于改进CNN-LSTM融合的僵尸网络识别方法

P2P及fast-flux等技术的出现使僵尸网络隐蔽性大大增强。传统人工提取特征的识别方法愈发困难并且识别精度低。该文设计一种新的基于CNN及LSTM融合网络结构,使用改进激活函数和网络结构的卷积神经网络检测空间特征,并使用长短时记忆网络检测时序特征,将两种特征并联融合用于识别僵尸网络。实验表明,该方法在精度和召回率等方面可满足僵尸网络识别需求。

基于CNN-LSTM的锂离子SOC估计

电池荷电状态(SOC)是锂离子电池管理技术中最重要的参数之一,高精度的SOC估计有利于储能电站的并网和控制。电池充放电数据不仅具有时序性,特征变量之间也存在一定空间关系,为提高估算方法的准确性和通用性,提出一种基于CNN-LSTM联合网络结构的锂离子电池SOC估计方法,先通过CNN特征提取获取了锂离子电池不同维度数据间的特征关系,然后经过LSTM网络结构提取其中的时间序列关系,联合网络充分获取了电池数据集的空间时间特性。实验结果表明,基于CNN-LSTM联合网络模型预测电池SOC平均误差控制在0.65%,较单独的CNN网络预测平均误差降低4.4%左右,较单独的LSTM网络预测的平均误差降低0.2%左右,具有较好的应用前景。

基于CNN-LSTM-CS工业管道腐蚀率预测模型

针对传统工业管道腐蚀率预测模型存在特征提取依赖人工经验和泛化能力不足的问题,本文将卷积神经网络(convolutional neural network,CNN)和长短期记忆网络(long short-term memory,LSTM)相结合,提出了基于布谷鸟优化算法(cuckoo search,CS)的CNN-LSTM-CS网络模型,实现对工业管道腐蚀率预测.首先,对采集的管道腐蚀数据集进行归一化预处理;然后,利用CNN网络提取影响管道腐蚀率因素的深层次特征信息,并通过训练LSTM网络构建CNN-LSTM预测模型;最后,采用CS算法对预测模型进行参数优化,减少预测误差,实现腐蚀率的精准预测.实验结果表明,对比几种典型的腐蚀率预测方法,本文提出的方法具有更高的预测精度,为工业管道腐蚀率检测提供新的思路.

基于CNN-LSTM双流融合网络的危险行为识别

针对目前人体危险行为识别过程中由于时空特征挖掘不充分导致精度不够的问题,对传统双流卷积模型进行改进,提出了一种基于CNN-LSTM的双流卷积危险行为识别模型。该模型将CNN网络与LSTM网络并联,其中CNN网络作为空间流,将人体骨架空间运动姿态分为静态与动态特征进行分别提取,两者融合作为空间流的输出;在时间流中采用改进的可滑动长短时记忆网络,以增加人体骨架时序特征的提取能力;最后将两个分支进行时空融合,利用Softmax对危险动作做出分类识别。在公开的NTU-RGB+D数据集和Kinetics数据集上的实验结果表明,改进后模型的平均跨角度(Cross view,CV)精度达到92.5%,平均跨视角(Cross subject,CS)精度为87.9%。所提方法优于改进前及其他方法,可以有效地对人体危险动作做出识别,同时对于模糊动作也有较好的区分效果。

基于CNN和LSTM的图像隐写分析

为了进一步降低隐写分析算法的检测错误率,文章提出一种基于卷积神经网络(convolutional neural network,CNN)和长短期记忆网络(long short-term memory,LSTM)的隐写分析算法。该算法利用CNN捕获载体图像的结构特征,同时利用LSTM捕获图像的前后时序特征。为了验证混合神经网络的有效性,该算法以XuNet和SRNet为基准隐写分析网络,探讨CNN与LSTM的有效组合方式。实验结果表明,所提方法可以有效提高隐写分析算法的检测能力。

基于Convolutional-LSTM的蛋白质亚细胞定位研究

蛋白质亚细胞位置预测研究是目前蛋白质组学和生物信息学研究的重点问题之一。蛋白质的亚细胞定位决定了它的生物学功能,故研究亚细胞定位对了解蛋白质功能非常重要。由于蛋白质结构的序列性,考虑使用序列模型来进行亚细胞定位研究。尝试使用卷积神经网络(convolutional neural network,CNN)、长短期记忆神经网络(long short-term memory,LSTM)两种模型挖掘氨基酸序列所包含的信息,从而进行亚细胞定位的预测。随后构建了基于卷积的长短期记忆网络(Convolutional-LSTM)的集成模型进行亚细胞定位。首先通过卷积神经网络对蛋白质数据进行特征抽取,随后进行特征组合,并将其送入长短期记忆神经网络进行特征表征学习,得到亚细胞定位结果。使用该模型能达到0.816 5的分类准确率,比传统方法有明显提升。

基于CNN和Bi-LSTM的无监督日志异常检测模型

日志能记录系统运行时的具体状态,而自动化的日志异常检测对网络安全至关重要。针对日志语句随时间演变导致异常检测准确率低的问题,提出一种无监督日志异常检测模型LogCL。首先,通过日志解析技术将半结构化的日志数据转换为结构化的日志模板;其次,使用会话和固定窗口将日志事件划分为日志序列;再次,提取日志序列的数量特征,使用自然语言处理技术对日志模板进行语义特征提取,并利用词频-词语逆频率(TF-IWF)算法生成加权的句嵌入向量;最后,将特征向量输入一个并列的基于卷积神经网络(CNN)和双向长短期记忆(Bi-LSTM)网络的模型中进行检测。在两个公开的真实数据集上的实验结果表明,所提模型较基准模型LogAnomaly在异常检测的F1-score上分别提高了3.6和2.3个百分点。因此LogCL能够对日志数据进行有效的异常检测。

基于改进CNN和LSTM的房颤识别算法研究

有数据显示,每年约有1500万人因房颤住院治疗,及时诊断可以有效地降低患病风险。本文提出一种改进CNN和LSTM的深度学习模型,在CNN模块使用了Swish函数作为激活函数,并在LSTM中引入了点积注意力机制,用于心电信号的特征提取和心律失常的诊断。利用卷积神经网络提取心电信号中的特征,LSTM可以对心电信号中的特征进行深度的挖掘,引入注意力机制,完成房颤的识别。所提模型的准确率为0.9771,F1为0.9609,精确率为0.9765,召回率为0.9799。

机器人气动夹持力的CNN-LSTM建模估计方法

由于气动系统具有迟滞、强非线性特性,难以直接依据气压信号实现气动夹持力的有效控制,因此采用建模估计夹持力是实现无力传感器低成本控制的有效途径。为此,提出一种基于卷积神经网络(CNN)优化的长短期记忆神经网络(LSTM)低成本气动夹持力估计方法。根据工业机器人末端气爪夹持力与气路历史输入/输出有关的特点,采用了具有记忆特性的LSTM网络建立无传感器气压/压力估计模型;针对直接采用LSTM网络进行建模存在误差大的问题,利用CNN提取输入信息中气压和夹持力的非线性关系,进一步对LSTM网络结构进行优化,提高模型描述气压和夹持力之间多值对应特性与非线性迟滞特性的能力,实现气爪的夹持力有效估计。实验结果表明:相比LSTM预测模型,所提模型的建模估计与验证估计均方根误差分别减少77.14%和70.83%,最大误差分别减少79.80%和78.84%,证明了所提建模估计方法的有效性。

基于CNN-LSTM的综合能源系统负荷预测模型

负荷的准确预测是综合能源系统设计、运行、调度和管理的前提。现有的负荷预测模型中大都考虑了气象、日期因素,却没有考虑系统中电、冷、热负荷间的相关性,这会对模型的预测精度造成影响。使用了科普拉理论对系统中3种负荷之间的相关性进行分析。从分析结果看,它们之间具有强相关的关系。基于上述分析结果,提出了一种基于深度学习的智慧综合能源系统负荷预测模型,该模型使用卷积神经网络(convolutional neural network,CNN)来提取系统中电、冷、热负荷间的耦合特性相关的特征量。将得到的特征量转换为时间序列后,输入到长短期记忆(long short-term memory,LSTM)网络中进行负荷预测。实验显示,所提出的CNN-LSTM组合模型的预测精度更为精准,可为综合能源系统的负荷预测提供参考。

基于并行CNN-LSTM的矿用磷酸铁锂电池SOH预测

电池健康状态(SOH)是锂离子电池的一项重要指标。为提高预测精度,提出了一种基于深度卷积神经网络(CNN)和长短期记忆网络(LSTM)的并行CNN-LSTM网络模型,用于预测矿用锂电池的健康状况。该方法利用CNN获取数据局部特征,LSTM获取时间序列信息。然后将CNN层和LSTM层获取的信息合并为一个张量,输入额外的LSTM层,进一步获取信息,完成电池健康状态预测。通过对电池的放电容量、放电时间、内阻等特征进行选择和分析,验证了该模型能够有效地预测电池的健康状况。仿真结果表明,该模型在数据集上的预测误差均小于3%,均方根误差(RMSE)和平均绝对误差(MAE)值的平均值在0.484%和0.278%以内。

基于CNN-LSTM网络的电网电压稳定紧急控制策略

运行方式的复杂多变性、扰动故障的不确定性、电力电子设备的弱抗扰性为交直流混联电网的安全稳定运行带来了巨大挑战。为保证大扰动故障后电网电压的稳定,提出一种基于卷积神经网络(CNN)和长短期记忆(LSTM)网络的响应驱动紧急控制策略。首先,分析关键母线节点电压时序值和电压稳定水平的映射关系,离线建立基于CNN-LSTM网络的大干扰电压稳定评估模型。然后,采用评估模型预测备选切机、切负荷点控制措施动作后电网电压稳定水平的提升量,确定响应驱动紧急控制措施灵敏度。最后,考虑紧急控制措施灵敏度,建立计及电网实际运行约束的紧急控制优化问题,求解得到最优紧急控制策略。面向存在电压失稳问题的交直流混联电网实际场景,仿真结果验证了所提响应驱动控制灵敏度预测方法的准确性,电压稳定紧急控制措施优化协调策略可以保证大扰动故障后电网的安全稳定运行。

基于注意力机制的CNN-LSTM的ADS-B异常数据检测

广播式自动相关监视(ADS-B)是民航新一代空中交通管理系统的重要组成部分,由于协议没有数据加密和认证,导致容易受到数据攻击.为了准确检测ADS-B数据攻击,基于ADS-B数据的时序性,提出了一种基于注意力机制的卷积神经网络-长短期记忆网络(convolutional neural networks-long short-term memory,CNN-LSTM)异常数据检测模型.首先,利用CNN提取ADS-B数据的特征,然后以时序形式将特征向量输入到LSTM中,最后使用注意力机制进行网络参数优化,实现对ADS-B数据的预测,通过计算预测误差,来进行异常检测.实验表明,该模型能够很好地检测出模拟的4种类型的异常数据,与其他机器学习方法相比,具有更高的准确率和F1分数.

基于LSTM-CNN-Attention模型的电力设施非周期巡视决策方法

随着电力系统规模的日益增大,电网面临不确定性故障的危险,会影响人们的日常生活,甚至可导致重大安全事故。因此,提前预测电力设施的运行状态并作出巡视修检决策非常重要。但常用的决策方法(如支持向量机(SVM)模型等)在这些实际应用场景中存在准确度不高、召回率低的问题。针对这一问题,提出一种结合长短期记忆(LSTM)、卷积神经网络(CNN)和注意力(Attention)机制的电力设施非周期巡视决策方法LSTM-CNN-Attention,将数据经过极限梯度提升(XGBoost)特征选择和归一化处理后输入该决策模型,利用注意力机制对经过LSTM和CNN层提取的包含时间和空间的信息作加权处理,区分信息的重要程度,以在输出预测结果时能够更关注那些对结果影响最大的信息,确保在预测过程中更重要的信息能够得到更大的关注和贡献,以提高预测结果的准确性和可靠性。通过在电力设施运行数据集上进行对比实验,验证了LSTM-CNN-Attention的准确率、精确率、召回率和F1-score性能评估指标优于CNN-LSTM、XGBoost、CNN、随机森林、SVM和逻辑回归模型的学习算法。

一种CNN-LSTM船舶运动极值预报模型

针对船舶摇荡运动的短期极值预报,提出一种融合运动频谱信息的滑动窗口方法提取特征数据,在此基础上构建卷积神经网络(CNN)与长短时记忆(LSTM)网络的组合预报模型,其中CNN模块针对输入数据的局部相关特征,LSTM模块针对数据的时间维度特征.对S175船进行运动仿真测试,结果表明,该模型对未来1~2个周期内的运动极值信息预报效果良好,各项评价指标均明显优于LSTM和门控循环单元(GRU)模型,具有重要的应用价值.