融合Transformer和MSCNN双分支架构的工控网络入侵检测研究

针对现有的工控网络入侵检测方法中存在对工控流量的多空间特征和长距离时序特征的提取能力不足等问题,提出了一种融合Transformer和MSCNN双分支架构的工控网络入侵检测模型.该模型利用多尺度卷积(MSCNN)中多个不同大小卷积核,对工控流量中多个空间特征进行抽取,扩大了对工控流量特征范围的学习.同时引入Transformer增强了模型对工控流量中长距离时序特征的提取能力,进一步提高了模型的性能.通过UNSW-NB15和NSL-KDD数据集进行了实验,结果表明:该模型与其他方法相比能够提取更加全面有效的特征,具有很好的检测性能和泛化能力.

基于MSCNN-LSTM的注意力机制U型管道缺陷识别模型

对于承担缓震功能的特异U型管道,其结构复杂使管内和管壁缺陷具有时延性和多源多征兆等特点。针对U型管道缺陷难以有效识别的问题,提出一种基于多尺度卷积神经网络–长短期记忆(multi-scale convolution neural network-long short-term memory,MSCNN-LSTM)的注意力机制U型管道缺陷识别方法。采用主动声学检测方法获取管道声学响应信号,将原始声学信号作为模型输入,训练多尺度卷积神经网络提取重要细粒度局部特征。然后,多尺度局部特征融合为一个特征向量输入至LSTM网络中抽取潜藏在时序规律的粗粒度上下文特征。下一步引入注意力机制,对提取的特征赋予不同的权重,使模型更关注于最具类别区分度的特征,滤除冗余特征,提高模型缺陷识别能力。最后,在输出端通过Softmax分类器实现U型管道缺陷识别。试验结果表明,与其他常用的分类方法相比,该方法拥有更快的收敛速度,可实现98.44%的缺陷识别准确率。此外,采用Grad-CAM类激活可视化方法对所提模型的特征学习和缺陷分类机理实现了过程分析和展示。

结合注意力机制与MSCNN-BiLSTM模型的电梯主动式故障预警

主动式故障预警不仅可以辅助电梯的检修与维护,还可以最大程度地降低电梯安全事故。基于某公司现有电梯运行状态的数据集,提出一种电梯健康指数(HI)预测模型。该模型是结合注意力机制的多尺度卷积神经网络(MSCNN)和双向长短时记忆网络(BiLSTM)的融合模型,可以全面提取电梯数据集的深层次特征和时序信息,实现HI预测和主动式故障预警。在与其他常见模型方法的比较中,证实了该文模型具有更好的预测性能。

基于MSCNN-GRU神经网络的采煤机摇臂剩余寿命预测

针对采煤机摇臂剩余使用寿命预测过程中数据高维度与时间序列相关信息难以挖掘等问题,提出一种多尺度卷积神经网络和门控循环单元神经网络融合的寿命预测方法。首先,利用多尺度卷积神经网络深层特征提取能力和门控循环单元神经网络的时间依赖特性,构建健康指标。其次,采用多项式拟合,预测状态值达到阈值1时的时间,实现摇臂RUL预测。试验结果表明,所提方法预测结果能够较好地接近真实寿命。

基于BFD和MSCNN的风电滚动轴承智能故障诊断

针对变工况下风电滚动轴承的健康状态评估问题,提出了一种基于带宽傅里叶分解(BFD)和多尺度卷积神经网络(MSCNN)的智能故障诊断方法.首先,通过BFD算法将原始振动信号分解为一系列带宽模态函数(BMF);然后,通过希尔伯特阶次变换(HOT)计算各BMF的包络阶次谱,并根据特征阶次比筛选出分解结果中包含故障信息最多的有效分量.最后,通过MSCNN学习有效分量的包络阶次谱与故障类别之间的映射关系以实现滚动轴承健康状态的自动识别.实验结果表明,所提方法采用BFD分解结果的包络阶次谱作为故障识别的特征量,能有效提高模型在不同工况下的泛化能力,其测试准确率达到97%以上,可应用于变工况条件下风电滚动轴承的智能故障诊断.

基于MSCNNSA-BiGRU的变工况风电机组滚动轴承故障诊断研究

风电机组滚动轴承运行工况复杂多变,存在故障特征区域尺寸不一致、故障难提取、难辨别的问题,为此,提出了一种基于多尺度卷积神经网络(MSCNN)、自注意力(SA)机制与双向门控循环单元(BiGRU)的变工况条件下风电机组滚动轴承故障诊断方法(MSCNNSA-BiGRU)。首先,采用MSCNN提取了轴承原始振动信号的多尺度特征信息;然后,BiGRU结构挖掘原始振动信号的历史与未来信息,更全面地提取了其数据时序特征信息,同时引入self-attention来重点关注故障特征,提高了模型的故障诊断精度;最后,将特征信息融合成了一个特征向量,输入到SoftMax层,实现了对故障的分类;并将该方法应用于实际风电机组滚动轴承故障诊断中。研究结果表明:变工况背景下轴承故障识别准确率为92.7%,与经典的MSCNN网络相比,其故障识别的平均准确率提高8.13%;该方法直接从原始振动信号自适应地提取多尺度的时序特征,并将其进行融合,实现了“端到端”的滚动轴承故障诊断,省去了人工特征提取过程,提高了模型的泛化能力和鲁棒性,对实际工程风电机组滚动轴承故障诊断研究应用具有一定价值。

基于1d-MSCNN+GRU的工业入侵检测方法研究

针对传统机器学习方法对特征依赖大,以及传统卷积神经网络只通过提取重要的局部特征来完成识别分类,收敛速度慢的问题,提出了一维多尺度卷积神经网络和门控循环单元相结合的入侵检测方法。该方法使用一维多尺度卷积神经网络加强对特征的捕捉能力,加快收敛速度,采用门控循环单元把握空间特征,减少通道数量扩张,降低数据维度。使用KDD CUP 99数据集和密西西比州大学的天然气管道的数据集进行仿真实验,结果表明与经典的机器学习分类器相比,该方法具有较高的入侵检测性能和较好的泛化能力。

基于多尺度卷积神经网络的深圳市滑坡易发性评价

卷积神经网络(convolutional neural networks,CNN)模型因其强大的特征提取能力被广泛应用于滑坡易发性评估,但传统CNN已难以满足要求。文章提出一种能够顾及深层与浅层特征的多尺度卷积神经网络(multi-scale convolutional neural networks,MSCNN)模型,通过增加模型深度和样本的感受野,挖掘更深层和更稳定的特征,提高复杂场景下的滑坡易发性评估可靠性。文章以深圳市为研究区,根据系统性原则和代表性原则选取了12个深圳市滑坡影响因子,构建多尺度卷积神经网络滑坡易发性评估模型,并与多层感知器(multilayer perceptron,MLP)、支持向量机(support vector machine,SVM)以及随机森林(random forest,RF)等方法进行对比。结果表明,文章构建的MSCNN模型的AUC值(0.99)较高,优于MLP(0.97)、SVM(0.91)和RF(0.85),证明提出的MSCNN模型具有优异的预测能力;深圳市极高易发性区域面积约为105.3 km^(2),占研究区总面积的4.98%,主要分布在坡体较陡、植被覆盖稀疏和人类工程活动频繁的龙岗区,坡度、地表粗糙度和地表起伏度成为影响深圳市滑坡的主控因子。文章实现的滑坡易发性图反映了深圳市滑坡灾害的分布现状,可为深圳市未来滑坡灾害防治提供数据支持和关键技术支撑。

基于多尺度卷积神经网络的手机表面缺陷识别方法

针对手机表面缺陷难以精确识别的问题,提出一种兼具Soble算子、逻辑损失函数(logistic loss function,LLF)和多尺度卷积神经网络(multi-scale convolutional neural networks,MSCNN)手机表面缺陷识别方法SL-MSCNN。首先,构建了一种基于Sobel算子的邻域特征增强方法,排除了图像中光照、阴影等无关因素的干扰;其次,设计了一种基于MSCNN的缺陷识别方法,通过获得手机表面图像的多尺度信息,提高了手机表面缺陷的识别精度,同时,引入了LLF,通过降低梯度消失发生的概率加快训练的检测速度。实验结果表明:与其他手机表面缺陷识别方法相比,SL-MSCNN在准确率和效率方面具有更好的使用价值。

采用多通道浅层CNN构建的多降噪器最优组合模型

现有的一致性神经网络(Consensus neural network,CsNet)利用凸优化和神经网络技术将多个降噪算法(降噪器)输出的图像进行加权组合(融合),以获得更好的降噪效果,但该优化模型在降噪效果和执行效率方面仍有较大改进空间.为此,提出一种基于轻量型多通道浅层卷积神经网络(Multi-channel shallow convolutional neural network,MSCNN)构建的多降噪器最优组合(Optimal combination of image denoisers,OCID)模型.该模型采用多通道输入结构直接接收由多个降噪器输出的降噪图像,并利用残差学习技术合并完成图像融合和图像质量提升两项任务.具体使用时,对于给定的一张噪声图像,先用多个降噪器对其降噪,并将降噪后图像输入OCID模型获得残差图像,然后将多个降噪图像的均值图像与残差图像相减,所得到图像作为优化组合后的降噪图像.实验结果表明,与CsNet组合模型相比,网络结构更为简单的OCID模型以更小的计算代价获得了图像质量更高的降噪图像.

基于多尺度卷积神经网络的交通标志识别方法

为了提升交通标志自动识别的精度,提出一种基于多尺度CNN的交通标志识别方法(TSR-MSCNN算法).该方法采用三阶段卷积神经网络,融合了低阶、中阶和高阶3种不同尺度的特征,并串联了多个小卷积层用以代替单个较大卷积层.通过对全连接层的神经元个数、Dropout参数、卷积核尺寸等网络超参数进行选比实验,获得了最佳的网络超参数.利用德国交通标志基准数据库(GTSRB)对不同算法进行测试表明,本文提出的算法在较小的网络参数量下能够有效提取交通标志特征,获取的识别准确率达到99.76%,且显著优于传统卷积神经网络方法和多尺度特征方法的识别准确率,因此本文算法在图像识别领域有良好的应用价值.