基于模糊聚类和改进Densenet网络的小样本轴承故障诊断

针对实际中轴承的故障数据少难以满足深度学习数据大量训练模型的要求,利用卷积神经网络的微小特征提取优势和模糊聚类不需要训练即可完成分类的特点,提出了一种基于模糊聚类和改进Densenet网络的小样本轴承故障诊断方法。首先将预训练微调的Densenet网络去掉分类只保留特征提取层,设计一个维度自适应全局均值池化层(GAP)代替全连接层(FC),其次利用模糊聚类代替Densenet网络的softmax分类层,不需要训练即可完成分类。实验结果表明:该算法利用小样本数据训练网络中的GAP参数,模型需要的训练样本大大减少,诊断时将轴承时域图像输入到网络中,在GAP层输出1 920个特征数据,不同故障状态的特征数据构建特征向量矩阵,利用模糊聚类方法求得模糊相似矩阵和模糊等价矩阵,当置信因子从大到小变化时,由对应布尔矩阵得到动态聚类图,从而实现轴承故障分类。

基于SVDD与VGG的纽扣表面缺陷检测

为解决纽扣表面缺陷检测中人工效率低下,且无需对纽扣表面瑕疵进行分类的问题,提出一种基于DEEP SVDD与改进VGG16的纽扣表面缺陷检测模型。在VGG16中增加BN层加快网络收敛;为提升网络特征提取能力引入SE注意力模块;使用全局平局池化替代全连接层,减少模型参数量,使模型更加健壮。实验结果表明,改进后的模型在DEEP SVDD中的两种方法软边界及一类方法的AUC值分别提升7.7%、5.9%,均高于96%,单张检测时间仅4.5 ms,模型性能满足实际要求。

全局跨层交互网络学习细粒度图像特征表示

细粒度图像分类中的关键任务是提取极具鉴别性的特征。在以往的模型中,往往采用双线性池化技术及其变种来解决这个问题。然而,大多数双线性池化及其变体会忽略层内或层间特征交互,这种不充分的交互易导致鉴别信息丢失或使鉴别信息包含过多冗余信息。针对上述问题,设计一种新的学习细粒度图像特征及特征表示的方法——全局跨层交互(GCI)网络。提出的分层双三次池化方法具有平衡提取鉴别信息和过滤冗余信息能力,并能同时建模层内和层间的特征交互。进一步分析层间交互计算结构,发现易于将交互计算结构与现有的通道注意力机制结合形成交互注意力机制,以提升骨干网络的关键特征提取能力。最后,将交互注意力机制构成的特征提取网络与双三次池化方法融合得到GCI,用来提取鲁棒的细粒度图像特征表示。在3个细粒度基准数据集上进行实验,实验结果表明分层双三次池化实现了分层交互池化框架中最优效果,即在CUB-200-2011、Stanford-Cars、FGVC-Aircraft上分别达到了87.4%、93.2%和92.1%的分类精度,将交互注意力机制融入后分类精度进一步提升至88.5%、95.1%和93.9%。

利用哈里斯鹰算法优化卷积神经网络的入侵检测研究

以往利用卷积神经网络(CNN)搭建入侵检测模型时,需用人工经验设定网络结构,导致其网络性能很难发挥最优。为此,提出利用哈里斯鹰算法(HHO)对CNN的网络结构进行自适应优化,构建入侵检测模型。首先针对传统CNN全连接层易发生过拟合的问题,采用全局池化层(GAP)对参数进行缩减;然后采用哈里斯鹰算法选取CNN最佳网络结构,避免人工干预引起的检测不确定性,从而缩短参数选择时间,提升入侵检测模型的适用性和入侵检测性能。在NSL-KDD数据集的实验结果表明:所提哈里斯鹰算法优化改进后的卷积神经网络构建的入侵检测模型,检测准确率93.68%,误报率1.65%,检测性能优于SVM、AdaBoost、BP入侵检测模型。

基于改进残差池化层的纹理识别

纹理一直是物体图像最重要的特征之一。针对现有纹理识别模型在复杂数据集下识别准确率不高的问题,提出一种基于改进残差池化层的纹理识别算法。首先,提出多维特征融合模块,在纹理识别模型中同时利用高层特征和低层特征来提取更加有效的纹理特征;其次,对残差池化层进行改进,在原残差池化层的基础上,引入全局最大池化支路,为纹理识别模型增加全局空间结构观察,将原残差池化层与全局最大池化支路得到的特征向量进行拼接后作为纹理特征,提升纹理识别的准确率;再次,应用局部二值模式辅助识别策略,使用局部二值模式编码映射图像为纹理识别模型提供辅助信息;最后,将得到的纹理特征输入到分类层中,得到纹理识别结果。与现有的纹理识别方法B-CNN、Deep filter banks、Deep TEN、TEX-Net-LF、locality-aware coding、DRP-Net相比,该方法具有更好的纹理识别效果。

改进的混合2D-3D卷积神经网络高光谱图像分类研究

卷积神经网络在进行高光谱图像分类时,往往需要设置较多的参数,因此其计算效率受到很大影响。基于混合卷积神经网络模型,本文利用全局平均池化层代替原有的全连接层,将卷积层输出的多个特征图映射为一个特征点,并将多个特征点构成一维向量,形成改进后的混合2D-3D卷积神经网络模型;最后,对改进后的模型分别在IP(IndianPines)数据集、PU(PaviaUniversity)数据集及Botswana数据集上进行测试。结果显示,总体分类精度分别达到99.64%、99.98%、99.91%。这表明在大量减少参数的条件下仍具有较好的分类性能。

基于一维卷积神经网络的岩石物理相识别

为解决岩石物理相识别问题,提出了一种基于可解释一维卷积神经网络的识别方法。该方法通过引入全局平均池化层,突出了测井曲线波形的动态变化部分;并且通过分类激活映射增强了方法的可解释性;通过引入扩张卷积和批量归一化,弥补了由全局平均池化层引起的性能下降。实验结果表明,测试集中4种岩石物理相的平均F1分数为0.97,相比其他同类方法提升了0.15左右。研究表明,该方法可用于识别岩石物理相,并可提高分类过程中的可解释性,从而为预测优质致密砂岩储层提供了一种新的深度学习方法。

基于改进型C3D网络的人体行为识别算法

针对原始C3D卷积神经网络参数量庞大,以及在压缩网络参数的同时进一步提高视频数据集中人体行为的识别率的问题,提出一种改进型C3D卷积神经网络模型。首先,采用全局平均池化和卷积分类操作取代全连接层,形成全卷积网络形式,之后在模型中分别引入卷积核为(3×3×3)和(1×1×1)的三维卷积层,并在此基础上采用卷积核为(3×1×7)和(3×7×1)的三维卷积层对多个(3×3×3)卷积层合并。最后,将所提方法在数据集UCF101和HMDB51上进行训练测试,并与当前深度学习现有流行算法进行比较。实验结果表明,本文所提方法与原始C3D网络模型相比,在UCF101数据集和HMDB51数据集上识别率分别提高了8.9%和7.9%,参数量压缩为原来的32.9%,并且在模型压缩和识别率上也均优于其他方法。

利用优化剪枝GoogLeNet的人脸表情识别方法

为了提高人脸表情识别的准确率和加快处理速度,提出了一种基于优化剪枝GoogLeNet的人脸表情识别方法。利用GoogLeNet网络提取面部特征,其中Inception模块加深学习深度,并利用典型的分类器实现人脸表情分类。改进GoogLeNet网络,添加全局最大池化层并保留检测目标的位置信息,以Sigmoid交叉熵作为训练目标,获得全面的人脸表情特征信息。通过剪枝算法对GoogLeNet网络进行训练、修剪低权重连接和再训练网络等操作,以简化网络结构和参数量,提高运行效率。在JAFFE、CK+和Cohn-Kanade数据集上对所提方法进行验证,实验结果表明,所提方法的识别准确率分别为83.84%、85.09%和84.87%,运行时间低于200 ms,优于对比方法,具有较好的适用性。

结合批归一化的轻量化卷积神经网络分类算法

传统的深度卷积神经网络结构复杂,参数量多.针对现有的轻量化卷积神经网络模型结构,提出一种改进的轻量化卷积神经网络BN-MobileNet.采用模型压缩的方法对原结构进行缩减,减少冗余参数,再对深度可分离卷积的结构进行改进,在relu非线性激活层后加入归一化层来对非线性激活层所输出的数据进行归一化处理.同时,使用全局平均池化层来代替全连接层,减小模型结构的复杂度和参数量.通过在标准的分类数据集cifar10和cfar100上进行实验,实验结果表明,本文提出的改进模型能够降低运行的时间和模型的大小,提高了检测的速度,在标准分类数据集上的分类准确率各有2.68%和3.16%的提升.

基于AlexNet网络的交通标志识别方法

针对交通标志在城市交通中易受恶劣天气、交通拥堵等影响而导致识别率低的问题,提出了一种在Alex模型基础上改进的交通标志识别方法,引入了批量归一化(Batch Normalization,BN)方法取代原有的局部响应归一化(Local Response Normalization,LRN)法,并加入全局平均池化层(Global Average Pooling Layer,GAP)取代原有的全连接层。其中BN法将每一层输出数据归一化为均值为0、标准差为1,使得结构传输更为顺畅;GAP层的引入大大减少了网络参数量。使用GTSRB数据集进行训练并测试,结果表明改进后的网络模型分类精度有了很大的提高,达到了93.2%,具备一定的实用价值。

基于注意力机制与特征相关性的人脸表情识别

针对自然条件下人脸表情识别面临遮挡、光照、姿势变化等挑战,存在识别准确率低的问题,提出了一种新的深度学习网络模型用于人脸表情识别。以ResNet为基础网络,融合了瓶颈注意力机制及全局二阶池化层,其中瓶颈注意力机制专注于表情重要特征的提取,全局二阶池化层度量表情特征之间的相关性,在此基础上通过联合正则化策略,平衡和改善特征数据分布情况,提高表情识别准确率。所提方法在2个公开数据集FER2013和CK+进行了测试及验证,最高准确率分别达到了74.227%和95.8%,性能优于诸多现存的主流方法,表明所提模型具有较好的准确性和鲁棒性。

一种基于R3D网络的人体行为识别算法

现有的行为识别算法不能充分地提取抽象的行为特征,为此提出了基于三维残差卷积神经网络(3D Residual Convolutional Neural Network,R3D)的人体行为识别算法。该网络在三维卷积神经网络(3D Convolutional Neural Network,3D-CNN)基础上加入了残差模块,可以更好地提取时空域的特征,然后通过改变步长大小进行特征图降维,提高网络效率,并加入批量归一化层和Softplus激活函数,提高网络的收敛速度和拟合能力;之后添加Dropout层,降低过拟合风险,并且使用全局平均池化层(Global Average Pooling,GAP)代替全连接层,克服了网络参数量过大的问题;最后,使用Softmax进行分类。实验结果表明,使用R3D网络在HMDB-51数据集上获得了62.3%的识别率。

基于多视图卷积神经网络的船体分段性能研究

在船舶调度过程中,用准确的船体分段识别号来识别船体分段的位置非常重要。为解决由于某些船体分段的位置和识别号的错误信息导致确切的船体分段所在位置查找困难的问题,需要配备系统来跟踪分段的位置,并自动识别分段的识别号。本文比较了5种卷积神经网络(CNN)模型与船体分段分类上的多视图图像集的性能,采用四个分段模型对船体分段进行图像采集并利用原始训练数据和其增强数据对CNN模型进行了迁移学习。

压水堆下封头多层熔池模型敏感性分析

下封头熔池模型是熔融物堆内滞留(IVR)有效性评价的重要模型,已在典型压水堆安全评价中得到广泛应用。传统的2层熔池模型和近年来提出的3层熔池模型,主要模拟熔池内熔融物的成分及热量的分配与传递过程,具有关系式复杂和强非线性的特点。为了为熔池分层模型以及严重事故缓解策略的优化提供帮助,采用中国核动力研究设计院自研的全局敏感性分析工具SALib和熔池分析软件CISER V2.0对4种熔池多层模型进行了敏感性分析,得到了主要输入参数对各模型关键结果参数的影响程度,敏感性分析结果反映了各熔池模型的典型特点。下封头半径对4种熔池分层模型均有显著的影响,Salay&Fichot模型与2层熔池模型中影响关键结果参数的输入参数基本相同,熔融物初始质量对Esmaili模型影响最大,熔融物密度对Seiler模型影响最大。