结合全局与局部池化的深度哈希人脸识别算法

针对采用大型卷积神经网络提取高维特征进行人脸识别时占用内存空间较大以及消耗大量计算资源的问题,提出一种结合全局与局部池化的深度哈希全卷积神经网络.第一,提出一种基于全局平均池化层的全卷积网络,用以减少网络参数以及压缩模型尺寸;第二,提出一种学习不同特征的融合损失方法,将哈希量化误差损失与分类损失进行加权融合,用以学习具有多分类性质的近似哈希编码.实验表明,该方法能够在Visual Geometry Group(VGG)框架下将识别效率提高68%,且准确率略有提升;融合损失方法扩展到Face Residual Network(Face-ResNet)框架时,在保持准确率的情况下将识别效率提高了23.7%。结果表明,该方法可在保证准确率的前提下有效地从特征提取和特征降维两方面提高识别效率,同时该方法还可扩展用于其他网络.

基于模糊聚类和改进Densenet网络的小样本轴承故障诊断

针对实际中轴承的故障数据少难以满足深度学习数据大量训练模型的要求,利用卷积神经网络的微小特征提取优势和模糊聚类不需要训练即可完成分类的特点,提出了一种基于模糊聚类和改进Densenet网络的小样本轴承故障诊断方法。首先将预训练微调的Densenet网络去掉分类只保留特征提取层,设计一个维度自适应全局均值池化层(GAP)代替全连接层(FC),其次利用模糊聚类代替Densenet网络的softmax分类层,不需要训练即可完成分类。实验结果表明:该算法利用小样本数据训练网络中的GAP参数,模型需要的训练样本大大减少,诊断时将轴承时域图像输入到网络中,在GAP层输出1 920个特征数据,不同故障状态的特征数据构建特征向量矩阵,利用模糊聚类方法求得模糊相似矩阵和模糊等价矩阵,当置信因子从大到小变化时,由对应布尔矩阵得到动态聚类图,从而实现轴承故障分类。

基于SVDD与VGG的纽扣表面缺陷检测

为解决纽扣表面缺陷检测中人工效率低下,且无需对纽扣表面瑕疵进行分类的问题,提出一种基于DEEP SVDD与改进VGG16的纽扣表面缺陷检测模型。在VGG16中增加BN层加快网络收敛;为提升网络特征提取能力引入SE注意力模块;使用全局平局池化替代全连接层,减少模型参数量,使模型更加健壮。实验结果表明,改进后的模型在DEEP SVDD中的两种方法软边界及一类方法的AUC值分别提升7.7%、5.9%,均高于96%,单张检测时间仅4.5 ms,模型性能满足实际要求。

利用哈里斯鹰算法优化卷积神经网络的入侵检测研究

以往利用卷积神经网络(CNN)搭建入侵检测模型时,需用人工经验设定网络结构,导致其网络性能很难发挥最优。为此,提出利用哈里斯鹰算法(HHO)对CNN的网络结构进行自适应优化,构建入侵检测模型。首先针对传统CNN全连接层易发生过拟合的问题,采用全局池化层(GAP)对参数进行缩减;然后采用哈里斯鹰算法选取CNN最佳网络结构,避免人工干预引起的检测不确定性,从而缩短参数选择时间,提升入侵检测模型的适用性和入侵检测性能。在NSL-KDD数据集的实验结果表明:所提哈里斯鹰算法优化改进后的卷积神经网络构建的入侵检测模型,检测准确率93.68%,误报率1.65%,检测性能优于SVM、AdaBoost、BP入侵检测模型。

基于一维卷积神经网络的岩石物理相识别

为解决岩石物理相识别问题,提出了一种基于可解释一维卷积神经网络的识别方法。该方法通过引入全局平均池化层,突出了测井曲线波形的动态变化部分;并且通过分类激活映射增强了方法的可解释性;通过引入扩张卷积和批量归一化,弥补了由全局平均池化层引起的性能下降。实验结果表明,测试集中4种岩石物理相的平均F1分数为0.97,相比其他同类方法提升了0.15左右。研究表明,该方法可用于识别岩石物理相,并可提高分类过程中的可解释性,从而为预测优质致密砂岩储层提供了一种新的深度学习方法。

基于改进卷积神经网络及LightGBM的滚动轴承故障诊断

针对大多基于深度学习的故障诊断模型存在泛化能力不强、训练时间长等问题,提出了一种基于改进卷积神经网络(GCNN)和LightGBM的轴承故障诊断方法,首先,利用卷积层对随机失活后的原始信号进行特征提取;然后,使用全局平均池化层取代全连接层以提高模型的泛化能力;最后,将提取到的特征输入到LightGBM中进行分类。试验结果表明,GCNN-LightGBM模型的训练、诊断平均时长分别只有44.64,0.08 s,在同负载、变负载测试集上的平均分类准确率分别高达99.72%和95.04%,诊断效率及分类准确率均优于其他对比模型,且具有较强的泛化能力。

基于多视图卷积神经网络的船体分段性能研究

在船舶调度过程中,用准确的船体分段识别号来识别船体分段的位置非常重要。为解决由于某些船体分段的位置和识别号的错误信息导致确切的船体分段所在位置查找困难的问题,需要配备系统来跟踪分段的位置,并自动识别分段的识别号。本文比较了5种卷积神经网络(CNN)模型与船体分段分类上的多视图图像集的性能,采用四个分段模型对船体分段进行图像采集并利用原始训练数据和其增强数据对CNN模型进行了迁移学习。

基于AlexNet网络的交通标志识别方法

针对交通标志在城市交通中易受恶劣天气、交通拥堵等影响而导致识别率低的问题,提出了一种在Alex模型基础上改进的交通标志识别方法,引入了批量归一化(Batch Normalization,BN)方法取代原有的局部响应归一化(Local Response Normalization,LRN)法,并加入全局平均池化层(Global Average Pooling Layer,GAP)取代原有的全连接层。其中BN法将每一层输出数据归一化为均值为0、标准差为1,使得结构传输更为顺畅;GAP层的引入大大减少了网络参数量。使用GTSRB数据集进行训练并测试,结果表明改进后的网络模型分类精度有了很大的提高,达到了93.2%,具备一定的实用价值。

结合批归一化的轻量化卷积神经网络分类算法

传统的深度卷积神经网络结构复杂,参数量多.针对现有的轻量化卷积神经网络模型结构,提出一种改进的轻量化卷积神经网络BN-MobileNet.采用模型压缩的方法对原结构进行缩减,减少冗余参数,再对深度可分离卷积的结构进行改进,在relu非线性激活层后加入归一化层来对非线性激活层所输出的数据进行归一化处理.同时,使用全局平均池化层来代替全连接层,减小模型结构的复杂度和参数量.通过在标准的分类数据集cifar10和cfar100上进行实验,实验结果表明,本文提出的改进模型能够降低运行的时间和模型的大小,提高了检测的速度,在标准分类数据集上的分类准确率各有2.68%和3.16%的提升.

字符级全卷积神经网络的文本分类方法

为了解决传统卷积神经网络的全连接层参数过多,计算效率低的问题。该文将图像处理中使用的全卷积神经网络和全局平均池化层用于文本分类,将卷积层和全局平均池化层结合并替换全连接层,同时参照Inception结构使用多尺度的卷积核,减少了模型的参数数量,加快了模型的收敛速度,增加了模型的分类准确率。此外为了避免维度灾难和词级向量训练速度慢的问题,该文采用字符级进行向量化表示。并使用批量标准化层代替Dropout层,减少了过拟合问题。通过使用多指标在测试数据集中进行模型评估,充分验证了该模型的有效性,与传统模型相比,提出的模型在分类任务中具有更好的分类性能。

一种基于R3D网络的人体行为识别算法

现有的行为识别算法不能充分地提取抽象的行为特征,为此提出了基于三维残差卷积神经网络(3D Residual Convolutional Neural Network,R3D)的人体行为识别算法。该网络在三维卷积神经网络(3D Convolutional Neural Network,3D-CNN)基础上加入了残差模块,可以更好地提取时空域的特征,然后通过改变步长大小进行特征图降维,提高网络效率,并加入批量归一化层和Softplus激活函数,提高网络的收敛速度和拟合能力;之后添加Dropout层,降低过拟合风险,并且使用全局平均池化层(Global Average Pooling,GAP)代替全连接层,克服了网络参数量过大的问题;最后,使用Softmax进行分类。实验结果表明,使用R3D网络在HMDB-51数据集上获得了62.3%的识别率。

改进的混合2D-3D卷积神经网络高光谱图像分类研究

卷积神经网络在进行高光谱图像分类时,往往需要设置较多的参数,因此其计算效率受到很大影响。基于混合卷积神经网络模型,本文利用全局平均池化层代替原有的全连接层,将卷积层输出的多个特征图映射为一个特征点,并将多个特征点构成一维向量,形成改进后的混合2D-3D卷积神经网络模型;最后,对改进后的模型分别在IP(IndianPines)数据集、PU(PaviaUniversity)数据集及Botswana数据集上进行测试。结果显示,总体分类精度分别达到99.64%、99.98%、99.91%。这表明在大量减少参数的条件下仍具有较好的分类性能。