基于轻量化卷积神经网络的纬编针织物组织结构分类

为解决纬编针织物组织结构自动分类时现有方法计算量偏大的问题,基于轻量化卷积神经网络,提出了一种改进的纬编针织物组织结构分类方法。采集纬编针织物组织双面的图像,以准确判断其结构类型。在特征提取步骤中,引入了注意力机制模块,修正各个层次特征在通道域和空间域的权重。构建的双分支网络架构能并行提取织物双面的特征信息。在分类阶段,采用了串行策略来融合高维特征向量,以确定纬编针织物组织所属类别。使用准确率、宏精确率、宏召回率以及宏F_(1)评估模型的性能,并统计了参数量和计算复杂度衡量模型的资源消耗。实验结果显示,对于纬编针织物特殊的结构特点,双分支网络架构具有很好的适应性。改进后的模型增强了不同组织间的特征区分度,在受到角度旋转、尺度改变、光照条件变化等干扰下,本文方法的分类准确率可达99.51%,且保持了较小的资源消耗。

一种基于知识蒸馏的量化卷积神经网络FPGA部署

设计了一种针对心电数据实时分类的量化神经网络,将权重量化为两位整数,运用知识蒸馏的方法使性能达到了期望的效果,并部署于FPGA开发板上。知识蒸馏后的量化网络比全精度网络的分类准确率提升了9%。在FPGA开发板上的运行结果符合预期,达到了需要的性能,可以对左束支传导阻滞(L)、右束支传导阻滞(R)、正常心拍(N)和室性早搏综合征(V)四种心电信号进行分类,相比于其他量化方式对存储参数的需求更小,资源使用更少,相比于CPU速度提升了1.5倍,运行时间达到实时性要求,适合于部署在小型、轻量化的资源有限的可穿戴设备上。

基于轻量化卷积神经网络的雷达干扰识别技术研究

随着科学技术的不断革新,当前电子战形势日益复杂,雷达面临的电子干扰呈高相参、强欺骗、隐匿性、低功率等特性,严重削弱了雷达的探测和跟踪性能,甚至使其失去作战能力。因此,精准识别雷达面临的有源干扰样式是雷达系统进行针对性干扰抑制的前提。轻量化卷积神经网络(MobileNet)无需人为提取特征便能有效捕获图像中的空间结构信息,在图像处理及分类领域表现优异。文中提出了基于MobileNet的雷达干扰识别模型,应用对雷达有源干扰的时频特性数据集验证模型的分类效果。实验结果表明,所建立的模型对雷达干扰识别分类的F1-score高达约0.9,相比于SIFT模板匹配、CNN等模型在各指标上更优,分类效果更好。

基于超轻量化卷积神经网络的番茄病虫害诊断

针对番茄病虫害诊断中存在的传统卷积神经网络结构复杂、难以直接应用于便携终端,以及现有轻量化卷积神经网络特征提取能力弱、识别准确率低、难以满足实际需要等问题,本研究拟在原有轻量化卷积神经网络的基础上,定义超轻量化卷积神经网络,设计一种基于SqueezeNet网络改进的超轻量化卷积神经网络,将其用于番茄病虫害诊断任务中。首先,改进SqueezeNet网络中的Fire模块,生成2种适用于不同特征维度的Fire模块,并引入ECA(高效通道注意力)模块以提高模型的特征提取能力;其次,结合扩展型指数线性单元函数(SELU)和Mish函数,替代修正线性单元函数(ReLU)作为激活函数;再次,采用软池化(Softpool)替代原始的最大池化;最后,利用中心损失函数(Center loss)改进指数归一化损失函数(Softmax loss),提高对近似病虫害的识别准确率。本研究选择了8种害虫和9种病害,对害虫、病害、病虫害3类数据集进行数据增强,并探讨了数据的小样本性、不平衡性对模型性能的影响。结果表明,本研究提出的模型具有超轻量化的特点,对害虫、病害、病虫害的识别准确率最高分别可达98.83%、98.14%和97.71%,能够很好地满足番茄病虫害诊断需求。

基于轻量化卷积神经网络的变电站高压断路器分合状态检测

变电站内的高压断路器对维护电力系统的稳定意义重大,其分合状态直接控制着高压线路和电气设备的运行工况。针对现有变电站断路器分合状态识别精度低、抗噪性弱、计算效率低等问题,提出了一种基于轻量化卷积神经网络(MobileNet)的变电站高压断路器分合状态检测方法,采集多种复杂场景下的高压断路器分合状态图像,构建检测数据集,并进行模型的训练和验证。实验结果表明,MobileNet模型在识别高压断路器“分”“合”状态时,准确率高达96.25%,精准率、召回率均显著优于SVM、朴素贝叶斯等经典的二分类模型,可为变电站断路器状态的自动化检测提供理论支持。

基于轻量化多尺度神经网络的ZPW-2000移频信号检测方法

针对ZPW-2000移频信号在不平衡牵引电流干扰时低频信号难以检测的问题,提出基于卷积注意力模块的轻量化多尺度神经网络的移频信号低频信息检测方法。首先,根据ZPW-2000移频信号的载频范围,使用不同卷积核大小的多尺度层提取相应载频调制下的移频信号特征;其次,建立线性倒残差模块实现网络轻量化,在保证网络检测准确率的同时减少网络参数,缩短网络检测时长;最后,引入卷积注意力模块,标定通道和空间特征权重,提升网络性能,通过全连接层进行分类,输出18种低频信号的概率分布。结果表明:将含有工频谐波干扰等5类噪声的移频信号输入低频检测模型中进行检测,平均准确率可达99.22%,召回率达到99.21%,综合评价指标值为0.992,检测时间不超过0.249 s。该方法检测效果更优,具有良好的抗干扰能力,可为带内噪声干扰条件下检测ZPW-2000移频信号的低频信息提供重要参考。

基于轻量化卷积神经网络模型的云与云阴影检测方法

大多数遥感影像数据不可避免地受到云层的污染导致数据的失效。因此,对云进行检测是非常必要的预处理步骤。随着航天技术的飞速发展,更加轻便的卫星被设计出来,为在这些算力有限的微小卫星上配备遥感影像预处理模型。设计一种高精度、算力要求低的轻量化云与云阴影检测网络模型具有重要意义。针对上述问题,提出一种基于深度可分离卷积的轻量化卷积神经网络(lightweight M-shaped network,L-MNet)模型,L-MNet网络模型是在M-Net(M-shaped network)模型的基础上引入深度可分离卷积(depthwise separable convolution,DS-Conv),设计一种深度可分离卷积模块(DS-Conv Block),以减小算法的复杂度及计算量。结果表明:所提方法在保证检测精度的前提下,可以有效减小像素级云检测的模型大小及计算量,有助于实现微小卫星在轨云检测的任务。

基于轻量化卷积神经网络的人体动作识别

针对传统卷积神经网络模型LeNet识别准确率低,占用内存大等问题,提出了一种基于轻量化卷积神经网络的人体动作识别模型(human activity recognition net,HARNet)。首先,利用MobileNetV2模型参数量和计算量小的特点,利用迁移学习方法,将预训练好的权重参数迁移到MobileNetV2模型中,最后添加全连接层构建了HARNet,实现了对日常行为动作的准确识别和分类。实验结果表明,该模型动作识别平均准确率可达89%,相比于传统卷积神经网络LeNet,准确率更高,且训练好的模型内存大小仅8.97 MB,验证了该模型的有效性。

基于轻量化卷积神经网络的滚动轴承快速故障诊断方法

针对现有诊断滚动轴承故障的方法存在训练参数量大、变工况下识别度低的缺点,提出一种基于轻量化卷积神经网络的滚动轴承快速故障诊断方法。将原始振动信号进行处理,获得二维时频图,构建轻量化卷积神经网络,提取时频图特征,采用小样本迁移的方法诊断变工况下的故障。结果表明:在凯斯西储大学数据集上进行试验,单一工况与变工况下诊断准确率分别为99.99%与92.50%,变工况下采用小样本迁移的方法使故障诊断准确率达到99.87%,在渥太华大学数据集上进行试验,诊断准确率为92.55%,通过对比验证了提出方法的有效性。

基于轻量化卷积神经网络的高分辨率遥感图像地物分类研究

近年来深度学习技术得到快速发展,其逐渐被应用于高分辨率遥感图像的地物分类中。深度学习方法通过自动学习遥感图像中的高层次特征进行地物信息提取,较传统方法能取得更好的分类效果。Transformer架构已逐渐成为遥感图像的信息提取领域主要的深度学习模型,具有对图像的分类精度高的优点,但其模型往往结构复杂、计算量大、推理速度慢,导致应用场景受限。本文提出了一个轻量化卷积神经网络模型方法(ConvNeXt-Tiny+Multilayer Perceptron,ConvN-T+MLP)用于遥感图像地物分类,旨在保持或提高模型分类精度的同时降低模型复杂度。实验结果表明,本文提出的Conv N-T+MLP模型在具备较低计算量和参数量的同时,提高了遥感图像的地物分类精度,体现出模型的轻量性、高效性。

FAQ-CNN:面向量化卷积神经网络的嵌入式FPGA可扩展加速框架

卷积神经网络(convolutional neural network, CNN)模型量化可有效压缩模型尺寸并提升CNN计算效率.然而,CNN模型量化算法的加速器设计,通常面临算法各异、代码模块复用性差、数据交换效率低、资源利用不充分等问题.对此,提出一种面向量化CNN的嵌入式FPGA加速框架FAQ-CNN,从计算、通信和存储3方面进行联合优化,FAQ-CNN以软件工具的形式支持快速部署量化CNN模型.首先,设计面向量化算法的组件,将量化算法自身的运算操作和数值映射过程进行分离;综合运用算子融合、双缓冲和流水线等优化技术,提升CNN推理任务内部的并行执行效率.然后,提出分级编码与位宽无关编码规则和并行解码方法,支持低位宽数据的高效批量传输和并行计算.最后,建立资源配置优化模型并转为整数非线性规划问题,在求解时采用启发式剪枝策略缩小设计空间规模.实验结果表明,FAQ-CNN能够高效灵活地实现各类量化CNN加速器.在激活值和权值为16 b时,FAQ-CNN的加速器计算性能是Caffeine的1.4倍;在激活值和权值为8 b时,FAQ-CNN可获得高达1.23TOPS的优越性能.

基于轻量卷积神经网络的车牌定位识别方法

文中提出了一种新型基于轻量卷积神经网络的车辆车牌定位识别方法.采用基于改进的YOLOv3算法对车牌进行定位,基于免分割的轻量卷积神经网络LPRNet识别车牌字符.在车牌定位方面,改进YOLOv3网络的特征提取网络以降低设备要求,同时加入密集连接网络,增加对浅层特征信息的重复利用;在损失函数方面,引入DIOU损失函数,加快网络收敛以提高YOLOv3网络的定位精度;在车牌字符识别方面,采用基于免分割轻量卷积神经网络识别车牌字符,准确率高且保证了网络的轻量.结果表明:改进的YOLOv3网络算法的平均正确率降低了2.2%在CPU上检测速度达到了35帧/s,结合字符识别网络,总体检测速度达到27帧/s,满足实时性检测要求.

基于轻量化卷积神经网络的隧道勘察地层岩性划分方法

目前在隧道勘察过程中对地层岩性进行划分时,没有对地层图像进行预处理,导致划分结果准确率低、召回率低、F-measure低。提出基于轻量化卷积神经网络的隧道勘察地层岩性划分方法,采用灰度变化增强方法对地层图像进行增强处理,避免噪声对地层岩性划分产生干扰,通过OTSU算法对地层图像进行分割处理,提取目标地层区域,消除岩屑颗粒重叠现象或无关背景对提取地层岩性特征产生的干扰。采用数理统计分析方法提取预处理后的地层图像的纹理特征,构成纹理特征向量,在轻量化卷积神经网络中输入纹理特征向量,实现地层岩性的划分。实验结果表明,所提方法的准确率高、召回率高、F-measure高。

轻量化卷积神经网络在SAR图像语义分割中的应用

针对合成孔径雷达图像的语义分割问题,构建了一个全新的TerraSAR-X语义分割数据集GDUT-Nansha。然后,为解决传统深度学习方法模型体积大,难以在样本数量偏少的合成孔径雷达图像数据集上应用的问题,对轻量化卷积神经网络ENet模型进行了分析和改造。提出了一种改进的轻量化卷积神经网络模型(revised weighted loss eNet,RWL-ENet);针对合成孔径雷达图像数据集样本不平衡问题,使用了带有权重的损失函数。通过和其他经典卷积神经网络语义分割模型的对比实验,验证了新数据集的可靠性;同时,在参数量和模型体积远远小于其他网络模型的前提下,RWL-ENet模型在像素精度、平均像素精度、平均交并比三个定量指标上分别达到了0.884、0.804和0.645。

基于残差量化卷积神经网络的人脸识别方法

针对大规模人脸识别问题,基于残差学习的超深卷积神经网络模型能取得比其他方法更高的识别精度,然而模型中存在的海量浮点参数需要占用大量的计算和存储资源,无法满足资源受限的场合需求.针对这一问题,本文设计了一种基于网络参数量化的超深残差网络模型.具体在Face-Res Net模型的基础上,增加了批归一化层和dropout层,加深了网络层次,对网络模型参数进行了二值量化,在模型识别精度损失极小的情况下,大幅压缩了模型大小并提升了计算效率.通过理论分析与实验验证了本文设计方法的有效性.

结合批归一化的轻量化卷积神经网络分类算法

传统的深度卷积神经网络结构复杂,参数量多.针对现有的轻量化卷积神经网络模型结构,提出一种改进的轻量化卷积神经网络BN-MobileNet.采用模型压缩的方法对原结构进行缩减,减少冗余参数,再对深度可分离卷积的结构进行改进,在relu非线性激活层后加入归一化层来对非线性激活层所输出的数据进行归一化处理.同时,使用全局平均池化层来代替全连接层,减小模型结构的复杂度和参数量.通过在标准的分类数据集cifar10和cfar100上进行实验,实验结果表明,本文提出的改进模型能够降低运行的时间和模型的大小,提高了检测的速度,在标准分类数据集上的分类准确率各有2.68%和3.16%的提升.

用轻量化卷积神经网络图像语义分割的交通场景理解

为提高汽车自动驾驶系统中视觉感知模块的鲁棒性,提出了使用图像语义分割方法进行交通场景理解。采用基于深度学习的语义分割方法,设计了兼顾运行速度和准确率的轻量化卷积神经网络。在特征提取部分,用轻量化特征提取模型MobileNetV2结构,用可变形卷积代替步长为2的卷积层;在特征解码部分,缩减卷积核数目、引入多尺度的空洞可变形卷积,补充低层特征细节。用扩充的Pascal VOC 2012数据集进行预训练和评估,用交通场景数据集Cityscapes进行测试。结果表明:该网络结构的准确率达到了平均交互比(mean IoU) 69.2%,超过了用MobileNetV2的DeepLab语义分割网络,运行速度127 ms/帧,占内存1.073 GB,优于使用VGG-16、ResNet-101的结果。

基于轻量化卷积神经网络的番茄病害图像识别

针对多数卷积神经网络模型计算资源消耗多、占用内存大等问题,提出了一种基于轻量化卷积神经网络的番茄病害图像识别方法FTL-MobileNet。该模型通过引入Focal Loss代替交叉熵损失函数(Cross Entropy Loss),聚焦于难分类的样本,接着在全连接层添加Dropout层,防止过拟合,将MobileNetV2在ImageNet训练好的权重参数迁移到改进模型中。选用常见的几种网络模型进行对比实验。结果表明,FTL-MobileNet相比于其他模型收敛更快、泛化能力更好、单张图片识别耗时更低、识别精度更高,在测试集上的平均准确率达到了99.87%,且训练好的模型仅8.74 MB。

基于轻量化卷积神经网络的疲劳驾驶检测

针对现有疲劳驾驶检测模型在判定准确性与实时性上的不平衡问题,设计了一种基于轻量化卷积神经网络EMLite-Yolo-V4的检测模型。通过使用MobileNet-V2作为目标检测网络Yolo-V4的主干特征提取网络,并且降低卷积通道系数alpha,使得网络参数量大幅度下降;改进柔性非极大值抑制使得目标框无需再同时考虑得分与重合度,进一步优化检测速率;加入轻量级特征金字塔FPN-tiny并且融合mosaic数据增强方法,以保证模型的检测精度。最后,利用EMLite-Yolo-V4提取面部疲劳特征,PERCLOS与单位时间打哈欠次数对疲劳特征进行状态判定并输出结果。实验表明:该检测模型的准确率达到97.39%,mAP指标为80.02%,单帧检测速度为20.83 ms,模型大小仅为9 MB,有效平衡了疲劳驾驶检测的准确性与实时性。

轻量化卷积注意力特征融合网络的实时语义分割

轻量化卷积神经网络的出现促进了基于深度学习的语义分割技术在低功耗移动设备上的应用.然而,轻量化卷积神经网络一般不考虑融合特征之间的关系,常使用线性方式进行特征融合,网络分割精度有限.针对该问题,提出一种基于编码器-解码器架构的轻量化卷积注意力特征融合网络.在编码器中,基于MobileNetv2给出空洞MobileNet模块,以获得足够大的感受野,提升轻量化主干网络的表征能力;在解码器中,给出卷积注意力特征融合模块,通过学习特征平面通道、高度和宽度3个维度间的关系,获取不同特征平面之间的相对权重,并以此对特征平面进行加权融合,提升特征融合的效果.所提网络仅有0.68×106参数量,在未使用预训练模型、后处理和额外数据的情况下,使用NVIDIA 2080Ti显卡在城市道路场景数据集Cityscapes和CamVid上进行实验的结果表明,该网络的平均交并比分别达到了72.7%和67.9%,运行速度分别为86帧/s和105帧/s,在分割精度、网络规模与运行速度之间达到了较好的平衡.