面向移动端图像分类的轻量级CNN优化

为解决图像分类算法由于计算量大和参数冗余难以应用在存储空间与计算能力受限的移动设备上的问题,提出一种轻量的卷积计算模块Extremely Lightweight Block(ELBlock),采用逐点卷积叠加深度可分离卷积的方法,对逐点卷积进行分组,增加相邻层过滤器之间的对角相关性,进一步降低卷积操作的计算复杂度;利用通道混洗关联输入和输出通道,提高特征的信息表达能力;基于ELBlock设计一个极其轻量的小型神经网络架构ELNet,结构更加简洁、高效。在Android手机上的实验结果表明,所提ELNet在保证分类精度的同时,具有计算量小、参数少和推理时间短的优点。

轻量级深度神经网络模型适配边缘智能研究综述

随着物联网和人工智能的迅猛发展,边缘计算和人工智能的结合催生了边缘智能这一新的研究领域。边缘智能具备一定的计算能力,能够提供实时、高效和智能的响应。它在智能城市、工业物联网、智能医疗、自动驾驶以及智能家居等领域都具有重要的应用。为了提升模型的准确度,深度神经网络往往采用更深、更大的架构,导致了模型参数的显著增加、存储需求的上升和计算量的增大。受限于物联网边缘设备在计算能力、存储空间和能源资源方面的局限,深度神经网络难以被直接部署到这些设备上。因此,低内存、低计算资源、高准确度且能实时推理的轻量级深度神经网络成为了研究热点。文中首先回顾边缘智能的发展历程,并分析轻量级深度神经网络适应边缘智能的现实需求,提出了两种构建轻量级深度神经网络模型的方法:深度模型压缩技术和轻量化架构设计。接着详细讨论了参数剪枝、参数量化、低秩分解、知识蒸馏以及混合压缩5种主要的深度模型压缩技术,归纳它们各自的性能优势与局限,并评估它们在常用数据集上的压缩效果。之后深入分析轻量化架构设计中的调整卷积核大小、降低输入通道数、分解卷积操作和调整卷积宽度的策略,并比较了几种常用的轻量化网络模型。最后,展望轻量级深度神经网络在边缘智能领域的未来研究方向。

GhostNet轻量级网络在糖尿病视网膜病变诊断中的应用价值

目的基于眼底彩照,分别应用经典卷积神经网络DenseNet121和轻量级网络GhostNet训练糖尿病视网膜病变(diabetic retinopathy,DR)的诊断模型(将DR和正常眼底做区分)和鉴别诊断(将DR和其他眼底病做区分)模型,评价基于轻量级网络GhostNet的DR诊断模型的应用价值。方法收集大样本的眼底彩照29535张(含DR 9883张、正常眼底2000张、用于做鉴别诊断的其他致盲性眼底病17652张)。分别采用经典卷积神经网络DenseNet121和轻量级网络GhostNet建模,并借助迁移学习做模型训练。采用受试者工作特征(receiver operating characteristic,ROC)曲线及其曲线下面积(area under the curve,AUC)、灵敏度、特异度、准确率评价模型性能。结果与基于DenseNet121的模型相比,基于GhostNet的模型对单张眼底照的诊断时间缩短了60.3%。在DR的诊断方面,基于GhostNet的模型的AUC值、灵敏度、特异度、准确率分别为0.911、0.888、0.934、91.3%,基于DenseNet121的模型的AUC值、灵敏度、特异度、准确率分别为0.954、0.921、0.986、95.5%。在DR与其他眼底病的鉴别诊断方面,基于GhostNet的模型的AUC值、灵敏度、特异度、准确率分别为0.862、0.856、0.901、87.8%;基于DenseNet121的模型的AUC值、灵敏度、特异度、准确率分别为0.899、0.871、0.935、90.2%。结论基于GhostNet轻量级神经网络构建的DR诊断模型和鉴别诊断模型,其诊断效率较经典模型DenseNet121有显著提升,并且模型兼具较高的准确率。对于社区医院等缺乏眼科医师且设备性能不高的基层医疗机构,可考虑应用该技术开展DR的初筛。

基于模型剪枝的棉花氮素营养水平诊断

确定棉花的氮素营养水平是实施精准施肥的先决条件和基础。近年来,深度学习逐渐应用于氮素营养水平诊断中,但该方法对高性能设备的依赖性较高,限制了其在资源受限边缘设备上的部署应用。针对这一问题,该研究提出一种基于树莓派4B的棉花氮素营养水平诊断方法。研究采用ResNet101网络构建诊断模型,并通过网络瘦身算法对模型进行剪枝优化,最终将剪枝比例为87%的模型部署在资源受限的树莓派4B上。试验结果表明:当剪枝比例达到87%时,模型精度损失2.55个百分点,同时剪枝后模型参数量、计算量和存储体积分别为4.37 M、1.05 G和16.65 MB,明显提高模型在计算能力有限设备上的推理速度,有助于快速、准确地评估田间棉花的氮素营养状况,从而实现对棉花的精准施肥,提高产量和质量。该研究不仅为实现棉花氮素营养水平的大面积快速诊断提供了技术参考,同时对于作物营养水平诊断的智能终端装备研发具有参考价值。

基于组合优化的遥感图文检索轻量化

针对现有基于图网络的遥感图文检索模型存在的海量参数、模型时效性低、存储空间需求大等问题,提出一种基于组合优化的遥感图文检索轻量化方法。从模型架构角度,设计基于跨阶段融合的轻量化卷积模块精简图文检索模型的参数;从数值量化角度,设计图网络混合精度训练与量化推理策略提升模型推理速度。在多个遥感检索数据集上的实验结果表明,该方法在检索精度基本不下降的条件下,总参数量、浮点运算量相比于典型方法降低60%以上。

基于红外热成像的地铁隧道渗漏水病害智能识别

为了准确、高效检测出隧道渗漏水病害,本文提出利用红外热成像技术采集图像数据,采用结合MobileNet V2的U-Net模型进行地铁隧道渗漏水病害智能识别的方法。结合MobileNet V2的U-Net模型既继承了MobileNet V2的轻量化优势,又保留了U-Net在小样本数据集上良好的分割功能。将从我国南方一地铁隧道内采集到的878张红外热成像图作为原始数据,对数据进行分割标注预处理后,建立标签为地铁隧道渗漏水的数据集。将数据集按9∶1的比例划分为训练集和测试集,使用本文方法进行渗漏水病害识别。结果表明:在保证识别精度的同时,计算参数量仅为原来的1/18,大幅降低了运算量;对小面积点状、中等面积条状和大面积复杂形状三类隧道渗漏水病害均有较好的识别效果;渗漏水区域和周围暗角均为蓝色时,采用传统数字图像处理方法比较容易受到暗角区域影响,而采用本文方法可以较准确识别渗漏水区域,说明本文方法识别效果优于传统数字图像处理方法,值得推广。

神经网络模型轻量化方法综述

近年来,神经网络模型凭借着较强的特征提取能力在各行各业的应用越来越广泛,并取得了不错的效果。然而,随着数据量的不断增大以及人们对高准确率的不断追求,神经网络模型的参数规模急剧增大,网络复杂度不断提高,导致计算、存储等资源开销不断扩大,使其在资源受限场景下的部署面临极大挑战。因此,如何在不影响模型性能的前提下实现模型轻量化,进而降低模型训练和部署的成本成为当前的研究热点之一。为此,文中从复杂模型压缩以及轻量化模型设计两方面入手,对当前典型的模型轻量化方法进行总结和分析,以期厘清模型压缩技术的发展脉络。其中,复杂模型压缩技术从模型剪枝、模型量化、低秩分解、知识蒸馏及混合方式5方面进行归纳,而轻量化模型设计则从空间卷积设计、移位卷积设计和NAS架构搜索3方面进行梳理。

基于深度学习的输电线路目标检测

针对目前基于深度学习的输电线路目标检测存在的小目标特征提取能力较差、易出现误检漏检、检测精度较低、检测速度较慢等问题,提出了一种基于改进深度学习神经网络模型YOLOv7的目标检测方法。首先使用MobileNetV2网络作为YOLOv7的特征提取部分,实现模型的轻量化处理;其次引入注意力(coordinate attention,CA)机制和空洞金字塔池化(atrous spatial pyramid pooling,ASPP)模块来提高模型的精度和感知能力;最后利用建立的输电线路障碍物数据集来训练改进的YOLOv7网络模型,并与原有YOLOv7网络模型进行对比。结果表明,算法在准确率、召回率上显著提升,可满足复杂场景下的输电线路故障检测,更利于模型的嵌入式系统硬件实现。

基于3D特征融合与轻量化CNN的情绪EEG识别

情绪变化可引起头皮脑电信号的改变,基于脑电信号的情绪识别是近年来情绪研究的一个重要方向。为此,提出一种基于3D特征融合与轻量化卷积神经网络的情绪EEG识别方法,使用2 s窗口的3D特征图作为输入,并根据效价和唤醒提供情绪状态作为输出。在DEAP公开数据集上对所提方法进行受试者依赖实验,结果表明情绪识别性能评估效价和唤醒识别准确率分别为(97.08±0.32)%和(96.78±0.34)%。所提方法具有较高的情绪识别准确度和较低的计算复杂度,适用于实际场景中的情绪识别。

基于卷积神经网络的采血管铝箔帽状态检测方法

目的 针对医学实验室自动化生化免疫检验流水线识别准确率和识别速度要求极高、采血管类型众多、采血管铝箔帽状态复杂以及管壁挂液干扰严重的问题,提出一种基于卷积神经网络的采血管铝箔帽状态检测方法,以实现采血管铝箔帽状态的识别。方法 首先采用轻量化的模型设计思想,通过减少模型的深度降低参数量和计算量,同时引入通道注意力机制,以提高样本特征的提取能力;其次采用Focal Loss损失函数解决难例样本挖掘的问题,进一步优化模型的性能;最后,通过教师网络指导学生网络进行知识蒸馏,得到最终轻量化的小模型。结果 对学生网络模型的轻量化设计使该检测方法适用于资源有限的边缘计算设备,模型的参数量仅为0.354 M,计算量为0.165 GFlops,对Jetson Nano设备的识别速度为3.42 ms,且其在复杂的采血管情况下,识别准确率可达100%。结论 本研究充分验证了该模型的轻量化、高效性和实用性,说明基于轻量化卷积神经分类网络模型的检测方法可准确识别采血管铝箔帽状态,是医学实验室自动化生化免疫检验流水线中采血管铝箔帽状态检测的解决方案。

铸铝一体化车门的多目标可靠性优化设计

为提升车门的轻量化水平与性能,采用“材料—结构—性能”一体化集成方法设计铸铝一体化车门。基于构建的铸铝一体化车门有限元模型,以车门的厚度为设计变量,采用径向基函数(radial basis function,RBF)神经网络近似模型和二阶响应面近似模型并分别结合二代非支配排序遗传算法(non-dominated sorting genetic algorithm-Ⅱ,NSGA-Ⅱ)、多目标粒子群优化(multi-objective particle swarm optimization,MOPSO)算法以及多岛遗传算法(multi-island genetic algorithm,MIGA)对车门的下沉刚度工况位移、上扭转刚度工况位移、下扭转刚度工况位移、一阶弯曲模态频率、一阶扭转模态频率和质量进行确定性优化设计。在此基础上,考虑材料及加工制造等不确定性因素,对确定性优化解的质量水平进行6Sigma可靠性分析与优化。结果表明,二阶响应面近似模型与MOPSO算法的优化组合方案实现了车门的最佳轻量化,RBF神经网络近似模型与MOPSO算法的优化组合方案实现了车门下沉刚度工况位移的最小化。上述2种组合分别实现了车门轻量化与安全化的设计目标。研究结果可为车身零部件的优化设计提供参考。

基于神经网络融合模型的铁路接触网异物智能检测

针对影响铁路接触网正常运行的异物问题,提出了一种基于神经网络融合模型的铁路接触网异物智能检测模型。以Faster R-CNN框架为基础,增加特征金字塔结构以学习图像不同尺度的特征;针对不同异物类型,将其分为鸟巢和轻质漂浮物,并运用ResNet50和ResNet101作为骨架网络,分别针对具有单一特征的鸟巢和特征复杂多变的轻质漂浮物进行识别;融合2个网络的识别框,得到精确的识别结果。对比实验表明,该模型的检测结果优于常规目标检测方法,可有效降低铁路接触网异物检测的人工成本,为铁路接触网的稳定运营提供了可行的解决方案。

一种基于改进YOLOv5的轻量化目标检测算法

针对户外施工环境中检测目标小,检测模型结构复杂、参数多,计算量大的问题,提出一种基于改进YOLOv5的轻量化户外目标检测算法。通过模块替换和模型压缩等方法实现YOLOv5目标检测网络的轻量化,降低检测模型网络的参数量。实验结果表明,所提出的轻量化策略大幅减少了模型参数量以及推理所需的计算量,并且保持了较高的准确率。

基于改进GhostNet的轻量级手势图像识别方法

卷积神经网络应用于复杂背景的手势图像识别时,存在深层模型参数量大、计算成本高、轻量级模型准确率低等问题,针对这些问题提出了一种基于改进GhostNet的轻量级手势图像识别方法。首先,在Ghost模块中添加通道混洗操作,建立CS-Ghost模块以提取手势图像中的手势特征;然后,选用SMU(Smoothing maximum unit)激活函数优化模型在反向传播中的学习能力;最后,使用注意力机制中的轻量级通道注意力模块ECA去除特征中的噪声信息。该方法在ASL和NUS-Ⅱ数据集上的实验平均准确率分别为98.82%和99.36%;在OUHANDS数据集上的实验平均准确率为97.98%,参数量为1.2 Mi, FLOPs为0.29 Gi。实验结果表明该方法参数量小,计算成本低,可有效提高手势图像识别的准确率。

融合MobileNetV3特征的结构化剪枝方法

传统的深度神经网络由于计算量和内存占用庞大,难以部署到嵌入式平台中发挥实用价值,所以轻量级的深度神经网络得到快速发展.其中,谷歌提出的轻量级架构MobileNet具有广泛的应用.为了进一步提高性能,MobileNet的模型由MobileNetV1发展到MobileNetV3,但模型变得更为复杂,导致其规模不断扩大,难以发挥轻量级模型的优势.为了在能保持MobileNetV3性能的前提下,降低部署于嵌入式平台的难度,提出一种融合MobileNetV3特征的结构化剪枝方法,对MobileNetV3-Large模型进行裁剪,得到一个更加紧凑的模型.首先对模型进行稀疏正则化训练,得到一个较为稀疏的网络模型;然后使用卷积层的稀疏值和批量归一化层的缩放系数的乘积判别冗余滤波器对其进行结构化剪枝,并在CIFAR-10和CIFAR-100数据集上进行实验.实验结果表明:提出的压缩方法可以有效压缩模型参数,并且压缩后模型仍然能保证良好性能;在准确率不变的前提下,CIFAR-10上模型的参数量减少44.5%,且计算量减少40%.

基于轻量化卷积神经网络的森林火灾烟雾检测算法

现有的基于卷积神经网络的森林火灾烟雾检测算法,存在烟雾特征提取结构过于复杂、烟雾多尺度特征融合方法过于繁琐、计算复杂度大以及应用场景单一等问题,而且其部署所需硬件配置高且难以适应多变的森林环境,这阻碍了其在森林防火领域的实际应用。为此,设计了一种基于轻量化卷积神经网络的森林火灾烟雾检测算法。首先,为提高烟雾特征提取的能力和速度,基于重参数化技术与跨阶段局部网络,提出一种轻量化烟雾特征提取结构。其次,基于简化的特征金字塔网络和路径聚合网络,设计出轻量化烟雾多尺度特征融合方法,实现不同尺度烟雾特征的高效融合。然后,提出一种烟雾检测后处理方法并增加类似烟雾图像进行算法模型训练,避免不同应用场景中非火灾烟雾图像和类似烟雾图像对检测算法的影响。最后,采用本文构建的烟雾图像数据集对算法进行验证。实验结果表明,本文算法相对于其它算法具有较高的检测精度和速度,F_(1)分数达82.6%,AP值达54.5%,最高检测速度达869张/秒。

Emfacenet:一种轻量级人脸识别的卷积神经网络

随着计算机技术日益发展,计算机视觉逐渐融入人们的生活,深度卷积神经网络在计算机视觉领域得到了广泛的应用.然而计算资源和内存的限制,为卷积神经网络在嵌入式设备的部署带来了巨大的困难.本文提出了一种新的轻量级的人脸识别的卷积神经网络——Emfacenet,通过在CASIA-WebFace数据集上进行卷积神经网络的训练,并在计算机CPU平台以及嵌入式平台上利用LFW数据集对模型的预测效果分别进行测试,Emfacenet在CPU平台下识别速度分别是Resnet50、Mobilenetv3以及Mobilefacenets这3种模型的2.07倍、1.67倍、1.63倍,在嵌入式平台下识别速度分别56.65倍、2.09倍、3.41倍.而且Emfacenet卷积神经网络模型大小仅为138.1KB,保持较高精度的同时运行效率显著提高,可以适用于嵌入式等硬件资源受限领域来实现人脸识别.

基于NSGA-Ⅱ的自适应多尺度特征通道分组优化算法

针对轻量型卷积神经网络(LCNN)的精确度和复杂度均衡优化问题,提出基于快速非支配排序遗传算法(NSGA-Ⅱ)的自适应多尺度特征通道分组优化算法对LCNN特征通道分组结构进行优化。首先,将LCNN中的特征融合层结构的复杂度最小化和精确度最大化作为两个优化目标,进行双目标函数建模及理论分析;然后,设计基于NSGA-Ⅱ的LCNN结构优化框架,并在原始LCNN结构的深度卷积层之上增加基于NSGA-Ⅱ的自适应分组层,构建基于NSGA-Ⅱ的自适应多尺度的特征融合网络NSGA2-AMFFNetwork。在图像分类数据集上的实验结果显示,与手工设计的网络结构M_blockNet_v1相比,NSGA2-AMFFNetwork的平均精确度提升了1.2202个百分点,运行时间降低了41.07%。这表明所提优化算法能较好平衡LCNN的复杂度和精确度,同时还可为领域知识不足的普通用户提供更多性能表现均衡的网络结构选择方案。

基于改进MobileNetV2模型的农作物叶片病害识别研究

为实现基于移动端的农作物叶部病害图像便捷识别,提高农作物病害识别效率进而更好地指导作物病害防治,基于改进的轻量级卷积神经网络MobileNetV2建立农作物病害识别模型。首先,建立含有15种病害叶片和4种健康叶片的农作物数据集,采用数据增强操作进行数据平衡。其次,对MobileNetV2进行改进,引入高效通道注意力(Efficient channel attention,ECA)与注意力特征融合(Attentional feature fusion,AFF),并通过模型剪枝去除冗余层,建立了高性能的轻量级农作物病害识别模型。结果表明:改进MobileNetV2模型参数量与初始MobileNetV2参数量相比减少15.37%,同时识别准确率提升0.9个百分点,达到了98.4%。相比EfficientNet-b0、ShuffleNetV2-0.5X等经典卷积神经网络模型,改进的模型不仅识别准确率最高,且训练过程收敛速度更快。

基于条件轻量级神经网络的视频入侵检测算法

机场安防场景需要快速准确地对入侵目标进行检测及报警,现有的算法计算量大,无法满足实时处理需求。针对该问题,结合传统高斯混合模型的前景提取算法与轻量级神经网络,设计基于条件计算的轻量级入侵检测算法。在前景提取阶段使用基于信息熵的自适应学习因子更新算法动态更新高斯混合模型的学习因子,减小高斯混合模型面对镜头突入时造成模型失效的概率。目标检测阶段以ResNeXt作为主干网络,将小型ResNet作为策略网络,使混合感受野的深度可分离卷积作为残差块,设计基于条件计算的轻量级神经网络,降低网络推理时的计算量。实验结果表明,该算法在监控视频数据集和OTB100数据集上的误检率分别4.4%、9.2%,漏检率分别为2.3%、9.8%,与Faster-YOLO等传统目标检测算法相比,该算法在保证检测精度的情况下使检测速度平均提高了2.6倍。