DenseNet和SeNet融合残差结构的DR分类方法

糖尿病性视网膜病变(diabetic retinopathy,DR)是糖尿病在发病过程中影响视网膜的症状。针对模型下采样过程中特征提取DR图像微动脉瘤等病灶区域信息丢失问题,提出了一种DenseNet融合残差结构的模块。该模块首先连接两个连续的dense block,然后利用残差结构对特征信息求和,并行融合处理特征图像信息,以防止有效特征信息的丢失,最后残差连接两个含有dropout的卷积块,抑制过拟合现象。针对以往卷积操作中未对病变区域的特征图通道加权的问题,提出了一种SeNet融合残差结构的模块。该模块首先连接SeNet,把全局平均池化和全局最大池化的特征信息相加,以提高有效通道信息的利用率,然后通过Conv1×1的残差方式来保证特征图信息的完整性。基于以上两个模块的设计,提出了一种DenseNet和SeNet融合残差结构的DR分类方法。该模型在APTOS2019数据集上的精确度达到89.8%,特异性达到97.0%,在Messidor-2数据集上的精确度达到78.8%,特异性达到91.9%,能够有效地提高视网膜图像病变程度的分类能力。

采用残差结构和卷积神经网络的铣刀磨损研究

对于传统的卷积神经网络准确率低的问题,提高刀具磨损监测的准确性,提出一种具有残差结构的一维卷积神经网络。模型中采用两个残差块,残差结构能够跳跃一部分卷积层减少模型的训练时间,并将信息保留下来与下一层输出连接起来。采集的信息具有多维性,卷积神经网络能够自适应地提取相关特征,比传统机器学习需要人工依靠经验来提取特征更具有可靠性。实验结果表明,具有残差结构的卷积神经网络比传统的卷积神经网络不仅有较低的损失函数值,在准确度方面也有很好表现,提高了刀具磨损分类的精度。

融合残差结构和注意力机制的下颌骨CT图像分割方法

针对传统深度学习方法在下颌骨CT图像分割中存在的问题,本文提出一种融合残差结构和注意力机制的改进Unet网络。将注意力机制融入Unet的解码器,构建上采样注意力模块,在不同维度上进行平均池化和最大池化,使网络更加关注下颌骨区域的信息,增强下颌骨分割能力;将残差结构融入Unet网络的编码器,解决深度网络训练时的网络退化和梯度消失问题;采用迁移学习训练的方法,避免因下颌骨图像数据不足导致的网络收敛慢的问题。对比实验表明,改进Unet网络平均交并比达到94.68%,各评价指标均优于FCN、DeeplabV1和SegNet网络。

基于卷积神经网络和残差结构单元的合同数据识别提取

为提升合同中数据项识别和提取的准确率,提出一种基于卷积神经网络(Convolutional Neural Network,CNN)和残差结构单元(Residual Building Unit,RBU)结合优化的CNN-RECR(Real Estate Transaction Contract Information Detection and Recognition Method Based on Improved Convolutional Neural Network)模型,并将其应用到不动产交易平台中合同数据项的识别提取场景。首先,针对提取特征表示能力弱等问题,设计了合同数据文本检测网络(Contract Data Text Detection Network,CDTD-Net)对合同手写文字的不同尺度特征进行提取;其次,与残差结构单元相结合,设计识别文字与识别数字模型;最后,对实例进行实验,实验结果显示CNN-RECR模型的识别准确率达到97.62%,证明本方法能有效提高模型的识别性能,为实现低成本运行奠定了基础。

基于残差结构的棉花异性纤维检测算法

针对棉花中异性纤维检测精度低、异性纤维隐藏或边角位置不易识别等原因导致检测效果不佳的问题,提出一种基于残差结构的棉花异性纤维检测算法。首先,针对异性纤维检测目标,提出一种棉花异性纤维在线检测方案;其次,针对异性纤维颜色、纹理、位置等特征,构建深浅层混合数据集;在此基础上设计了残差结构的异性纤维检测网络模型算法,解决了现有检测算法精度低、异性纤维隐藏或边角位置的问题;最后,将该算法与传统经典算法对比实验。结果表明:在深浅层混合数据集下,与经典算法对比,该算法具有较高的准确性和实时性,其平均检测准确率达到88.48%,1张图像的检测速度为0.019 s,满足工业现场实时检测需求,为棉花中异性纤维检测提供了一种新方法。

基于TransUnet和残差结构的脑肿瘤图像分割方法

目的卷积神经网络由于具有在捕捉长距离依赖能上的缺陷,其限制了分割模型的进一步提升[1]。针对以往医学图像分割网络中卷积的感受野太小,对小型医学图像数据集训练参数非常多的深度网络容易过拟合问题,基于TransUnet网络模型结合ViT与Unet的特性对模型进行优化。方法利用TransUnet与ResNet残差结构与注意力机制结合,在底层CNN模块引入注意力机制提取特征,引入残差结构加深算法,使用卷积操作代替混合编码器中的最大池化减少特征丢失,增大了卷积中的感受野,提高了脑胶质瘤图像的分割精度。结果在BraTS比赛的数据集中对脑胶质瘤的分割Dice达到95.22%,较原TransUnet模型提升了2%。结论研究基于TransUnet优化算法的脑肿瘤图像分割方法鲁棒性强。对现有的两种神经网络方法进行对比,均低于本文改进模型,表明对于医学图像的分割精度有提升。

基于三维卷积与残差结构的沟谷泥石流危险度评价

沟谷的泥石流危险度评价是泥石流防治工作中基础且重要的一环,针对该问题,以怒江州为例,提出了一个结合立体卷积与残差结构,能同时对数字高程模型(Digital Elevation Model,DEM)数据与多光谱数据进行特征学习的神经网络模型.以整沟为研究对象,将模型在历史泥石流灾害沟谷的数据上训练后,根据相似度对沟谷的泥石流危险度进行评分,并绘制了怒江州的泥石流危险度评价图.在所有214条沟谷中,高风险沟谷共114条,中风险沟谷共40条,低风险沟谷共60条.实验结果表明,该模型能在沟谷泥石流分类任务上达到最高80%的正确率、88%的召回率以及0.81的Kappa系数.此外,在使用更少训练数据的实验以及对比各个不同模型的实验中,所设计的模型均表现优异.模型给出的危险度与历史灾害记录和实地考察结果基本相符.

基于残差结构的图卷积网络的药物靶点亲和力预测

准确的药物靶点亲和力预测(DTA)能够缩短药物研发周期,节省人力和物力,加速药物研发过程。图神经网络(GNN)在药物靶点亲和力预测中得到了广泛应用,但现有的方法大多基于浅层GNN。该文提出了一种基于残差结构的图卷积网络,残差结构的加入能够加深网络结构,借此构建一个具有24个图卷积层的深度图卷积网络,以此捕获药物分子的特征,学习有效的嵌入表达,并在两个基准药物靶点亲和力数据集上与几种先进的基于机器学习或深度学习的模型进行比较。结果表明,该文所提模型相较于其他基准模型有着更好的预测性能,验证了该文所提方法的有效性。

一种基于残差结构的车道线检测方法

提出了一种基于车道线特征的残差因子分解网络实现精确车道线分割的方法,该法采用笔者所提的语义分割网络实现车道线语义分割,通过编码器提取车道线的特征信息,再使用解码器恢复图像信息。在编码器中增加的残差层能更好地处理边缘信息与相似信息,提取到更多的特征信息。用霍夫线拟合方法组成一条可视化的车道线。训练时先对车道线分割训练集进行增强,使用对抗生成网络对公开数据集进行数据增强,自动实现白天到夜晚的转换,生成弱光照场景下的图片,提高训练数据的泛化性。实验证明:笔者算法在保持速度的前提下,能够大大提高分割准确率,与其他车道线分割算法相比,CULane数据集的准确率可提高到74.7%。

基于改进宽残差结构的接触网吊弦状态辨识分类网络

铁路接触网系统中吊弦的工作状态对机车运行至关重要。视频图像的接触网吊弦状态快速准确识别备受关注,因吊弦图像数据的特殊性导致现有网络模型识别精度较低。本文针对吊弦数据特征设计分类网络结构,提出适应接触网吊弦状态识别的VRNet分类网络。VRNet的核心为嵌入了注意力机制的宽残差结构,将此结构作为特征提取模块取代VGG-16中的一般卷积,改变其单一的平原结构。并使用Ghost机制替换宽残差结构中的普通卷积,大幅降低了模型的参数量和运算量。VRNet分类网络在吊弦故障分类实验中精度达到97%,优于其他分类网络,并在相关应用研究中表现出优良性能。

基于改进卷积注意力模块与残差结构的SSD网络

SSD(Single Shot Multibox Detector)是一种基于卷积神经网络的单阶检测算法,相比双阶检测算法,它在保证一定精度的同时显著提高了检测速度,但仍难以满足很多实际应用,尤其是在小目标检测任务中,检测精度更是难以满足需求。针对该不足,文中提出了一种基于改进残差结构与卷积注意力模块的特征提取网络Res-Am CNN(Residual with Attention Module Convolutional Neural Networks),大幅提高了网络的特征提取能力,并在原始SSD金字塔结构中引入上采样加法融合(Additive Fusion with Upsample,AFU)来进行特征融合,增强了浅层特征的表征能力。在PASCAL VOC数据集上的实验结果表明,相比原始SSD网络和主流的检测网络,Res-Am&AFU SSD(SSD with Res-Am CNN and AFU)网络在VOC测试集上的平均精度均值(mean Average Precision,mAP)达到69.1%,在精度上领先单阶网络,接近双阶网络,在检测速度上远快于双阶网络。在小目标测试集上的实验结果表明,Res-Am&AFU SSD网络的mAP为67.2%,比原始SSD提高了9.4%,且该方法具有更加灵活、无需预训练等优点。

基于区域建议网络和残差结构的导丝跟踪

X光影像导航成为提高机器人介入手术操作精度和安全性的关键突破点.因此,文中提出基于区域建议网络、残差结构和Canny边缘检测的导丝跟踪框架.在图像标定方面,采用多尺度标记策略,使检测网络可以学到更准确的特征.在图像增强方面,采用多滤波器融合策略,增加导丝的可识别性,提高跟踪准确率,改善系统鲁棒性.选取22组X射线视频序列进行实验,验证文中算法在速度、准确率及系统鲁棒性方面的优势.

基于GhostNet残差结构的轻量化饮料识别网络

YOLOv4-Tiny目标检测网络算法存在参数多和计算量大等问题,无法部署在资源有限的平台上。提出一种基于GhostNet残差结构的主干轻量级目标检测网络算法YOLO-GhostNet。该算法采用GhostNet结构将普通卷积分成两步,即使用较少的卷积核生成一部分特征图,对生成的特征图通过简单计算获得另一部分特征图,并将两组特征图进行拼接,以减少计算所需资源与参数量。通过GhostNet构建残差结构的YOLO-GhostNet算法在经过批量归一化层优化后模型尺寸只有2.18 MB,较YOLOv4-Tiny算法模型尺寸减小90%。YOLO-GhostNet算法在GPU加速环境下平均处理图片速度比YOLOv4-Tiny算法提高24%,CPU处理速度比YOLOv4-Tiny加快56%。实验结果表明,该算法在饮料测试集中的平均精确度均值达到79.43%,相比YOLOv4-Tiny算法,其在精度无损失情况下能够大幅降低网络计算量和参数量,同时加快推理速度,更适合部署于资源算力不足的嵌入式设备。

融合注意力机制与逆残差结构的轻量级钻机目标检测方法

为实现煤矿下定向钻进钻机钻孔深度的精准测量,提出一种融合注意力机制与逆残差结构的轻量级钻机目标检测网络(GCI-YOLOv4),通过自动、快速及准确检测记录钻机的运动轨迹,获取打入钻杆数量,计算出钻孔深度。针对煤矿下色域区分度低问题,采用GhostNet作为特征提取网络去除复杂背景的冗余特征,同时轻量化模型,加快推理速度。针对煤矿井下光照不均导致钻机目标显著度低的问题,引入注意力模块增强钻机在复杂背景中的显著度。针对钻机高速运动时难以被准确检测的问题,引入逆残差结构,提取更丰富语义特征的同时保持速度与精度的均衡。为保证模型的准确性和可靠性,将提出的检测算法与5种经典目标检测算法进行对比。实验结果表明,GCI-YOLOv4可以较好的解决煤矿下背景色域区分度低、钻机高速运动以及受光照不均等问题,平均检测精度达到99.49%,检测速度达到58.10 FPS,性能优于经典目标检测算法。将GCI-YOLOv4部署在工作面现场进行测试,能够准确获取钻机的运动轨迹,通过滤波处理统计上升沿计算钻杆数量,钻杆计数精度达到99.4%,精确计算出钻孔深度,验证了该方法的可行性和实用性。

基于残差结构和幻象模块的垃圾图片分类算法

垃圾图片分类算法对于垃圾分拣的智能化和自动化具有重要的意义,针对我国垃圾分类现状,收集制作了小型生活垃圾数据集,提出基于残差结构和幻象模块的垃圾图片分类算法。使用幻象模块代替ResNet18的普通卷积,在不降低网络性能的同时减少了网络的参数量。采用数据增强方法扩充训练数据,防止过拟合。实验结果表明,改进后网络的参数量减少了46%,识别精度提高了1%。

基于残差结构的GAN网络的显著性预测研究

优化了简单生成对抗网络结构,用于更有效的通过对抗性实例训练得到视觉显着性图,减少假阳性产生和提高显著性.网络模型仍遵循传统生成对抗网络结构,第一阶段是由一个使用残差结构建的生成器组成,该模型的权值由显著图的下采样版本的二分类交叉熵损失(BCE)的反向传播计算得到的,训练得到更有效的显著图.预测结果由受训练的判别器网络进行生成阶段生成的显著图与真值图之间的二值分类处理.实验展示了改进生成对抗网络中的生成器的预测显著图的能力对整个网络性能提升,相较于其他显著图预测模型也有一定领先.

基于残差结构的SSD口罩检测

新冠疫情环境下,人们外出均需佩戴口罩进行防护,所以目前对人脸口罩检测的研究迫在眉睫。该文提出一种基于残差结构的SSD(single shot multbox detector)网络用于口罩检测,通过在SSD网络的定位分类前添加残差结构,将特征提取网络和分类定位层进行分离,进而使得进入分类定位层的卷积特征更加抽象,可以有效解决SSD网络同时学习局部信息和高层信息双重任务的问题,维护特征提取网络的稳定性,并利用交叉熵损失函数解决戴口罩和未戴口罩的二分类问题,利用smooth L1 loss损失函数解决口罩位置的回归问题。然后将分类和位置回归做加权计算,通过优化传统的SSD位置误差和置信度误差损失函数,实现人脸佩戴口罩特征和人脸未戴口罩特征的定位和分类,从而提高网络训练速度及检测效率。实验结果表明,ReSSD检测口罩的平均检测精度可达92.3%,比SSD网络提高了7.4%,同时在自然场景下也有高效的检测效果。

基于高效可扩展改进残差结构神经网络的舰船目标识别技术

神经网络的深度在一定范围内与识别效果成正相关,为解决超出范围后网络层数增加识别准确率却下降的模型饱和问题,该文提出一种具有高效的微块内部结构和残差网络结构的神经网络模型,用于对舰船目标基于高分辨距离像的分类识别。该方法利用具有小尺度卷积核的卷积模块提取目标的稳定可分特征,同时利用联合损失函数约束目标特征的类内距离提高识别能力。仿真结果表明,该模型相比于其他常见网络结构,在模型参数更少的情况下,识别效果更好,同时具有较强的噪声鲁棒性。

一种基于3×3卷积堆叠的残差结构

针对神经网线络中残差结构的优化问题,提出了一种新的残差结构,为了进一步验证其特征提取能力,设计了一个较浅的全卷积神经网络,采用朴素的训练方法在Cifar10和Cifar100基准测试平台上验证测试.与其他主流网络相比,在相同的训练参数下,通过消融实验证实了其在通道信息融合、空间特征提取方面有着出色的性能表现.

结合密集残差结构和多尺度剪枝的点云压缩网络

目的点云是一种重要的三维数据表示形式,已在无人驾驶、虚拟现实、三维测量等领域得到了应用。由于点云具有分辨率高的特性,数据传输需要消耗大量的网络带宽和存储资源,严重阻碍了进一步推广。为此,在深度学习的点云自编码器压缩框架基础上,提出一种结合密集残差结构和多尺度剪枝的点云压缩网络,实现了对点云几何信息和颜色信息的高效压缩。方法针对点云的稀疏化特点以及传统体素网格表示点云时分辨率不足的问题,采用稀疏张量作为点云的表示方法,并使用稀疏卷积和子流形卷积取代常规卷积提取点云特征;为了捕获压缩过程中高维信息的依赖性,将密集残差结构和通道注意力机制引入到点云特征提取模块;为了补偿采样过程的特征损失以及减少模型训练的动态内存占用,自编码器采用多尺度渐进式结构,并在其解码器不同尺度的上采样层之后加入剪枝层。为了扩展本文网络的适用范围,设计了基于几何信息的点云颜色压缩方法,以保留点云全局颜色特征。结果针对几何信息压缩,本文网络在MVUB(Microsoft voxelized upper bodies)、8iVFB(8i voxelized full bodies)和Owlii(Owlii dynamic human mesh sequence dataset)3个数据集上与其他5种方法进行比较。相对MPEG(moving picture experts group)提出的点云压缩标准V-PCC(video-based point cloud compression),BD-Rate(bjontegaard delta rate)分别增加了41%、54%和33%。本文网络的编码运行时间与G-PCC(geometry-based point cloud compression)相当,仅为V-PCC的2.8%。针对颜色信息压缩,本文网络在低比特率下的YUV-PSNR(YUV peak signal to noise ratio)性能优于G-PCC中基于八叉树的颜色压缩方法。结论本文网络在几何压缩和颜色压缩上优于主流的点云压缩方法,能在速率较小的情况下保留更多原始点云信息。