融合残差连接的图像语义分割方法

由于传统SegNet模型在采样过程中产生了大量信息损失,导致图像语义分割精度较低,为此提出了一种融合残差连接的新型编-解码器网络结构:文中引入了多残差连接策略,更为全面地保留了多尺度图像中包含的大量细节信息,降低还原降采样所带来的信息损失;为进一步加速网络训练的收敛效率,改善样本的不平衡问题,设计了一种带平衡因子的交叉熵损失函数,对正负样本不平衡现象予以针对性的优化,使得模型的训练更加高效;实验表明该方法较好地解决了语义分割中信息损失以及分割不准确的问题,与SegNet相比,本网络在Cityscapes数据集上进行精细标注的mIoU值提高了约13%。

基于密集残差连接的肺结节检测方法

针对目前基于深度学习的肺结节检测算法中不同深度与尺寸的特征信息间没有相互交流的问题,提出了一种基于密集残差连接的肺结节检测模型。本模型在3D U-Net网络的基础上引入密集连接,充分利用网络中肺结节特征图,实现不同层的特征信息的结合,提高结节特征的利用率;同时结合残差结构,避免了网络加深后出现的梯度消失问题;引入通道注意力机制,对不同通道的结节特征赋予权重,提高结节的识别率;在3D U-Net网络的编码解码部分间的跳跃连接中使用转置卷积,融合不同尺度与不同深度的特征。所提算法在肺结节公共数据集LUNA16上进行十折交叉验证,以无限制受试者操作特征为评价指标,实验结果表明,在假阳率为0.125、0.25、0.5、1、2、4、8这7个点上,平均敏感度为0.852,相较于基准模型提升5.5%。所提出的肺结节检测算法相比基准模型提高了检测敏感度,较好的实现对肺结节的检测。

基于多尺度残差连接的水下图像自适应增强

为解决水下图像常见的颜色失真、对比度降低以及有监督方法在缺乏大规模成对的高质量水下图像数据集支持时效果一般等问题,提出了一种无监督水下图像增强方法,该方法利用条件变分自动编码器(cVAE)结合概率自适应实例归一化(PAdaIN)以及多色空间拉伸技术,旨在提高生成图像的视觉质量,确保生成图像与原始输入图像在视觉上具有一致性。此外,多尺度残差连接模块有效减少了非关键信息的传递,进一步提升了模型的性能。该方法提供了一个以依赖参考图像作为训练数据的替代方案。结果显示,该方法在测试集上的峰值信噪比(PSNR)和结构相似性指数(SSIM)分别比FunieGAN和Water-Net提升12%和3%,显著改善了增强后图像的视觉效果,同时,该方法在不同测试集上的优异表现也验证了其良好的泛化能力。研究表明,该方法在无需参考图像的情况下,显著改善了水下图像的质量,有效提升了图像的细节和色彩校正,为水产养殖和海洋监测提供了一个有效的解决方案。

基于快速超分辨率重建与残差连接的信道估计

将信道估计视为低分辨率图像重建为高分辨率图像,借鉴图像超分辨重建思想,提出了一种基于快速超分辨重建及残差连接思想的信道估计方法——ResFSRNet。采用最小二乘法(Least Square,LS)计算单个正交频分复用(Orthogonal Frequency Division Multiplexing,OFDM)子帧中所有导频处的信道响应,将其视为小尺寸低分辨率“图像”作为神经网络输入,利用多个卷积层对其进行特征提取,且融入残差连接提升性能,最后通过转置卷积重构出完整OFDM子帧信道响应。在不同抽头延迟线信道环境中进行仿真,通过信道估计误差和链路误码率结果比较,表明ResFSRNet性能优于LS、实用信道估计及基于超分辨率重建的ChannelNet,且较ChannelNet在减少约99%计算量的前提下提高了约2 dB信道估计性能。

基于密集残差连接U型网络的噪声图像超分辨率重建

现有的图像超分辨率重建网络难以适用于煤矿井下噪声密集的应用场景,且多数网络通过增加深度提升性能会导致无法有效提取关键特征、高频信息丢失等问题。针对上述问题,提出了一种密集残差连接U型网络,用于对低分辨率噪声图像进行超分辨率重建。在特征提取路径中引入基于密集残差连接的去噪模块,通过密集连接的方式对图像特征进行充分提取,再利用残差学习的特点对低分辨率噪声图像进行有效去噪;在重建路径中引入残差特征注意力蒸馏模块,通过在残差块中融入增强特征注意力块,对不同空间的特征赋予不同的权重,加强网络对于图像关键特征的提取能力,同时减少图像细节特征在残差块中的损失,从而更好地恢复图像细节信息。在煤矿井下图像数据集及公共数据集上进行了对比实验,结果表明:在客观评价指标上,所提网络的结构相似度、图像感知相似度均优于对比网络,且在复杂度及运行速度上有着较好的均衡;在主观视觉效果上,所提网络重建的图像基本消除了原有图像噪声,有效恢复了图像的细节特征。

基于残差连接的水下小目标检测结构模型

由于水下成像距离较远,现有的水下图像目标检测数据集中存在大量小目标,水下小目标特征信息和语义信息少,目前常用的目标检测算法直接应用于水下检测时小目标漏检错检率较高。水下目标检测预处理阶段通常采用图像增强算法来提升图像观感质量,并以此提升小目标检测精度,但图像增强的数据预处理操作容易导致小目标特征丢失,小目标检测性能下降。提出了一种基于残差连接的水下小目标检测结构模型,讨论了图像增强提升目标检测性能的应用方式,通过残差连接将增强算法与目标检测算法联合优化,避免了过度增强导致的特征丢失问题,提升了水下小目标检测精度。所提出的算法在DUO数据集上进行了实验,实验结果表明,相较于YOLOv7,该算法对小目标检测精度提升了7.2%。在两个水下数据集上进行消融实验,验证了所提出的残差连接的方式对于提升小目标检测性能具有促进作用。

基于层级残差连接LSTM的命名实体识别

针对命名实体识别任务中现有的LSTM提取特征向量存在对短期信息特征表达能力不足的问题,提出一个基于层级残差连接的LSTM网络.通过添加残差块堆叠LSTM网络深度,增强短期信息特征非线性拟合能力;利用全局信息编码动态选择激活函数,在加强网络计算能力的同时降低了参数量;通过注意力机制,对输入动态调整残差连接的层数加强模型拟合能力.给出了残差网络和Dynamic ReLU激活函数,建立了基于层级残差连接的LSTM命名实体识别整体框架,定义了残差连接模块、Dynamic ReLU模块、注意力机制模块.对比了所提出方法与FLAT、Lattice LSTM等相关算法,在Weibo和Resume数据集上进行试验.结果表明,基于层级残差连接的LSTM在Weibo上达到了最好的效果,在Resume上效果仅次于FLAT,F_(1)分别为0.7001、0.9586.

多局部残差连接注意网络的图像去模糊

针对现有的基于卷积神经网络的图像去模糊算法存在图像纹理细节恢复不清晰的问题,提出了一种基于多局部残差连接注意网络的图像去模糊算法。首先,采用一个卷积层进行浅层特征提取;其次,设计了一种新的基于残差连接和并行注意机制的多局部残差连接注意模块,用于消除图像模糊并提取上下文信息;再次,采用一个基于扩张卷积的成对连接模块进行细节恢复;最后,利用一个卷积层重建清晰图像。实验结果表明:在GoPro数据集上的PSNR(peak signal to noise ratio)和SSIM(structure similarity)分别为31.83 dB、0.9275,在定性和定量两方面都表明所提方法能够有效地恢复模糊图像的纹理细节,网络性能优于对比方法。

结合坐标注意力与自适应残差连接的logo检测

Logo检测在品牌识别和知识产权保护等领域有着广泛的应用.针对logo检测中存在小尺度logo检测性能差和logo定位不准的问题,本文提出一种基于YOLOv4网络的logo检测方法,将YOLOv4网络PANet模块中的5个连续卷积层用设计的自适应残差块替换,增强浅层和深层的特征利用,有侧重地进行特征融合,同时优化网络训练;并在自适应残差块之后使用坐标注意力机制,通过精确的位置信息对通道关系和长期依赖性进行编码,从融合的特征中过滤和增强对于检测更有用的特征;最后采用K-means;聚类算法得到更适合logo数据集的先验框,并分配给不同的特征尺度.实验结果表明,本文提出的方法在FlickrLogos-32和FlickrSportLogos-10数据集上的平均精度达到了88.09%和84.72%,较原算法分别提高了0.91%和1.40%,在定位精度和小尺度logo检测上的性能都显著提升.

基于压缩与激励机制和残差连接的SRG古陶瓷器形分类

为实现基于器型的古陶瓷入库器型分类并节约计算成本,提高分类精度,提出基于GoogLeNet的改进算法SRG(SE-Res-GoogLeNet).将压缩与激励机制(Squeeze-and-Excitation)和优化后Inception块结合,通过对整个输入特征信息进行嵌入压缩,并自适应的重新校准通道方向的特征响应,来加强CNN提取图像特征能力.针对改进后网络层数加深导致的网络退化问题,结合残差思想,加入跳跃连接,提高模型感知能力,带来性能优化.最后将SRG算法应用于古陶瓷器型分类问题中,实验表明,SRG算法在自制古陶瓷器型数据集上,Top-5分类准确率由91.23%提高至95.15%.

基于残差连接和1D-CNN的滚动轴承故障诊断研究

针对滚动轴承故障诊断人工提取特征困难、浅层诊断模型性能差的问题,提出一种基于残差连接的一维卷积神经网络(1D-CNN)的深层轴承故障诊断模型。将原始轴承振动信号输入网络中,利用具有残差连接的多个一维卷积层自动提取特征,残差连接能够在提取深层特征信息的同时将浅层提取的特征信息保留下来,与无残差连接的一维卷积网络相比能获得更丰富的轴承信号特征信息,并输入到Softmax层进行分类,输出轴承振动信号的故障类型。该研究通过不同残差网络结构模型的设计,验证具有残差连接的1D-CNN的网络模型在轴承故障诊断的有效性。试验结果表明,残差连接能有效提高轴承故障诊断的准确率。

基于残差连接长短期记忆网络的时间序列修复模型

传统的时间序列缺失修复方法通常假设数据由线性动态系统产生,然而时间序列更多地表现为非线性。为此,提出了基于残差连接长短期记忆(LSTM)网络的时间序列修复模型,称为RSI-LSTM,用来有效捕获时间序列的非线性动态特性,并且挖掘缺失数据和最近的非缺失数据之间的潜在关联。具体来说,就是采用LSTM网络对时间序列的非线性动态特性进行建模,同时引入残差连接来挖掘历史值与缺失值的联系,从而提升模型的修复能力。首先使用RSI-LSTM对单变量日供电量数据集的缺失数据进行修复,然后在第九届电工数学建模竞赛A题的电力负荷数据集上,引入气象因素作为RSI-LSTM的多变量输入,以提升模型对时间序列缺失值的修复效果。此外,使用了两个通用的多变量时间序列数据集以验证模型的缺失修复能力。实验结果表明,在单变量和多变量数据集上,RSI-LSTM的缺失值修复效果均优于LSTM,得到的均方误差(MSE)总体下降了10%。

基于残差连接的场景文本识别端到端网络结构优化

针对已有文本识别网络由于深度不够而识别准确率较低的问题,文中提出一种改进的端到端文本识别网络结构。首先,将文本作为序列,采用残差模块将文本按列切分成特征向量输入循环层。这种残差结构增加了卷积网络的深度,使网络保持对文本图像的最佳表征能力,实现对文本信息的捕捉。另一方面,残差模块采用堆叠层来学习残差映射,在层数加深的情况下提高了网络的收敛性。然后,采用循环层对这些文本特征序列进行上下文建模,并把建模结果输入Softmax层以获得序列对应标签的预测,实现了对任意长度文本的识别。循环层使用长短时记忆网络学习文本之间的依赖关系,解决长序列训练过程中的“梯度消失”问题。最后,通过最优路径方法进行文本标签转录。该方法找到一条路径使其概率最大,并输出这条路径对应的序列为最优序列。改进的文本识别网络结构增加了深度,提高了文本图像的特征描述能力和在噪声下的稳定性。在多个测试数据集(ICDAR2003,ICDAR2013,SVT和IIIT5K)上将所提算法与已有典型算法进行实验对比分析,结果表明该网络结构能够得到更高的场景文本识别准确率,验证了其有效性。

基于残差连接LSTM的雷达目标分类识别方法

近年来随着多种小型智能探测设备的出现(如无人机、小型智能车等),给传统雷达目标识别方法带来了巨大挑战;在使用雷达对此类小型目标进行探测时得到的信号回波能量通常较低,导致在复杂环境噪声与杂波影响下难以使用传统恒虚警(CFAR)目标检测方法对其进行识别;针对以上问题,结合深度学习的方法提出一种基于残差连接长短期记忆网络(LSTM,long short-term memory)的多类别雷达目标识别模型,以同一距离门的相邻时间点的回波序列数据作为样本来设计数据集,使用多层的LSTM网络提取雷达回波样本中的时序信息,并在网络中加入残差连接以避免网络层数增多出现网络退化问题,同时将用于多类别分类问题的CCE(categorical cross-entropy)函数作为网络的损失函数来训练网络,实现对包括无人机、智能车、行人以及噪声在内的4类目标的识别和分类;试验结果表明基于残差连接LSTM网络的多类别雷达目标识别模型相比于传统恒虚警检测方法具有更高的识别准确率和F1值。

结合视觉属性注意力和残差连接的图像描述生成模型

使机器自动描述图像一直是计算机视觉研究的长期目标之一.为了提高图像内容描述模型的精度,提出一种结合自适应注意力机制和残差连接的长短时间记忆网络(LSTM)的图像描述模型.首先根据pointer-net网络改进基本LSTM结构,增加记录图像视觉属性信息的单元;然后利用改进的LSTM结构,设计基于图像视觉语义属性的自适应注意力机制,自适应注意力机制根据上一时刻模型隐藏层状态,自动选择下一时刻模型需要处理的图像区域;此外,为了得到更紧密的图像与描述语句之间映射关系,构建基于残差连接的双层LSTM结构;最终得到模型能够联合图像视觉特征和语义特征对图像进行内容描述.在MSCOCO和Flickr30K图像集中进行训练和测试,并使用不同的评估方法对模型进行实验验证,结果表明所提模型的性能有较大的提高.

结合偏移自注意力机制和残差连接的点云分类

现有基于深度学习的点云分类网络通常无法有效利用点云特征间的相关信息,并且存在鲁棒较低的问题。为了提高点云分类网络对有效特征的提取能力,增强模型鲁棒性,本文提出了一种结合偏移自注意力机制和残差连接的点云分类网络。首先在PointCNN基础上引入偏移自注意力模块,更好地关注于有效特征;然后引入残差网络的思想,在注意力层增加残差连接,将残差连接和注意力层的输出特征进行融合形成点云特征;最后使用多层感知机对点云特征进行分类。将本文模型与PointNet、PointCNN、DGCNN等其他点云分类模型在ModelNet40数据集上进行对比实验,结果表明本文网络的分类效果更好,获得了最高的分类准确率92.9%,相比于PointCNN提升了0.7%。在鲁棒性实验中,本文网络相比于PointCNN,在稀疏点云上的总体分类准确率提升了2.4%,在噪声点云上提升了11.6%,表明本文网络具有更好的鲁棒性。

基于注意力机制和残差连接的BiLSTM-CNN文本分类

针对文本分类中卷积神经网络(CNN)无法获取文本全局特征、双向循环神经网络(BiLSTM)无法聚焦文本局部特征的问题,提出一种将CNN网络和BiLSTM网络进行融合的模型。该模型引入注意力机制,解决文本分类中无法关注重点单词特征的问题;同时通过引入残差连接,解决网络模型在堆叠多层时出现的神经网络退化问题。实验结果表明,所提出的模型能够更准确地获取文本特征信息,提高文本分类的准确率。

基于跳跃残差连接的轻量级超分辨率重建算法

基于残差模块构成的图像超分辨率重建算法可以增加网络层数、提升网络性能,但是存在网络规模大的问题.为了解决这一问题,以及能够有效提取不同网络层次的特征、有效区分输入图像的低频信息和高频信息,提出了一种基于跳跃残差连接和注意力机制的轻量级双分支超分辨率重建模型.首先利用跳跃残差连接和空间注意力机制共同构成注意力残差分支,其中的跳跃残差连接由卷积层和小型残差结构共同构成;其次,在图像采样分支中直接对图像上采样;最后将两个分支的特征进行融合.将提出的算法在Set5、Set14、BSD100、Urban100和Manga109五个基准数据集上进行测试,实验结果表明,该算法在×2、×3放大因子模型中部分数据集具有更高的峰值信噪比和结构相似性,在×4放大因子模型中所有数据集的评价指标都是最优,同时算法重建的图像具有更多的纹理细节和更少的伪影.与其他轻量级超分辨率重建算法(参数量小于1.5 M)相比,所提出的算法包含更少的参数量和更高的峰值信噪比值.

基于自编解码器与残差连接的红外图像降噪模型

红外成像应用场景使得红外成像设备常常迭代慢,且需要长时间工作,从而导致红外成像内部器件噪声具有分布类型多和强度随时间变化的复杂情况。为了适应红外图像内部噪声特点,本文提出一种基于自编解码结构与残差连接的红外图像降噪模型。通过分析红外图像内部噪声产生原因建立了几种主要的红外器件噪声模型,从而设计了多种噪声分布类型和不同强度的红外噪声图像集;在自编解码器结构基础上,使用深度卷积作为特征提取模块,增强模型的非线性映射能力和特征表达能力;同时,为了弥补在编码中损失的红外图像的细节信息,在编码器和解码器的特征图之间建立了残差连接,在多个尺度补充特征信息上,增强了重构图像的边缘纹理等细节。实验结果表明,所提方法在重构能力和鲁棒性上,都明显优于多种传统的降噪算法。基于自编解码结构与残差连接的红外图像降噪模型具备去除多类型高强度的噪声干扰的能力,对红外图像质量进行了改善。

基于残差连接的高帧率Siamese目标跟踪算法

为提高Siamese跟踪算法在快速运动和相似物体等复杂情况下的跟踪性能和跟踪速度,提出一种融合残差连接与深度可分离卷积的Siamese目标跟踪算法。将原特征提取网络中的5×5卷积替换为普通3×3卷积,在减少网络计算量的同时提高其对特征的学习能力。用计算量更小的深度可分离卷积替代原网络中所有的普通3×3卷积,不仅加快了网络推理速度,还加深了特征提取网络的深度,从而获得对目标更具表征能力的深层语义信息。在深度可分离卷积模块中加入残差连接,组成残差块,用以融合网络提取的不同层特征,提高特征信息的利用率。结果表明:所提算法在跟踪精度和成功率上均有所提高,并且在实时性和可靠性上优于其他算法。