全卷积多并联残差神经网络

随着人工智能的火热发展,深度学习已经在很多领域占有了一席之地.作为深度学习中一个典型网络--残差神经网络模型自提出之日起就成为了众多研究者的关注点.然而,残差神经网络还有很大的改进空间.为了更好地解决反向传播中梯度减小的问题,本文提出了一种改进的残差神经网络,称为全卷积多并联残差神经网络.在该网络中,每一层的特征信息不仅传输到下一层还输出到最后的平均池化层.为了测试该网络的性能,分别在三个数据集(MNIST,CIFAR-10和CIFAR-100)上对比图像分类的结果.实验结果表明,改进后的全卷积多并联残差神经网络与残差网络相比具有更高的分类准确率和更好的泛化能力.

基于快速残差插值和卷积神经网络的去马赛克算法

针对传统插值法存在的图像细节不能很好恢复的不足,利用卷积神经网络作为残差插值法的后处理操作,提出了一种基于残差插值和卷积神经网络的去马赛克算法。方法分为初始去马赛克和细节恢复后处理两部分。先用改进的基于梯度的快速残差插值法实现初步去马赛克插值,并针对恢复图像中包含了彩色伪影,细节丢失等问题,再使用深度残差网络学习恢复图像与理想全彩色图像之间的映射,实现后处理。在Kodak数据集和IMAX数据集上的实验结果表明,该方法结果在主观视觉特性和客观评价指标两方面相较于传统方法都有明显改进。

一种基于U型全卷积神经网络的深度估计模型

本文解决了从单张图像估计深度信息的问题。单张图像与深度图之间的映射是是模棱两可的,它需要全局信息和局部信息。本文部署了一个全卷积U型神经网络,它用预训练的ResNet-50网络提取图像特征,然后用残差上采样模块将特征图恢复到深度图的尺寸大小,并且使用了跳跃链接,整个网络呈现U型,从而对全局信息和局部信息进行融合。整个网络可以进行端到端的训练。

基于多尺度卷积神经网络的短期电力负荷预测

为了提高电力系统短期负荷预测的准确率,提出了一种基于深度学习技术的多尺度信息融合卷积神经网络(MS-ConvNet)模型.引入了全卷积网络结构和因果逻辑约束增强时间序列特征表达;利用多尺度卷积提取不同长度时域数据相互关系来获取更加丰富的序列特征;并设计残差网络结构增加网络深度,以增加输出神经元的接受域并提升预测精度.仿真结果表明,MS-ConvNet模型的准确率及稳定性优于多层感知机、长短期记忆网络及门控循环单元网络,说明该模型在电力负荷预测方面具有良好的应用前景.

卷积神经网络下的高分二号卫星影像道路提取

本文针对深度神经网络对高分二号遥感影像道路提取时细节信息丢失较多、道路周围环境考虑不充分等情况,在已有的研究成果上,提出一种基于全卷积神经网络遥感影像道路提取的改进方案.方案创新研究了全卷积神经网络的算法原理,将预调色后的高分二号影像按一定尺寸分幅输出,将输出图像及标签对应输入于以全卷积神经网络为基础的改进网络,通过结合残差单元以及增加网络层数得到识别精度较高的道路提取图像.实验表明,该方法在同一样本中对高分二号卫星影像道路提取的效果有所提升,道路的完整性和准确性有所提高.

基于残差全卷积网络的图像拼接定位算法

为解决现有篡改定位网络随着深度加深不易收敛的问题,提出一种基于残差全卷积网络的图像拼接定位算法.所提算法一方面迁移残差思想,在全卷积神经网络(fully convolutional network,FCN)的部分卷积层中引入shortcut连接,使其输出的不仅是输入的映射,还是输入映射与输入的叠加.另一方面结合条件随机场(conditional random field,CRF)对定位结果进行后处理,并将FCN与CRF整合在一个端到端的学习系统中,进一步提高定位精度.此外,所提算法还融合3种FCN(FCN8、FCN16、FCN32)的预测结果.在实验中,随机选取公开数据集CASIA v2.0的5/6篡改图像作为训练集,然后对剩余1/6进行测试.为了测试提出算法的泛化性能,采用训练好的模型在公开数据集CASIA v1.0和DVMM上进行交叉测试.在3个数据集上的测试结果表明,所提算法的性能优于现有一些方法.

基于TCNN-MADLSTM的全并联AT牵引网多元信号融合故障定位

全并联AT牵引供电系统上下行线路并入自耦变压器,致使故障信号多路径传播,且牵引网导线阻抗不连续,传统方法很难实现牵引网故障准确定位。基于AT牵引网结构,推导牵引网上下行导线故障电流幅值与故障距离的非线性关系;基于改进的卷积神经网络(Transformer-based CNN,TCNN)和记忆注意力解耦长短期记忆神经网络(Memory Attended Decoupled LSTM,MADLSTM),通过增加注意力机制和残差连接,增强多导线电流幅值与故障距离的非线性函数关系,从而提高牵引网故障定位的精度;将前述方法与传统的卷积神经网络(CNN)和长短期记忆神经网络(LSTM)进行不同噪声条件下的对比验证。结果表明:基于TCNN+MADLSTM算法进行故障定位时,可自适应构建故障距离与多导线电流幅值的非线性函数关系,以及自适应计算故障距离,无须考虑波速影响;相较于传统的CNN+LSTM算法,TCNN+MADLSTM算法故障定位精度更高,故障区段识别精度可达100%,故障定位精度达72.100 m,均方误差为0.016 km^(2)。

轻量化卷积神经网络遥感影像建筑物提取模型

遥感影像中的建筑物是城市大数据采集、分析的重要来源。大规模、高精度的遥感影像建筑物提取模型对智慧城市时空大数据建设、推动城市智能计算具有重要意义。当前建筑物提取模型通常利用大型卷积神经网络模型或多种网络模型串联,并辅以其他边界细化算法来提高建筑物提取的精度。但是,网络模型的大型化、复杂化对计算资源消耗高,需要更多的训练时间或算力,不利于大规模快速的网络模型训练预测及在便携式等终端设备上部署应用。因此,研究面向大规模快速的遥感影像建筑物提取,提出一种轻量化全卷积神经网络模型和特征融合方案,模型参数较轻量化前减少约40%,GPU内存占用下降33.61%,平均训练时间和预测时间分别下降32.40%和26.31%。融合后的模型在公开数据集测试得到的MIoU精度在74.14%左右,达到了保证高精度建筑物提取前提下模型轻量化的预期。

基于级联网络和残差特征的人脸特征点定位

为进一步提高人脸特征点定位精度,探究当前广泛用于人脸关键点定位的全卷积神经网络(FCN)架构的原理和缺陷,讨论FCN核函数在特征点定位中引入的副作用,即训练和测试时评判准则不一致的问题.理论分析该问题存在的可能性和普遍性,设计实验验证在实际场景下此问题存在的广泛性.提出结合残差特征的沙漏网络结构并将其应用于人脸特征点检测;提出多级沙漏网络的级联结构,并将其与经典的栈式沙漏网络进行对比分析.实验结果表明:二级级联结构获得了与四级栈式结构相当的特征点定位精度,大幅降低了模型参数量和时间复杂度.所提方法在300-W数据库的困难子集上的平均归一化误差为6.84%,优于已有最好方法.

嵌入NLB模块的FCN在轴承信号降噪中的应用

深度学习在故障诊断取得了显著的进展,然而其多为端到端的智能诊断,在信号降噪方面的应用较少。本文提出了一种基于全卷积神经网络(fully convolutional network,FCN)的降噪方法。首先,模型整体采用了encoder-decoder架构,其中encoder部分由三层卷积层组成,decoder部分由四层反卷积层组成。其次,引入了残差连接对模型的学习目标进行了约束,使得模型在传播过程中更多地关注噪声信息。并且为了增强模型的特征提取能力,在encoder和decoder中引入了非局部块(non-local block,NLB)。然后,通过仿真信号对比实验选择网络的超参数,与目前主流的降噪方法进行对比,初步验证模型的降噪效果。最后,通过实际案例对所提方法的降噪效果进行对比验证,结果表明本文提出的方法在直观观察和降噪性能指标方面均取得了良好的应用效果,能够有效提高故障诊断的准确率。

结合优化U-Net和残差学习的细胞膜分割

为提高果蝇第一龄幼虫腹侧神经索切片图像细胞膜分割精度,实现更为高效的自动化细胞膜分割,提出一种利用批量归一化优化并结合残差学习对图像分割精度进行提升的改进全卷积神经网络U-Net (ResU-Net)。将批量归一化(batch normalization,BN)应用在每一网络模块输出,减少网络内部协变量转移加速网络收敛;为丰富网络特征提取防止梯度消失,采用残差结构对特征进行映射并提升分割准确率。实验结果表明,相比较改进前的U-Net,该深度学习方法具有良好的泛化能力和较高的准确性。

基于多尺度残差FCN的时间序列分类算法

时间序列数据广泛存在于我们的生活中,吸引了越来越多的学者对其进行深入的研究.时间序列分类是时间序列的一个重要研究领域,目前已有上百种分类算法被提出.这些方法大致分为基于距离的方法、基于特征的方法以及基于深度学习的方法.前两类方法需要手动处理特征和人为选择分类器,而大多数的深度学习方法属于端到端的方法,并且在时间序列分类问题中表现出不错的分类效果.但是,目前基于深度学习的方法很少能够针对时间序列数据中时间尺度选择的问题对网络进行改进,在网络结构方面,很少将网络进行融合,从而更好地发挥各自的优势.为了解决这两类问题,提出一种多尺度残差全卷积神经网络(MRes-FCN)结构,用来处理时间序列问题.该结构主要分为数据预处理阶段、全卷积网络与残差网络结合的阶段.为了评价该方法的性能,在UCR的85个公开数据集上进行了实验,与基于距离的方法、基于特征的方法和基于深度学习的方法分别进行了比较.实验结果表明:所提出的方法较其他方法而言具有很好的性能,在多个数据集上优于大多数方法.

基于RV-FCN的CT肝脏影像自动分割算法

由于肝脏的大小、形状因人而异,且CT影像中肝脏与其毗邻器官的灰度对比值较低,难以精准地判断肝脏影像的边界信息。为此,提出一种基于全卷积神经网络(FCN)的改进算法,在FCN的基础上引入残差和VGG-16 网络,得到肝脏影像的初始分割结果。引入批归一化和PReLU激活函数,提高网络的泛化能力和收敛速度。采用条件随机场方法,进一步优化分割结果,提高分割准确率。通过VTK和ITK系统对二维肝脏影像进行三维重建。在3DIRCADb数据集上的实验结果验证了该算法的有效性和高效性。

复杂场景下基于R-FCN的小人脸检测研究

在复杂场景中准确检测出小的、模糊的和部分遮挡的人脸,仍是人脸检测算法存在的问题。为此,提出基于区域的全卷积网络R-FCN的人脸检测算法,来解决其中的小人脸检测问题。采用完全卷积残差网络ResNet作为主干网络,融合多种新技术,主要包括Squeeze-and-Excitation模块、残差注意力机制等,以提高最终的输出精度。在最具挑战性的人脸检测基准Widerface数据集上测试,结果表明该算法在复杂场景下具有出色的人脸检测效果,对部分遮挡,模糊、人脸姿态变化也具有一定鲁棒性。

光学遥感图像中舰船识别方法研究

光遥感图像舰船目标在检测识别过程中会存在诸多干扰,导致无法精准识别出舰船目标,对此,研究光学遥感图像中舰船识别方法。首先,在光学遥感图像内提取舰船目标显著性区域,抑制云雾、海杂波与海域陆地等背景信息对舰船目标识别的影响,完成光学遥感图像舰船目标的粗识别。然后,基于提取到的光学遥感图像显著性区域,利用CNN网络对其进行舰船目标精识别。实验结果表明,设计方法可以有效提取光学遥感图像的舰船目标显著性区域,并提取显著性区域的舰船目标特征;舰船目标识别精度始终高于95%,具有实用性。