结合卷积神经网络与多层感知机的渐进式多阶段图像去噪算法

现有基于深度学习的图像去噪方法中,在网络架构层面存在单阶段网络特征表达能力不足而难以在复杂场景下重构清晰图像,以及多阶段网络内部特征连接不紧密而容易丢失原始图像细节的问题。在基础构建块层面,存在卷积层难以处理较大噪声级别下的跨层次特征,以及全连接层难以捕获图像邻域空间细节的问题。为解决以上问题,从两方面提出解决方法:一方面,在架构层面提出新颖的跨阶段门控特征融合,从而更好地连接一阶段网络的浅层特征与二阶段的深层特征,促进信息流的交互并使得去噪网络内部关联更为紧密,同时避免丢失原始像素细节;另一方面,在基础构建块层面提出结合卷积神经网络和多层感知机特性的双轴特征偏移块,作用于低分辨率多通道数的特征图,从而缓解卷积网络在复杂噪声场景下难以捕获跨层次特征依赖关系的问题,对于高分辨率、少通道数的特征图,使用卷积网络以充分提取噪声图像的空间邻域依赖关系。大量定量与定性实验表明,所提算法在真实世界图像去噪和高斯噪声去除任务中,都以较小的参数量和计算代价取得了最佳的PSNR和SSIM。

联合中间层的深度卷积神经网络模型

针对当前卷积神经网络(Convolutional Neural Networks,CNN)模型通常将网络最后一层的输出作为特征表示,未能充分利用网络中间层的不足,提出了一种联合中间层的CNN模型(Intermediate Layers Connected-CNN,ILC-CNN)。该模型以AlexNet为基础,首先联合前、中、末端卷积层,通过深度连接方式连接;接着通过池化层、全连接层等操作得到描述图像的特征向量;通过辅助分类器训练方式保证了中间层特征的有效性,使模型得以成功训练。测试结果表明,该模型在图像分类与识别任务中效果显著,其提取的特征更具辨识度,具有比其他模型更高的识别精度。

多层卷积神经网络深度学习算法可移植性分析

在现实环境下,出现恶意用户或攻击者对机器学习算法的攻击;在应用过程中,机器学习算法也会受到物体形状、位移、尺度、光照、背景等因素的影响。针对这些使用过程中所产生的安全性问题,本文提出了基于多层卷积神经网络深度学习算法的图像识别方法,并对其可移植性进行分析,通过对抗性训练提高模型泛化能力来防御对抗样例攻击。针对可用性攻击,在前向传播过程中,采用训练好的多层卷积神经网络深度学习模型自动提取输入图像特征,并利用模型权值共享、更新、下采样等操作对输入图像做降采样处理,降低计算复杂度;在反向传播过程中,利用delta法则和Fisher准则,以及基于类内距离和类间距离的能量约束函数实时调整多层卷积神经网络深度学习模型参数,计算模型输出层各个输出单元的残差,使模型权值能够更加快速收敛到有利于图像识别的最优值。测试结果表明:多层卷积神经网络深度学习算法在图像识别领域的应用具有识别准确率和鲁棒性较高,耗时较短的优点,从理论和实验2方面证明了算法的可移植性。

融合浅层特征的深度卷积神经网络互花米草遥感监测方法

基于2018年10月份黄河口入海两侧的LANDSAT8 OLI影像,提取植被指数和缨帽变换分量共9维光谱特征,构建融合浅层特征的8层深度卷积神经网络(deep convolutional neural network,DCNN)分类模型,开展互花米草(Spartina alterniflora Loisel)遥感监测的方法研究,并从不同的浅层特征来具体分析互花米草的监测结果。结果表明:(1)在分类方法上,DCNN模型的总体分类精度最高,达到90.33%,与支持向量机(support vector machine,SVM)、随机森林(random forest,RF)分类器相比,精度分别提高4.78%、2.7%,互花米草的生产者精度分别提高了2.56%、0.47%,说明在滨海湿地遥感影像分类中,DCNN有着更好的应用潜力;(2)融合浅层特征后,DCNN的总体分类精度和互花米草的识别精度分别提高了0.34%和3.25%,有效提高了对互花米草的监测能力。其中,融合归一化植被水分指数(NDII)浅层特征的DCNN分类方法中,互花米草的识别精度提高最多,为2.56%,比值植被指数(RVI)次之,为2.32%。研究结果可为互花米草的监测与管理提供技术与数据支撑。

深度卷积神经网络图像实例分割方法研究进展

图像实例分割是图像处理和计算机视觉技术中关于图像理解的重要环节,随着深度学习和深层卷积神经网络日趋成熟,基于深度卷积神经网络的图像实例分割方法取得了跨越性进展。实例分割任务实际上是目标检测和语义分割两项任务的结合,可以在像素层面完成识别图像中目标轮廓的任务。实例分割不仅可以定位图像中目标的位置,从像素层面上分割所有目标,还可以标注出图像中同一类别的不同个体,既是对图像的像素级分割,又是实例级理解。首先,阐述了图像实例分割产生的原因和深度卷积神经网络的作用。然后,根据图像实例分割方法的过程和特征,分别从两阶段和单阶段的角度介绍了图像实例分割的研究进展,详细阐述了两类方法的优势和不足,进而总结了各类实例分割方法对区域、特征提取和掩膜的设计思路。此外,归纳了图像实例分割方法的性能评价标准和常用的公开数据集,并在此基础上对比和评估了主流的图像实例分割模型的分割精度。最后,指出了当前图像实例分割存在的问题及解决思路,并对其未来发展进行了总结和展望。

基于卷积神经网络和叠加速度谱的地震层速度自动建模方法

CMP道集NMO叠加速度分析拾取的时间速度对不仅受到水平层状介质假设的限制,而且在复杂构造低信噪比数据的适用性方面受到限制。提出了基于卷积神经网络和叠加速度谱的地震层速度自动建模方法,不拾取时间速度对,而是将速度谱作为神经网络的输入数据,将时间域层速度作为标签数据,通过模拟大量随机速度模型和加入随机噪声建立强化测试集,基于L1正则化对卷积神经网络进行训练,得到可直接将速度谱映射为时间域层速度的神经网络模型。将时间域层速度作为标签数据可以增强速度谱和速度模型的空间匹配,使得速度谱与速度模型的空间映射更加紧密和有效。将速度谱作为神经网络模型的输入数据,代替了速度谱时间速度对的拾取,能够较好地克服复杂构造、噪声干扰对速度谱能量团聚焦性的影响。大量随机速度模型和随机噪声强化测试集,增强了深度学习速度建模网络的泛化能力和实用性。模型数据和实际资料测试结果表明,该卷积神经网络模型能够适应复杂低信噪比地震资料的自动速度建模,建模精度与人工拾取结果相当,建模效率提高100倍以上。

利用深度卷积神经网络将耳语转换为正常语音

耳语是一种特殊发音方式,将耳语转换为正常语音是提升耳语质量和可懂度的关键方法。为了充分利用语音的频域和时域相关性实现耳语转换,提出了使用深度卷积神经网络(Deep Convolutional Neural Networks,DCNN)将耳语转换为正常语音。它的卷积层用来提取连续帧语音谱包络之间的频域与时域的相关特征,而全连接层用来拟合耳语在卷积层提取的特征和对应正常语音之间的映射关系。实验结果表明与深度神经网络(Deep Neural Networks,DNN)模型相比,DCNN模型获得的转换后语音的梅尔倒谱失真度(Cepstral Distance,CD)降低了4.64%,而语音质量感知评价(Perceptual Evaluation of Speech Quality,PESQ)、短时客观可懂度(Short-Time Objective Intelligibility,STOI)与平均主观意见分(Mean Opinion Score,MOS)分别提高了5.41%,5.77%,9.68%。

采用跳层卷积神经网络的RGB-D图像显著性检测

RGB-D图像显著性检测旨在提取三维图像中的显著目标。为解决当前显著性检测算法难以检测出光线干扰场景内的目标和低对比度的目标等问题,提出了基于跳层卷积神经网络的RGB-D图像显著性检测方法。利用VGG网络分离出RGB图像和深度图像的浅层与深层特征,而后进行特征提取;以跳层结构为基础连接提取到的特征,实现融合深度、颜色、高级语义和细节信息的目标,同时生成侧输出;将侧输出进行融合,得到最佳的显著性检测图。实验结果表明,相比于深度监督显著性检测和渐进式互补感知融合显著性检测方法,在F值指标上分别提高了0.095 3和0.060 6,在平均绝对误差指标上降低了0.026 7和0.058 1。

基于多层特征融合可调监督函数卷积神经网络的人脸性别识别

为了进一步提高性别识别的准确率,提出了一种基于多层特征融合与可调监督函数机制结合的卷积神经网络(L-MFCNN)模型,并将之用于人脸性别识别。与传统卷积神经网络(CNN)不同,L-MFCNN将多个浅层中间卷积层特征输出与最后卷积层特征输出相结合,融合多层卷积层的特征,不仅利用了深层卷积的整体语义信息,还考虑了浅层卷积的细节局部纹理信息,使得性别识别更加准确。此外L-MFCNN还引入具有可调目标监督函数机制的large-margin softmax loss作为输出层,利用其调节不同的间隔(margin)的机制来有效引导深层卷积网络学习,使得同种性别间的类内间距更小,不同性别间的类间距更大,获得更好的性别识别效果。在多个人脸数据集上的性别识别实验结果表明,L-MFCNN的识别准确率要高于其他传统的卷积网络模型。L-MFCNN模型也为将来的人脸性别识别研究提供了新的思路与方向。

卷积神经网络支持下的低空摄影测量DEM修补

针对低空摄影测量DEM生成大多需要人工后处理存在自动化程度较低的问题,结合深度学习算法,提出卷积神经网络支持下的低空摄影测量DEM自动修补方法。该方法构建卷积神经网络低空遥感分类模型识别DEM修补目标区,采用高差能量衰减函数寻找最优的关联高程数据集,利用抗差径向神经网络高程曲面拟合法修补目标区高程值,以实现低空摄影测量DEM自动修补。实验验证了该方法可达到人工后处理DEM的精度,且显著提高了DEM修补的自动化程度。

基于改进卷积神经网络的多标记分类算法

良好的特征表达是提高模型性能的关键,然而当前在多标记学习领域,特征表达依然采用人工设计的方式,所提取的特征抽象程度不高,包含的可区分性信息不足。针对此问题,提出了基于卷积神经网络的多标记分类模型 ML_DCCNN,该模型利用卷积神经网络强大的特征提取能力,自动学习能刻画数据本质的特征。为了解决深度卷积神经网络预测精度高,但训练时间复杂度不低的问题,ML_DCCNN利用迁移学习方法缩减模型的训练时间,同时改进卷积神经网络的全连接层,提出双通道神经元,减少全连接层的参数量。实验表明,与传统的多标记分类算法以及已有的基于深度学习的多标记分类模型相比,ML_DCCNN保持了较高的分类精度并有效地提高了分类效率,具有一定的理论与实际价值。

卷积神经网络训练访存优化

虽然批归一化算法能有效加速深度卷积网络模型的收敛速度,但其数据依赖性复杂,训练时会导致严重的“存储墙”瓶颈。故对使用批归一化算法的卷积神经网络,提出多层融合且重构批归一化层的训练方法,减少模型训练过程中的访存量。首先,通过分析训练时批归一化层的数据依赖、访存特征及模型训练时的访存特征,分析访存瓶颈的关键因素;其次,使用“计算换访存”思想,提出融合“卷积层+批归一化层+激活层”结构的方法,并基于批归一化层的计算访存特征,将其重构为两个子层,分别与相邻层融合,进一步减少训练时对主存的读写,并构建了训练时的访存量模型与计算量模型。实验结果表明,使用NVIDIA TESLA V100 GPU训练ResNet-50、Inception V3及DenseNet模型时,同原始训练方法相比,其访存数据量分别降低了33%,22%及31%,V100的实际计算效率分别提升了20.5%,18.5%以及18.1%。这种优化方法利用了网络结构与模型训练时的访存特点,可与其他访存优化方法协同使用,进一步降低模型训练时的访存量。

基于MLP改进型深度神经网络学习资源推荐算法

针对在线学习过程中出现的知识过载及传统推荐算法中存在的数据稀疏和冷启动问题,提出了一种基于多层感知机(MLP)的改进型深度神经网络学习资源推荐算法。该算法利用多层感知机对非线性数据处理的优势,将学习者特征和学习资源特征进行向量相乘的预测方式转换为输入多层感知机的方式,改进了DN-CBR神经网络推荐模型。为验证模型的有效性,以爱课程在线学习平台数据为样本构建数据集,通过对比实验表明,在该数据集上,改进后模型相较于DN-CBR模型在归一化折损累积增益和命中率指标上分别提升了1.2%和3%,有效地提高了模型的推荐性能。

图像识别中的卷积神经网络应用研究

传统图像识别方法存在自适应能力弱的问题,如果待识别对象存在较大残缺或者其他外在噪声干扰,模型则无法获得理想结果。最早在图像处理中成功应用的深度学习是人工智能中非常重要的部分。在图像处理中,带有卷积结构的多层网络的卷积神经网络被加拿大教授及其小组成员提出并优化。在其过程有了突破性发展的情况下,利用卷积神经网络完成了图像识别的设计用以增加模型对图片的识别准确率和在线运算速度,同时减少图像大量特征的提取工作,在识别系统中通过运用随机梯度下降法对系统进行优化,加快模型收敛。根据试验结果,采用卷积神经网络设计的训练模型,对数据集识别的准确率可达到96%,为大规模图像分类更好地发展提供基础支持。

结合批归一化的轻量化卷积神经网络分类算法

传统的深度卷积神经网络结构复杂,参数量多.针对现有的轻量化卷积神经网络模型结构,提出一种改进的轻量化卷积神经网络BN-MobileNet.采用模型压缩的方法对原结构进行缩减,减少冗余参数,再对深度可分离卷积的结构进行改进,在relu非线性激活层后加入归一化层来对非线性激活层所输出的数据进行归一化处理.同时,使用全局平均池化层来代替全连接层,减小模型结构的复杂度和参数量.通过在标准的分类数据集cifar10和cfar100上进行实验,实验结果表明,本文提出的改进模型能够降低运行的时间和模型的大小,提高了检测的速度,在标准分类数据集上的分类准确率各有2.68%和3.16%的提升.

基于优化卷积神经网络的图像超分辨率重建

传统的图像超分辨率重建方法由于其计算局限性,无法对大批量或者模糊因子不同的图像做最优处理,也无法得出高分辨率图像。近年来随着深度学习神经网络越来越多被学者关注和青睐,其中卷积神经网络被成功应用于图像超分辨率重建。但是传统的图像超分辨率卷积神经网络,无论在训练速度,泛化能力,还是生成图像质量等方面仍存在问题。针对上述问题,对图像超分辨率重建的原理进行研究,对SRCNN模型在多种训练通道下的超分辨率效果进行了实验,并提出了基于多层特征提取层的图像超分辨率重建模型,采用新的优化方法,验证了多种包含不同层数体征提取层的卷积神经网络模型。实验证明该方法在一定程度上优于SRCNN方法,能够有效加快网络整体的训练速度。

基于卷积神经网络的图像识别系统

卷积神经网络是人工神经网络与深度学习相结合,从而实现深度学习的方法.其具有良好的容错性、自适应性以及较强的自学习能力,还具有自动提取特征、权值共享以及输入图像与网络结构结合良好等优势.基于卷积神经网络和深度学习的图像识别系统,首先对不同的图像进行采集,将采集的得到的结果作为训练集和测试集.通过卷积神经网络对采集结果的训练,得到用来识别的各类特征,识别的结果可以得到图像的类别信息.

基于全卷积神经网络的红外弱小目标检测

为解决传统红外弱小目标检测虚警率较高的问题,提出了一种基于局部均值差分和深度神经网络的红外弱小目标检测算法。首先,利用改进的局部均值差分算法从输入图像中提取候选目标区域;然后设计了基于全卷积神经网络的分类器对候选区域进行判别。网络中引入了参数化非线性激活层,有助于提升网络的分类性能。实验表明该文算法对典型天空和地面背景下红外弱小目标的准确率和召回率分别达到了100%和99.6%,明显优于传统算法。

基于深度神经网络的电网设备铭牌识别方法

为实现电网组织结构的全局路径规划,提出基于深度神经网络的电网设备铭牌识别方法。按照主要网络体系的连接要求,设置调节电网编码器及电力卷积层结构,完成基于深度神经网络的电网架构匹配处理。在此基础上,实施铭牌字符预处理技术,结合候选字符的识别与排列标准,建立集中性的识别规则,实现基于深度神经网络电网设备铭牌识别方法的顺利应用。对比实验结果表明,与OpenCV识别手段相比,应用新型识别方法后,单位时间内累积的电子数据总量开始大幅下降,铭牌信息定位精准性也提升至90%以上,整个电网组织结构的全局路径规划问题得到有效解决。

基于卷积神经网络的能见度估算

一直以来,如何准确便捷地监测能见度都是减少交通事故工作关注的重点所在,而传统的使用能见度仪检测能见度存在造价高、范围小等缺陷。随着深度学习研究的不断发展,使用深度学习估算能见度也变成现实。本文建立了一种VGGnet 16卷积神经网络模型,经过Dropout(丢弃层)和数据增强优化后,使用监控图像及其对应的能见度值对其进行训练。结果表明,优化后的模型能有效提升训练精度,在小数据集上也能实现非常好的能见度估算效果。