基于多级联递进卷积结构的图像去雨算法

雨天图像会影响计算机视觉任务的效果与精度。雨天图像常常包含来自不同方向、大小、形状的雨点或雨痕,在对这些雨点、雨痕进行去除时,现有的方法往往没有考虑到雨天图像不同精细尺度下的特征信息,仅采用单一尺度进行图像去雨存在很大缺陷,无法恢复出足够清晰的视觉任务图像。受益于卷积神经网络架构的强大特征提取能力,本文提出了一种端到端的多级联递进卷积结构算子,该算子包含4层卷积层,通过阶梯化连接构成一个整体模块,该模块可以针对多尺度场景下的雨天进行特征提取并整合。将该算子模块嵌入到渐进循环网络结构中,利用循环结构多次去除雨纹,最终有效还原出接近真实图像的无雨图像。该方法在现有的人工合成雨图数据集Rain100H、Rain100L、Rain800与自动驾驶领域合成雨图数据集BDD1000上进行了对比实验。实验结果表明,该算法在4个数据集上的PSNR值达到了30.70,37.91,27.63,35.74 dB,SSIM值达到了0.914,0.980,0.894,0.977。通过真实雨图数据集去雨结果的可视化展示,充分验证了本文方法在去雨任务上的有效性。

基于连续非对称卷积结构的手写体数字识别

为了提高手写体数字识别的准确率,设计并提出了一种基于连续非对称卷积结构的手写体数字识别的深度学习算法.以连续非对称卷积结构为基础,结合极限学习机和MSRA初始化设计网络结构.在识别输入图像时,利用CUDA并行计算与Cudnn神经网络GPU加速库对手写体数字识别进行加速.在MNIST手写体数字数据库上进行实验,提出的网络结构识别准确率达到99.62%,单张图像识别速度为0.005 8 s.经实验结果对比表明,该网络结构在识别准确率和识别速度上得到有效提升.

轻量级(2+1)D卷积结构的动态手势识别研究

目前,基于卷积神经网络的动态手势识别方法取得了巨大的进展,但神经网络模型具有很大的参数量,计算成本和内存占用较大,很难应用在设备资源有限的场合.以减少计算量和参数量为出发点,提出了一种轻量级(2+1)D卷积结构.该结构在(2+1)D卷积结构的基础上,将其中的3D卷积替换为3D深度可分离卷积,在输出向量维度不变的前提下,进一步减少了(2+1)D卷积结构的计算量和参数量.为了弥补时空特征在表征动态手势上的不足,融合注意力机制模块,专注于对运动特征的提取,结合轻量级(2+1)D卷积结构提取的时空特征,可以更好地表征手势动作.实验结果表明,注意力机制模块的插入,在不增加太多额外计算和空间成本的前提下,进一步提高了模型的识别精度.基于以上结构构建的模型,在20BN-jester、EgoGesture和IsoGD数据集上分别取得了96.62%、91.83%和60.1%的识别精度,模型参数量和浮点计算量分别为5.05M和12.81GFLOPs,相比于其他手势识别模型,计算成本和内存占用大大减少,实时手势识别速度达到每秒70帧.

融合结构化卷积和双重注意力机制的轻量级眼底图像分割网络

眼底血管图像的自动分割对于多种眼科疾病的计算机辅助诊断具有重要作用.针对血管的尺度差异和图像噪声导致眼底血管图像分割困难、使用单一尺度卷积运算的深度学习方法获取的特征感受野有限,以及现有的方法复杂度过高的问题,提出一个融合结构化卷积和双重注意力机制的轻量级眼底图像分割网络.通过编码器增强、减少下采样次数和特征深度的编码-解码网络设计,实现参数量只有0.63M的轻量化网络.在编码阶段,提出一种结构化卷积方法,有效地避免了网络训练过拟合,提高了网络捕获差异化血管特征的能力;在解码阶段,采用基于空间和通道的双重注意力机制,使网络更加关注血管特征的上下文和几何空间信息,抑制病变等噪声的干扰.在DRIVE,CHASE_DB1和STARE数据集上进行实验的结果表明,所提网络图像分割的准确率分别为96.92%,97.57%和97.51%,灵敏度分别为83.68%,84.99%和84.87%,受试者曲线下的面积(AUC)分别为98.67%,99.05%和99.02%;并通过在DRIVE和STARE数据集上的交叉训练,验证了该网络的泛化能力.

基于FPGA的YOLOv5s网络高效卷积加速器设计

为提升在资源受限情况下的嵌入式平台上卷积神经网络(Convolutional Neural Network,CNN)目标识别的资源利用率和能效,提出了一种适用于YOLOv5s目标识别网络的现场可编程门阵列(Field Programmable Gate Array,FPGA)共享计算单元的并行卷积加速结构,该结构通过共享3×3卷积和1×1卷积的计算单元提高了加速器硬件资源利用率。此外,还利用卷积层BN(Batch Normalization)层融合、模型量化、循环分块以及双缓冲等策略,提高系统计算效率并减少硬件资源开销。实验结果表明,加速器在200 MHz的工作频率下,实现的卷积计算峰值性能可达97.7 GOPS(Giga Operations per Second),其YOLOv5s网络的平均计算性可达78.34 GOPS,与其他FPGA加速器方案相比在DSP效率、能耗比以及整体性能等方面具有一定的提升。

城市扩展元胞自动机多结构卷积神经网络模型

传统的城市扩展元胞自动机(CA)模型是基于单个元胞的变量信息挖掘来构建转换规则的。针对这一问题,本文基于多结构卷积神经网络提出从区域特征出发且顾及区域多尺度特征挖掘转换规则的城市扩展元胞自动机模型(MSCNN-CA),并以武汉主城区和上海浦东新区为例,模拟了两个试验区2005—2015年期间城市扩展过程。模型验证表明:与逻辑回归和神经网络相比,本文构建的3个单一结构的卷积神经网络元胞自动机(CNN-CA)模型在4个指标(Kappa系数、FoM(figure of merit)值、命中率(h)和错误率(m))上都有不同程度的提高。特别是FoM指数,在武汉主城区提高了23.3%~29.4%,在上海浦东新区提高了20.3%~28.5%。此外,MSCNN-CA模型与3个单一结构的CNN-CA模型相比,在各个指标上也有所改善,FoM指数在武汉主城区提高了0.8%~4.8%,上海浦东新区提高了2.8%~7.8%。两个试验区的模拟结果表明:相比传统CA模型,基于多结构卷积神经网络的城市扩展元胞自动机模型(MSCNN-CA)能够有效提高城市扩展模拟的精度,更真实地反映城市扩展空间演变过程。相比单结构的卷积神经网络CA模型,多结构卷积神经网络CA模型的稳定性和模拟结果准确性有所提升。

GMSDenseNet:基于组多结构卷积的轻量级DenseNet

提出了一种简单且高效的轻量级DenseNet模型,优化了原DenseNet模型中存在的参数冗余以及高额浮点运算数(FLOPs)的问题.首先,分析了现有流行的卷积计算单元的细节以及特性,其次,应用具有良好特性的卷积单元组合来设计组多结构卷积单元,构建轻量级DenseNet模型,进一步分析了该模型与原DenseNet模型的复杂度.通过实验结果给出所构建网络结构的最优配置,并得到使用DenseNet-40模型约18.8%的FLOPs以及28.4%的模型参数的情况下,准确率仅下降≤0.4%的结果.

基于RegNet-CSAM与ZOA-KELM模型的滚动轴承故障诊断

针对现有深度卷积神经网络对滚动轴承混合故障诊断效果不佳以及模型复杂度过高导致计算成本过大等问题,提出了一种基于RegNet-CSAM与ZOA-KELM模型的滚动轴承故障诊断方法。该模型由RegNet-CSAM网络和ZOA-KELM分类算法组成。首先,将融合了通道和空间特征的注意力机制CSAM与组卷积残差模块结合,提升该结构的表征能力,由此构建的RegNet-CSAM网络,模型复杂度为0.48GF;其次,在分类阶段将斑马优化核极限学习机(ZOA-KELM)替代原来网络中使用的Softmax函数完成最后的分类任务。滚动轴承故障诊断试验结果表明,RegNet网络对滚动轴承混合故障样本容易产生误判,CSAM的融入虽将RegNet网络的分类精度进一步提高,但是仍然存在一定程度的滚动轴承混合故障误判问题;而将ZOA-KELM替代Softmax函数后再对RegNet-CSAM网络输出特征进行分类,能够有效识别出滚动轴承的单一和混合故障,准确率达到了99.92%。所提方法对比其他网络,诊断精度最大提升5.02%,模型复杂度最大缩减32倍。

应用改进卷积神经网络的网络安全态势预测方法

针对神经网络态势预测模型训练复杂度高的问题,提出了一种基于改进卷积神经网络的态势预测方法。结合深度可分离卷积与分解卷积技术的优点,提出了一种基于复合卷积结构的改进型卷积神经网络安全态势预测模型,实现了态势要素和态势值的映射。实验仿真结果证明,相比于已有的典型预测方法,该方法明显降低了复杂度,减少了预测时间,并提升了预测准确率。

融合门控变换机制和GAN的低光照图像增强方法

针对低光照图像增强过程中存在的配对图像数据依赖、细节损失严重和噪声放大问题,提出结合门控通道变换机制和生成对抗网络(GAN)的低光照图像增强方法AGR-GAN,该方法可以在没有低/正常光图像对的情况下进行训练。首先,设计特征提取网络,该网络由多个基于门控通道变换单元的多尺度卷积残差模块构成,以提取输入图像的全局上下文特征和多尺度局部特征信息;然后,在特征融合网络中,采用卷积残差结构将提取的深浅层特征进行充分融合,再引入横向跳跃连接结构,最大程度保留细节特征信息,获得最终的增强图像;最后,引入联合损失函数指导网络训练过程,抑制图像噪声,使增强图像色彩更自然匀称。实验结果表明,该方法在主观视觉分析和客观指标评价方面相较其他算法均具有显著优势,其能有效提高低光照图像的亮度和对比度,减弱图像噪声,增强后的图像更清晰且色彩更真实,峰值信噪比、结构相似度和无参考图像质量评价指标平均可达16.48 dB、0.93和3.37。

考虑时空耦合特性的非侵入式综合能源系统多能设备负荷辨识方法

为了提升非侵入式综合能源系统多能设备负荷辨识的准确性,在充分考虑多能负荷时空耦合特性的基础上,提出了一种基于改进滑动窗口双边累计和(cumlative sum,CUSUM)、图半监督学习(graph semi supervised learning,GBSSL)和改进胶囊网络(improve capsule network,ICapsNet)的非侵入式综合能源系统多能设备负荷辨识方法。首先,引入自适应噪声值选取方法对滑动窗口双边CUSUM算法进行改进,并利用改进后的算法进行事件检测,之后通过GBSSL标记未标记的样本;其次,在CapsNet的基础上,改进相似度和加权求和计算方法,利用残差块结构卷积网络替代原卷积模块,并将极化自注意块引入主胶囊模块,构建ICapsNet;最后,利用不同的非侵入负荷辨识方法对采集的10 150个综合能源负荷数据进行负荷辨识,验证所提方法的优越性。实验结果表明:所提方法相较于BI-GRU、Bagging EL和DNN等主流非侵入负荷辨识方法,P_(recision)、R_(ecall)、F_(macro)和BA指标分别平均提高了1.77%、2.14%、1.94%和1.26%。由此可知所提方法对能够精准地辨识非侵入式综合能源系统多能设备负荷,且具有良好的运算效率和通用性。

基于多任务长短时卷积计算网络的降雨预测

为提高降雨预测的准确率,解决现有深度学习降雨预测模型缺乏对多站点气象数据时空关系建模能力的问题,提出基于多任务学习和改进的长短时卷积计算网络降雨预测模型(MTL-LSTC)。在长短时记忆网络内部的输入到状态和状态到状态的转换过程加入卷积运算结构,对气象序列数据进行编码,结合多任务学习方法提取出站点间隐藏的交互信息,建立站点间相关性模型,实现基于多站点气象数据的降雨预测。模拟实验结果表明,MTL-LSTC模型预测结果准确率更高且模型更高效,多站点气象数据的利用率也得到较大提升。

基于改进DDRNet网络的遥感影像山体滑坡识别

山体滑坡是一种极具毁灭性的自然灾害,滑坡灾害识别和调查是预防灾害工作的重要基础。传统山体滑坡识别方法、识别精度和自动化程度均较低,为此,本文提出一种基于深度学习分割网络的山体滑坡识别算法。首先,使用双分辨率网络模型作为主干网络,然后在主干网络中添加卷积注意力机制模块,以增加模型对滑坡特征提取能力,最后在训练阶段添加辅助损失函数,以增加模型对滑坡特征拟合能力。实验表明:与常用的分割模型相比,准确率、召回率、F1得分和平均交并比均有5%左右提升,参数量下降2/3左右;表示所提模型具有较好的滑坡检测能力,可高效精确定位滑坡位置。

基于注意力机制轻量化模型的植物病害识别方法

针对现有植物病害识别模型存在响应速度慢、参数量多、计算机内存资源消耗大等问题,本研究提出了一种轻量化神经网络模型,该模型由特征提取层、特征增强层和分类器组成。为了减小模型大小并提高网络响应速度,在特征提取层中使用深度可分离卷积进行特征提取。为了防止网络传播过程中的梯度消失并增强病害像素特征融合,在特征提取层中引入了大卷积核倒置残差结构(IRBCKS)模块。此外,在特征增强层集成了轻量级卷积块注意力模块(CBAM)注意力机制,以捕捉植物病害相关图像中像素之间的关系,增强关键信息的提取。最后,采用剪枝技术剔除模型中冗余特征信息,从而再次减少模型参数量,形成最终的轻量级网络模型Cut-MobileNet。为验证该模型的先进性,将其与轻量化模型(MobileNet V2、SqueezeNet、GoogLeNet)和非轻量化模型(Vision Transformer、AlexNet)进行性能对比,研究结果表明,Cut-MobileNet在浮点运算量、准确率、单张图片推理时间、参数量、F1值和模型大小等性能指标上都取得了较优的效果。

基于深度卷积稀疏编码的人脸识别算法研究

人脸识别技术已广泛应用在很多领域,但仍有很多问题亟待解决.本文主要针对深度卷积稀疏编码人脸识别算法进行研究,首先对卷积稀疏编码和人脸识别系统进行分析,然后基于深度卷积稀疏编码对现有人脸识别技术进行实验优化,希望能够为相关研究提供借鉴.

基于注意力卷积的神经机器翻译

现有神经机器翻译模型普遍采用的注意力机制是基于单词级别的,文中通过在注意力机制上执行多层卷积,从而将注意力机制从基于单词的级别提高到基于短语的级别。经过卷积操作后的注意力信息将愈加明显地体现出短语结构性,并被用于生成新的上下文向量,从而将新生成的上下文向量融入到神经机器翻译框架中。在大规模的中-英测试数据集上的实验结果表明,基于注意力卷积的神经机翻译模型能够很好地捕获语句中的短语结构信息,增强翻译词前后的上下文依赖关系,优化上下文向量,提高机器翻译的性能。

基于结构化学习的车辆行为分析

人工智能的快速发展促使交通领域的研究走向智能化,基于视觉的车辆行为分析成为一个活跃且具有挑战性的研究领域.然而,现有方法只是对车辆行为进行简单分类,缺乏对车辆行为的结构化分析.受结构化学习启发,本文提出基于结构化学习的车辆行为分析方法.即采用能够捕捉车辆行为显著视觉信息的结构化标签表征车辆瞬时行为状态,结构化标签中同时包含车辆行为趋势和行为程度2个信息.为验证所提方法的可行性,本文将结构化标签分别与深度森林和卷积神经网络相结合,构建了结构化深度森林模型和结构化卷积神经网络模型.初步实验结果验证了对车辆行为进行结构化分析的有效性.

金属表面缺陷检测方法YOLOv3I

提出一种金属表面缺陷检测方法的改进模型.首先,基于YOLOv3(you only look once v3)目标检测模型,使用多尺度卷积并行结构,提取、融合多尺度特征;其次,使用高效下采样,在保留特征信息的同时减少特征升维的计算量;最后,使用空间可分离卷积,在保持感受野不变的前提下增加模型的宽度与深度,从而得到模型参数量减少、同时提升了模型性能的改进模型YOLOv3I(you only look once v3 inception).改进模型提高了对复杂缺陷的特征提取能力,并进一步降低了对硬件配置的要求.实验结果表明,改进模型在精度与计算效率上均有明显提升.平均准确率在公开数据集上约提高5%,在企业提供的轴承数据集上约提高3%,模型参数量下降超过20%,两个数据集上模型浮点计算量分别减少1.6×10^(9)和1.2×10^(10)次.

基于改进RDN网络的无人机茶叶图像超分辨率重建

针对无人机搭建可见光传感器进行茶叶长势、病害等监测中因飞行高度影响图像分辨率的问题,本文提出了一种改进的残差密集网络(Residual dense network,RDN)用于无人机茶叶图像超分辨率重建。针对无人机茶叶图像纹理复杂的特点,以RDN为基线网络,在其结构中引入了残差组(Residual group,RG)模块,将多个残差通道注意力模块(Residual channel attention block,RCAB)组合在一起,通过引入注意力机制来区别对待不同的通道,关注无人机茶叶图像高频细节信息,从而提高网络的表征能力;同时设计了一个卷积长跳跃结构,利用带有卷积的远程跳跃连接,动态调整经过残差密集块(Residual dense block,RDB)后特征的权重,更好地利用无人机茶叶图像的分层特征信息,从而提升超分辨率重建图像的质量。实验结果表明,本文改进的RDN网络在无人机茶叶图像测试集上相较于其他算法表现更优,超分辨率重建后的图像具有更高的峰值信噪比和结构相似度,在4倍超分的情况下分别达到36.03 dB和0.9132,能够为茶叶智能化监测研究提供支持。

基于MobileNet-SSD的实时目标检测方法研究

针对深度学习技术在目标检测中的持续升级,特别是其检测精度提高导致模型参数过多的问题,提出了一种基于轻量级卷积神经网络MobileNet-SSD的实时目标检测方法。结合深度可分离卷积和非瓶颈自由残差模块构建新模块,并使用深度可分离卷积结构替换SSD网络的VGG骨干网络来提取特征,从而达到减少参数和提高速度的目的。在低照度目标检测数据集ExDark上进行了实验,验证了方法的有效性和优越性,并在Android平台上部署,验证了可扩展性。该方法是一种在减少参数的同时提高检测速度的实时目标检测方法,对嵌入式系统应用具有较高价值。