ED-NAS:基于神经网络架构搜索的陶瓷晶粒SEM图像分割方法

为了提高深度卷积神经网络(Convolutional Neural Network,CNN)设计的自动化程度并进一步提高陶瓷晶粒扫描电子显微镜(Scanning Electron Microscope,SEM)图像分割的准确性,提出了一种基于神经网络架构搜索的陶瓷晶粒图像分割方法 .该方法设计多分支结构编码空间和链式结构解码空间,并构造多分支结构编码Cell和链式结构解码Cell;同时基于强化学习分别搜索最佳编码Cell和解码Cell;此外,基于编码-解码神经网络架构堆叠最佳Cell构建陶瓷晶粒图像分割CNN,并采用池化索引在解码阶段恢复丢失的细节信息.实验在包含了629张的陶瓷晶粒SEM图像数据集上进行,搜索最佳Cell耗时约148 GPU-时.与U-Net、SegNet等SOTA方法相比,该方法在陶瓷晶粒测试集上获得了更高的分割准确性(mIoU≈68.9%).

基于编码-解码神经网络遥感图像语义分割应用研究

图像分割的实现经历了从传统方法到神经网络方法的演变。本文从图像分割的发展过程入手,介绍了图像分割与语义分割的区别,对最近几年传统图像分割方法在遥感图像分割领域的应用进行梳理分析,总结了传统遥感图像分割方法的不足。基于此,归纳了几种经典编码-解码神经网络架构在遥感图像语义分割领域的应用,对其改进方式进行了综合性分析,并对其未来的发展趋势进行展望。

基于编解码深度神经网络的交通流预测模型

本文提出了一种基于编码器-解码器结构的深度神经网络模型。在经典的编解码模型基础上,基于长短时记忆网络模型并扩展时间注意力学习机制,以自动学习交通流相关序列数据中的隐含表示和非线性相关深度特征,实现端到端的变长交通流序列预测,并扩展注意力机制以提升模型的预测性能。基于真实的交通流数据集进行了对比实验分析,实验结果表明所提出的交通流预测模型相比基准模型具有更优的预测准确率。

基于空洞卷积神经网络的毒株胚蛋裂纹分割

针对工厂机械设备的噪声和振动、胚蛋蛋壳表面的污斑和裂纹大小、光源打光方式会对裂纹检测产生严重影响,提出一种基于密集空洞卷积模块(DACM)与空洞空间金字塔池化结构(ASPP)的卷积神经网络(CNN)分割方法分割胚蛋裂纹。采用编码器-解码器网络结构与密集连接的空洞卷积结合,增强空间信息表示并重建不同尺度目标信息;同时,在网络浅层引入ASPP,获取多尺度特征,增强细节信息,提高网络分割性能。结果表明:在自制毒株胚蛋顶部裂纹与侧面裂纹数据集上,该方法的平均交并比(MIoU)分别达到了74.2%与81.3%,具有较强的鲁棒性。

深度神经网络图像描述综述

深度学习的迅速发展使得图像描述效果得到显著提升,针对基于深度神经网络的图像描述方法及其研究现状进行详细综述。图像描述算法结合计算机视觉和自然语言处理的知识,根据图像中检测到的内容自动生成自然语言描述,是场景理解的重要部分。图像描述任务中,一般采用由编码器和解码器组成的基本架构。改进编码器或解码器,应用生成对抗网络、强化学习、无监督学习以及图卷积神经网络等方法能有效提高图像描述算法的性能。对每类方法的代表模型算法的效果以及优缺点进行分析,并介绍适用的公开数据集,在此基础上进行对比实验。对图像描述面临的挑战以及未来工作的发展方向做出展望。

基于降噪循环神经网络的风电功率预测

针对风电功率数据的时序性特点,提出降噪循环神经网络模型对电场中短期内的风电功率进行预测.通过模型能够挖掘其蕴含的知识,提高电力系统的稳定性,优化电力调度.模型首先采用循环神经网络构建一个编码-解码结构,设计编码器从序列变量中获取相应的深度特征,再通过解码器对深度特征进行解码,还原输入序列的状态并预测下一时刻的输出.进而,模型在解码器中设计降噪模块和预测模块,克服一般循环神经网络难以对带噪声数据进行预测的问题,使得模型能够对含有噪声的输入变量进行分析.通过利用电力物联网所采集的数据进行实验,结果证明提出的方法能很好地对风电功率进行预测,达到较好的预测效果.

改进编码-解码框架下的跨站脚本检测

为解决传统机器学习方法特征提取工作艰难导致对跨站脚本检测性能有限的问题,提出应用注意力机制改进编码-解码框架的方法并以此建立模型检测跨站脚本。由卷积神经网络和双向门控循环单元网络并行构成编码器,既考虑输入数据上下文信息,又充分提取有效特征;使用注意力机制解决传统编码-解码框架的“分心问题”;使用门控循环单元网络构成解码器,使用分类器进行分类检测。在收集到的数据集上进行仿真实验,验证了模型的有效性和性能优势。

基于跨层次聚合网络的实时城市街景语义分割

随着自动驾驶技术的迅速发展,精确高效的场景理解显得尤为重要。城市街景语义分割旨在准确识别并分割出行人、障碍物、道路和标志物等要素,为自动驾驶技术提供必要的道路信息。然而,当前的语义分割算法在城市街景分割中仍然面临一些挑战,主要表现为不同类别的像素区分不够清晰、对于复杂场景结构的理解不够精准以及对小尺度对象或大尺度结构的分割不准确等问题。为此,本文提出一种基于跨层次聚合网络的实时城市街景语义分割算法。首先,在编码器末端设计了结合跨层次聚合的金字塔池化模块,用于高效提取多尺度上下文信息;其次,在编码器和解码器之间设计了跨层次聚合模块,通过引入通道注意力机制增强信息的表征能力,逐级聚合编码器阶段的特征以充分实现特征复用;最后,在解码器阶段设计了多尺度融合模块,在通道维度聚合全局信息与局部信息,促进深层特征与浅层特征的融合。将所提算法在两个通用的城市街景数据集上进行了验证。在一张RTX3090显卡上(TensorRT测速环境),本文算法在Cityscapes测试集以294 FPS的实时性达到73.0%mIoU的准确性,在更高分辨率的图像上以164 FPS的实时性达到75.8%mIoU的准确性;在CamVid数据集以239 FPS的实时性达到74.8%mIoU的准确性。实验结果表明,本文算法在准确性与实时性之间取得了有效平衡,对比其他算法的语义分割性能具有显著提升,为实时城市街景语义分割领域带来了新的突破。

RNN编码器-解码器在维汉机器翻译中的应用

将RNN编码器-解码器作为传统的基于短语的PSMT系统的一部分,在传统统计机器翻译基础上,集成RNN解码器-编码器,兼容PSMT创建了新联合模型(RNN+PSMT)。新的模型不仅在维-汉、汉-英机器翻译的应用中取得了成效,而且能够捕捉到语言的规律,使得机器翻译中的一个重要评价指标的BLEU值得到了显著提高。实验结果表明,系统的整体性能超过了传统统计机器翻译。

基于神经网络的智能外语翻译机器人语义纠错系统

针对传统语法错误纠正系统存在并行化程度低的问题,提出以神经语法错误纠正基线模型为基础模型,在基于循环神经网络编码器-解码器基础上对其进行改进,并构建一个基于自注意力机制的语法错误纠正模型—Transformer,通过此模型提升语法纠正效果。实验结果表明,Transformer模型在对冠词、名词、介词、形容词等语法错误进行纠错时,其纠错召回率明显高于传统的MLConv模型,且本模型的计算并行化程度更高。由此说明,基于自注意力机制的语法错误纠正模型性能更为优越,构建的Transformer系统在语法错误纠正中具有可行性。

基于改进U-Net网络的腺体细胞图像分割算法

针对腺体图像在自动分割过程中由于多尺度目标和信息丢失影响导致准确率降低的问题,文中采用了一种引入注意力模块的全卷积神经网络模型。该模型遵循编码器-解码器结构,在编码网络中用空洞残差卷积层代替原有的普通卷积层,并添加空洞金字塔池;再在解码网络中加入注意力模块,使模型输出高分辨率特征图,提高对多尺度目标的分割精度。实验结果表明,提出的网络模型参数少分割精度高,对腺体图像的平均分割精度高达89.7%,具有较好的鲁棒性。

基于MSCNN-LSTM编解码器的飞机辅助动力装置EGT预测模型

针对提高飞机辅助动力装置(auxiliary power unit,APU)排气温度(exhaust gas temperature,EGT)参数的预测精度问题,提出了一种基于特征选择和多尺度卷积-长短期记忆网络编码器-解码器的EGT预测模型。首先,利用随机森林方法确定重要度较高的APU监测参数;其次,利用多尺度卷积神经网络能够提取信号深度特征和LSTM网络能够学习序列长时间依赖的特性,建立了编码器-解码器预测模型;最后,以某型APU实时报文数据为例,通过与其他方法进行对比验证了模型的可行性,能够提高EGT预测的准确度。

神经机器翻译前沿进展

机器翻译研究如何利用计算机实现自然语言之间的自动翻译,是人工智能和自然语言处理领域的重要研究方向之一.近年来,基于深度学习的神经机器翻译方法获得迅速发展,目前已取代传统的统计机器翻译成为学术界和工业界新的主流方法.首先介绍神经机器翻译的基本思想和主要方法,然后对最新的前沿进展进行综述,最后对神经机器翻译的未来发展方向进行展望.

基于条件生成对抗网络的手绘图像检索

传统的手绘图像检索方法将自然图像通过边缘检测算法转换成"类手绘图",不能很好地减小自然图像与手绘图像之间的视觉差异.针对此问题,提出一种基于条件生成对抗网络的手绘图像检索方法.首先训练条件生成对抗网络,其中生成器由边缘图至自然图像的映射网络构成;然后通过生成器将手绘图转换为自然图像,以消除二者的视觉差异;最后使用深度卷积神经网络提取深度特征进行相似度度量,达到检索的目的.在基准数据库上进行实验的结果显示,该方法的检索精度有明显提高.

基于DBSE-Net的大田稻穗图像分割

稻穗精准分割是准确估测水稻产量的关键。为实现大田环境下不同品种与生育期稻穗的准确分割,该研究提出了基于注意力机制的稻穗分割网络(Double Branch Squeeze-and-Excitation Network,DBSE-Net)。首先,提出一个双分支压缩与激励(DoubleBranchSqueeze-and-Excitation,DBSE)注意力模块,通过同时使用全局平均池化(GlobalAverage Pooling,GAP)和全局最大池化(Global Max Pooling,GMP)编码输入特征的通道信息,以实现更精准的通道注意力推断。然后,为了强化稻穗特征并抑制背景区域特征,将DBSE模块添加到编码-解码分割框架中构建DBSE-Net分割网络。最后,在自采集的稻穗图像数据集上进行分割性能测试,DBSE-Net对稻穗分割的像素准确率、平均交并比和F1分数分别达到了94.32%、87.59%和91.86%,比次优模型DeepLabv3+的结果分别高出1.61、2.56和1.20个百分点,在单张256×256(像素)图像上耗时0.03s,是DeepLabv3+分割速度的5.3倍。在公开的稻穗图像数据集上进行泛化性能测试,DBSE-Net能够有效分割出稻穗区域。该研究结果表明,DBSE-Net能够对不同品种与生育期稻穗实现高效精准分割,具有良好的泛化性,可以为水稻产量评估提供参考。

一种基于改进的MobileNetV2网络语义分割算法

基于金字塔卷积神经网络的语义分割算法准确率很高,但是其计算资源消耗巨大、算法执行时间长、无法满足实时性要求.为了解决这个问题,本文做出了以下改进:(1)用MobileNet替换原网络的结构,减少了网络运算时间和内存开销;(2)引入编码器-解码器结构提高输出图像的分辨率,进一步细化分割结果;(3)针对高分辨率图像推断时间过长的问题,本文设计了多级图像输入方法,降低了网络推断高分辨率图像所消耗的时间.本文在VOC 2012数据集和Cityscapes数据集上进行了测试,并与FCN、SegNet、DeepLab、PSPNet以及DFN等语义分割模型对比.实验结果表明,本文设计的语义分割算法在VOC 2012数据集上达到了76.1%的mIoU,在Cityscapes数据集上达到了74.1%的mIoU,略低于传统语义分割算法;处理一张分辨率为1024×512的图片需要18ms,少于传统语义分割算法,满足了实时性要求,达到了准确率与计算资源消耗之间的平衡.

模拟“what”通路前端视觉机制的边缘检测网络

边缘检测是图像处理工作的关键步骤之一,目前边缘检测模型基于卷积神经网络(CNNs)搭建编码-解码网络。由于现有编码网络提取特征能力有限,且忽视了神经元之间复杂的信息流向,本文模拟视网膜、外侧膝状体(LGN)和腹侧通路(“what”通路)前端V1区、V2区、V4区的生物视觉机制,搭建全新的编码网络和解码网络。编码网络模拟视网膜-LGN-V1-V2的信息传递机制,充分提取图像中的特征信息;解码网络模拟V4区的信息整合功能,设计邻近融合网络以整合编码网络的特征预测,实现特征的充分融合。该神经网络模型在BSDS500数据集和NYUD-V2数据集上进行了实验。结果表明,本文搭建的编码-解码方法的F值(ODS)为0.820,相比于LRCNet提高了0.49%。

基于子词的句子级别神经机器翻译的译文质量估计方法

目前性能最优的译文质量估计系统使用神经机器翻译中的编码器-解码器模型作为特征提取器.该方法由于限制词表大小易导致数据稀疏问题,从而使得较多的未登陆词不能被正确评价.为了缓解上述问题,在详细分析不同子词切分方法的特点后,提出了基于字节对编码(BPE)子词切分和基于一元文法语言模型子词切分的神经译文质量估计方法,并将两者的译文质量估计的得分与基于词语切分的神经译文质量估计得分融合后进行译文质量估计.在WMT18句子级别译文质量估计子任务数据集上的实验结果表明:融合BPE子词切分、一元文法语言模型子词切分和词语切分的神经译文质量估计方法的性能在多个评测子任务上超过了WMT18给出的最好参与系统,深入的实验分析进一步揭示了融合不同粒度的句子切分方法提高了译文质量估计的健壮性.

基于图注意力网络与双阶注意力机制的径流预报模型

为了提高流域径流量预报的准确率,考虑数据驱动水文模型缺乏模型透明度与物理可解释性的问题,提出了一种使用图注意力网络与基于长短期记忆网络(LSTM)的双阶注意力机制(GAT-DALSTM)模型来进行径流预报。首先,以流域站点的水文资料为基础,引入图神经网络提取流域站点的拓扑结构并生成特征向量;其次,针对水文时间序列数据的特点,建立了基于双阶注意力机制的径流预报模型对流域径流量进行预测,并通过基于注意力系数热点图的模型评估方法验证所提模型的可靠性与透明度。在屯溪流域数据集上,将所提模型与图卷积神经网络(GCN)和长短期记忆网络(LSTM)在各个预测步长下进行比较,实验结果表明,所提模型的纳什效率系数分别平均提高了3.7%和4.9%,验证了GAT-DALSTM径流预报模型的准确性。从水文与应用角度对注意力系数热点图进行分析,验证了模型的可靠性与实用性。所提模型能为提高流域径流量的预测精度与模型透明度提供技术支撑。

基于循环生成对抗网络的图像去雾算法

大气散射模型与有雾图像及对应清晰图像间的映射模型不适配,导致使用大气散射模型进行图像去雾处理时,图像存在颜色偏差、纹理细节粗糙等问题。基于模拟生物视觉系统的反馈原理,提出一种端到端的循环生成对抗网络算法,以解决误差累积造成的去雾图像低质的问题。通过生成模块将循环神经网络的隐藏状态作为反馈信息,以指导低级模糊特征信息生成更加丰富的高级特征。循环结构能够保证先前的网络层可以使用到后面网络层的高级特征信息,从而减少误差累积。此外,该算法能够根据判别模块的损失来评估重建图像的质量。实验结果表明,与GCANet算法相比,所提算法在SOTS测试集上的平均峰值信噪比和结构相似性,在室内分别提升3.41%和0.57%,在室外分别提升3.48%和1.39%,且在真实世界的数据集上进行图像去雾后,在视觉上避免了颜色失真和光晕问题。