SOSNet:一种非对称编码器-解码器结构的非小细胞肺癌CT图像分割模型

非小细胞肺癌严重损害人类健康,早期非小细胞肺癌CT(Computed Tomography)图像中的肿瘤结节体积小,不易发现,极易造成漏诊和误诊.为了精确分割非小细胞肺癌CT图像中的小体积肿瘤结节,本文提出SOSNet(Small Object Segmentation Networks)自动分割模型,利用ResNet(Residual Network)基础层和空洞卷积构造非对称编码器-解码器结构作为分割主网络,利用轴向取反注意力模块ARA(Axial Reverse Attention)逐步擦除背景中对分割有影响的结构,再使用结构细化模块SR(Structure Refinement)对主网络输出的粗略特征图进行结构细化,从而实现非小细胞肺癌肿瘤结节分割.在非小细胞肺癌公开数据集的实验测试表明,本文提出的小目标自动分割模型SOSNet可以有效分割出非小细胞肺癌CT图像中的小体积肿瘤结节,其mDice(mean-Dice)、mIoU(mean Intersection over Union)、Sensitivity、F1、Specificity、平均绝对误差MAE(Mean Absolute Error)均优于当前最先进的小目标分割模型CaraNet(Context Axial Reverse Attention Network).

基于双模编码器-解码器框架的联机手写数学公式识别

为了充分利用联机手写数学公式的笔迹特征和全局二维结构特征,将联机模式和脱机模式联合,设计了一种基于编码器-解码器框架的双模识别模型。该模型可接受一维坐标点序列和二维静态图像形式的手写数学公式数据,通过联机编码器从输入的坐标点序列中提取笔迹特征信息,并通过脱机编码器从静态图像中提取二维结构特征信息,进而充分保留手写笔迹特征和全局二维结构特征。在编码器阶段,针对联机模式提出正弦编码,对输入的坐标点序列进行编码,补充笔画级别的信息,能够有效避免笔画间隔模糊导致的笔画信息丢失的问题;针对脱机模式提出平滑注意力机制,通过引入平滑窗口的方式,实现特征图中每个像素特征的感受野的自适应调整,在一定程度上解决了普通的注意力机制无法同时对尺寸相差较大的手写符号筛选有效特征信息的问题,有效提升了注意力机制捕捉有效手写区域的能力。实验结果表明,该模型的公式识别准确率可达58.76%,并且与相同领域内其他的识别模型相比,其可将公式识别准确率提升1.56%~4.71%,达到较高水平。

基于集合经验模态分解和编码器-解码器的风电功率多步预测

准确的风电功率预测对于推动风电大规模并网具有积极意义,现有的研究多集中于超短期范围内的单步预测。为了实现更加贴近工程应用实际的风电功率多步预测,提出了一种基于集合经验模态分解和编码器-解码器的风电功率多步预测方法。首先采用k均值聚类算法对风电机组进行聚类,然后引入集合经验模态分解算法对机组群功率序列进行分解,从而提取风电场功率的时空分布特征,通过预先搭建的基于门控循环单元的编码器-解码器预测网络实现风电功率的超前多步预测,最后将各预测值重构获得风电场总功率的预测值。利用某风电场的真实数据进行算例分析,结果表明所提算法在超前1~6 h不同应用场景下的预测性能均优于其他传统模型,预测准确度提升了6.45%~13.56%。

基于注意力机制编码器-解码器的手写数学公式识别模型

针对现有的手写数学公式识别(HMER)方法经过卷积神经网络(CNN)多次池化后,图像分辨率降低、特征信息丢失,从而引起解析错误的问题,提出基于注意力机制编码器-解码器的HMER模型。首先,采用稠密卷积网络(DenseNet)作为编码器,使用稠密连接加强特征提取,促进梯度传播,并缓解梯度消失;其次,采用门控循环单元(GRU)作为解码器,并引入注意力机制,将注意力分配到图像的不同区域,从而准确地实现符号识别和结构分析;最后,对手写数学公式图像进行编码,将编码结果解码为LaTeX序列。在在线手写数学公式识别竞赛(CROHME)数据集上的实验结果表明,所提模型的识别率提升到40.39%,而在3个级别的允许误差范围内,识别率分别提升到52.74%、58.82%和62.98%。相较于双向长短期记忆(BLSTM)网络模型,所提模型的识别率提高了3.17个百分点;而在3个级别的允许误差范围内,识别率分别提高了8.52、11.56和12.78个百分点。可见,所提模型能够准确地解析手写数学公式图像,生成LaTeX序列,提升识别率。

日交通流预测的编码器-解码器深度学习模型研究

精准的日交通流预测是智能交通领域的重要研究内容之一。目前已有的日交通流预测模型大多在短期预测模型的基础上通过多步预测或者多目标预测的方式改进而来。这两种改进方案中,前者对误差的传播更为敏感,而后者则忽视了预测结果的时序关系,导致预测模型精度偏低。提出了一种用于日交通流预测的编码器-解码器深度学习模型,首先将长短时记忆网络(long short-term memory,LSTM)作为编码器-解码器模型的基本单元以提高模型捕捉长期依赖关系的能力,其次引入注意力机制调节编码向量的权重以进一步提高模型的预测精度。新的模型是一种典型的序列到序列预测模型,与传统的序列到点的模型相比更加契合日交通流预测的需求。为验证模型的有效性,取美国5号州际公路西雅图段的实际交通流数据进行实验,实验结果表明,提出的预测模型在平均车流密度大于40辆/km的时间段中,其预测结果的平均绝对百分比误差(mean absolute percentage error,MAPE)与LSTM、门控循环单元(gated recurrent unit,GRU)、反向传播(back propagation,BP)神经网络、卷积神经网络(convolutional neural network,CNN)、图卷积网络(graph convolution network,GCN)传统预测模型相比,分别减小了19%、20%、25%、16%、25%。

基于编码器-解码器的半监督图像语义分割

基于深度卷积神经网络的图像语义分割方法需要大量像素级标注的训练数据,但标注的过程费时又费力.本文基于生成对抗网络提出一种编码-解码结构的半监督图像语义分割方法,其中编码器-解码器模块作为生成器,整个网络通过耦合标准多分类交叉熵损失和对抗损失进行训练.为充分利用浅层网络包含的丰富的语义信息,本文将编码器中不同尺度的特征输入到分类器,并将得到的不同粒度的分类结果融合,进而优化目标边界.此外,鉴别器通过发现无标签数据分割结果中的可信区域,以此提供额外的监督信号,来实现半监督学习.在PASCAL VOC2012和Cityscapes上的实验表明,本文提出的方法优于现有的半监督图像语义分割方法.

RNN编码器-解码器在维汉机器翻译中的应用

将RNN编码器-解码器作为传统的基于短语的PSMT系统的一部分,在传统统计机器翻译基础上,集成RNN解码器-编码器,兼容PSMT创建了新联合模型(RNN+PSMT)。新的模型不仅在维-汉、汉-英机器翻译的应用中取得了成效,而且能够捕捉到语言的规律,使得机器翻译中的一个重要评价指标的BLEU值得到了显著提高。实验结果表明,系统的整体性能超过了传统统计机器翻译。

编码器-解码器模型合成汉英语码转换文本

为了解决汉英语码转换文本数据稀缺的问题,本文提出了基于编码器-解码器模型合成语码转换文本的方法,从有限的语码转换文本与大量单语种平行语料中学习语码转换语言学规则与语种内部的语言学规则,来合成语码转换文本。但是该模型合成的语码转换文本自然度低,因此本文又提出基于带复制机制的编码器-解码器模型合成语码转换文本的方法,在编码器-解码器的基础上,增加了一个门控,用来决定从编码器的预测结果还是从编码器的输入源文本中产生下一个词。最终,该方法使语言模型在SEAME测试集上的困惑度降低了绝对13.96。由此可得出结论,本文提出的方法可大规模地合成自然度高的语码转换文本,缓解语码转换文本数据的稀缺性。

基于编码器-解码器的离线手写数学公式识别

提出一种改进的编码器-解码器模型。模型采用多尺度密集卷积网络作为编码器,以提取手写数学公式图像的多分辨率特征。采用完全基于注意力机制的Transformer模型作为解码器,依据图像特征将二维手写数学公式解码为一维LaTeX序列。通过相对位置编码嵌入图像位置信息和LaTeX符号位置信息。实验结果表明,模型在官方CROHME 2014数据集上取得了优异的性能,相比于当前最先进的方法,其公式识别准确率提高了3.55%,字错误率降低了1.41%。

DNeStCount:数据相关的拆分注意力机制的编码器-解码器结构的人群计数方法

人群数量估计是人群管理系统的关键,对于预防踩踏事故和引导人群至关重要,已成为一个日益重要的任务和具有挑战性的研究方向。本文提出一种数据相关的拆分注意力机制的编码器-解码器结构的人群计数方法,称为DNe StCount。为应对视频监控的尺度变化和透视失真的挑战,将更密集的空洞采样比率应用到密集空洞空间金字塔池化模块DASPP设计中。为提升密度图估计的准确性,将可学习的、数据相关的上采样方法 DUpsampling应用到特征聚合模块DFA设计中。为弥补欧几里德损失可能存在对离群值敏感、训练不稳定等缺点,采用Smooth L1损失设计损失函数。在具有挑战性的数据集上进行的实验和分析表明,本文提出的人群计数方法 DNe St Count与其他主流方法相比更具有竞争力。

基于MSCNN-LSTM编解码器的飞机辅助动力装置EGT预测模型

针对提高飞机辅助动力装置(auxiliary power unit,APU)排气温度(exhaust gas temperature,EGT)参数的预测精度问题,提出了一种基于特征选择和多尺度卷积-长短期记忆网络编码器-解码器的EGT预测模型。首先,利用随机森林方法确定重要度较高的APU监测参数;其次,利用多尺度卷积神经网络能够提取信号深度特征和LSTM网络能够学习序列长时间依赖的特性,建立了编码器-解码器预测模型;最后,以某型APU实时报文数据为例,通过与其他方法进行对比验证了模型的可行性,能够提高EGT预测的准确度。

基于双编码器利用在线社交网络信息的股票价格预测

设计了双编码器-解码器模型,在模型的双编码器端分别对情绪变量和技术指标进行单独编码,以提高两类信息输入时编码器-解码器模型对股价的预测准确率.首先,对模型的编码和解码,基于门控循环单元(GRU)进行改进,通过去掉重置门,使用更新门代替重置门的功能,将激活函数tanh替换为ReLU激活函数,以达到提高网络训练速度和模型精度的效果.其次,将市场情绪看作离散时间的随机过程,当固定时间时,市场情绪是服从某个概率分布的变量,对其概率分布进行估计,可得市场情绪关于积极、消极和中立的概率估计.进一步的,基于构建伪标签的情感分类器,建立情绪得分公式,并基于Bagging集成的方法对市场情绪的概率分布进行估计,作为投资者情绪变量的补充.另一方面,对多个超参数调整选优,设计正交试验,大大缩短了模型选参时间.实验结果表明,两输入的双编码器-解码器,不仅提升了编码器-解码器框架的股价预测效果,还通过引入投资者情绪,提高了模型的准确率和鲁棒性.

DeepOCSR:一种用于光学化学结构识别的深度编码-解码网络

从科学出版物中识别光学化学结构是重新发现化学结构性质的重要组成部分,对于药物研发和天然产物研究方面具有重要意义。现有的光学化学结构识别方法存在识别率较低等问题,为了有效地提高光学化学结构识别任务的识别性能,本文提出了一种用于光学化学结构识别的深度学习方法(DeepOCSR)。该方法基于编码器-解码器架构,引入了Transformer和ResNeSt模型,将出版物中的化学结构图像转换为SMILES序列。构建了两种新的化学结构数据集,其中一个包含了化学文献中常见的取代基。将本文方法与现有的其他方法进行对比实验,结果表明本文方法在相似度和有效性等关键指标上均优于对比方法。

基于ResNet18特征编码器的水稻病虫害图像描述生成

针对图像描述算法缺乏在农业领域中的应用,传统模型参数庞大的问题,该研究提出一种基于ResNet18特征编码器的图像描述算法,对作物患病类型进行识别并生成描述。首先,建立水稻病虫害图像描述数据集。其次,使用浅层ResNet18作为编码器,在保证特征提取能力的同时缩减网络模型大小,解码器使用融合了注意力机制的长短期记忆网络(Long Short Term Memory,LSTM)来生成图像描述。试验结果表明,改进后模型尺寸大小为原来的1/3,经过6000次迭代后模型基本收敛,准确率达到98.48%。在水稻病虫害图像描述数据集上,改进编码器-解码器结构后的双语评估替换值(Bilingual Evaluation Understudy,BLEU)和METEOR(Metric for Evaluation of Translation with Explicit ORdering)分别达到0.752和0.404,其余指标结果也明显优于其他模型,具有描述细致准确、鲁棒性强等优点,能够更好地适用于小规模数据集上的训练,可为农作物相似病害特征的自动化描述提供有益参考。

基于改进Attention Mask编解码器CPI的研究

化合物-蛋白质相互作用(CPI)的研究对药物发现有着重要作用,它可以为药物靶标选择提供有价值的信息,在一定程度上提高先导化合物的命中率,进而加快药物发现的进程。由此提出了一种基于改进Attention Mask编解码器的化合物与蛋白质相互作用分类的预测模型,分别使用RDkit和Item2vec处理化合物的SMILES字符串和蛋白质的氨基酸序列,将得到的化合物和蛋白质低维特征表示的向量输入到该模型,通过分配权重的方式来计算蛋白质中的哪个子序列对化合物分子更重要,使用带有Attention机制的神经网络计算权重,模拟化合物和蛋白质之间的相互作用关系,最后作为一个二分类问题输出化合物和蛋白质是否相互作用的预测概率。模型性能测评采用ROC曲线下面积、准确召回率曲线作为评价指标,实验结果表明,该模型相比于GraphDTA和GCN模型而言,拥有更好的性能表现,AUC值提高了0.04左右,PRC值提高了0.07左右。

基于轻量编码解码结构的人像分割网络

论文提出了一种轻量人像分割方法。首先,该网络基于编码器-解码器的U型架构,采用非完全对称结构,其次引入深度可分离卷积。然后在训练阶段添加了边缘辅助损失函数。最后在初步分割结果的基础上引入精细化块来对边缘进行细化提升了分割精度。在EG1800数据集上将所提网络与PortraitFCN+、UNet、ENet和BiSeNet等网络进行对比实验,实验结果表明,所提出的网络可以提高图像推理速度和分割效果,并能够在分辨率为256×256的RGB图像获得96.41%的分割准确率。

基于Encoder-Decoder LSTM的船舶轨迹预测方法

船舶轨迹预测的准确性是预警事故和确保安全航行的关键,但精度和稳定性是目前亟待解决的问题。为了应对这一挑战,提出一种基于Encoder-Decoder LSTM的船舶轨迹预测方法。首先对船舶AIS轨迹数据进行去噪、分段、插值、停留点检测和归一化等预处理,提取船舶的航行轨迹。然后构建了一种基于Encoder-Decoder LSTM架构的船舶轨迹预测模型,并对模型参数进行初始化。最后使用长江江苏段天生港水域渡轮的真实AIS数据对提出的模型进行训练和验证,并与其他广泛使用的轨迹预测方法进行比较。定量分析表明,该方法可实现对船舶轨迹较为准确的预测,且所预测轨迹具有一定的参考价值。

基于门控位置编码的壁画图像多级色彩还原

近年来,壁画图像的色彩还原研究已成为壁画文物保护和展示领域的一个热点问题。针对壁画色彩还原面临的整体特征信息难以有效提取和保持,局部色彩还原易出现假色以及色彩溢出等问题,提出基于门控位置编码的壁画图像多级色彩还原方法。首先,构建基于全局特征约束的编码器网络,并通过改进的多核多值池化算法提取图像的全局特征梯度作为下采样取值标准以建立壁画图像特征金字塔,从而减少壁画图像在特征编码过程中的整体特征损失;其次,为准确还原壁画图像的局部色彩信息,设计基于门控位置编码的色彩迁移模块,该模块通过约束空间域中内容特征与色彩特征之间相似性核的学习,构建色彩特征在待还原壁画图像中的准确映射,从而减少还原图像中的假色现象与色彩溢出。实验结果表明,该方法所生成的壁画还原图像相较于AdaIN(Adaptive Instance Normalization)、AST(ArbitraryStyleTransfer)等对比方法所生成的壁画还原图像,NIQE(NaturalImageQuality Evaluator)和PIQE(Perception based Image Quality Evaluator)都取得了最优的结果。可见,所提方法能有效还原壁画色彩信息并保持待还原壁画图像的整体结构纹理特征。

基于RDE-GAN算法的多阶段壁画图像修复

针对现存的壁画图像修复方法仍存在纹理细节缺失及图像输入像素尺寸不合适的问题,提出了一种多阶段密集残差和高效注意力机制的壁画图像修复(multi stage mural image restoration based on residual dense efficient-generative adversarial networks,RDE-GAN)算法。整个网络采用编码器-解码器架构,使网络具有足够大的感受野,便于充分利用图像的特征信息。首先,利用全局感知网络得到粗略的初始结果;其次,引入较小感受野的密集残差局部过渡网络;最后,利用高效细化网络增强图像的结构信息及图像语义的连贯性。将该算法分别与其他相关算法在定性定量分析上进行比较,结果表明,在[50%,60%)掩码比例中,RDE-GAN算法的峰值信噪比(peak signal-to-noise ratio,PSNR)为32.5655 dB、结构相似性指数(structural similarity index measure,SSIM)为0.9690、学习感知图像块相似度(learned perceptual image patch similarity,LPIPS)为0.0141、生成图像与真实图像越相似指标(Fréchet inception distance,FID)为11.3027,且在其他5种掩码比例中RDE-GAN算法均优于对比算法。该研究成果能用于壁画等文化遗产的保护。

基于ResCSP-34的集成电路供电网络静态电压降预测研究

随着超大规模集成电路的不断发展,片上供电网络的设计日益重要,需要通过计算供电网络的静态电压降来反映设计的性能。然而传统的计算方法需要耗费大量的时间,导致芯片设计周期延长。为了缩短芯片设计的周期和提高芯片设计的效率,本文提出了一个基于卷积神经网络—ResCSP-34的快速静态电压降预测模型。模型采用编码器-解码器结构,首先对残差网络ResNet34进行修改作为编码器的主体结构,然后在解码器中引入特征融合模块,并且在编码器和解码器的连接处引入注意力机制模块,最后提出了一个同时结合了均方误差、皮尔逊相关系数和平均绝对误差的损失函数对模型进行训练。实验结果表明,在CircuitNet数据集上,模型预测结果的平均绝对误差为0.7 mV,小于1 mV,皮尔逊相关系数的平均值大于0.93,接近于1,对一个片上供电网络设计进行静态电压降预测的平均总时间为7.36 s,其中卷积神经网络的平均推理时间为0.015 s。实验结果表明,ResCSP-34模型能够快速且精准地预测静态电压降。