BiUNet:基于双层路由注意力的轻量化医学分割网络

针对视觉Transformer骨干提取网络计算开销大,模型训练缓慢的问题,同时为了进一步提升Transformer结构在医学图像领域的分割性能,提出一种名为BiUNet的新型轻量级U型架构的医学图像分割网络。将输入医学图像整切成若干图像块后,送入一种基于双层路由动态稀疏注意力机制的BiFormer转换器中,通过组合下采样和特定块数的BiFormer模块,构建多级金字塔结构实现特征提取。随后通过组合上采样和卷积模块,相应构建多级金字塔结构进行特征解码,进而实现像素级语义分割。该模型在3个医学数据集上依次取得了90.2%, 93.7%和85.6%的mIoU值以及5.55 G的Flops和28.10 M的参数量。结果表明,BiUNet能够以轻量化的效果有效提升医学图像分割的精度。

基于改进YOLOv5的复杂路况密集行人检测方法

针对复杂街景环境下行人检测精度低的问题,基于YOLOv5网络,提出一种改进的行人检测网络YOLO-BEN。该网络将残差分级,利用连接模块Res2Net与C3模块进行融合,加强细粒度级别的多尺度特征表示。采用双层路由注意力模块,构建和修剪区域级有向图,在路由区域的联合中应用细粒度的注意力,使网络具备动态的查询感知稀疏性,提高对模糊图像的特征提取能力。改进原网络Neck部分进一步保留局部角区域信息,弥补被遮挡行人的信息丢失问题。使用NWD度量与原有的IoU度量形成联合损失函数,同时增加小目标检测头,提高远距离行人检测效果。实验中该方法在自制数据集和部分WiderPerson数据集上取得了较好的效果,改进后比原始网络的精确率、召回率、平均精度分别提高了2.8、4.3、3.9个百分点。

基于残差图卷积网络与深度强化学习的需求可拆分车辆路径优化算法

需求可拆分车辆路径问题(SDVRP)出现在广泛的物流配送场景中,具有重要的研究价值.高效的SDVRP优化算法能够提高车辆装载率,降低物流配送成本.为提高SDVRP的求解效率,本文提出基于残差图卷积神经网络(RGCN)和多头注意力的深度强化学习算法(REINFORCE),逐步构建可行解序列.首先,从强化学习的角度出发,文章对SDVRP建立马尔科夫决策模型,定义序列预测过程的环境状态、智能体动作空间、状态转移函数等.其次,建立编–解码模型求解节点选择策略,其中使用残差图卷积神经网络的编码器重构配送中心和客户节点的特征,将配送网络中节点间的连接关系与节点特征相互关联,获得差异性显著的特征嵌入向量;利用注意力网络解码器在重构后的嵌入向量基础上融合动态变化的车辆剩余装载量和客户需求等信息执行解码任务,实现每次迭代为单个案例提供多个可行解.最后,提出基于平均基准值的REINFORCE算法更新模型参数,通过求解不同问题规模测试集、标准SDVRP数据集,以及京东物流实际配送任务,验证了所提算法的有效性.

基于双层路由注意力机制的煤粒粒度定量分析

煤粒粒度分布特征与煤中甲烷气体传播规律的分析密切相关。目前,基于图像分割的煤粒粒度分析方法已成为获取煤粒粒度的主流方案之一,但存在上下文信息丢失、煤粒特征融合不当造成煤粒漏分割和过分割等问题。针对上述问题,设计了一种基于双层路由注意力机制(BRA)的煤粒粒度分析模型。在残差U型网络ResNet-UNet中嵌入BRA模块,得到B-ResUNet网络模型:为减少在煤粒分割过程中出现的漏分割问题,在ResNet-UNet网络的上采样前添加BRA模块,使网络根据上一层的特征调整当前特征层的重要性,增强特征的表达能力,提高长距离信息的传递能力;为减少在煤粒分割过程中出现的过分割问题,在ResNet-UNet网络的特征拼接模块后添加BRA模块,通过动态选择和聚合重要特征,实现更有效的特征融合。对分割出的煤粒进行特征信息提取,针对实验分析中采用的煤粒数据集的煤粒粒度与细胞大小相当,为精确表征煤粒粒度,采用等效圆粒径获取煤粒粒度及粒度分布。实验结果表明:①B-ResUNet网络模型的准确率、平均交并比、召回率较ResNet-UNet基础网络分别提高了0.6%,14.3%,35.9%,准确率达99.6%,平均交并比达92.6%,召回率达94.4%,B-ResUNet网络模型在煤样中具有较好的分割效果,能够检测出较为完整的颗粒结构。②在上采样前和特征拼接后均引入BRA模块时,网络对煤粒的边缘区域给予了足够的关注,且对一些不太重要的区域减少了关注度,从而提高了网络的计算效率。③煤粒的粒度大小在1~2 mm内呈相对均衡的分布趋势,粒度在1~2 mm内的煤粒占比最大为99.04%,最小为90.59%,表明基于BRA的图像处理方法在粒度分析方面具有较高的准确性。

基于注意力机制的FPGA布线拥塞预测

随着FPGA设计复杂性的不断增加,物理设计需要大量的优化迭代才能实现,布线拥塞影响芯片的面积及时延等性能指标,因此需要准确快速的预测并提前解决。提出一个FPGA布线拥塞预测模型CBAM-CGAN,模型在布局阶段提取特征合成学习图像,引入注意力机制学习增强图像各个特征通道的重要程度,提高布线拥塞的预测性能。实验结果表明,方法在布局阶段的布线拥塞预测取得了较好效果。相比于条件对抗生成网络模型,结构相似度平均值提高了0.89%,峰值信噪比平均值提高了1.37%,归一化均方根像素差平均值降低了3.8%,像素精度差平均值降低了0.06%,单张图像的预测时间约为0.1 s。实验数据证明了模型在FPGA布线拥塞的准确性和快速性。

基于改进稠密胶囊网络模型的植物识别方法

植物识别意义重大,但是由于植物种类繁多,规模数据集标注和构建困难,因此植物物种识别作为精细分类任务仍然面临巨大挑战。该研究提出一种改进稠密胶囊网络模型用于植物物种识别。首先,在网络初始端引入自注意力层,通过增加特征图中待识别区域的特征权值以降低背景信息对于识别任务的干扰。其次,在改进模型胶囊层间使用局部约束动态路由算法,实现局部区域内胶囊路由选择和转换矩阵共享机制,降低网络参数规模,减小网络训练学习计算负载。在试验数据集上计算结果表明,当输入图片尺度为32×32像素时,该研究模型平均识别准确率为77.2%,参数规模仅为1.8M。当输入图片尺度为227×227像素时,该研究模型平均识别准确率为95.1%,参数规模仅为5.2M。试验结果表明提出的改进稠密胶囊网络模型在识别分类和降低模型参数规模上均有大幅提升。

多尺度自路由胶囊网络的构建方法

胶囊网络(capsule network,CapsNet)是近些年新提出的一种网络模型.相比于传统卷积神经网络,胶囊网络能有效编码不同特征的空间位置关系,但是其特征提取模块难以捕捉不同尺度的特征信息.为了进一步提升CapsNet的性能,提出了一种多尺度自路由胶囊网络(multi-scale self-routing capsule network,MSSR-CapsNet).首先利用多分支结构改进CapsNet胶囊的生成过程,增加模型多尺度特征提取能力;然后提出了一种胶囊注意力机制,选择性筛选出重要的低级特征;最后在SVHN、CIFAR-10和CIFAR-100数据集上对MSSR-CapsNet进行实验,分类准确率分别为97.46%、91.22%和63.84%.此外,实验结果也验证了改进方法的高效性,有助于提升模型的性能.

基于胶囊网络的交互式网络电视视频点播推荐模型

在交互式网络电视(IPTV)应用中,家庭电视终端往往由多名家庭成员共用,现有推荐算法难以从终端历史数据中分析出家庭成员的不同兴趣偏好。为了满足同一终端下不同成员的视频点播需求,提出了一种基于胶囊网络的IPTV视频点播推荐模型CapIPTV。首先,设计了一种基于胶囊网络路由机制的用户兴趣生成层,将终端历史行为数据作为输入,并通过胶囊网络的聚类特性得到不同家庭成员的兴趣表达;其次,利用注意力机制给不同的兴趣表达动态分配注意力权重;最后,提取出不同家庭成员的兴趣向量和点播视频的表示向量,计算两者内积后得出Top-N偏好推荐。在公开数据集MovieLens和真实广电数据集IPTV上的实验结果表明,CapIPTV的命中率(HR)、召回率(Recall)和归一化折损累计增益(DNCG)优于其他五种同类推荐模型。

基于深度卷积注意胶囊网络的微表情识别方法

针对微表情动作发生的局部性和人脸面部空间结构信息丢失问题,提出一种用于微表情识别的深度卷积注意胶囊网络(deep convolutional attention capsule neural network,DCACNN)。将注意力机制和深度卷积层融入胶囊网络,利用注意力机制使网络模型聚焦于微表情活跃区域,采用深度卷积网络提高网络提取高维特征的能力,胶囊网络的动态路由机制充分利用人脸面部空间信息,增强特征表示能力,提高微表情识别的准确率。实验基于数据集CASME II和SAMM进行测试与分析,实验结果表明,DCACNN能有效提高微表情识别的准确率。

基于胶囊网络的动态路由研究与改进

胶囊网络具有弥补卷积神经网络空间信息丢失和旋转不变性差的优点,已被广泛应用于图像分类、目标检测以及文本检测等多个领域,但胶囊网络仍存在参数量大且分类精确度低的问题。提出基于点乘注意力图卷积路由的胶囊网络分类模型。在同级胶囊之间构建连通图,通过注意力机制获取胶囊间的依赖关系,利用影响因素大的预测胶囊进行特征聚类,改变使用迭代更新高低胶囊层间耦合系数的动态路由方式,降低参数量并提升模型的分类准确率。此外,在特征提取部分加入残差网络提取更高维的特征以优化胶囊质量,在提升模型特征表达能力的同时可抑制模型过大。实验结果表明,在参数量小于多个胶囊网络变体的情况下,该模型在MNIST、FashionMNIST、CIFAR10和SVHN数据集上的精度分别达到99.74%、95.02%、91.78%和95.65%,均高于MS-CapsNet、TextCaps、AR CapsNet、FSc-CapsNet、DA-CapsNet等对比模型。

基于深度强化学习的多配送中心车辆路径规划

多配送中心车辆路径规划(multi-depot vehicle routing problem,MDVRP)是现阶段供应链应用较为广泛的问题模型,现有算法多采用启发式方法,其求解速度慢且无法保证解的质量,因此研究快速且有效的求解算法具有重要的学术意义和应用价值.以最小化总车辆路径距离为目标,提出一种基于多智能体深度强化学习的求解模型.首先,定义多配送中心车辆路径问题的多智能体强化学习形式,包括状态、动作、回报以及状态转移函数,使模型能够利用多智能体强化学习训练;然后通过对MDVRP的节点邻居及遮掩机制的定义,基于注意力机制设计由多个智能体网络构成的策略网络模型,并利用策略梯度算法进行训练以获得能够快速求解的模型;接着,利用2-opt局部搜索策略和采样搜索策略改进解的质量;最后,通过对不同规模问题仿真实验以及与其他算法进行对比,验证所提出的多智能体深度强化学习模型及其与搜索策略的结合能够快速获得高质量的解.

多尺度混合注意力胶囊网络的海洋鱼类识别

针对胶囊网络(capsule network,CapsNet)特征提取结构单一和数据处理中参数量过大的问题,提出多尺度混合注意力胶囊网络模型。首先,在网络初始端添加不同尺度的卷积核来多角度提取特征,并引入混合注意力机制,通过聚焦更具分辨性的特征区域来降低复杂背景干扰。其次,采用局部剪枝算法优化动态路由,减少参数量,缩短模型训练时间。最后,在海洋鱼类数据集F4K(Fish4Knowledge)上验证,结果表明,与传统残差网络(residual network50,ResNet-50)、双线性网络(bilinear convolutional neural network,B-CNN)、分层精简双线性注意力网络(spatial transformation network and hierarchical compact bilinear pooling,STN-H-CBP)以及CapsNet模型相比,该算法识别精度为98.65%,比ResNet-50模型提升了5.92%;训练时间为2.2 h,相比于CapsNet缩短了近40 min,验证了该算法的可行性。