捷径连接和噪声对带志愿者的囚徒困境博弈演化的影响

关于双层网络上的博弈研究很少,尤其带志愿者参加的囚徒博弈研究不曾出现过.利用蒙特卡罗数值模拟方法研究带有志愿者参加的囚徒困境博弈模型在双层网络上的演化,研究结果表明:①当捷径连接不存在时,对于较小的背叛诱惑值随着噪声水平的增加合作密度出现多个峰值相干共振现象,较大背叛诱惑值出现单峰相干共振现象;②当存在捷径连接时,原来的多峰相干共振现象被单峰共振现象取代,对较大的背叛诱惑值当增边概率p足够大时会出现2个极大值;③中等程度噪声水平和较小的背叛诱惑值下随增边概率p增加达到一个阈值后志愿者消失,这时增边概率p有利于合作程度的提高;增边概率p小于这个阈值时3种策略共存,由于3种策略的相互入侵随p的变化会得到更复杂的结果.

基于阿当姆斯捷径连接的深度神经网络模型压缩方法

深度神经网络已经在各类计算机视觉任务中取得了很大的成功,可网络结构设计仍缺乏指导性的准则。大量的理论和经验证据表明,神经网络的深度是它们成功的关键,而深度神经网络的可训练性仍是待解决的问题。将微分方程数值解法——阿当姆斯(Adams)法用于深度神经网络的权重学习,提出一种基于阿当姆斯法的捷径连接(shortcut connection)方式,可提高网络后期的学习精度,压缩模型的规模,使模型变得更有效。尤其对网络层数较少的深度神经网络的可训练性优化效果更明显。以经典的ResNet为例,比较了使用基于Adams法的捷径连接方式的Adams-ResNet与源模型在Cifar10上的性能表现,所提方法在提高识别正确率的同时将源模型的参数量压缩至一半。

基于捷径的卷积神经网络在人脸识别中的应用研究

人脸识别的特征要求具有区分性和识别性,传统的卷积神经网络(CNN)无法将低层次特征与高层次特征进行融合,识别准确率难以进一步提高。提出了一种基于附加惩罚函数和捷径连接的卷积神经网络模型,算法通过将第一层的卷积特征与原有网络模型最后一层的全连接层直接连接,增加了深层次特征的识别能力,减少了浅层主要特征的损失;为了提高已学习到的深度特征的识别能力,算法在原有的softmax损失函数项添加一个惩罚项,使已学习到的同类特征到该类特征中心之间的距离最小化。在CASIA-web、Facescrub数据集上的实验结果表明,改进算法分类准确率优于深度卷积神经网络(DCNN)、GRCC等算法。

一种深度学习的通货核桃品种分选方法

针对市场上通货核桃多品种掺杂、各类核桃相似度高而难以有效区分的问题,文中提出一种深度学习的通货核桃品种分选方法。建立包含四种主栽核桃品种外部种类信息图像数据库,并结合专业知识进行人工标签;构建嵌入BN的Inception多尺度特征融合结构,加速实现多尺度视觉信息的聚合;加入捷径连接,增强模型对特征的复用,缓解过拟合问题;加入SE注意力机制,增强模型的抗干扰能力;使用余弦退火加速模型收敛,在此基础上,构建深度学习网络模型(BSNet),以实现核桃品种的动态分选。将BSNet模型与ResNet18、ResNet50、ResNet101、DenseNet121、GoogleNet等经典模型进行对比实验,实验结果表明,BSNet模型在自建数据集上的分选平均准确率达到96.13%,优于经典模型,证明所提方法能够有效应用于核桃品种分选。

深层多级残差网络的图像超分辨率重建

为了改善低分辨率图像的视觉效果,增加图像细节信息量。文章结合现在比较流行的深度残差学习方法,提出一种新颖的残差网络结构,即深度多级残差网络。在残差网络中,当使用恒等映射作为捷径连接时,信号可以从一个单元直接传播到其他单元。基于此,该文在原有的残差网络结构上再加上多级捷径链接,挖掘残差网络的优化能力;针对不同的测试集,深层多级残差网络模型取得了更佳的超分辨率(super-resolution,SR)结果,不论是在主观视觉上还是在客观评价指标上均有明显改善,图像清晰度和边缘锐度明显提高。实验结果证明了深层多级残差网络对图像超分辨率重建的有效性,且网络的收敛速度更快,重建质量更好。

基于残差密集网络的频谱感知方法

针对传统卷积神经网络(CNN)频谱感知方法没有充分利用特征图信息并且提取特征图的能力受限于浅层的网络结构等问题,通过在传统CNN频谱感知方法中添加密集连接,实现特征图信息重利用,同时在密集单元的两端加入捷径连接,实现更深层的网络训练,进而提出一种基于残差密集网络(ResDenNet)的频谱感知方法。该方法将频谱感知问题映射为图像二分类问题,首先对接收信号分割成矩阵并归一化灰度处理,得到的灰度图像作为网络的输入,然后通过密集学习和残差学习训练网络,最后将在线数据输入ResDenNet中,完成基于图像分类的频谱感知。数值实验表明,所提方法优于传统频谱感知方法,在信噪比低至-19 dB时,所提方法检测概率仍高达0.96,虚警概率低至0.1,同时具有更好的泛化能力。

基于小波分解卷积神经网络的病理图像分类

组织病理图像分析是癌症诊断的"金标准",在患者的预后治疗中起到至关重要的作用.目前在AI医学影像领域,利用CNN(Convolutional Neural Network)网络对数字病理图像的分类已经成为研究热点.但是传统CNN网络中广泛使用最大/平均池化(Max/Average pooling)模块,不可避免的丢失了大量病理图像中的特征信息,造成分类准确率低且模型不易收敛.因此,本文提出一种基于小波分解卷积神经网络的病理图像分类方法(Wavelet Decomposition Convolutional Neural Networks,WDCNN),该方法能够使传统CNN模型学习到频域信息,它将小波变换的多尺度分析引入到CNN模型中,利用小波分解代替传统的池化层,相比于最大值和平均值池化减少了特征的丢失.鉴于空域与频域具有不同的特性,将小波分解后的高频分量通过捷径连接的方式添加到下一层,弥补了在池化过程中丢失的细节特征信息.本文在Camelyon16数据集上评估了不同的池化方法和不同小波基函数在病理图像分类方面的性能.根据实验结果表明,引入小波分解的CNN模型能够提升网络的分类准确率.

ATM上的多协议规范(MPOA)的研究

详细阐述了ＭＰＯＡ的组成、基本思想及工作原理，着重分析了ＭＰＯＡ通过集成ＬＡＮＥ及ＮＨＲＰ，将数据包转发及路由选择功能分离到不同的物理实体，从而解决了捷径式路由的问题，提高了网络性能．

残差网络研究综述

概述了残差网络的研究背景及意义,对残差单元和残差网络的框架进行了综述,并从残差单元、网络框架和混合改进三方面阐述了残差网络的模型改进。最后总结了残差网络在一些领域的成功应用和未来可能的发展趋势。

实例特征深度链式学习全景分割网络

针对全景分割中实例目标边缘特征提取不足导致目标边界分割失效的问题,提出一种创新的实例特征深度链式学习全景分割网络。该网络由基本的链式单元组合而成,根据单元结构对特征信息处理方法的不同,链式单元分为特征保持链和特征增强链两种。特征保持链是链式网络特征提取过程的输入级,保证输入信息的完整性,而后将特征传递到特征增强链结构;特征增强链通过自身的拓展来加深网络深度,提升特征提取能力。链式学习网络由于具有良好的深度堆叠特性,可以获取丰富的边缘特征信息,提高分割精度。在MS COCO和Cityscapes数据集上的实验结果表明,本文提出的实例特征深度链式学习全景分割网络在分割精度上优于现存同类方法,与全景分割网络常用的Mask RCNN实例分割结构相比,分割准确率最高提升了0.94%。

面向聊天机器人的多注意力记忆网络

如何对多轮的对话历史进行建模和推理是构建一个智能聊天机器人的主要挑战之一.基于循环或门控的记忆网络已经被证明是进行对话建模的有效方式.然而,这种方式有两个缺点,一是使用复杂的循环结构,导致计算效率较低;二是使用代价较大的强监督信息或先验信息,不利于扩展和迁移应用到新的领域.针对上述问题,本文提出了一种端到端的多注意力记忆网络.首先,该网络采取结合词向量和位置编码的方式对文本输入进行表示;其次,使用并行的多层注意力在不同子空间捕获对话交互中的关键信息来更好地建模对话历史;最后,通过捷径连接的方式叠加多注意力层管理信息流,实现对建模结果的多次推理.在bAbI-dialog数据集上的实验表明,该网络可以有效地对多轮对话进行建模和推理,而且具有较好的时间性能.

视频描述中多参考语义生成网络

针对视频描述中语义特征表达能力不足导致的文本描述不准确问题,提出一种多参考语义生成网络。该网络以多层感知机为主要结构,在多层感知机的每一层引入视觉特征参考,获取更加丰富有效的语义信息,同时保障原始视觉信息的完整表达。由于多参考语义生成网络利用视觉特征对自身进行补充和调整,能有效增强语义特征的表达能力,提高视频描述的准确性。在MSR-VTT和MSVD数据集上的实验结果表明,多参考语义生成网络在视频描述精度上明显优于同类算法,与SAVC语义辅助视频描述网络相比,平均准确率提升了0.99%。