APK-CNN和Transformer增强的多域虚假新闻检测模型

为解决社交媒体新闻中的领域转移、领域标签不完整问题,以及探索更高效的多域新闻文本特征提取和融合网络,提出一种基于APK-CNN(Adaptive Pooling Kernel Convolutional Neural Network)和Transformer增强的多域虚假新闻检测模型Transm3。首先,设计三通道网络对文本的语义、情感和风格信息进行特征提取和表示,并利用多粒度跨域交互器对这些特征进行视图组合;其次,通过优化的软共享内存网络和域适配器来完善新闻领域标签;再次,将Transformer与多粒度跨域交互器结合,使用更先进的融合网络动态加权聚合不同领域的交互特征;最后,将融合特征输入分类器中用于真/假新闻判别。实验结果表明,Transm3与M3FEND(Memory-guided Multi-view Multi-domain FakE News Detection)和EANN(Event Adversarial Neural Networks for multi-modal fake news detection)相比,综合F1值在中文数据集上分别提高了3.68%和6.46%,在英文数据集上分别提高了6.75%和11.93%,在各分领域上F1值也有明显的提高,充分验证了Transm3在多域虚假新闻检测工作上的有效性。

基于改进一维卷积神经网络的轴承故障诊断

为了保障机械设备的安全稳定运行,提出了一种采用大卷积核和弱池化结构的一维卷积神经网络故障诊断模型。首先,设计大卷积核,提高模型对全局特征的敏感度,同时简化池化结构,进一步增强模型对局部特征的抽象能力;然后,嵌入批量归一化处理策略,实现故障位置及故障程度的准确识别;最后,应用凯斯西储大学的轴承公开数据集进行模型验证。实验结果显示该模型具有优秀的特征提取能力和分类精度。

改进卷积神经网络模型设计方法

针对现有卷积神经网络模型参数量大、训练耗费时间的问题,提出一种网络串联和并联共用的方法,使用较小的卷积核和较多的非线性激活减少参数量的同时增加网络特征学习能力,提出尺度归一化池化层取代全连接层,避免全连接层参数过多容易导致过拟合的问题,改进后的模型支持训练任意尺寸的图片。实验结果表明,提出方法减少了大量的参数和训练消耗的时间,有效提升了算法的效率。

基于自适应池化的神经网络的服装图像识别

针对传统池化方式不能提取有效特征值的问题,提出根据池化域的尺寸、池化域内的元素值和网络的训练轮数调整池化结果的自适应池化方法,该算法依据插值原理与最大值池化模型构建函数,以特定函数值作为池化结果,然后利用交叉验证进行模型对比实验。同时提出了小样本调优法以解决目前依靠经验值在全部数据集上验证选取超参数效率较低的问题。在原始数据集上,按照分层抽样的规则抽取小样本,并基于小样本数据集对已编码的超参数组合循环训练并测试,通过对识别率最高的组合解码确定最优超参数。选用Deep Fashion数据库进行相关实验,结果显示自适应池化模型的识别率达到83%左右,与最大值池化模型相比提高约2.5%。通过小样本选定超参数,并与随机组合超参数在原始数据集上进行对比实验,结果显示小样本调优法选择的超参数在经验值范围内最优,识别结果为86.98%,与随机组合超参数的平均识别率相比提高了约41.4%。自适应池化方法可以扩展到其他的神经网络中,小样本调优法对高效选取神经网络的超参数提供了依据。

区域提取网络结合自适应池化网络的机场检测

针对传统机场检测方法准确率低、虚警率高、耗时长等问题,借鉴深度卷积神经网络的架构,提出一种改进的区域提取网络和自适应池化网络结合的机场快速检测方法.将二分类网络引入区域提取网络以筛除一些定位较差的候选区域和背景区域,结合自适应池化的检测网络对机场候选区域进行识别,通过复用网络结构和学习的特征参数来达到快速检测的目的.仿真结果表明,与两种典型的机场检测方法相比,所提方法在测试集上取得更高准确率和更低虚警率的同时,极大地提高了检测速度,达到了精准、快速检测机场的目的.

边缘智能背景下的手写数字识别

随着边缘智能的快速发展,现有手写数字识别卷积网络模型的发展已越来越不适应边缘部署、算力下降的要求,且存在小样本泛化能力较差和网络训练成本较高等问题。借鉴卷积神经网络(CNN)经典结构、Leaky_ReLU算法、dropout算法和遗传算法及自适应和混合池化思想构建了基于LeNet-DL改进网络的手写数字识别模型,分别在大样本数据集MNIST和小样本真实数据集REAL上与LeNet、LeNet+sigmoid、AlexNet等算法进行对比实验。改进网络的大样本识别精度可达99.34%,性能提升约0.83%;小样本识别精度可达78.89%,性能提升约8.34%。实验结果表明,LeNet-DL网络相较于传统CNN在大样本和小样本数据集上的训练成本更低、性能更优且模型泛化能力更强。

多层深度特征的目标跟踪算法研究

现有的目标跟踪算法大多采用传统的手工特征或神经网络的某一层特征描述目标的外观,不利于跟踪,文中提出一种基于多层深度特征的自适应更新目标跟踪算法。采用经过预训练的深层卷积神经网络分别提取低层和高层信息用以描述目标的空间特征和语义特征,通过对两层特征信息的学习得到两个滤波模板,对应求得两个滤波响应,这两个滤波响应以不同的权重决定最后的跟踪结果。算法中还设计了对目标外观模型和滤波模板的自适应更新方案,能更好地适应目标的外观变化以及遮挡问题。采用多层深度特征描述目标外观,并且利用提取的特征训练两个滤波模板,求滤波响应时采用核相关的方法,增强了跟踪结果的准确性并加快了跟踪的速度。实验结果表明,所提算法与现有跟踪算法相比,可以更好地应对多种挑战因素,跟踪速度也完全能满足实时跟踪任务的需求。

基于MDM-ResNet的脑肿瘤分类方法

脑肿瘤是世界上最致命的癌症之一.由于脑肿瘤的多样性,其图像分类成为了当代研究的热点.近年来,深度神经网络(DNN)常用于医学图像分类,但随着深度的增加网络会出现梯度消失和过拟合的问题,而残差网络(ResNet)通过引入恒等映射可以缓解这些问题.因此,本文基于ResNet提出了一种MDM-ResNet网络,该网络由多尺寸卷积核模块(Multi-size convolution kernel module)、双通道池化层(Dual-channel pooling layer)和多深度融合残差块(Multi-depth fusion residual block)组成.本文实验在Figshare数据集上展开,采用数据增强操作对图像进行预处理,并利用5倍交叉验证方法对网络性能进行评估.最终实验结果表明MDM-ResNet能够对脑膜瘤(Meningioma)、胶质瘤(Glioma)和垂体瘤(Pituitary tumor)进行有效分类.

基于优化卷积神经网络的表面缺陷检测

卷积神经网络(CNN)具有权值数量少,训练速度快等优点,在图像识别、机器视觉等领域得到广泛应用。本文提出了一种卷积神经网络的自适应加权池化算法,算法通过生成合并通道,并在学习掩模的引导下汇集特征,优化了子采样模型的特征提取,有效改善了网络的识别准确性和快速性。利用该算法对磁片表面缺陷进行检测实验,实验结果表明,本文提出的池化模型使卷积神经网络对特征的提取更加精确,同时提高了收敛速度和鲁棒性,并且可以应用于各种深度神经网络体系结构中。

一种改进的LeNet网络

针对卷积神经网络中存在的学习效率低、收敛速度慢、训练时间长等问题,文中提出一种改进的LeNet卷积神经网络模型。该模型使用卷积核大小为3,步幅为2的卷积层代替原有的池化层,并在每层激活函数之前添加批量归一化层。在Mnist和Cifar-10数据集上放入实验证明,相比于传统的LeNet网络,所提出的卷积神经网络提高了分类准确率,并且具有更快的收敛速度及更短的训练时间。

基于改进型C3D网络的人体行为识别算法

针对原始C3D卷积神经网络参数量庞大,以及在压缩网络参数的同时进一步提高视频数据集中人体行为的识别率的问题,提出一种改进型C3D卷积神经网络模型。首先,采用全局平均池化和卷积分类操作取代全连接层,形成全卷积网络形式,之后在模型中分别引入卷积核为(3×3×3)和(1×1×1)的三维卷积层,并在此基础上采用卷积核为(3×1×7)和(3×7×1)的三维卷积层对多个(3×3×3)卷积层合并。最后,将所提方法在数据集UCF101和HMDB51上进行训练测试,并与当前深度学习现有流行算法进行比较。实验结果表明,本文所提方法与原始C3D网络模型相比,在UCF101数据集和HMDB51数据集上识别率分别提高了8.9%和7.9%,参数量压缩为原来的32.9%,并且在模型压缩和识别率上也均优于其他方法。

基于高低维度特征融合的双通道卷积神经网络

为了充分利用图像中所隐藏的特征信息,提出将低级维度特征融合在全连接层,构建出融合了高低级维度特征的双通道卷积神经网络。首先构建一个传统的双通道卷积神经网络,在两通道上设置不同大小的卷积核,将双通道的池化层分别连接到全连接层,同时将两通道卷积神经网络的第一池化层提取的特征也直接送到全连接层,使提取得到的初级和高级特征图在全连接层上进行融合,融合后的数据输入到Softmax分类器进行分类。不同算法在fashion-mnist和CIFAR-10数据库上的对比仿真结果表明,本文模型获得了较高的分类准确率。

基于自适应池化的双路卷积神经网络图像分类算法

针对相同构造的卷积神经网络输入同样的数据集也会提取到不同特征的情况,为利用该差异挖掘图像的深层特征,提出一种双路卷积神经网络模型的图像分类算法。在优化池化组合的基础上,在另一子网络中引入自适应池化丰富差异特征,提高特征表达层次;根据互补测量函数测量子网络间的特征差异的互补性,以此优化损失函数反向传播微调模型权重,提高图像分类的精准度。在MNIST和CIFAR-10图像集上的实验结果表明,基于自适应池化的双路卷积神经网络的分类能力优于现有的深度卷积神经网络。

图分类研究综述

图数据广泛存在于现实世界中,可以自然地表示复合对象及其元素之间的复杂关联.对图数据的分类是一个非常重要且极具挑战的问题,在生物/化学信息学等领域有许多关键应用,如分子属性判断,新药发现等.但目前尚缺乏对于图分类研究的完整综述.首先给出图分类问题的定义和该领域的挑战;然后梳理分析了两类图分类方法—基于图相似度计算的图分类方法和基于图神经网络的图分类方法;接着给出了图分类方法的评价指标、常用数据集和实验结果对比;最后介绍了图分类常见的实际应用场景,展望了图分类领域的未来研究方向并对全文进行总结.

基于自适应池化的行人检测方法

基于卷积神经网络的行人检测器普遍采用图像识别网络,通常会引起多池化层导致小目标行人特征信息丢失、单一池化方法导致行人局部重要特征信息削弱甚至丢失等,针对以上问题,基于最大值池化和平均值池化方法,提出了一种自适应池化方法,结合通用目标检测器Faster R-CNN,形成了有效的行人检测器,达到增强行人局部重要特征信息、保留小目标行人有效特征信息的目的。对多个公开的行人数据集进行大量实验,结果表明,与传统的卷积神经网络行人检测器相比,所提方法将行人检测漏检率降低了2%~3%,验证了方法的有效性。新方法改进了卷积神经网络结构,在无人驾驶领域具有一定的参考价值。

面向遥感图像检索的级联池化自注意力研究

高分辨率遥感图像检索中,由于图像内容复杂,细节信息丰富,以致通过卷积神经网络提取的特征难以有效表达图像的显著信息。针对该问题,提出一种基于级联池化的自注意力模块,用来提高卷积神经网络的特征表达。首先,设计了级联池化自注意力模块,自注意力在建立语义依赖关系的基础上,可以学习图像关键的显著特征,级联池化是在小区域最大池化的基础上再进行均值池化,将其用于自注意力模块,能够在关注图像显著信息的同时保留图像重要的细节信息,进而增强特征的判别能力。然后,将级联池化自注意力模块嵌入到卷积神经网络中,进行特征的优化和提取。最后,为了进一步提高检索效率,采用监督核哈希对提取的特征进行降维,并将得到的低维哈希码用于遥感图像检索。在UC Merced、AID和NWPU-RESISC45数据集上的实验结果表明,本文方法能够有效提高检索性能。

基于核化双线性卷积网络的细粒度图像分类

双线性卷积网络(Bilinear CNN,B-CNN)在计算机视觉任务中有着广泛的应用.B-CNN通过对卷积层输出的特征进行外积操作,能够建模不同通道之间的线性相关,从而增强了卷积网络的表达能力.由于没有考虑特征图中通道之间的非线性关系,该方法无法充分利用通道之间所蕴含的更丰富信息.为了解决这一不足,本文提出了一种核化的双线性卷积网络,通过使用核函数的方式有效地建模特征图中通道之间的非线性关系,进一步增强卷积网络的表达能力.本文在三个常用的细粒度数据库CUB-200-2011、FGVC-Aircraft以及Cars上对本文方法进行了验证,实验表明本文方法在三个数据库上均优于同类方法.

基于改进卷积神经网络与支持向量机结合的面部表情识别算法

针对当前卷积神经网络(CNN)利用端层特征进行面部表情识别存在模型结构繁琐、训练参数过多、识别不够理想的问题,提出一种基于改进CNN与支持向量机(SVM)相结合的优化算法。首先,利用连续卷积的思想设计网络模型,以获取更多非线性激活;然后,采用自适应全局平均池化(GAP)层取代传统CNN中的全连接层,以减少网络参数量;最后,用SVM分类器代替传统Softmax函数实现表情识别,以提高模型泛化能力。实验结果表明,所提算法在Fer2013和CK+数据集上分别取得了73.4%和98.06%的识别准确率,与传统LeNet-5算法相比,在Fer2013数据集上提升了2.2个百分点,且该网络模型结构简单、参数量较少,具有良好的鲁棒性。

基于深度卷积神经网络和支持向量机的手势识别算法

为了提高手势识别的准确率,提出一种基于深度卷积神经网络和支持向量机的手势识别算法;将包含手势的图像进行手掌轮廓分割及手指关节特征提取,经过去噪后获得准确的手势图像,然后通过卷积与池化获得手势特征样本,采用神经网络算法对输入特征样本进行训练,并对全连接层各节点的输出结果进行支持向量机多元分类,从而获得手势识别结果;在差异化设置条件下,通过对比手势识别的平均准确率和识别时间,可获得最优的卷积核尺寸及池化方法。仿真实验结果表明,相比其他3种识别算法,所提出的算法具有更优的识别准确率。

基于多尺度多任务卷积神经网络的人群计数

在智能监控领域,实现人群计数具有重要价值,针对人群尺度不一、人群密度分布不均及遮挡等问题,提出一种多尺度多任务卷积神经网络(MMCNN)进行人群计数的方法。首先提出一种新颖的自适应人形核生成密度图描述人群信息,消除人群遮挡影响;其次通过构建多尺度卷积神经网络解决人群尺度不一问题,以多任务学习机制同时估计密度图及人群密度等级,解决人群分布不均问题;最后设计一种加权损失函数,提高人群计数准确率。在UCF_CC_50和World Expo'10数据库上进行了评估,验证了自适应人形核的有效性。实验结果表明:所提算法比Sindagi等的方法 (SINDAGI V A,PATEL V M. CNN-based cascaded multi-task learning of high-level prior and density estimation for crowd counting. Proceedings of the 2017 14th IEEE International Conference on Advanced Video and Signal Based Surveillance. Piscataway,NJ:IEEE,2017:1-6)在UCF_CC_50数据库上平均绝对误差(MAE)数值和均方误差(MSE)数值分别降低约1. 7和45;与Zhang等的方法(ZHANG Y,ZHOU D,CHEN S,et al. Single-image crowd counting via multi-column convolutional neural network. Proceedings of the 2016 IEEE Conference on Computer Vision and Pattern Recognition. Washington,DC:IEEE Computer Society,2016:589-597)相比,在World Expo'10数据库上所提算法的MAE值降低约1. 5,且在真实公共汽车数据库上仅0～3人的计数误差,表明其实用性较强。