基于深度度量学习的强泛化开关仪表识别算法

针对电厂开关检测方法无法应对现实开集环境,对稀有类别识别准确率低的现状,将目标识别问题转化为相似性度量问题,并提出新算法。新算法基于深度度量学习的三元组网络,利用加入SE Block的ResNet-18提取特征,并利用跨批次挖掘增强学习效果。为评估算法性能,创建了一个包含3300张开关图片的数据集,并使用新算法在该数据集上进行了闭集测试、开集测试、小样本测试。结果表明:新算法在闭集状态下具有良好的区分能力,不仅能准确识别训练集中的类别,还能有效区分训练时未遇到的及出现频率较低的状态。由此表明,该算法不仅适用于现实世界的开集环境,而且能显著提升对小样本数据的识别精度。

深度度量学习综述

随着深度神经网络的兴起,深度度量学习(DML)引起广泛的关注。为了深入了解深度度量学习,首先,整理和分析传统度量学习方法的局限性。其次,从3个类型探讨DML,包括基于样本对、代理和分类的类型:基于样本对的类型包括散度方法、排序方法和基于生成对抗网络(GAN)的方法;基于代理的类型主要从代理样本、类别方面进行讨论;基于分类的类型中主要讨论了跨模态度量学习、类内类间边距问题、超图分类,以及与其他方法(如基于强化学习和基于对抗学习的方法)的结合。再次,介绍评估DML性能的各种指标,同时总结和对比DML在不同任务(包括人脸识别、图像检索和行人重识别等)中的应用。最后,探讨DML面临的挑战,并提出一些可能的解决策略。

深度神经网络的测试输入选择与度量标准研究综述

随着深度神经网络在各个领域受到广泛应用,对其进行测试评估并确保其安全性显得尤为重要。测试输入选择方法可以帮助在测试数据集规模较大且标注成本较高的情况下,对测试样本进行选择与排序,以提高测试效率和测试覆盖率。为了深入了解深度神经网络测试输入选择领域的研究进展,对近5年来91篇相关领域的学术论文进行了系统梳理。介绍了深度神经网络测试的基本概念和流程,包括深度学习系统的构建、测试输入的选择和测试结果的评估;概括分析了各种度量标准和测试输入选择方法的适用场景与不足之处,以及彼此之间的相互联系。最后,指出了当前深度神经网络测试输入选择与评估工作面临的挑战和机遇。

基于孪生网络与多重通道融合的脱机笔迹鉴别

脱机签名验证模型因其具有判断签名是否伪造的能力而备受关注.当今大多数脱机签名验证模型可分为深度度量学习方法和双通道判别方法.大部分深度度量学习方法利用孪生网络生成每张图片的细节特征向量,采用欧氏距离法判断相似度,但是欧氏距离仅考虑两个点之间的绝对距离,而容易忽视点的方向、缩放的信息,不会考虑数据之间的相关性,因此无法捕获特征向量内部之间的关系;而双通道判别方法在网络训练前就进行特征的判别,更能判断不同图像的相似性,但此时图像的细节特征不够清晰,大量特征丢失.针对双通道判别方法中特征消失过多的问题,提出了一种面向独立于书写者场景的手写签名离线验证模型MCFFN(Multi-channel feature fusion network).在CEDAR、BHSig-B、BHSig-H和ChiSig四个不同语言的签名数据集上测试了所提出的方法,实验证明了所提方法的优势和潜力.

基于深度度量学习的异常流量检测方法

网络异常流量识别是目前网络安全的重要任务之一。然而传统流量分类模型是依据流量数据训练得到,由于大部分流量数据分布不均导致分类边界模糊,极大限制了模型的分类性能。为解决上述问题,文章提出一种基于深度度量学习的异常流量检测方法。首先,与传统深度度量学习每个类别单一代理的算法不同,文章设计双代理机制,通过目标代理指引更新代理的优化方向,提升模型的训练效率,增强同类别流量数据的聚集能力和不同类别流量数据的分离能力,实现最小化类内距离和最大化类间距离,使数据的分类边界更清晰;然后,搭建基于1D-CNN和Bi-LSTM的神经网络,分别从空间和时间的角度高效提取流量特征。实验结果表明,NSL-KDD流量数据经过模型处理,其类内距离显著减小并且类间距离显著增大,类内距离相比原始类内距离减小了73.5%,类间距离相比原始类间距离增加了52.7%,且将文章搭建的神经网络比广泛使用的深度残差网络训练时间更短、效果更好。将文章所提模型应用在流量分类任务中,在NSL-KDD和CICIDS2017数据集上,相比传统的流量分类算法,其分类效果更好。

基于去偏置项SoftMax和紧致度量损失函数的牛脸识别方法

为了实现精准畜牧业生产及畜牧业保险理赔中牛只身份的准确识别,试验提出了基于去偏置项SoftMax和紧致度量损失函数的牛脸识别方法,即采用深度卷积神经网络(deep convolutional neural networks,DCNNs)模型提取特征,利用去偏置项SoftMax损失函数优化特征空间中的特征分布,提高特征线性可分辨性,解决特征归一化后在投影超平面上的重叠问题;采用紧致度量损失函数结合去偏置项SoftMax损失函数联合监督模型训练,使同类特征与类内特征的平均距离最小化,提高特征聚类的紧凑性和可辨识性,同时兼顾了类内样本分布的多样性;最后试验将本算法(去偏置项SoftMax和紧致度量损失函数联合监督算法)与ArcFace损失函数、标准SoftMax损失函数、去偏置项SoftMax损失函数、标准SoftMax损失函数结合紧致度量损失函数进行了性能对分分析。结果表明:本算法的识别准确率在所有模型中最高,为97.61%;且能对高相似度牛脸正确识别。说明基于去偏置项SoftMax和紧致度量损失函数的牛脸识别方法可满足牧场牛只身份识别要求。

基于决策边界分析的深度神经网络鲁棒性评估与优先次序验证

随着深度学习技术在现实世界的广泛应用,人们对基于深度神经网络的系统安全性提出了更高要求.鲁棒性是神经网络的重要安全性质,对网络鲁棒性的量化分析和验证是深度学习模型安全性研究的关键问题.针对神经网络验证技术中难以解决的效率问题,提出了一种新颖的优先次序优化方法.结合局部鲁棒性的规约方式,在一组待验证输入内选择具有更高验证需求的不稳定点代替常规的逐点验证模式.根据对鲁棒性问题与决策边界距离的关联性分析,提出了一种基于网络输出单元值大小的鲁棒性评估方法作为优先验证的输入点选择依据.在此基础上将其扩展为输入的预分析模块与验证工具集成,进而设计了基于优先次序的验证框架.在常用的验证基准上进行了实验,结果表明,该方法的决策边界分析理论与突变测试结果一致,鲁棒性评估中选择不安全样本的平均准确率高于90%,通过减少安全样本的验证开销使验证效率提高了148.6%~432.6%.

一种改进的人脸识别CNN结构研究

为了克服人脸识别中存在光照、姿态、颜色等噪声的干扰,融合了卷积神经网络与孪生神经网络的优点,提出了一种改进的CNN网络结构,该结构由两个卷积神经网络组成,且共享网络权值,在该结构的训练中采用了差异深度度量学习(DDML)算法。卷积结构有效地去除外界噪声干扰,且在非线性降维中权值共享结构能够自动提取相同特征,DDML算法增加了提取特征的有效性。在ORL、Yale B和AR人脸数据库上实验结果表明,与PCA、CNN等算法相比,识别稳定度高,识别率提升近5个百分点。

优化三元组损失的深度距离度量学习方法

针对基于三元组损失的单一深度距离度量在多样化数据集环境下适应性差,且容易造成过拟合的问题,提出了一种优化三元组损失的深度距离度量学习方法。首先,对经过神经网络映射的三元组训练样本的相对距离进行阈值化处理,并使用线性分段函数作为相对距离的评价函数;然后,将评价函数作为一个弱分类器加入到Boosting算法中生成一个强分类器;最后,采用交替优化的方法来学习弱分类器和神经网络的参数。通过在图像检索任务中对各种深度距离度量学习方法进行评估,可以看到所提方法在CUB-200-2011、Cars-196和SOP数据集上的Recall@1值比之前最好的成绩分别提高了4.2、3.2和0.6。实验结果表明,所提方法的性能优于对比方法,同时在一定程度上避免了过拟合。

基于残差网络和度量学习的素描人脸识别

为解决素描人脸识别的类内模态差距大的问题,提出一种基于深度残差网络和度量学习的素描人脸识别模型。利用大规模光学人脸数据集预先训练深度残差网络,学习人脸的一般特征,解决素描人脸训练数据集过小容易过拟合的问题;采用素描人脸数据集对模型进行微调,解决素描和照片特征的分布差异的问题;将度量学习模型与深度残差网络模型相结合,使模型在扩大异类样本距离的同时,进一步减少素描人脸的同类差异。通过在香港中文大学的素描人脸库上进行实验,验证准确率达到94.42%,实验结果表明,该模型可以有效提高素描人脸识别准确率。

基于深度神经网络的推荐系统研究综述

在信息过载时代,从海量信息中寻找感兴趣的信息是一件非常困难的事.推荐系统可以从大数据中挖掘用户的偏好信息,从而向用户提供精确的个性化推荐服务.近年来,深度神经网络在推荐系统中得到了广泛的应用,具有独特的特征提取能力.本文对推荐系统进行梳理,在讨论传统推荐算法的基础上,综述了基于深度神经网络的推荐系统的研究进展,分析了与传统推荐方法的区别与优势,归纳了推荐系统的性能评价指标.介绍了所提出的三个基于深度学习的推荐模型.并对推荐系统的未来发展趋势进行展望.

开放集识别研究综述

传统机器学习方法和深度神经网络在训练模型的过程中都需要大量标记样本作为支撑,然而标记大量样本是一个耗费巨大的过程,并且真实场景变化莫测,获得所有类别的标记样本是不现实的.因此,研究者开始突破标记样本的限制,提出一种更符合现实的场景——开放集识别(Open Set Recognition,OSR).OSR要求建立的模型不仅能分类训练过程中出现的类别,还可以有效地处理未见过的类别.近年来,OSR迅速发展成为热点领域,大量的工作围绕OSR展开.对现有的OSR工作进行总结:首先,从定义上将OSR与其他相关工作进行区分;其次,按照模型建立、度量选择、增量特点对OSR算法进行总结,并介绍了OSR的两种理论;最后展望了OSR未来的发展方向.

基于改进深度度量学习算法的表面缺陷检测

为了解决小批量、多品种工业产品的表面质量检测问题,提出一种基于改进深度度量学习的缺陷检测算法。该算法对VGG16网络模型做改进,更有利于原始图像的隐空间映射。针对产品表面缺陷检测的任务,提出条件三元组损失函数以加强神经网络的拟合能力。同时,在隐空间中进行缺陷判定时,抛弃原始度量学习中基于KNN算法的归类方法,提出基于高斯分布概率的归类模型。在检测新类型产品时,在已训练好的网络模型的基础上,使用新产品的图像数据作为输入对网络进行微调。利用该算法在纽扣缺陷数据集上经K-Fold交叉验证,在只需50个无缺陷样本和50个有缺陷样本的小样本情况下,该算法在不同的查询集上的检测准确率均在90%以上,最高可达99.89%,与传统深度度量学习算法相比,检测准确率提升10%以上。实验结果表明,改进深度度量学习算法可以很好地解决小批量、多品种工业产品的表面缺陷检测问题。

基于深度度量学习的电机故障诊断

深度学习以其强大的自适应特征提取和分类能力在机械大数据处理方面取得了丰硕的成果,由于电机结构的复杂性,其信号表现出的非平稳、非线性和复杂多样等特点,使得传统分类方法中的Softmax分类器+交叉熵损失函数对电机故障诊断力不从心。根据电机信号非平稳、数据量大等特点,结合短时傅里叶变换(STFT)与深度学习中的卷积神经网络(CNN)算法和Triplet Loss三元组思想,提出了深度度量学习电机故障诊断方法。该方法能将电机故障信号转换成时频谱图,同时构建CNN,将预处理后的样本用于CNN的训练,采用Triplet Loss作为损失函数度量故障数据高维特征间的距离,并结合标签有监督地微调整个网络,从而实现准确的电机故障诊断。实验表明该方法在处理复杂数据时能够度量特征在高维空间中的距离,高效完成故障诊断任务,弥补了交叉熵函数的不足。

联合结构相似性与类信息的图像分类

针对卷积神经网络训练收敛速度慢的问题,提出了一种加权的联合结构相似性和类信息监督训练的方法。首先,针对小图像,设计一个能有效提取图像高级别信息的卷积神经网络。其次,建立加权的联合结构相似性和类信息损失函数训练卷积神经网络。最后,通过mnist手写数字和cifar10图像分类实验验证所设计网络的有效性。实验结果表明,所设计的网络在mnist手写数字和cifar10数据集上的图像分类错误率分别为0.33%和11%。在未进行扩增mnist数据集的前提下,所设计的网络的性能超过了该数据集上所有单网络的性能;在cifar10数据集上,所设计的网络能以较少的计算量获得较高的图像分类准确率。同时,联合结构相似性和类信息损失的监督训练能加快网络的训练速度。

时空信息联合嵌入的端到端三维模型草图检索

现有的基于草图的三维模型检索工作往往将数据视为静态输入,并使用卷积神经网络进行特征提取,忽略了数据的动态属性,造成了有益信息的部分丢失,进而影响了以此为基础的检索效果.为解决这一问题,提出一种基于时空信息联合嵌入的端到端三维模型草图检索算法.首先,将草图表征为动态绘制序列,体现其绘制过程中所包含的时序信息;将三维模型表征为多视图序列,体现视图间的位置关联;然后,构建包含静态空间特征提取和动态时序特征提取的端到端双流网络,结合三元中心度量学习建立跨域数据的联合时空特征嵌入,充分捕捉草图和三维模型所包含的静态、动态特征,缩小跨域数据的差异性,提高检索的准确率;最后,在标准公开数据集SHREC2013和SHREC2014上进行实验,与现有工作相比获得了较高的准确率,验证了所提算法的可行性及有效性.

基于联合特征映射的端到端三维模型草图检索

在草图-三维模型检索任务中,草图具有类内多样性,三维模型具有复杂性,且草图-三维模型之间存在巨大的域间的差异性,这些特点的相互作用使得基于草图的三维模型检索任务变得特别困难.针对这一问题,提出一种基于联合特征映射的端到端三维模型草图检索框架.首先将三维模型转化为一组二维视图,建立跨域数据的共享数据空间;然后通过网络权值共享,建立端到端的三元度量学习网络,实现跨域数据草图和视图的联合特征映射;最后基于联合特征分布,提出4种草图-三维模型相似评价算法来实现草图-三维模型的检索.在大型公共数据集SHREC2013和SHREC2014上的检索精度分别为81.8%和75.6%,比现有算法在7项检索指标PR曲线,NN,FT,ST,E,DCG和MAP上都有所提升,检索性能突出.

基于深度残差网络的图像超分辨率算法

单幅图像超分辨率(SR)是从单个低分辨率(LR)图像推断出高分辨率(HR)图像的任务。大多数基于卷积神经网络(CNN)的深层SR模型没有充分利用原始LR图像的分层特征,性能相对较低。同时,将像素级误差作为损失函数,易产生缺乏高频纹理、过度平滑的图像。针对以上问题,本工作提出了改进的基于深度残差网络的图像超分辨率算法,通过残差密集块,获得稠密的局部特征,使用全局特征融合以全局方式自适应地学习全局分层特征;使用更合理的损失函数组合,结合分割概率图和空间特征变换模块,利用对抗学习的原理训练CNN,优化感知相似度。实验结果表明,本工作方法在高缩放因子下实现了图像质量的显著提升,深度残差网络可以重建出更逼真、视觉上更合理的纹理。

结合时序和质量评估的视频行人重识别

针对行人重识别中出现的行人遮挡、图像质量参差不齐的情况,提出一种结合时序和局域质量评估的网络模型。从时序信息和质量评估两方面出发,利用时序信息和注意力机制弥补空间上出现的噪音或者缺失,进一步提高基础特征表达的判别能力;将行人图像按比例分割为3段,分别进行局域质量评估;将得到的分数作为权重与行人特征加权求和得到最终的特征。将ResNet-50作为主干网络,在MARS、DukeMTMC-VideoReID和PRID-2011数据集上的实验结果表明,该网络模型在行人重识别准确率上有一定提升。

用于高分辨率遥感影像度量变化检测的多路径非对称融合网络

现有的基于深度学习的度量变化检测方法侧重于高级变化语义特征的提取,难以捕获细粒度地物的变化,检测的变化边界模糊.一些方法引入了包含高分辨率和细节特征的低级视觉特征,但这些特征更容易受到内部细节等伪变化的干扰,缺少可靠的远程依赖关系.针对上述问题,提出了一种基于深度学习的端到端的度量变化检测网络,称为用于高分辨率遥感影像度量变化检测的多路径非对称融合网络(Multi-path Asymmetric Fusion network,MAFNet),可以检测到更清晰的边界和更完整的细粒度地物.MAFNet提出了一种多路径非对称融合网络用于捕获长短路径依赖关系,用细粒度的低级视觉特征细化粗略的高级语义特征.MAFNet提出了一种基于深度监督的度量模块,获取更具判别力的特征,端对端的测量变化.实验表明,与其他6种基准方法相比,MAFNet网络在SYSU数据集和CDD数据集上都实现了最高的精度,F1分别为80.56%,95.02%.