基于元学习的图卷积网络少样本学习模型

少样本学习是目前机器学习研究领域的热点和难点.针对现有的少样本学习模型不能有效捕捉数据特征与数据标签之间的联系,造成分类模型泛化能力弱的问题,提出一种基于元学习的原型空间图卷积网络少样本学习模型FSL-GCNPS(Few-Shot Learning of Graph Convolutional Network on Prototype Space).首先,利用卷积神经网络提取多任务数据的特征向量;其次,为了将特征向量映射到原型空间中,根据元学习的训练策略得到特征向量的类原型表达;然后,通过类原型向量和类向量之间的嵌入表示,构建图结构数据,并进行图卷积网络训练、推理.实验结果表明,相较于经典少样本学习方法,FSL-GCNPS模型拥有更好的分类准确率和分类稳定性.同时,在医学图像领域数据集上实验表明,FSL-GCNPS具有很好的跨域适应性.

基于少样本学习的书籍装帧手写字体生成

手写字体具有一定的亲和度,尤其在书籍装帧设计中更具人性化和表达力,但手工设计字体流程烦琐且专业程度要求高。通过基于人工智能的手写字体生成算法帮助设计是解决这一问题的有效途径。本研究采用少样本字体生成网络,其中在特征提取方面采用了多子编码器提取了多个特征,可更好地捕捉不同的局部概念;在样本训练方面采用端到端的训练方法,可以显著减少训练时间,提高字体生成效率。采用定性与定量分析相结合的方式,对多种字体生成方法进行了深入比较。相较于其他方法,本研究所提出方法的FID与LPIPS值更低,这充分证明了本研究方法在生成效果上的优越性,生成的字体更加清晰且高度逼真。该方法为书籍装帧设计提供了更快、更有效的解决方案,简化了字体设计的烦琐过程,提升了设计效率。未来的研究可进一步优化生成字体的质量和多样性,以满足不同书籍装帧设计的需求。

基于少样本学习算法的结直肠粘膜下肿瘤和息肉内镜图像分类系统

目的:为解决难以收集足够结直肠粘膜下肿瘤样本训练深度学习模型的问题,基于少样本学习算法构建了粘膜下肿瘤和息肉内镜图像分类模型。方法:收集多中心来源的结直肠粘膜下肿瘤内镜图像共172张,包括结直肠脂肪瘤(CRLs)、神经内分泌肿瘤(NETs)、锯齿状病变及息肉、传统腺瘤各43张。基于这些内镜图像构建支持集和查询集,在ImageNet和食管内镜图像上二次预训练的ResNet50提取图像特征,计算欧氏距离,使用K近邻算法进行分类。与原始模型和低、高年资内镜医师进行对比,评估少样本学习模型的分类性能。结果:提出的少样本学习模型分类准确率、宏曲线下面积和MacroF1值分别为0.831、0.925和0.831,诊断CRLs的准确率和F1值分别为0.925和0.850,诊断NETs的准确率和F1值分别为0.906和0.805。同时,该模型具有较好的分类一致性(Kappa=0.775)和可解释性。结论:构建的少样本学习模型在区分CRLs、NETs、锯齿状病变及息肉、传统腺瘤内镜图像上表现出优异性能,可用于辅助内镜下识别结直肠粘膜下肿瘤。

多模态交叉解耦的少样本学习方法

当前的多模态少样本学习方法忽视了属性间差异对正确识别样本类别的影响。针对这一问题,提出一种利用多模态交叉解耦的方法,通过解耦不同属性语义特征,并经过特征重建学习样本的本质类别特征,缓解类别属性差异对类别判别的影响。在两个属性差异较大的基准少样本数据集MIT-States和C-GQA上进行的大量实验表明,所提方法较现有方法有较大的性能提升,充分验证了方法的有效性,表明多模态交叉解耦的少样本学习方法能够提升识别少量测试样本的分类性能。

基于YOLOv5和少样本学习的高空作业安全带检测

针对电厂高空作业人员安全带佩戴检测问题,现有研究大多利用深度检测模型直接检测,不仅需要大量样本训练模型,而且由于高空作业背景杂乱、人员目标小,导致不易检测等。为此,提出一种基于目标检测和少样本细粒度分类的两阶段检测方法:首先利用YOLOv5检测视频图像中的高空作业人员,再用少样本细粒度分类方法识别其是否佩戴安全带。针对佩戴和不佩戴安全带人员的细微差别,设计了一种基于局部描述符的少样本度量学习模型,在公用数据集预训练模型基础上,利用少量训练样本对模型微调,用于安全带佩戴识别。实验结果表明,在支持集图像数为60时,识别精度达到了97.86%。所提方法可实现少样本情况下对高空作业人员安全带佩戴情况的精确检测。

基于少样本学习和知识迁移的继电保护压板状态识别

针对变电站中保护压板开关状态自动识别问题,提出了一种基于少样本学习和知识迁移的压板开关状态识别模型,使用残差网络提取图像特征,基于度量方法计算查询图像与支持图像之间的相似度,在此基础上使用KNN实现压板开关状态的分类识别。将残差网络在公用数据集上预训练的模型直接迁移到基于少样本学习的压板开关状态的识别任务,并研究了KNN算法中不同的最近邻个数对压板开关状态分类结果的影响。所提方法可在图像样本少的情况下实现压板开关状态的识别。实验结果表明,在支持图像的样本数为30时,图像识别精度达到99.49%。相比于其他大样本的分类方法,所提出的利用少量样本的分类方法能够实现令人满意的分类效果,提高了图像分类的效率。

基于特征分段度量方法的少样本学习

已有的基于度量方法的少样本学习直接在元学习框架下优化模型以在少样本任务上获得好的表现,但这种直接通过元学习策略训练得到的特征表示传递性较弱,从而限制了度量方法的分类能力。针对该问题提出一种新的模型结构,包括特征映射模块和分段度量模块。在基类数据上预先训练分类器并迁移到元学习的特征提取模块;在元学习阶段,对提取到的特征分多段进行余弦相似度的计算,以预测类别。实验在mini-imagenet数据集的5-way 1-shot和5-way 5-shot情况下分别达到64.33%和80.11%的准确率,在复杂场景下具有更好的识别效果。

基于信息对齐的半监督少样本学习方法

针对深度学习中遇到数据样本不足,数据获取难度大的问题,提出一种基于信息对齐的半监督少样本学习方法。将支持集和查询集输入到特征提取网络得到特征向量,通过类原型计算查询集与支持集的每个局部区域对的距离用于信息对齐;采用注意力机制得到重新加权后的联合关系矩阵,利用关系模块将联合关系矩阵映射成类别的相似度分数;采用伪标签的半监督训练方法,辅助模型训练。理论和实验分析结果表明,与主流少样本学习方法相比,该方法具有更强的区分差异性的能力和更好的泛化能力。

弱监督与少样本学习场景下视频行为识别综述

近年来各类人体行为识别算法利用大量标记数据进行训练,取得了良好的识别精度。但在实际应用中,数据的获取以及标注过程都是非常耗时耗力的,这限制了算法的实际落地。针对弱监督及少样本场景下的视频行为识别深度学习方法进行综述。首先,在弱监督情况下,分类总结了半监督行为识别方法和无监督领域自适应下的视频行为识别方法;然后,对少样本场景下的视频行为识别算法进行详细综述;接着,总结了当前相关的人体行为识别数据集,并在该数据集上对各相关视频行为识别算法性能进行分析比较;最后,进行概括总结,并展望人体行为识别的未来发展方向。

基于少样本学习的加密流量分类方法

加密流量分类是识别加密流量背后运行的服务、应用、协议等方面的技术,以提高网络服务质量或提供网络安全保障。主流的加密流量分类方案通过在大规模数据集上进行训练实现可靠的分类性能。然而,随着互联网技术的持续发展,网络流量规模、计算节点、网络服务等持续增长,出现大量的针对不同类别的加密流量分类需求,收集并标注足够多的加密流量变得越来越不切实际。因此,研究一种能够利用较少加密流量样本进行准确的加密流量分类,并且能够将模型快速推广的技术至关重要。提出一种基于少样本学习的加密流量分类方法,该方法基于元学习思想对加密流量分类任务进行模拟和优化。此外,利用预训练的卷积神经网络模型作为特征提取器,并基于卷积神经网络中神经元特有的计算结构介绍了一种新颖的参数分解方法,让模型能够快速适应不同任务的数据分布。在文章的最后,设置了N-way K-shot的对照实验,实验表明文章提出的方法在K=10时准确率稳定在98%左右,相较于参考模型能够使用更少样本得到更高准确率。

基于自监督学习的少样本学习算法框架

传统少样本学习算法的框架是元训练+元测试,在元训练阶段以少样本任务作为训练样本,需要大量带标签基类图像样本。同时训练后的模型受到任务类型的限制。基于此,提出了一种新的少样本学习算法框架即预训练+任务训练,以解决原有框架的弊端,并提出ODC-FSL算法具体实现该框架。ODC-FSL利用自监督式的预训练阶段获得通用的特征提取器,在任务训练阶段针对特定少样本分类任务训练获得分类器,用于最终的图像分类。同时采用图上特征更新、自蒸馏训练的方式进一步提升分类器训练效果。与现存无监督少样本学习方法相比,ODC-FSL的分类准确率提高了18~32%。

基于深度神经网络的少样本学习综述

如何从少数训练样本中学习并识别新的类别对于深度神经网络来说是一个具有挑战性的问题。针对如何解决少样本学习的问题,全面总结了现有基于深度神经网络的少样本学习方法,涵盖了方法所用模型、数据集及评估结果等各个方面。具体地,针对基于深度神经网络的少样本学习方法,提出将其分为数据增强方法、迁移学习方法、度量学习方法和元学习方法四种类别;对于每个类别,进一步将其分为几个子类别,并且在每个类别与方法之间进行一系列比较,以显示各种方法的优劣和各自的特点。最后强调了现有方法的局限性,并指出了少样本学习研究领域未来的研究方向。

基于深度网络的快速少样本学习算法

少样本学习方法模拟人类从少量样本中学习的认知过程,已成为机器学习研究领域的热点.针对目前少样本学习迭代过程的任务量较大、过拟合现象严重等问题,文中提出基于深度网络的快速少样本学习算法.首先,利用核密度估计和图像滤波方法向训练集加入多种类型的随机噪声,生成支持集和查询集.再利用原型网络提取支持集和查询集图像特征,并根据Bregman散度,以每类支持集支持样本的中心点作为类原型.然后,使用L2范数度量支持集与查询图像的距离,利用交叉熵反馈损失,生成多个异构的基分类器.最后,采用投票机制融合基分类器的非线性分类结果.实验表明,文中算法能加快少样本学习收敛速度,分类准确率较高,鲁棒性较强.

少样本学习

人工智能在很多领域都得到了迅速发展,但现有方法需要在大量的数据中学习先验知识.为了进一步缩小人工智能与人类差距,使其可以从少量的监督信息中学习,获得在新任务上的泛化能力,出现了少样本学习方法.少样本学习的目的是利用少量的有标签样本学习一个分类器,对未知的类进行识别.本文对少样本学习方法的概念和应用场景进行了概述,讨论了诸如半监督学习、数据不平衡学习、迁移学习和元学习之类的相关学习问题与少样本学习间的关联.本文对主流少样本学习方法进行了系统的介绍,通过全面比较将其归类为不同类别.最后,展示了一些主流少样本学习方法在分类任务上的实验结果并加以分析.

一种鲁棒性的少样本学习方法

少样本学习是目前机器学习研究领域的一个热点,它能在少量的标记样本中学习到较好的分类模型.但是,在噪声的不确定环境中,传统的少样本学习模型泛化能力弱.针对这一问题,提出一种鲁棒性的少样本学习方法RFSL(Robust Few-Shot Learning).首先,使用核密度估计(Kernel Density Estimation,KDE)和图像滤波(Image Filtering)方法在训练集中加入不同的随机噪声,形成多个不同噪声下的训练集,并分别生成支持集和查询集.其次,利用关系网络的关系模块通过训练集端到端地学习多个基分类器.最后,采用投票的方式对各基分类器的最末Sigmoid层非线性分类结果进行融合.实验结果表明,RFSL模型可促进小样本学习快速收敛,同时,与R-Net以及其他主流少样本学习方法相比,RFSL具有更高的分类准确率,更强的鲁棒性.

一种基于伪标签的半监督少样本学习模型

如何将带有大量标记数据的源域知识模型迁移至带有少量标记数据的目标域是少样本学习研究领域的热点问题.针对现有的少样本学习算法在源域数据与目标域数据的特征分布差异较大时存在的泛化能力较弱的问题,提出一种基于伪标签的半监督少样本学习模型FSLSS(Few-Shot Learning based on Semi-Supervised).首先,利用pytorch深度学习框架建立一个关系型深度学习网络,并使用源域数据对网络进行预训练;然后,使用此网络对目标域数据进行分类预测,将分类概率最大的类标签作为数据的伪标签;最后,利用目标域的伪标签数据和源域的真实标签数据对网络进行混合训练,并重复伪标签标记与混合训练过程.实验结果表明,相对于现有主流少样本学习算法,FSLSS模型有更好的泛化能力及知识迁移效果.

基于少样本学习的通用隐写分析方法

近年来,深度学习在图像隐写分析任务中表现出了优越的性能.目前,大多数基于深度学习的图像隐写分析模型为专用型隐写分析模型,只适用于特定的某种隐写术.使用专用隐写分析模型对其他隐写算法的隐写图像进行检测,则需要该隐写算法的大量载密图像作为数据集对模型进行重新训练.但在实际的通用隐写分析任务中,隐写算法的大量载密图像数据集是难以得到的.如何在极少隐写图像样本的情况下训练通用隐写分析模型是一个极大的挑战.对此,受少样本学习领域研究成果的启发,提出了基于转导传播网络的通用隐写分析方法.首先,在已有的少样本学习分类框架上改进了特征提取部分,设计了多尺度特征融合网络,使少样本分类模型能够提取到更多的隐写分析特征,使其可用于基于秘密噪声残差等弱信息的分类任务;其次,针对少样本隐写分析模型难收敛的问题,提出了预训练初始化的方式得到具有先验知识的初始模型;然后,分别训练了频域和空域的少样本通用隐写分析模型,通过自测和交叉测试,结果表明,检测平均准确率在80%以上;接着,在此基础上,采用数据集增强的方式重新训练了频域、空域少样本通用隐写分析模型,使少样本通用隐写分析模型检测准确率与之前相比提高到87%以上;最后,将得到的少样本通用隐写分析模型分别与现有的频域和空域隐写分析模型的检测性能进行比较,结果显示,空域上少样本通用隐写分析模型在常用的少样本环境下的检测准确率稍低于SRNet和ZhuNet,频域上少样本通用隐写分析模型在常见的少样本环境下的检测准确率已超越现有的频域隐写分析模型.实验结果表明,基于少样本学习的通用隐写分析方法对未知隐写算法的检测具有高效性和鲁棒性.

一种基于深度网络的少样本学习方法

少样本学习是目前机器学习研究领域的热点与难点.在源域和目标域分布差异很大的情况下,现有的主流少样本学习算法训练得到的模型,泛化能力较弱,导致识别率不高.针对这个问题,提出一种基于深度网络的少样本学习方法 DL-FSL(Deep Learning-based Few-Shot Learning,DL-FSL).首先,采用Bagging方法有放回地随机采样方式产生不同的训练集,针对不同的训练集,分别产生样本集、查询集.其次,建立多条异步线程,利用关系型网络学习算法以及Pytorch深度学习框架并行训练出多个不同的基模型;然后,采用概率投票方式对不同的基模型进行融合.实验结果表明,与现有方法相比,DL-FSL方法在源域和目标域分布差异很大的情况下能有效地提高少样本学习算法的识别率.

少样本学习下的服装风格分析与评价

为提高服装风格评价的客观性,提出了利用卷积神经网络对不同品牌服装风格特征进行自动提取、识别和分类的方法,以不同品牌的服装为对象,探究其视觉风格合理表征的方法,并实现品牌服装的分类任务。建立了品牌服装数据集,该数据集包含50个品牌的服装图像,每个服装品牌30张,随机抽取36个用作训练集,剩余14个用作支持集和查询集。采用少样本学习的网络模型,Siamese网络模型、Protype网络模型、Meta baseline网络模型对品牌服装数据集进行测试,对比分析3种网络模型的实验结果。结果表明:在品牌服装图像数据较少的情况下,可以通过少样本学习方法对其进行分类,使用meta baseline网络在5-way,1-shot任务中的分类准确率高达0.9475。

基于少样本学习的钢轨表面缺陷检测方法

针对铁路钢轨病害检测问题,提出一种少样本学习的钢轨表面缺陷检测方法。首先,设计样本随机组合策略,根据少量钢轨图像快速构建钢轨表面缺陷数据集;然后,改进深度卷积神经网络的分类损失函数,降低样本数量不平衡对模型分类性能的影响;最后,提出基于多层级特征融合的钢轨表面缺陷检测网络,并利用上述数据集和改进的分类损失函数进行训练,实现少样本条件下端到端的钢轨表面缺陷检测。试验结果表明:该方法在2种类型的钢轨表面缺陷数据集上均取得最优性能,并在实际线路检测任务中,检测率达到100%,具有较高的实用价值。