基于蒸馏学习的滚动轴承异常诊断方法

针对航空发动机滚动轴承异常难以诊断的问题,提出了一种基于蒸馏学习的轴承智能诊断方法。首先,为提高计算效率,采用经过压缩后的vision transformer (ViT)作为蒸馏学习的主干特征提取网络;其次,采用滚动轴承振动试验台数据完成蒸馏学习中教师网络的预训练;在蒸馏学习模型的训练过程中,为充分利用教师网络的知识,采用了特征知识约束的损失函数,且利用了频谱变换的数据预处理方法,用于提高模型的诊断精度;最后,在某型多台航空发动机滚动轴承数据上对所提模型进行了充分的对比验证。结果表明,所提方法能够准确地实现滚动轴承运行状态的诊断,且诊断精度能够达到96%以上,充分表明了所提方法具有很高的实用价值。

面向图像语义分割任务的多级注意力蒸馏学习

传统的蒸馏学习仅通过大网络对轻量网络进行单向蒸馏,不但难以从轻量网络的学习状态中得到反馈信息,对训练过程进行优化调整,同时还会限制轻量网络的特征表达能力。本文提出结合自身多级注意力上下文信息进行自我学习优化的方法(MAD,Multi Attention Distillation),以自监督的方式使自身成熟的部分约束不成熟部分,即浅层可以从深层中提取有用的上下文信息,让浅层特征学习高层特征的表达,从而提升网络的整体表达能力。使用轻量级网络ERFNet、DeepLabV3在两个不同任务的数据集CULane、VOC上进行验证。实验结果表明,MAD可以在不增加推理时间的前提下,提升网络的特征提取能力,使ERFNet在CULane任务的F1-measure指标提升2.13,DeepLabV3在VOC任务的mIoU指标提升1.5。

基于地质知识蒸馏学习的油气储集层识别方法

油气储集层识别是石油能源企业在勘测和开发业务中核心的任务之一.长期以来,油气行业一直依靠专家人工分析海量测井数据以对地下油气储集层进行定性分析,虽然专家解释结论有着很高的精准度,但是时间与经济成本都十分高昂.近些年来,随着以深度学习为代表的人工智能技术的迅速发展,智能油气储集层识别技术成为学术界和工业界共同关注的问题.然而,真实工业环境存在严重的传感数据不一致问题,给传统的监督学习模型带来巨大的挑战.本文针对传感器不一致情境中油气储集层识别任务展开研究,提出多尺度地质知识蒸馏网络的方法.首先,该方法提出一种多尺度特征自注意力融合机制来学习地质信息的多尺度动态表征.其次,该方法设计一种地质知识蒸馏学习模型,从非一致传感数据中学习额外的地质知识,进一步提升模型准确度.最后,在真实数据集上进行大量实验,结果充分证明本文提出的模型在油气储集层识别任务上的有效性和鲁棒性.

基于金字塔知识的自蒸馏HRNet目标分割方法

知识蒸馏能有效地将教师网络的表征能力迁移到学生网络,无须改变网络结构即可提升网络的性能.因此,在性能优异的目标分割主干网HRNet(High-Resolution Net)中构建自蒸馏学习模型具有重要意义.针对HRNet并行结构中深层与浅层信息充分融合导致直接蒸馏难以实现的挑战,本文提出一种基于多尺度池化金字塔的结构化自蒸馏学习模型:在HRNet分支结构中引入多尺度池化金字塔表示模块,提升网络的知识表示和学习能力;构造“自上而下”和“一致性”两种蒸馏模式;融合交叉熵损失、KL(Kullback-Leibler)散度损失和结构化相似性损失进行自蒸馏学习.在四个包含显著性目标和伪装目标的分割数据集上的实验表明:本文模型在不增加资源开销的前提下,有效提升了网络的目标分割性能.

基于多阶段多生成对抗网络的互学习知识蒸馏方法

针对传统的知识蒸馏方法在图像分类任务中对知识蒸馏的效率不高、阶段训练方式单一、训练过程复杂且难收敛的问题,设计了一种基于多阶段多生成对抗网络(MS-MGANs)的互学习知识蒸馏方法。首先,将整个训练过程划分为多个阶段,得到不同阶段的老师模型,用于逐步指导学生模型,获得更好的精度效果;其次,引入逐层贪婪策略取代传统的端到端训练模式,通过基于卷积块的逐层训练来减少每阶段迭代过程中需优化的参数量,进一步提高模型蒸馏效率;最后,在知识蒸馏框架中引入生成对抗结构,使用老师模型作为特征辨别器,使用学生模型作为特征生成器,促使学生模型在不断模仿老师模型的过程中更好地接近甚至超越老师模型的性能。在多个公开的图像分类数据集上对所提方法和其他流行的知识蒸馏方法进行对比实验,实验结果表明所提知识蒸馏方法具有更好的图像分类性能。

特征互斥化的目标检测域适应方法

当前,蒸馏学习已成为目标检测无监督域适应领域中的一种常用技术手段。然而蒸馏带来的特征偏移会导致目标域上伪标签的准确性较低,不利于目标域的精确检测。因此提出特征互斥化方法,包括特征分布互斥化和特征属性互斥化。其中特征分布互斥化鼓励网络对不同类别的特征分布进行互斥,特征属性互斥化促使分类器对不同类别主要使用的属性进行互斥。还提出强弱增强一致性方法对网络的预测输出进行一致性约束,促使网络提取的特征中主要包含与目标域检测相关的属性,进一步提高特征互斥化方法的效果。所提方法在多个域适应场景上进行了广泛的实验,在相同实验设置下的结果表明,所提方法较其他先进方法具有更好的有效性。

基于多分辨率自蒸馏网络的小样本图像分类

因图像数据具有大量的空间冗余信息,传统的多分辨率网络在处理图像数据时会产生较高的计算成本。而自蒸馏学习方法能够在精度与计算成本之间实现动态平衡,使模型在不增加网络深度和宽度的基础上,有效地提高模型精度。提出一种多分辨率自蒸馏网络(MRSDN),用于解决小样本学习中输入样本的空间冗余问题。从原始网络中分出一个浅层子网络以识别图像的低分辨率表示,并且保持该原始网络识别高分辨率图像特征的能力。同时,在多分辨率网络中引入改进的全局注意力机制,以减少信息损失且放大全局交互表示。利用自蒸馏学习方法将网络中更深层的知识压缩到浅层子网络中,以提升浅层子网络的泛化能力。在此基础上,将低分辨率网络中的粗粒度特征融合到高分辨率网络中,从而提高模型提取图像特征的能力。实验结果表明,在Mini-ImageNet数据集上MRSDN网络对5-way 1-shot与5-way 5-shot任务的准确率分别为56.34%和74.35%,在Tiered-ImageNet数据集上对5-way 1-shot与5-way 5-shot任务的准确率分别为59.56%和78.96%,能有效缓解高分辨率图像输入时的空间冗余问题,提高小样本图像分类的准确率。

基于多模型蒸馏的时间正则化相关滤波跟踪算法

目前大多数基于相关滤波的跟踪方法是通过对模型采取简单的线性加权融合或是将历史模型作为时间正则化项来约束模型更新的方式,增强滤波器对目标的判别能力,但这种方式对目标时域信息利用有限,容易造成模型退化漂移。本文提出一种基于多模型蒸馏的时间正则化相关滤波跟踪算法,该方法通过收集跟踪过程中利用当前样本产生的独立模型,在建立包含背景信息的局部样本库中来指导滤波器更新,以此保留目标在时域中的鲁棒特征。同时,根据每一个模型对当前目标的表征能力不同进行可靠性权值更新。最后,利用交替方向乘子(alternating direction multiplier, ADMM)算法进行模型迭代优化。通过在大量的数据库进行实验,结果表明本文的方法在精确度与成功率上有了大幅提升。

基于Transformer改进YOLOv5的山火检测方法研究

构建智慧生态林业中核心环节为对森林火灾的监测及防范,为了第一时间扑灭火源防止火势蔓延并将可能发生的山火隐患于第一时间消除,提出了两种适用于无人机高空巡检的森林火灾检测模型YOLO_MC与YOLO_MCLite。其中YOLO_MC可对标准图像中的明火及烟雾进行检测,并基于YOLO_MC模型进行轻量化设计,提出适用于热图像中高温区域的检测模型YOLO_MCLite。在网络结构的设计中,首先在常规的卷积神经网络中融合加入了Transformer模型,提升了主干网络对于全局特征信息的感知能力;同时对Transformer模型进行轻量化设计,首先在网络结构上通过分组计算的形式减少tokens数量以降低计算量,其次通过通道注意力机制对特征块的通道数进行去冗余并提权来减少tokens的维度参数以降低计算复杂度,并且采用蒸馏算法从所设计的网络中提取出超轻量化网络应用于无人机红外影像的森林高温点检测,以预防森林火灾的发生。经过实验得出以下数据:所设计的两个检测模型中,其中适用于标准图像中对于明火及烟雾的检测准确率可达94.8%,适用于热图像对高温点的检测准确率可达97.2%,并且在英伟达JETSON TX2嵌入式设备上测试两个模型的帧率分别达到了22.5以及32.4。实验结果表明本文所设计网络能够对森林火灾进行有效检测并可以通过检测高温点及时预防火灾发生。

增量跨模态检索方法

跨模态检索是可由一个模态样本查询能够返回另一模态语义相关结果的检索方法.但是在许多实际检索系统中,新数据是不断增量迭代的,这就要求检索模型具有良好的可扩展性.然而当下的大多数跨模态检索方法未聚焦于可扩展性的研究,无法平衡新知识和旧知识之间的关系.针对跨模态检索中存在的这个问题,本文提出了增量跨模态检索方法(Incremental Cross M odal Retrieval,ICM R).该方法仅使用增量样本数据集进行模型的扩展.所提方法包含两个阶段:阶段1是基于跨模态的知识蒸馏网络构建,目的是防止增量学习模型对旧数据集的灾难性遗忘;阶段2是生成不同模态哈希编码的特征表示,利用构建的新旧标签共现概率矩阵更有效的将新增类别语义信息加入到特征表示当中.实验表明基于跨模态的增量学习模型仍能保持旧数据集检索任务性能,并且在新增类样本集上也具有良好的检索精度.

基于改进关节点联系的ST-GCN行为识别办法

人体行为识别在监控安防等多个领域有重要的实用性。基于人体骨骼关节点的行为识别有很好的鲁棒性,并且在计算量和存储空间上都有很大的优势。时空图卷积神经网络(Spatial-Temporal Graph Convolution Networks,ST-GCN)模型开创图卷积神经网络处理姿态估计信息的先河,针对ST-GCN不能很好关联所有关节特征的缺点,提出通过构建共现特征学习结构以及新的注意力机制加强关节点的联系,同时提出集成学习在线蒸馏手段,增强模型的泛化能力。所提模型在Kinetics-skeleton数据集上取得31.25%的Top-1精度,相比于ST-GCN算法提升了0.44%;在NTU-RGB+D的X-Sub子数据集与X-View子数据集分别取得86.7%与94.6%的Top-1精度,对比ST-GCN算法提升了5.2%和6.3%。

自监督学习下小样本遥感图像场景分类

目的 卷积神经网络(convolutional neural network, CNN)在遥感场景图像分类中广泛应用,但缺乏训练数据依然是不容忽视的问题。小样本遥感场景分类是指模型只需利用少量样本训练即可完成遥感场景图像分类任务。虽然现有基于元学习的小样本遥感场景图像分类方法可以摆脱大数据训练的依赖,但模型的泛化能力依然较弱。为了解决这一问题,本文提出一种基于自监督学习的小样本遥感场景图像分类方法来增加模型的泛化能力。方法 本文方法分为两个阶段。首先,使用元学习训练老师网络直到收敛;然后,双学生网络和老师网络对同一个输入进行预测。老师网络的预测结果会通过蒸馏损失指导双学生网络的训练。另外,在图像特征进入分类器之前,自监督对比学习通过度量同类样本的类中心距离,使模型学习到更明确的类间边界。两种自监督机制能够使模型学习到更丰富的类间关系,从而提高模型的泛化能力。结果 本文在NWPU-RESISC45(North Western Polytechnical University-remote sensing image scene classification)、AID(aerial image dataset)和UCMerced LandUse(UC merced land use dataset)3个数据集上进行实验。在5-way 1-shot条件下,本文方法的精度在3个数据集上分别达到了72.72%±0.15%、68.62%±0.76%和68.21%±0.65%,比Relation Net^(*)模型分别提高了4.43%、1.93%和0.68%。随着可用标签的增加,本文方法的提升作用依然能够保持,在5-way 5-shot条件下,本文方法的精度比Relation Net^(*)分别提高3.89%、2.99%和1.25%。结论 本文方法可以使模型学习到更丰富的类内类间关系,有效提升小样本遥感场景图像分类模型的泛化能力。