融合时频特征的多源无监督域自适应轴承故障诊断方法

无监督域自适应已成为多工况下轴承故障诊断的一种重要方法。然而,现有多源无监督域自适应方法往往忽略不同视角信号对于跨域故障诊断的贡献,不足以全面表达轴承的故障特征。此外,这些方法的不同源域对同一目标域的预测结果存在差异。为此,提出一种融合时频特征的多源无监督域自适应(time-frequency features fused multi-source unsupervised domain adaptation,TFFMUDA)轴承故障诊断方法。该方法以时域和频域信号为输入,通过特征耦合机制实现两种故障特征的互补,并利用分类器对齐策略增强了不同源域对于同一目标域的诊断一致性。通过实际轴承故障案例的试验结果表明,所提方法相较于现有无监督域自适应轴承故障诊断方法能获得更清晰的故障类决策边界并具有更好的目标域诊断精度。

基于可靠性集成的无监督域自适应行人重识别

为了缓解基于伪标签的无监督域自适应行人重识别(UDA person ReID)方法中噪声标签带来的负面影响,提出了一种基于可靠性集成的无监督域自适应行人重识别(UDA-RI)方法。该方法包含渐进式伪标签提炼策略和基于可靠性集成策略两个部分。渐进式伪标签提炼策略通过建立一个不确定性的定量标准来衡量伪标签的可靠性,并采用渐进式采样使得模型得到更加稳定的训练。基于可靠性集成策略考虑了来自不同适应时刻的知识,将来自不同迭代的模型按照可靠性高低分配的权重进行了集成,并将自集成后的两种不同架构的模型再进行集成作为最终推理模型。实验表明,与目前先进的无监督域自适应行人重识别方法相比,UDA-RI方法在Market1501、DukeMTMC-ReID和MSMT17数据集上都取得了优越的性能。

医学图像分割的无监督域适应研究综述

医学图像分割在医学图像处理领域中具有广泛的应用前景,通过定位和分割出感兴趣的器官、组织或病变区域,为诊断和治疗提供辅助信息。但不同模态医学图像之间存在域偏移问题,这会导致在实际部署时分割模型的性能大幅下降。域适应技术是解决该问题的有效途径,尤其是无监督域适应,因其不需要目标域标签信息而成为医学图像处理领域的研究热点。目前,针对医学图像分割的无监督域适应研究的综述报告相对较少,对近年医学图像分割的无监督域适应的相关研究进行了整理、分析和总结,并对未来进行了展望,希望帮助相关研究人员快速了解并熟悉该领域的研究现状及趋势。

基于半监督域适应的微弱光环境下行人检测研究

为了解决可见光图像在微弱光环境下会出现检测性能下降的问题,本文提出了一种半监督域适应的行人检测算法。首先,结合均值教师模型和YOLOv8检测器搭建半监督检测网络;其次,使用图像融合算法和风格迁移算法相结合的方式生成伪图像进行伪交叉训练,减少图像之间的域差异问题;最后,将基于Transform的混合注意力机制引入主干特征提取网络,在提升图像分辨率的同时进一步提升检测精度。实验结果表明:在LLVIP数据集和KAIST数据集上,该算法的检测精度分别达到89.3%和66.8%,相比SSDA-YOLO算法分别高出7.6%和19.8%;相比Efficient Teacher算法分别高出4%和8.7%;相比全监督算法ICAFusion分别高出1.8%和17.9%。与以往的算法相比,该算法具有更高的检测精度。

结合原型的两阶段遥感图像无监督域适应分割模型

遥感图像数据量较大,地物类别较多,局部特征与全局特征差距较大,域内特征差异较明显,导致传统的迁移学习难以有效提升模型的推广性能。为此,在传统基于对抗对齐域间特征的无监督域适应模型基础上,提出一种结合原型的两阶段遥感图像无监督域适应分割模型。引入原型表达类别特征,通过原型获取模块获取和更新原型,利用原型施加模块并结合自注意力,将类别全局特征施加到裁剪得到的局部图像特征中,使分割网络兼顾局部和全局类别信息,更好地提取两个域的不变特征。利用目标域图像的伪标签将目标域图像分为易分割和难分割图像,通过对抗和自训练的方式减少目标域的域内特征差异,以便更好地提取目标域难易图像的域内不变特征。利用已知像素类别的分割预测图计算每个像素和相邻像素的上下文关系,生成像素上下文关系图,通过使输出级判别网络判别输入的两个域分割结果的像素上下文关系图来自于哪个域,迫使分割网络更好地提取域不变上下文关系,缓解同谱异物现象。在两个数据集上的实验结果表明,所提模型可以有效缓解局部特征与全局特征差距较大、域内特征差异明显以及同谱异物现象带来的模型迁移性能下降问题,相较于先进的域适应分割方法更具有优势。

基于仿真数据的无监督域适应轴承故障诊断方法

针对目前实际诊断任务中难以获得有效的滚动轴承故障数据以及目前诊断模型泛化能力差的问题,文章提出一种基于动力学仿真与无监督领域自适应的故障诊断方法。首先建立滚动轴承动力学仿真模型,获得大量的仿真数据充当源域;然后使用无监督领域自适应的迁移学习故障诊断方法,在全局领域适配的基础上,引入最大最小化分类器差异的对抗学习策略,进一步减小了源域和目标域特征的条件分布差异;最后通过与其他迁移学习方法对比验证所提方法的可行性与优异性。

局部判别损失无监督域适应方法

在无监督域适应任务中,源域和目标域的分布不同,源域数据标签已知,但是目标域的数据标签未知。最大平均差异MMD是一种具有代表性的分布度量方法,广泛应用于源域与目标域之间的分布差异度量。然而,MMD度量及其变种方法通常忽略了样本的类内紧凑性和类间可分离性,降低了特征表达的可判别性。因此,提出局部判别损失无监督域适应方法,从2个方面提升域适应方法的判别能力:(1)重新设计MMD度量方法的权重,解决类别不均衡问题,使难对齐类别在域间分布上保持一致;(2)探索局部对比损失,平衡正样本对和负样本对之间的关系,从而学习到更好的判别性特征。结合域间损失和类间损失,可使同一类样本靠近,不同类样本之间远离。该方法简单有效,即插即用,可扩展至注意力机制的网络结构上。在多个域适应数据集上,该方法的有效性均得到了验证。

基于渐进式双重对齐的无源无监督领域自适应方法

无源领域自适应的核心任务是利用无标签的目标域数据,将预训练好的源模型迁移到目标领域。基于深度聚类的方法需要在自监督学习过程中挖掘辅助信息来正则化特征分布对齐,而辅助信息中噪声常常误导该对齐过程;基于伪源域的对抗学习方法进行概率分布对齐,对所构建伪源域质量十分敏感。针对现有方法存在的不足,本文提出了一种基于渐进式双重对齐的无源无监督领域自适应方法,在进行深度聚类的同时,进行域对齐,缓解深度聚类中伪标签的噪声。首先,通过超近邻增强样本生成高质量伪源域,以克服源域不可见的问题;其次,利用对抗学习,实现两个域的概率分布初对齐;最后,引入深度特征相似,进一步强化对齐效果。在两个公开数据集上的实验结果表明了其有效性。

基于熵值过滤和类质心优化的无监督域适应

无监督域适应作为机器学习领域的新兴研究方向之一,其主要利用源域监督信息来辅助无标记目标域的学习。截至目前,已有较多无监督域适应方法被提出,但在关系挖掘方面仍存在一些不足之处。具体来说,现有方法通常对目标域样本采取一致性处理策略,而忽略了目标域样本在关系挖掘中的差异性,因此文中提出了熵值过滤和类质心优化方法。所提方法利用生成对抗网络架构对目标域样本进行标记,利用所获伪标签计算样本熵值,并与所设阈值进行比较,从而进一步划分目标域样本。对于简单样本,分配伪标签;对于困难样本,该方法结合对比学习思想,利用源域和简单样本来学习更加鲁棒的分类器对困难样本分类,并进一步获得源和目标域的类质心。通过优化域间和实例对比对齐,来减小域间和域内的差异。最后,在3个标准数据集上与目前几种先进的领域自适应方法进行了对比实验,实验结果表明所提方法的性能均优于对比方法。

基于归一化控制器的光伏图像无监督域适应缺陷检测

为解决在太阳电池数据集域偏移问题,提出一种针对动态开放场景下光伏缺陷检测的数据归一化控制器(DNC),以提高网络的域适应能力。在测试阶段,该文的DNC方法通过修改模型参数,根据小批次样本数据(0.5%)来实现领域统计纠正。DNC可将目标域产生域偏移的数据映射到与源域数据相同的分布空间,而无需提前标注数据或访问目标域的全部数据。实验结果表明,DNC能显著提高目标检测模型对域偏移数据的适应能力。仅使用少量未标记的目标域数据(少于0.5%)就可在分布外数据上获得显著的性能提升,同时不会降低模型的预测速度(FPS)。

稀疏激光雷达深度图无监督域自适应算法

深度补全旨在从激光雷达扫描深度输入的图像中预测物体与相机之间的距离,并将距离表示为密集深度图。扫描深度输入越密集,预测效果越好,但相应的激光雷达设备成本越昂贵,且密集深度输入训练模型在深度输入稀疏时表现较差。同时,训练深度补全模型很难得到密集的准确值。为提高稀疏深度输入模型的性能,提出了一种无监督域自适应方法,对卷积神经网络所生成特征的二阶统计量进行对齐,密集和稀疏的深度输入共享这些特征。

基于改进Faster R-CNN的域自适应红外目标检测方法

为充分利用当前大量注释的RGB图像数据提高热红外图像的目标检测性能,提出一种基于深度学习模型的无监督域自适应(UDA)方法。对Faster RCNN骨干网络进行改进,增强感受野表征能力,优化目标框的正负样本不平衡问题和回归机制。为解决从RGB域到红外域迁移过程中不同层面的域偏移问题,在改进Faster RCNN架构的不同网络层和不同阶段引入图像级和实例级特征分布对齐。实验结果表明,在多光谱公开数据集KAIST和FLIR-ADAS上,所提UDA方法分别实现了73.35%和77.66%的全类平均精度(mAP结果),显著提高了恶劣照明条件下的目标检测性能。

多元化渐进域迁移弱监督实时目标检测

针对像素级自适应较大的图像翻译偏差,特征级自适应的源偏判别风险以及弱监督学习无法兼顾检测准确性和实时性等问题,提出了多元化域移位器和伪边界框生成器以逐步调整预训练模型,在像素级与特征级渐进完成自适应的域迁移框架。通过域移位器从源域生成多样化的中间域图像调整检测模型以弥合域差距,减小图像翻译偏差。将中间域作为监督的源域,并结合目标域中的图像级标签生成伪标注图像调整检测模型以改善源偏判别性。基于SSD算法构建与域迁移框架相匹配的实时目标检测器,实现弱监督条件下的实时目标检测。在PASCAL VOC迁移至Clipart1k等数据集上的mAP优于现有方法0.4%~4.7%,检测速度为32 FPS~47 FPS,提高准确率的同时满足了实时检测的要求,具有更优越的迁移检测性能。

特征互斥化的目标检测域适应方法

当前,蒸馏学习已成为目标检测无监督域适应领域中的一种常用技术手段。然而蒸馏带来的特征偏移会导致目标域上伪标签的准确性较低,不利于目标域的精确检测。因此提出特征互斥化方法,包括特征分布互斥化和特征属性互斥化。其中特征分布互斥化鼓励网络对不同类别的特征分布进行互斥,特征属性互斥化促使分类器对不同类别主要使用的属性进行互斥。还提出强弱增强一致性方法对网络的预测输出进行一致性约束,促使网络提取的特征中主要包含与目标域检测相关的属性,进一步提高特征互斥化方法的效果。所提方法在多个域适应场景上进行了广泛的实验,在相同实验设置下的结果表明,所提方法较其他先进方法具有更好的有效性。

融合域自适应和弱监督策略的遥感影像建筑物提取算法

常见的建筑物提取算法主要采用全监督的方式实现,得到的模型通常在训练数据集上表现良好,而在跨区域使用时效果不佳。基于生成对抗网络的域自适应方法虽然在一定程度上能够增强网络的迁移能力,但由于缺乏目标域关键信息,效果难以保证。设计了一种全新的端到端弱监督建筑物提取网络。首先,采用像素关联模块来提升生成网络的性能;然后,在此基础上综合运用域自适应和图像级弱标签两种策略来优化训练过程,从而大幅提升了网络模型的泛化扩展性能。采用3组数据对所提方法的有效性进行了验证,通过大量实验证明了所提方法可以有效提升建筑物提取的性能。同时,通过消融实验验证了网络中各个模块的有效性。

基于域适应与类别对比的夜间目标检测方法

夜间目标检测任务中,目标能见度低,难以对图像数据进行大量标注,导致使用监督方法进行大规模数据训练的困难,而当使用较小规模标注数据训练时监督方法容易产生过拟合,预测准确性差。针对这些问题,本文提出一种无监督域适应夜间目标检测模型,使用有标注白昼图像和无标注夜间图像训练。模型使用了昼夜图像增强方法,减小昼夜域间隙并提升夜间训练数据的复杂性以丰富特征学习;将多尺度通道注意力引入Faster-RCNN模型,提升感知多尺度特征的能力;使用类别对比学习方法获得具有鉴别性和域间不变性的类别特征。在城市交通数据集BDD100K和SODA10M上进行的实验表明,本文方法性能优于常用的域适应目标检测方法。

联合双映射域适应与图半监督标签估计的脑电情感识别方法

源自中枢神经系统活动的脑电信号具有不易伪装性而被广泛应用于情感识别领域,但非稳态及微弱等特性导致其存在个体差异性。为适应不同被试之间的数据分布差异,迁移学习被引入脑电情感识别领域。但现有方法一方面未实现域适应与标记估计的有效协同,另一方面仅关注识别精度与数据分布忽略了共享子空间的属性发掘。针对上述问题,本研究提出一种联合双映射域适应与图半监督标签估计的脑电情感状态识别方法。通过在SEED-IV情感数据集进行跨被试情感识别效果验证。该数据集为15名受试者在3个不同时段(Session1,Session2,Session3)播放具有明显情感倾向的影片进行脑电数据采集。结果显示,所提出的方法对SEED-IV中3个时段数据的平均识别精度(77.7%、78.5%、79.6%)均优于现有多种迁移模型,较经典的联合域适应(JDA)方法的平均识别精度有大幅提升(Session2:53.7%vs 78.5%);较新近提出的模型也有最低8.9%(Session2 vs MEKT)的精度提升。此外,通过特征重要性的角度对共享子空间蕴含的脑电情感激活模式进行发掘,并结合频段权重平均结果显示,相较于其他4个频段γ频段具有较高的重要性,并通过单向方差分析验证了与其余4个频段的显著性差异(P<0.05);脑地形图呈现的结果发现,(中央)顶叶脑区权重高于其他脑区。所进行的研究对于脑电情感激活模式的学习分析提供了参考。

基于持续无监督域适应策略的水面漂浮物目标检测方法

针对漂浮物检测中小尺度目标和域转移问题,提出一种基于持续无监督域适应策略的漂浮物检测方法。该方法通过删除低分辨率特征图,增强高分辨率特征图,提升小尺度漂浮物的特征提取能力。同时,该方法整合无监督域适应、缓冲区和样本重放,降低应用场景中不断变化的域转移差异。并将改进检测网络与持续无监督域适应相结合,提升模型检测精度和泛化能力。通过在漂浮物数据集上实验验证,对比现有方法,该方法的检测精度达到82.2%,检测速度达到68.5 f/s,浮点数的算量减少到33亿,模型大小达到25.3 MB,扩展了目标检测在水面视觉中的应用。

基于反事实注意力学习的无监督域自适应行人再识别

现有的无监督域自适应行人重新识别方法大多是将基于聚类的伪标签预测与特征微调相结合。由于域间存在差异,聚类过程中产生了不正确的伪标签,使伪标签存在一定的不可靠性,误导特征表示学习,从而影响域自适应模型的性能。基于此,首先设计一个新颖的基于反事实注意力学习的无监督域自适应网络,通过衡量注意力学习的质量对训练过程进行指导优化,促使模型关注更加精准的注意力特征,减少噪声伪标签的生成;其次提出了一种基于不确定性评估的噪声样本优化方法,通过测量基于平均教师方法的学生模型和教师模型输出特征之间的不一致性水平,将其作为目标域行人样本的不确定性分布,进而利用样本的不确定性对网络总体损失的各个部分进行合理加权,修正具有高不确定性的样本对模型总体损失的错误影响,进一步提升目标域的识别性能。实验数据表明,所提方法在源域DukeMTMC-reID/Market-1501和目标域Market-1501/DukeMTMC-reID上的实验结果都有显著提高,mAP和Rank-1分别达到了82.9%,93.6%和71.8%,84.4%。

空间注意力与位置优化的三维人体姿态估计域适应算法

现有三维人体姿态估计器在单个数据集上表现较好,但受限于训练数据姿态结构的单一,其在跨域实验上的泛化性不足。现有方法通过增加姿态多样性来弥补该缺陷,然而这些方法生成的新姿态缺乏真实有效性且姿态全局位置的分布与目标数据集仍存在显著差距。针对上述问题,提出一种基于生成对抗网络(GAN)的空间注意力与全局位置优化的三维人体姿态估计域适应算法。算法引入空间节点注意力模块约束生成器产生更自然的人体姿态,并结合姿态位置修正模块促使生成姿态向目标数据域对齐,从而解决以上域适应问题。此外,为了提升估计器训练的稳定性,提出一种端到端随机混合的训练策略,使姿态估计器可兼顾新旧数据信息的学习。作为一种生成式的域适应方法,该算法可以高效地应用于各种二阶段三维人体姿态估计器。通过跨场景实验与跨数据集实验,结果表明所提算法在多个基准数据集上的表现均达到当前最佳。其中在3DHP数据集中,该方法MPJPE与AUC指标相比最优工作优化了1.7%和1.4%,验证了所提算法可有效提高三维人体姿态估计器的泛化性。