Enhancing Unsupervised Domain Adaptation for Person Re-Identification with the Minimal Transfer Cost Framework

In Unsupervised Domain Adaptation(UDA)for person re-identification(re-ID),the primary challenge is reducing the distribution discrepancy between the source and target domains.This can be achieved by implicitly or explicitly constructing an appropriate intermediate domain to enhance recognition capability on the target domain.Implicit construction is difficult due to the absence of intermediate state supervision,making smooth knowledge transfer from the source to the target domain a challenge.To explicitly construct the most suitable intermediate domain for the model to gradually adapt to the feature distribution changes from the source to the target domain,we propose the Minimal Transfer Cost Framework(MTCF).MTCF considers all scenarios of the intermediate domain during the transfer process,ensuring smoother and more efficient domain alignment.Our framework mainly includes threemodules:Intermediate Domain Generator(IDG),Cross-domain Feature Constraint Module(CFCM),and Residual Channel Space Module(RCSM).First,the IDG Module is introduced to generate all possible intermediate domains,ensuring a smooth transition of knowledge fromthe source to the target domain.To reduce the cross-domain feature distribution discrepancy,we propose the CFCM Module,which quantifies the difficulty of knowledge transfer and ensures the diversity of intermediate domain features and their semantic relevance,achieving alignment between the source and target domains by incorporating mutual information and maximum mean discrepancy.We also design the RCSM,which utilizes attention mechanism to enhance the model’s focus on personnel features in low-resolution images,improving the accuracy and efficiency of person re-ID.Our proposed method outperforms existing technologies in all common UDA re-ID tasks and improves the Mean Average Precision(mAP)by 2.3%in the Market to Duke task compared to the state-of-the-art(SOTA)methods.

Bilateral co-transfer for unsupervised domain adaptation

Labeled data scarcity of an interested domain is often a serious problem in machine learning.Leveraging the labeled data from other semantic-related yet co-variate shifted source domain to facilitate the interested domain is a consensus.In order to solve the domain shift between domains and reduce the learning ambiguity,unsupervised domain adaptation(UDA)greatly promotes the transferability of model parameters.However,the dilemma of over-fitting(negative transfer)and under-fitting(under-adaptation)is always an overlooked challenge and potential risk.In this paper,we rethink the shallow learning paradigm and this intractable over/under-fitting problem,and propose a safer UDA model,coined as Bilateral Co-Transfer(BCT),which is essentially beyond previous well-known unilateral transfer.With bilateral co-transfer between domains,the risk of over/under-fitting is therefore largely reduced.Technically,the proposed BCT is a symmetrical structure,with joint distribution discrepancy(JDD)modeled for domain alignment and category discrimination.Specifically,a symmetrical bilateral transfer(SBT)loss between source and target domains is proposed under the philosophy of mutual checks and balances.First,each target sample is represented by source samples with low-rankness constraint in a common subspace,such that the most informative and transferable source data can be used to alleviate negative transfer.Second,each source sample is symmetrically and sparsely represented by target samples,such that the most reliable target samples can be exploited to tackle underadaptation.Experiments on various benchmarks show that our BCT outperforms many previous outstanding work.

Unsupervised Domain Adaptation Based on Discriminative Subspace Learning for Cross-Project Defect Prediction

:Cross-project defect prediction(CPDP)aims to predict the defects on target project by using a prediction model built on source projects.The main problem in CPDP is the huge distribution gap between the source project and the target project,which prevents the prediction model from performing well.Most existing methods overlook the class discrimination of the learned features.Seeking an effective transferable model from the source project to the target project for CPDP is challenging.In this paper,we propose an unsupervised domain adaptation based on the discriminative subspace learning(DSL)approach for CPDP.DSL treats the data from two projects as being from two domains and maps the data into a common feature space.It employs crossdomain alignment with discriminative information from different projects to reduce the distribution difference of the data between different projects and incorporates the class discriminative information.Specifically,DSL first utilizes subspace learning based domain adaptation to reduce the distribution gap of data between different projects.Then,it makes full use of the class label information of the source project and transfers the discrimination ability of the source project to the target project in the common space.Comprehensive experiments on five projects verify that DSL can build an effective prediction model and improve the performance over the related competing methods by at least 7.10%and 11.08%in terms of G-measure and AUC.

基于改进Faster R-CNN的域自适应红外目标检测方法

为充分利用当前大量注释的RGB图像数据提高热红外图像的目标检测性能,提出一种基于深度学习模型的无监督域自适应(UDA)方法。对Faster RCNN骨干网络进行改进,增强感受野表征能力,优化目标框的正负样本不平衡问题和回归机制。为解决从RGB域到红外域迁移过程中不同层面的域偏移问题,在改进Faster RCNN架构的不同网络层和不同阶段引入图像级和实例级特征分布对齐。实验结果表明,在多光谱公开数据集KAIST和FLIR-ADAS上,所提UDA方法分别实现了73.35%和77.66%的全类平均精度(mAP结果),显著提高了恶劣照明条件下的目标检测性能。

基于动态辅助对比学习的跨域行人重识别

具有混合记忆的自步对比学习(Self-paced Contrastive Learning,SpCL)通过集群聚类生成不同级别的伪标签来训练网络,取得了较好的识别效果,然而该方法从源域和目标域中捕获的行人数据之间存在典型的分布差异,使得训练出的网络不能准确区别目标域和源域数据域特征。针对此问题,提出了双分支动态辅助对比学习(Dynamic Auxiliary Contrastive Learning,DACL)框架。该方法首先通过动态减小源域和目标域之间的局部最大平均差异(Local Maximum Mean Discrepancy,LMMD),以有效地学习目标域的域不变特征;其次,引入广义均值(Generalized Mean,GeM)池化策略,在特征提取后再进行特征聚合,使提出的网络能够自适应地聚合图像的重要特征;最后,在3个经典行人重识别数据集上进行了仿真实验,提出的DACL与性能次之的无监督域自适应行人重识别方法相比,mAP和rank-1在Market1501数据集上分别增加了6.0个百分点和2.2个百分点,在MSMT17数据集上分别增加了2.8个百分点和3.6个百分点,在Duke数据集上分别增加了1.7个百分点和2.1个百分点。

变工况下动态卷积域对抗图神经网络故障诊断

针对基于无监督域自适应故障诊断方法忽略了域间数据结构信息、传统域对齐平均最大差异法全局泛化能力差等问题,本文提出一种基于无监督域自适应理论的动态卷积域对抗图神经网络故障诊断模型,分别通过对数据的类别标签、域标签和数据结构信息进行建模。通过分类器和域鉴别器分别建模类别标签和域标签,通过图神经网络将数据结构信息嵌入到实例图节点中,利用高斯Wasserstein距离来度量不同领域的实例图之间的差异。本文对比了不同工况下共14种迁移任务在各模型下故障识别的准确率。实验结果表明:基于动态卷积的域对抗图神经网络模型在变工况下的故障诊断效果均优于其他对比模型,且模型性能稳定。

基于伪标签的无监督领域自适应行人重识别研究综述

行人重识别是计算机视觉领域的热点研究课题之一。近年来,为了解决行人重识别实际应用中标签数据稀缺的问题,同时也为了有效地利用现有的标签数据,研究者们提出了基于生成对抗网络以及基于伪标签的领域自适应方法,用于进行跨领域的行人重识别研究。基于伪标签的无监督领域自适应行人重识别方法由于效果显著而备受研究者的青睐。文中梳理了近7年来基于伪标签的无监督领域自适应行人重识别的研究成果,将基于伪标签的方法从模型训练角度划分为两个阶段。1)伪标签生成阶段。现有工作的伪标签生成方法大多使用聚类方法,部分工作采用基于图结构学习的图匹配、图卷积网络方法来生成目标域的伪标签。2)伪标签精炼阶段。文中将现有的伪标签精炼方法归纳为基于表征学习的精炼方法以及基于相似度学习的精炼方法,并分别进行模型方法的总结与整理。最后,讨论现阶段基于伪标签的无监督领域自适应行人重识别面临的挑战并对未来可能的发展方向进行展望。

无监督领域自适应轴承故障诊断方法研究

针对基于深度学习的轴承故障诊断算法在不同工作条件和真实环境中故障样本缺乏标记的情况下诊断效果不佳的问题,提出了一种无监督的领域自适应轴承故障诊断方法,实现在无监督的情况下对不同工况的轴承进行故障诊断。首先,用快速傅里叶变换对数据进行预处理,并用卷积神经网络提取轴承故障的特征。然后,通过生成对抗网络中反转标签的方法使源域和目标域输出的特征分布趋同。最后,使用源域的分类器完成不同工况下的轴承故障诊断任务。为验证该方法有效性,在美国凯斯西储大学轴承数据集和德国帕德博恩大学轴承数据集上开展验证实验。验证结果表明,可使用无标签的目标域数据完成迁移任务,在两个数据集上表现出了较好的迁移效果,取得较高的诊断准确率。

基于可靠性集成的无监督域自适应行人重识别

为了缓解基于伪标签的无监督域自适应行人重识别(UDA person ReID)方法中噪声标签带来的负面影响,提出了一种基于可靠性集成的无监督域自适应行人重识别(UDA-RI)方法。该方法包含渐进式伪标签提炼策略和基于可靠性集成策略两个部分。渐进式伪标签提炼策略通过建立一个不确定性的定量标准来衡量伪标签的可靠性,并采用渐进式采样使得模型得到更加稳定的训练。基于可靠性集成策略考虑了来自不同适应时刻的知识,将来自不同迭代的模型按照可靠性高低分配的权重进行了集成,并将自集成后的两种不同架构的模型再进行集成作为最终推理模型。实验表明,与目前先进的无监督域自适应行人重识别方法相比,UDA-RI方法在Market1501、DukeMTMC-ReID和MSMT17数据集上都取得了优越的性能。

融合时频特征的多源无监督域自适应轴承故障诊断方法

无监督域自适应已成为多工况下轴承故障诊断的一种重要方法。然而,现有多源无监督域自适应方法往往忽略不同视角信号对于跨域故障诊断的贡献,不足以全面表达轴承的故障特征。此外,这些方法的不同源域对同一目标域的预测结果存在差异。为此,提出一种融合时频特征的多源无监督域自适应(time-frequency features fused multi-source unsupervised domain adaptation,TFFMUDA)轴承故障诊断方法。该方法以时域和频域信号为输入,通过特征耦合机制实现两种故障特征的互补,并利用分类器对齐策略增强了不同源域对于同一目标域的诊断一致性。通过实际轴承故障案例的试验结果表明,所提方法相较于现有无监督域自适应轴承故障诊断方法能获得更清晰的故障类决策边界并具有更好的目标域诊断精度。

基于JMFAN网络的跨轴承故障诊断

工业生产中使用的电机轴承类型多种多样,由于数据标注成本高昂,往往存在某种型号的轴承缺乏带标签数据。针对上述问题,提出了一种用于无监督学习的联合多尺度特征自适应网络(joint multi-scale feature adaptation network, JMFAN),使用联合最大均值差异算法度量不同领域之间的距离,通过最小化领域间联合概率分布实现跨轴承故障诊断。围绕不同型号轴承在不同工况下的故障展开迁移学习研究,并进行试验验证。结果表明,该方法相比于传统的无监督迁移学习方法,可以显著提高在不同轴承故障诊断中准确率和模型泛化能力,在凯斯西储大学轴承数据下八个不同迁移任务中平均准确率达到了99.06%。

医学图像分割的无监督域适应研究综述

医学图像分割在医学图像处理领域中具有广泛的应用前景,通过定位和分割出感兴趣的器官、组织或病变区域,为诊断和治疗提供辅助信息。但不同模态医学图像之间存在域偏移问题,这会导致在实际部署时分割模型的性能大幅下降。域适应技术是解决该问题的有效途径,尤其是无监督域适应,因其不需要目标域标签信息而成为医学图像处理领域的研究热点。目前,针对医学图像分割的无监督域适应研究的综述报告相对较少,对近年医学图像分割的无监督域适应的相关研究进行了整理、分析和总结,并对未来进行了展望,希望帮助相关研究人员快速了解并熟悉该领域的研究现状及趋势。

特征互斥化的目标检测域适应方法

当前,蒸馏学习已成为目标检测无监督域适应领域中的一种常用技术手段。然而蒸馏带来的特征偏移会导致目标域上伪标签的准确性较低,不利于目标域的精确检测。因此提出特征互斥化方法,包括特征分布互斥化和特征属性互斥化。其中特征分布互斥化鼓励网络对不同类别的特征分布进行互斥,特征属性互斥化促使分类器对不同类别主要使用的属性进行互斥。还提出强弱增强一致性方法对网络的预测输出进行一致性约束,促使网络提取的特征中主要包含与目标域检测相关的属性,进一步提高特征互斥化方法的效果。所提方法在多个域适应场景上进行了广泛的实验,在相同实验设置下的结果表明,所提方法较其他先进方法具有更好的有效性。

基于可见光-红外跨域迁移的红外弱小目标检测

红外弱小目标检测任务是红外探测领域的重点研究内容之一。然而由于其应用场景的特殊性,包含红外弱小目标的数据并不多见,且标注往往并不充分,这给由数据驱动的深度学习目标检测模型带来了挑战和困难。针对红外弱小目标数据集少、缺乏标记信息等问题,提出一种基于可见光-红外跨域迁移的红外弱小目标检测模型,将数据量更丰富的可见光域监督信息迁移到红外域中,实现红外域的无监督训练。首先,在YOLOv5的基础上设计通道增强的数据处理方法,利用低成本的通道分离技巧将可见光图像转换成类红外图像,缩小可见光域和红外域之间的模态差异。然后,构建多尺度域自适应模块,采用对抗训练的方式,对骨干网络提取得到的不同尺度特征在特征空间中进行域混淆以减小域偏移的影响,提高模型对弱小目标的检测性能。实验结果表明,所提方法改进后的模型相比各版本的YOLOv5模型检测精度均有所提升;与其他现有的无监督域自适应目标检测算法相比,所提方法在红外弱小目标的检测精度上明显占优。

结合原型的两阶段遥感图像无监督域适应分割模型

遥感图像数据量较大,地物类别较多,局部特征与全局特征差距较大,域内特征差异较明显,导致传统的迁移学习难以有效提升模型的推广性能。为此,在传统基于对抗对齐域间特征的无监督域适应模型基础上,提出一种结合原型的两阶段遥感图像无监督域适应分割模型。引入原型表达类别特征,通过原型获取模块获取和更新原型,利用原型施加模块并结合自注意力,将类别全局特征施加到裁剪得到的局部图像特征中,使分割网络兼顾局部和全局类别信息,更好地提取两个域的不变特征。利用目标域图像的伪标签将目标域图像分为易分割和难分割图像,通过对抗和自训练的方式减少目标域的域内特征差异,以便更好地提取目标域难易图像的域内不变特征。利用已知像素类别的分割预测图计算每个像素和相邻像素的上下文关系,生成像素上下文关系图,通过使输出级判别网络判别输入的两个域分割结果的像素上下文关系图来自于哪个域,迫使分割网络更好地提取域不变上下文关系,缓解同谱异物现象。在两个数据集上的实验结果表明,所提模型可以有效缓解局部特征与全局特征差距较大、域内特征差异明显以及同谱异物现象带来的模型迁移性能下降问题,相较于先进的域适应分割方法更具有优势。

基于仿真数据的无监督域适应轴承故障诊断方法

针对目前实际诊断任务中难以获得有效的滚动轴承故障数据以及目前诊断模型泛化能力差的问题,文章提出一种基于动力学仿真与无监督领域自适应的故障诊断方法。首先建立滚动轴承动力学仿真模型,获得大量的仿真数据充当源域;然后使用无监督领域自适应的迁移学习故障诊断方法,在全局领域适配的基础上,引入最大最小化分类器差异的对抗学习策略,进一步减小了源域和目标域特征的条件分布差异;最后通过与其他迁移学习方法对比验证所提方法的可行性与优异性。

局部判别损失无监督域适应方法

在无监督域适应任务中,源域和目标域的分布不同,源域数据标签已知,但是目标域的数据标签未知。最大平均差异MMD是一种具有代表性的分布度量方法,广泛应用于源域与目标域之间的分布差异度量。然而,MMD度量及其变种方法通常忽略了样本的类内紧凑性和类间可分离性,降低了特征表达的可判别性。因此,提出局部判别损失无监督域适应方法,从2个方面提升域适应方法的判别能力:(1)重新设计MMD度量方法的权重,解决类别不均衡问题,使难对齐类别在域间分布上保持一致;(2)探索局部对比损失,平衡正样本对和负样本对之间的关系,从而学习到更好的判别性特征。结合域间损失和类间损失,可使同一类样本靠近,不同类样本之间远离。该方法简单有效,即插即用,可扩展至注意力机制的网络结构上。在多个域适应数据集上,该方法的有效性均得到了验证。

基于域适应与类别对比的夜间目标检测方法

夜间目标检测任务中,目标能见度低,难以对图像数据进行大量标注,导致使用监督方法进行大规模数据训练的困难,而当使用较小规模标注数据训练时监督方法容易产生过拟合,预测准确性差。针对这些问题,本文提出一种无监督域适应夜间目标检测模型,使用有标注白昼图像和无标注夜间图像训练。模型使用了昼夜图像增强方法,减小昼夜域间隙并提升夜间训练数据的复杂性以丰富特征学习;将多尺度通道注意力引入Faster-RCNN模型,提升感知多尺度特征的能力;使用类别对比学习方法获得具有鉴别性和域间不变性的类别特征。在城市交通数据集BDD100K和SODA10M上进行的实验表明,本文方法性能优于常用的域适应目标检测方法。

Tool Wear State Recognition with Deep Transfer Learning Based on Spindle Vibration for Milling Process

The wear of metal cutting tools will progressively rise as the cutting time goes on. Wearing heavily on the toolwill generate significant noise and vibration, negatively impacting the accuracy of the forming and the surfaceintegrity of the workpiece. Hence, during the cutting process, it is imperative to continually monitor the tool wearstate andpromptly replace anyheavilyworn tools toguarantee thequality of the cutting.The conventional tool wearmonitoring models, which are based on machine learning, are specifically built for the intended cutting conditions.However, these models require retraining when the cutting conditions undergo any changes. This method has noapplication value if the cutting conditions frequently change. This manuscript proposes a method for monitoringtool wear basedonunsuperviseddeep transfer learning. Due to the similarity of the tool wear process under varyingworking conditions, a tool wear recognitionmodel that can adapt to both current and previous working conditionshas been developed by utilizing cutting monitoring data from history. To extract and classify cutting vibrationsignals, the unsupervised deep transfer learning network comprises a one-dimensional (1D) convolutional neuralnetwork (CNN) with a multi-layer perceptron (MLP). To achieve distribution alignment of deep features throughthe maximum mean discrepancy algorithm, a domain adaptive layer is embedded in the penultimate layer of thenetwork. A platformformonitoring tool wear during endmilling has been constructed. The proposedmethod wasverified through the execution of a full life test of end milling under multiple working conditions with a Cr12MoVsteel workpiece. Our experiments demonstrate that the transfer learning model maintains a classification accuracyof over 80%. In comparisonwith the most advanced tool wearmonitoring methods, the presentedmodel guaranteessuperior performance in the target domains.

面向失配的图像隐写分析研究进展

尽管隐写分析在实验室环境下取得了显著的进步,但是在实际应用中,由于训练集和测试集的载体来源、隐写算法和嵌入率经常不同,导致隐写分析器性能下降,这种现象称为失配,严重阻碍了隐写分析的实际应用.因此,对目前面向失配问题的主要隐写分析方法进行了分析与总结.根据解决失配问题的思路,将现有失配隐写分析方法分为3类,即设计训练集、取证辅助和无监督领域适应,并对各类方法进行梳理和对比.基于对比结果,探讨了当前基于无监督领域适应的深度隐写分析模型面临的挑战以及未来的发展方向.研究结果表明:基于无监督领域适应的深度隐写分析模型是目前解决失配问题的最有效方案,领域对齐、中间域桥接、对抗学习等是设计该类深度隐写分析模型的主流思想;引入类别等细粒度信息以提高基于无监督领域适应的深度隐写分析模型的性能是未来研究的方向;针对不平衡样本及单/小样本等更恶劣的失配问题的解决方案仍待进一步探索.