面向开集识别的稳健测试时适应方法

开集识别旨在研究测试阶段突现未见类别对于机器学习模型的挑战,以期学习模型既能分类已见类别又可识别/拒绝未见类别,是确保机器学习模型能够在开放世界中高效稳健部署的重要技术.既有开集识别技术通常假设已见类别的协变量分布在训练与测试阶段维持不变.然而在实际场景中,类别的协变量分布常不断变化.直接利用既有技术不再奏效,其性能甚至劣于基线方案.因此,亟需研究新型开集识别方法,使其能不断适应协变量分布偏移,以期模型在测试阶段既能稳健分类已见类别又可识别未见类别.将此新问题设置命名为开放世界适应问题(AOW),并提出了一种开放测试时适应方法(OTA).该方法基于无标注测试数据优化自适应熵损失与开集熵损失更新模型,维持对已见类的既有判别能力,同时增强了识别未见类的能力.大量实验分析表明,该方法在多组基准数据集、多组不同协变量偏移程度下均稳健地优于现有先进的开集识别方法.

基于鲁棒和可靠对称交叉熵的测试时适应算法

测试时间适应(test-time adaptation,TTA)的目标是利用未标记的测试数据使已训练完成的神经网络模型在测试时适应测试数据分布。现有的TTA方法主要考虑在单个或多个静态环境中进行适应。然而,在非平稳环境中,测试数据分布会随着时间的推移而连续变化,这导致以往的TTA方法不稳定。因此,提出了一种基于鲁棒和可靠对称交叉熵的测试时适应(robust and reliable symmetric cross entropy test-time adaptation,RRSTA)算法。首先,为提高对噪声分布变化的鲁棒性和缓解灾难性遗忘,提出了基于均值教师模型的对称交叉熵,既鼓励模型正确预测又惩罚错误的预测。其次,为了提高对不同噪声样本的鲁棒性,提出了一种双流扰动技术,通过教师模型强视图,指导学生模型的由弱到强的扰动视图。最后,提出了可靠熵最小化策略,防止参数的剧烈变化,以稳定适应。广泛的实验和消融研究在CIFAR10C和CIFAR100C上证实了所提方法的有效性,相比于未经适应的模型,错误率降低了26.13%和14.69%,并且显著优于次优的方法。

基于对比学习的测试时适应算法研究

深度学习模型在大数据、大算力的时代背景下取得了进步,在各种任务上获得了巨大成功.然而已有深度学习算法遵循训练后固定模型进行测试的范式,当模型部署到新的领域时,性能会急剧下降,无法在测试的时候自适应地泛化到新的领域.因此文章研究测试时领域适应算法,将一个在源领域预训练的模型在测试时调整模型以至于能够有效地泛化到新的领域.针对该问题,提出基于对比学习的测试时适应算法,该方法利用对比学习的思想,在训练过程中学习模型的通用表征,在测试时通过对比学习损失更新模型参数,提升模型在新的测试领域上的效果.在源领域训练阶段,利用一个在线编码器和动量编码器分别抽取同一图像不同数据增强版本的图像特征,然后通过对比学习提升模型的表征能力.为增加对比学习中负样本的数量,利用队列机制来保存大量动量编码器抽取的负样本特征.在测试阶段,利用伪标签计算交叉熵损失函数和对比学习损失函数来更新模型参数,从而提升模型在新的领域上准确率.在CIFAR-10上进行训练,在CIFAR-10-C上进行测试,文章的测试时适应方法相对于未适应模型能够提升23.49%的准确率.