基于异常检测的标签噪声过滤框架

噪声是影响机器学习模型可靠性的重要因素,而标签噪声相比特征噪声对模型训练更具决定性的影响。噪声过滤是处理标签噪声的一种有效方法,它不需要估计噪声率,也不需要依赖任何损失函数,然而目前大多数标签噪声过滤算法都会面临过度清洗问题。针对此问题,文中提出了基于异常检测的标签噪声过滤框架,并在此框架下给出了一种自适应近邻聚类的标签噪声过滤算法AdNN(Label Noise Filtering via Adaptive Nearest Neighbor Clustering)。该算法分别考虑分类问题中的每一个类别,把标签噪声检测问题转化成离群点检测问题,识别出每一个类别的离群点,然后根据相对密度去除离群点中的非噪声样本,得到噪声备选集,最后通过噪声因子对噪声备选集中的离群点进行噪声识别和过滤。实验结果表明,在合成数据集和公开数据集上,所提噪声过滤方法可以减轻过度清洗现象,同时能够得到很好的噪声过滤效果和分类预测性能。

近邻感知的标签噪声过滤算法

基于k近邻的标签噪声过滤对近邻参数k的选取较敏感.针对此问题,文中提出近邻感知的标签噪声过滤算法,可有效解决二分类数据集的类内标签噪声的问题.算法分开考虑正类样本和负类样本,使分类问题中的标签噪声检测问题转化为两个单类别数据的离群点检测问题.首先通过近邻感知策略自动确定每个样本的个性化近邻参数,避免近邻参数敏感的问题.然后根据噪声因子将样本分为核心样本与非核心样本,并把非核心样本作为标签噪声候选集.最后结合候选样本的近邻标签信息,进行噪声的识别与过滤.实验表明,文中方法的噪声过滤效果和分类预测性能均较优.

基于KNN-CatBoost的叶丝含水率预测

针对烟草生产过程中叶丝干燥工序的含水率波动较大、人工干预强度大等问题,提出了一种基于机器学习的叶丝含水率预测模型。由于生产过程中存在数据失去时序对应关系和数采不完整,导致模型准确度较低,为解决此问题,基于k近邻思想进行标签噪声过滤,剔除受到不可控因素影响的数据,然后利用CatBoost回归模型对叶丝干燥工序之前的叶丝膨胀工序入口含水率进行预测。实验结果表明,该模型能够有效地预测叶丝膨胀入口含水率,辅助提前修正后续工序相关参数,减少后续叶丝干燥工序的人为操作,可提高生产效率,降低品质波动。文中的方法具有一定的实用性和推广价值。