基于少量标注数据的半监督K-means算法

为了获得充足的训练语料,提出了半监督的K-means算法(SSK-means),算法的运行过程中不再随机选择初始中心点,而是先从各类标注数据分别选取一个作为初始中心点,其余的则从未标注数据中选择,选择距离已选初始点较远的数据,这就保证初始点不会属于同一类,从而使得标注的结果具有较高的准确率。实验结果表明,SSK-means算法是有效的,它具有较好的性能。

基于K-means聚类和特征空间增强的噪声标签深度学习算法

深度学习中神经网络的性能依赖于高质量的样本,然而噪声标签会降低网络的分类准确率。为降低噪声标签对网络性能的影响,噪声标签学习算法被提出。该算法首先将训练样本集划分成干净样本集和噪声样本集,然后使用半监督学习算法对噪声样本集赋予伪标签。然而,错误的伪标签以及训练样本数量不足的问题仍然限制着噪声标签学习算法性能的提升。为解决上述问题,提出基于K-means聚类和特征空间增强的噪声标签深度学习算法。首先,该算法利用K-means聚类算法对干净样本集进行标签聚类,并根据噪声样本集与聚类中心的距离大小筛选出难以分类的噪声样本,以提高训练样本的质量;其次,使用mixup算法扩充干净样本集和噪声样本集,以增加训练样本的数量;最后,采用特征空间增强算法抑制mixup算法新生成的噪声样本,从而提高网络的分类准确率。并在CIFAR10、CIFAR100、MNIST和ANIMAL-10共4个数据集上试验验证了该算法的有效性。

基于半监督算法的高光谱影像特征提取仿真

高光谱影像包括待测物的空间、光谱和辐射三重信息,且图像信息具有维度高、空间相关性弱、特征非线性强的特点,导致其空间特征序列混乱,特征提取难度大。于是提出基于半监督算法的高光谱影像特征提取方法。应用半监督算法对高光谱图像中的高维数据降维处理,并基于降维结果完成高光谱图像的去模糊。高光谱图像完成降维去模糊后,根据特征学习模型学习高光谱影像数据,获取图像深层特征。在像元空间内对深度特征以及空间信息完成空、谱的联合,实现高光谱影像特征的提取。实验结果表明,所提方法应用下影像特征点在特征空间内聚类效果好,查全率和查准率均能达到95%以上,说明上述方法的应用性能更优。

基于半监督学习代理辅助的混合进化算法

针对目标函数评价昂贵的优化问题,在计算资源有限的情况下很难获得足够数据训练一个准确的全局代理模型,然而,不准确的全局代理模型其潜在优势是可以平滑局部极值点,从而可以引导算法加速找到最优解。另一方面,局部模型虽然不能辅助算法跳出局部最优,但是其相对于全局模型在局部区域具有较好的拟合效果。本文利用这两类模型的优点,针对计算昂贵问题提出了基于半监督学习代理模型的混合进化算法(SSL-SAHA)。在现有算法的基础上,对局部搜索部分进行了改进。利用在全局搜索过程中建立的集成模型选择一些未真实计算的个体,一起用于训练局部模型,从而提高局部RBF模型的估值准确度。实验结果表明,此算法可以有效求解计算昂贵问题。

基于半监督K-means的K值全局寻优算法

提出一种基于半监督K-means的K值全局寻优算法,该算法打破传统方法中采用样本类别作为K值的限定,利用少量标记数据即可指导和规划大量无监督数据.结合数据集自身的分布特点及聚类后各个簇内的监督信息,根据投票方法来指导簇中数据集的类别标记.实验表明,本文所提出的方法可以有效的寻找适合数据集的最佳K值和聚类的中心,提高聚类性能.

基于k-means和半监督机制的单类中心学习算法

提出了一个基于k-means算法框架和半监督机制的single-means算法,以解决单类中心学习问题。k-means算法实质上是对一种混合高斯模型的期望最大化(EM)算法的近似,对该模型随机生成的多类混合数据集,从目标类中随机标定的初始中心出发,能确定地收敛到该类的实际中心。将single-means算法应用到对单类文本中心学习问题中,实验结果表明:在给定目标类中的小标定文本集后,新算法能够有效地改进类的初始中心,且对数据稀疏和方差较大的实际问题具有健壮性。

非独立同分布下联邦半监督学习的数据分享研究

联邦学习作为一种保护本地数据隐私安全的分布式机器学习方法,联合分散的设备共同训练共享模型。通常联邦学习在数据均有标签情况下进行训练,然而现实中无法保证标签数据完全存在,提出联邦半监督学习。在联邦半监督学习中,如何利用无标签数据提升系统性能和如何缓解数据异质性带来的负面影响是两大挑战。针对标签数据仅在服务器场景,基于分享的思想,设计一种可应用在联邦半监督学习系统上的方法Share&Mark,该方法将客户端的分享数据由专家标记后参与联邦训练。同时,为充分利用分享的数据,根据各客户端模型在服务器数据集上的损失值动态调整各客户端模型在联邦聚合时的占比,即ServerLoss聚合算法。综合考虑隐私牺牲、通信开销以及人工标注成本3个方面的因素,对不同分享率下的实验结果进行分析,结果表明,约3%的数据分享比例能平衡各方面因素。此时,采用Share&Mark方法的联邦半监督学习系统FedMatch在CIFAR-10和Fashion-MNIST数据集上训练的模型准确率均可提升8%以上,并具有较优的鲁棒性。

结合支持向量机与半监督K-means的新型学习算法

半监督学习结合少量有标签样本和大量无标签样本,可以有效提高算法的泛化性能。传统的半监督支持向量机(SVM)算法在目标函数中引入无标签样本的依赖项来推动决策面通过低密度区域,但往往会带来高计算复杂度和局部最优解等问题。同时,半监督K-means算法面临着如何有效利用监督信息进行质心的初始化及更新等问题。针对上述问题,提出了一种结合SVM和半监督K-means的新型学习算法(SKAS)。首先,提出一种改进的半监督K-means算法,从距离度量和质心迭代两个方面进行了改进;然后,设计了一种融合算法将半监督K-means算法与SVM相结合以进一步提升算法性能。在6个UCI数据集上的实验结果表明,所提算法在其中5个数据集上的运行结果都优于当前先进的半监督SVM算法和半监督K-means算法,且拥有最高的平均准确率。

基于Tri-training-SSAE半监督学习算法的电力系统暂态稳定评估

基于机器学习的暂态稳定评估方法主要采用监督学习方法,为了解决监督学习方法所需的有标签样本难以获取的问题,提出基于三体训练-稀疏堆叠自动编码器(Tri-training-SSAE)半监督学习算法的电力系统暂态稳定评估方法。构建基于堆叠稀疏自动编码器的暂态稳定评估模型;在传统的三体训练过程中加入伪标签样本置信度判断,以减小噪声数据对模型训练的影响;以堆叠稀疏自动编码器为基分类器构建三体训练-稀疏堆叠自动编码器模型,利用大量的无标签样本提高模型的泛化能力。通过IEEE 39节点系统与华东某省级电网进行分析验证,结果表明,所提方法在有标签样本数较少时具有更高的评估准确度。

基于改进的K-means聚类和深度神经网络的轴承故障诊断算法研究

提出了一种改进K-means聚类算法,使用该方法对轴承振动数据进行聚类和基于深度神经网络的半监督学习的故障诊断研究。对轴承振动数据进行时域和频域处理,得到28维的时域和频域特征数据;利用提出的算法对高维特征数据进行聚类处理,得到伪标签,建立特征数据和伪标签对应的数据集;利用神经网络对具有伪标签的特征数据进行半监督学习,实现对不同轴承振动状态的高精度识别。通过对比聚类指标,提出的算法较好地改善了聚类效果;用伪标签数据训练神经网络,将预测的结果与真实数据比较,精度可达96.2%,可100%区分正常状态和故障状态。

基于半监督学习标签传播-极端随机树算法的光伏阵列故障诊断及定位

对光伏阵列故障进行精确诊断和定位有助于提升光伏发电系统的可靠性。针对现有的诊断方法过度依赖大量有标签样本,难以同时兼顾故障类型诊断、故障定位及低成本等问题,将多传感器法与半监督学习算法相结合,构建了一种融合标签传播算法(label propagation,LP)和极端随机树(extra-trees,ET)的半监督学习算法LP-ET。为克服工程实际故障样本较少且往往缺失故障标签的问题,搭建了光伏阵列故障仿真模型获取样本,引入LP算法,基于少量含故障类型及定位信息的有标签故障样本,实现原始故障样本集全标注;继而引入ET模型,持续构建大量决策树形成极端随机树,采用多数投票机制(Bagging)获得故障类型及定位结果。实验结果表明,所提出的LP-ET模型可以在含有大比例未标注样本数据集情况下实现短路、断路、退化及遮阴故障的较高精度诊断,兼顾单组件及多组件故障,有效解决光伏阵列故障诊断及定位问题。

融合光谱度量标记迁移和Tri-training的高光谱遥感图像半监督分类算法

针对海量的高光谱遥感图像光谱和丰富的空间信息中可用于分类的有标记样本远少于无标记样本的数据特性,提出了一种融合光谱度量标记迁移和Tri-training的高光谱遥感图像半监督光谱-空间分类算法。该算法提出了一种基于光谱度量的标记迁移方法,通过结合迁移标记和Tri-training预测标记进行扩充样本标记预测,提高了扩充样本标记的准确性。同时,该算法基于空间相关性选择扩充样本,综合运用光谱和空间特征提升图像分类的精度。在两个公开的高光谱遥感图像数据集上进行了实验,结果表明该算法优于基于Tri-training算法的高光谱遥感图像的分类性能。

基于半监督的K-means聚类改进算法

针对原始K-means算法的一系列问题,提出一种基于半监督的K-means聚类改进算法,能够自动进行聚类,找出最优K值,并且最大限度地找出孤立点。首先根据样本集自身的特点,按照"类内尽可能相似"原则一步一步形成数据集,然后对数据集进行"去噪"与合并相似簇,最后,利用少量的标记信息指导和修正聚类结果。在UCI的多个数据集上测试,结果表明改进的算法较原始算法在准确率上有较大提高,并且具有更好的稳定性。

一种主动半监督K-means聚类算法的改进策略

经典的APCKmeans(active pairwise constrained K-means)算法通过主动学习的方式构造must-link约束集和cannot-link约束集作为监督信息进行半监督聚类,提高了结果的准确性.但该算法在样本指派的过程中可能出现指派不是当前最优的问题.提出一种优先指派标签样本的方法,应用于APCKmeans算法,使用改进后的APCKmeans_I算法实现了使用较少的监督信息取得更好的聚类结果.将改进策略应用于PCKmeans(pairwise constrained K-means)算法,提出改进后的PCKmeans_I算法.通过在UCI基准数据集的实验表明,改进后算法的性能得到明显提升.

一种无需手工标注的半监督学习关键词抽取方法

关键词的自动抽取技术是为了满足信息时代人们对特定领域知识快速便捷获取的需求.它也是机器翻译、信息检索、知识图谱构建等应用场景中的关键基础问题和研究热点.监督学习方法的效果是建立在有现成的大量的带有准确标注的高质量的数据集的前提上的,无法在低资源环境下快速运用.本文提出了一种考虑词频、词长以及词大小写特征的无监督算法以及结合了该无监督算法的自扩展迭代的半监督学习关键词抽取方法.半监督学习方法在同样无需手工标注关键词的前提下,相比无监督算法具有更高的F1值.

运用区间二型模糊集的半监督模糊聚类算法

将区间二型模糊集引入半监督聚类,提出一种运用区间二型模糊集的半监督聚类算法.该算法以区间二型模糊集为隶属度,将已标识样本的类别标签融入目标函数,使得聚类算法可以在已标识样本类别信息的引导下,得到合理的隶属度.实验表明,相比其他聚类模型,结合半监督机制和区间二型模糊集的聚类算法具有更好的聚类性能.

半监督Relief-F特征选择算法

数据规模的不断增加,使得为数据库中全部样本做标记变得尤为困难,数据集也因此呈现出了明显的弱标记性.为此,针对大规模少数标记数据集的特征选择问题,基于经典的Relief-F算法,通过综合考虑有标记样本与无标记样本对数据样本近邻的影响,重新定义样本近邻的搜索策略,提出了一种面向符号数据的半监督特征选择算法.为进一步分析新算法的有效性,仿真实验中选取了5组UCI数据集,并引入机器学习中3个常用分类器对新算法和对比算法的特征选择结果的分类性能作了分析和比较,实验结果很好地验证了本文中提出的新算法的有效性和可行性.

基于半监督学习和支持向量机的铀矿分选方法研究

为了识别可冶炼铀矿石,提高资源利用率,采用X射线透射技术,并结合半监督学习算法—ITSVM,实现对铀矿的智能分选。同时为进一步优化模型性能,引入了亮暗校正方法以解决图像噪声问题,该方法通过归一化处理,将噪声图片中的每个像素点进行映射,从而提升图像质量。通过改进的直线凹点检测与切割算法和切片方法,攻克了支持向量机对多目标分类任务的难题,该算法通过检测像素点相对于直线的位置和距离,利用约束条件判断凹点,采用最小距离切割方法获得对应的切割线,再通过切片的方法将多目标检测问题转化为多个独立的单一目标检测问题。通过综合这2种优化方法,最终建立了ITSVM铀矿分选模型。通过X射线投射技术收集到的2000张铀矿图片对该模型进行训练测试,并与SVM和TSVM模型进行结果对比。结果表明,经过亮暗校正,模型在检测铀矿的准确性方面提升了2.9个百分点;通过使用改进的直线凹点检测与切割算法和切片方法,使ITSVM模型具备多目标检测功能,模型对多目标铀矿图片检测的准确性达到95.7%;在测试集上,ITSVM模型检测铀矿的准确性达到97.3%。相比于SVM和TSVM,ITSVM在检测铀矿的准确性和持续优化模型方面具有更大优势,实验结果验证了ITSMV模型在铀矿分选领域的可行性。

半监督学习算法下数字化信息归并分类仿真

由于数字化信息具有无限性、高维度以及不平衡等特征,难以准确分类,为此提出基于半监督学习的数字化信息归并分类算法。检测原始数字化信息中的概念漂移数据,滤除噪声数据,降低对后续分类结果精度的影响;利用半监督学习训练K均值聚类算法,利用训练后算法训练数据块,构建基础分类器,通过对目标函数求解获得最优聚类中心;构建基于SDClass算法的归并分类器,计算每个数据块类标签的估计值,以及估计值与簇中心间距离,找出最近的簇,将对应的数据块划分到该簇中,实现数字化信息的归并分类。选取6种不同类型的数据集对所提方法展开实验测试,结果表明,所提方法针对不同类型的数据集均可实现高精准分类,且具有较高的分类效率。

新型无监督聚类算法监测与评估桥梁结构健康状况

近年来,因车辆超载、结构设计缺陷、施工质量问题等原因导致的城市高架桥梁倒塌事故时有发生。因此,首次提出了一种可实时监测高架桥梁运行状况、通过改进K-means聚类算法实现对结构损伤实时检测、对数据驱动结构损伤进行检测的高效方法。该方法主要是对钢结构桥梁模型在结构完好状态下的振动数据进行采集,然后通过深度研究从这些数据中提取有效的结构损伤敏感特征值,最后利用改进的无监督聚类算法训练奇异值检测模型。试验结果表明,采用桥梁结构完好状况下的损伤敏感特征值作为训练数据,对数学模型加以训练后,可以有效检测并识别出桥梁结构在不同损伤状况下的测试结果。该新型检测方法可实现城市高架桥梁在长期运营阶段的结构健康实时监测。