基于一种多分类半监督学习算法的驾驶风格分类模型

基于驾驶模拟平台设计实验方案,同步采集驾驶员的驾驶操作信息和车辆状态信息,选取6个表征驾驶风格的特征参数,采用主成分分析(Principal Component Analysis,PCA)算法对多元特征参数进行特征提取,将前3个主成分作为驾驶风格识别模型的特征输入.利用K-means聚类完成样本标记工作.基于有监督支持向量机(Support Vector Machine,SVM)与多分类半监督学习算法(i MLCU)的原理,分别建立SVM与i MLCU驾驶风格识别模型,通过调节标记样本与未标记样本比例,对比使用不同样本比例训练的SVM和i MLCU模型的驾驶风格识别准确率.结果表明:相比于SVM,i MLCU表现出了更优异的驾驶风格识别能力,由此可知半监督i MLCU模型可以利用未标记样本提高模型对驾驶风格的识别能力.

约束传播自适应半监督非负矩阵分解聚类算法

对称非负矩阵分解(SNMF)能够自然地捕获图表示中嵌入的聚类结构,是线性和非线性数据聚类应用的重要方法。但其对变量的初始化较敏感,初始化矩阵的质量好坏会较大地影响聚类性能,且在半监督聚类中面临着从有限的标记数据中学习更具辨别力表示的挑战。针对以上问题,提出了一种约束传播自适应半监督非负矩阵分解聚类算法(constrained propagation self-adaptived semi-supervised non-negative matrix factorization clustering algorithm,CPS3NMF)。该算法将有限约束传播到无约束数据点,构建出带有约束信息的相似矩阵,所获得的相似矩阵充当SNMF中分解的非负对称矩阵,还用于对分配矩阵进行图正则化,充分利用约束信息来保存数据空间的几何结构。同时结合SNMF对初始化特征的敏感性,使用自适应学习的权重对多个初始化矩阵的质量进行排序,集成多次聚类结果来逐步提高半监督聚类性能。在6个公开数据集上进行实验表明所提出的CPS3NMF算法优于其他先进算法,证明了其在半监督聚类中的有效性。

基于超图切割的半监督学习和聚类算法

对超图切割上的半监督学习和聚类算法进行了研究;通过对超图切割和超边展开法及其切割函数的讨论,引入了超图上的总变异作为超图切割的洛瓦兹扩展,并在此基础上提出了一组正则化函数,它对应于图上的拉普拉斯型正则化;基于正则化函数族提出了半监督学习方法,并基于平衡超图切割提出了谱聚类方法;为了求解这两个学习问题,将它们转化为求解凸优化问题,并为此提出了一种主要组成部分为近端映射的可扩展算法,从而实现半监督学习和聚类;仿真实验结果表明,提出的基于超图切割实现的半监督学习和聚类方法相比于经典的超边展开法和其他图切割方法有更好的标准偏差和聚类误差性能。

非独立同分布下联邦半监督学习的数据分享研究

联邦学习作为一种保护本地数据隐私安全的分布式机器学习方法,联合分散的设备共同训练共享模型。通常联邦学习在数据均有标签情况下进行训练,然而现实中无法保证标签数据完全存在,提出联邦半监督学习。在联邦半监督学习中,如何利用无标签数据提升系统性能和如何缓解数据异质性带来的负面影响是两大挑战。针对标签数据仅在服务器场景,基于分享的思想,设计一种可应用在联邦半监督学习系统上的方法Share&Mark,该方法将客户端的分享数据由专家标记后参与联邦训练。同时,为充分利用分享的数据,根据各客户端模型在服务器数据集上的损失值动态调整各客户端模型在联邦聚合时的占比,即ServerLoss聚合算法。综合考虑隐私牺牲、通信开销以及人工标注成本3个方面的因素,对不同分享率下的实验结果进行分析,结果表明,约3%的数据分享比例能平衡各方面因素。此时,采用Share&Mark方法的联邦半监督学习系统FedMatch在CIFAR-10和Fashion-MNIST数据集上训练的模型准确率均可提升8%以上,并具有较优的鲁棒性。

半监督学习算法下数字化信息归并分类仿真

由于数字化信息具有无限性、高维度以及不平衡等特征,难以准确分类,为此提出基于半监督学习的数字化信息归并分类算法。检测原始数字化信息中的概念漂移数据,滤除噪声数据,降低对后续分类结果精度的影响;利用半监督学习训练K均值聚类算法,利用训练后算法训练数据块,构建基础分类器,通过对目标函数求解获得最优聚类中心;构建基于SDClass算法的归并分类器,计算每个数据块类标签的估计值,以及估计值与簇中心间距离,找出最近的簇,将对应的数据块划分到该簇中,实现数字化信息的归并分类。选取6种不同类型的数据集对所提方法展开实验测试,结果表明,所提方法针对不同类型的数据集均可实现高精准分类,且具有较高的分类效率。

基于主动学习的深度半监督聚类模型

深度半监督聚类旨在利用少量的监督信息达到更好的聚类效果。然而,由于标注成本昂贵,监督信息的数量往往是有限的。因此,在监督信息有限的情况下,如何选择对聚类最有价值的监督信息变得至关重要。针对以上问题,提出了基于主动学习的深度半监督聚类模型(DASCM)。该模型设计了一种主动学习方法,能够挑选出蕴涵丰富信息的边缘文本,并进一步生成蕴涵边缘文本的高价值监督信息。该模型利用这些监督信息指导聚类,从而提升聚类性能。在5个真实文本数据集上的实验表明,DASCM的聚类性能有显著提升。这一结果验证了利用主动学习方法生成的涵盖边缘文本的监督信息对于提升聚类效果是有效的。

基于半监督学习和支持向量机的铀矿分选方法研究

为了识别可冶炼铀矿石,提高资源利用率,采用X射线透射技术,并结合半监督学习算法—ITSVM,实现对铀矿的智能分选。同时为进一步优化模型性能,引入了亮暗校正方法以解决图像噪声问题,该方法通过归一化处理,将噪声图片中的每个像素点进行映射,从而提升图像质量。通过改进的直线凹点检测与切割算法和切片方法,攻克了支持向量机对多目标分类任务的难题,该算法通过检测像素点相对于直线的位置和距离,利用约束条件判断凹点,采用最小距离切割方法获得对应的切割线,再通过切片的方法将多目标检测问题转化为多个独立的单一目标检测问题。通过综合这2种优化方法,最终建立了ITSVM铀矿分选模型。通过X射线投射技术收集到的2000张铀矿图片对该模型进行训练测试,并与SVM和TSVM模型进行结果对比。结果表明,经过亮暗校正,模型在检测铀矿的准确性方面提升了2.9个百分点;通过使用改进的直线凹点检测与切割算法和切片方法,使ITSVM模型具备多目标检测功能,模型对多目标铀矿图片检测的准确性达到95.7%;在测试集上,ITSVM模型检测铀矿的准确性达到97.3%。相比于SVM和TSVM,ITSVM在检测铀矿的准确性和持续优化模型方面具有更大优势,实验结果验证了ITSMV模型在铀矿分选领域的可行性。

基于度量参数自学习的半监督密度聚类方法

针对密度聚类算法(DBSCAN)难以体现各维度对聚类的差异化贡献,且算法准确性依赖人工设置距离阈值等问题,文中提出基于度量参数自学习的半监督DBSCAN,即SMP-SDBSCAN。设计基于logistic回归模型的距离参数训练方法,利用少量的标记数据训练各维度的聚类贡献权重;构建数据聚簇参数计算机制,将标记数据聚簇的平均类间距离和邻域密度设置为聚类参数,提升密度聚类算法对数据集的适应性。实验表明,所提方法能够选择合理的聚类参数,可有效提升密度聚类算法聚类精度。

基于半监督学习代理辅助的混合进化算法

针对目标函数评价昂贵的优化问题,在计算资源有限的情况下很难获得足够数据训练一个准确的全局代理模型,然而,不准确的全局代理模型其潜在优势是可以平滑局部极值点,从而可以引导算法加速找到最优解。另一方面,局部模型虽然不能辅助算法跳出局部最优,但是其相对于全局模型在局部区域具有较好的拟合效果。本文利用这两类模型的优点,针对计算昂贵问题提出了基于半监督学习代理模型的混合进化算法(SSL-SAHA)。在现有算法的基础上,对局部搜索部分进行了改进。利用在全局搜索过程中建立的集成模型选择一些未真实计算的个体,一起用于训练局部模型,从而提高局部RBF模型的估值准确度。实验结果表明,此算法可以有效求解计算昂贵问题。

基于K-means聚类和特征空间增强的噪声标签深度学习算法

深度学习中神经网络的性能依赖于高质量的样本,然而噪声标签会降低网络的分类准确率。为降低噪声标签对网络性能的影响,噪声标签学习算法被提出。该算法首先将训练样本集划分成干净样本集和噪声样本集,然后使用半监督学习算法对噪声样本集赋予伪标签。然而,错误的伪标签以及训练样本数量不足的问题仍然限制着噪声标签学习算法性能的提升。为解决上述问题,提出基于K-means聚类和特征空间增强的噪声标签深度学习算法。首先,该算法利用K-means聚类算法对干净样本集进行标签聚类,并根据噪声样本集与聚类中心的距离大小筛选出难以分类的噪声样本,以提高训练样本的质量;其次,使用mixup算法扩充干净样本集和噪声样本集,以增加训练样本的数量;最后,采用特征空间增强算法抑制mixup算法新生成的噪声样本,从而提高网络的分类准确率。并在CIFAR10、CIFAR100、MNIST和ANIMAL-10共4个数据集上试验验证了该算法的有效性。

自训练新类探测半监督学习算法

传统的半监督学习算法(SSL)存在适用范围有限和泛化能力不足的缺陷,尤其是当训练数据集中出现未见标签的新类样本时,算法的性能将在很大程度上受到影响。基于人工标注的有标记样本获取方式需要领域专家的参与,消耗了高昂的时间和财力成本,且由于专家背景知识的局限,无法避免标记过程中的人为错标现象。为此,以提高对未见标签样本标注正确性为出发点的半监督学习算法具有迫切的实际需要。在对自训练算法进行了详细剖析之后,提出了一种有效的新类探测半监督学习算法(NCD-SSL)。首先,基于经典的极限学习机模型,构造了可处理标签增量和样本增量学习的通用增量极限学习机;然后,对自训练算法进行改进,利用标注可信度高的样本进行样本增量学习,同时设置了缓存池用以存储标注可信度低的样本;之后,使用聚类和分布一致性判定方法进行新类探测,进而实现类增量学习;最后,在仿真数据集和真实数据集上对提出算法的可行性和有效性进行了实验验证,实验结果显示在缺失类别数为3、2、1时,新算法的测试精度普遍比其他6种半监督学习算法高出30、20、10个百分点左右,从而证实了提出的算法能够获得更好的新类探测半监督学习表现。

改进的采样算法与无监督聚类相结合的软件缺陷预测模型

该文首先在自适应综合过采样算法ADASYN(adaptive synthetic sampling)的基础上,考虑少数类内部不同密度簇之间的连接性问题,将与采样点距离为中等的点纳入新样本生成范围,改进得到T-ADASYN过采样优化算法,有效地增加了少数类内部不同密度簇的连接性,生成了分布更为均衡的数据集.然后使用基于连接的spectral clustering算法进行聚类预测操作,将过采样算法和无监督聚类相结合,提出一种新型实用的软件缺陷预测模型TA-SC(T-ADASYN+spectral clustering).以F-score为评价指标,spectral clustering为聚类模型进行验证.实验结果表明:改进的T-ADASYN过采样算法在公开的PROMISE数据集和NASA数据集上比常用的过采样算法均有6%的性能提升,且TA-SC模型在PROMISE和NASA 2个数据集上比常用聚类算法分别有3%和2%的性能提升.

基于半监督学习的朴素贝叶斯分类新算法

为了在有标签的训练集中保留高质量的样本,首先利用无标签训练集得出置信度高的k个样本,再结合有标签训练样本,不断迭代直至训练完成。实验结果表明:随着无标记样本比例的不断增加,本文算法预测准确性明显高于朴素贝叶斯分类算法,而且其性能比传统半监督学习方法有所改善。

基于超图正则NMF的自适应半监督多视图聚类

图正则非负矩阵分解(GNMF)虽然已成为大量多视图聚类方法的基本框架,但其尝试用简单图融合来自不同视图的复杂数据关系,同时获得一致性判别表示,这无疑有很大挑战性。为了更好地应对多视图数据的聚类任务,本文提出一种基于超图正则非负矩阵分解的半监督多视图聚类方法ASMCHNMF。该方法通过构造超图,学习来自多个视图的数据高阶关系,为合理利用现实世界中可获取的标签信息,引入标签约束项进行半监督学习。此外,该方法同时考虑一致性信息和互补性信息的学习,采用自适应措施区分不同视图的贡献,并使用交替迭代算法来对主函数进行优化。在7个真实数据集上的对比实验表明,在其中6个数据集上,ASMCHNMF算法的ACC和NMI指标均优于经典算法和当前先进算法。

一种基于EM和分类损失的半监督主动DBN学习算法

对于建立动态贝叶斯网络(DBN)分类模型时,带有类标注样本数据集获得困难的问题,提出一种基于EM和分类损失的半监督主动DBN学习算法.半监督学习中的EM算法可以有效利用未标注样本数据来学习DBN分类模型,但是由于迭代过程中易于加入错误的样本分类信息而影响模型的准确性.基于分类损失的主动学习借鉴到EM学习中,可以自主选择有用的未标注样本来请求用户标注,当把这些样本加入训练集后能够最大程度减少模型对未标注样本分类的不确定性.实验表明,该算法能够显著提高DBN学习器的效率和性能,并快速收敛于预定的分类精度.

一种基于k-means聚类和半监督学习的医学图像分割算法

医学图像分割是计算机视觉和图像处理领域近年来研究的热点问题之一。一种基于k-means聚类和半监督学习的医学图像分割新算法被提出。在k-means聚类模型中,相似度函数是关系到聚类效果好坏的关键因素。所使用的相似度函数通过基于side-information的半监督学习方法来确定;确定后的相似度函数又被运用回k-means聚类模型中来实现对医学图像的分割。为了检验该算法效果,脑部肿瘤患者的磁共振图像被运用在实验中。分析结果表明:该算法在本文所采用的实例中能获得优于传统算法的分割效果。

半监督分类学习问题在生物信息学中的研究进展——以间谍算法为例

近年来,随着生命科学研究的不断发展,生物信息学这个利用智能算法处理生物数据的新型交叉学科越来越受到科研工作者的关注.机器学习在智能算法的研究中占据极其重要的地位,而机器学习中的半监督分类学习在生物信息学中有着广泛应用.以半监督分类学习中的间谍算法为例,首先回顾了半监督分类学习的发展历程,分析了该方法的研究现状,然后描述了间谍算法在生物信息学研究中的应用,最后总结了间谍算法的优势和局限性,并且讨论了可以改进的方向和未来的发展.

基于Tri-training-SSAE半监督学习算法的电力系统暂态稳定评估

基于机器学习的暂态稳定评估方法主要采用监督学习方法,为了解决监督学习方法所需的有标签样本难以获取的问题,提出基于三体训练-稀疏堆叠自动编码器(Tri-training-SSAE)半监督学习算法的电力系统暂态稳定评估方法。构建基于堆叠稀疏自动编码器的暂态稳定评估模型;在传统的三体训练过程中加入伪标签样本置信度判断,以减小噪声数据对模型训练的影响;以堆叠稀疏自动编码器为基分类器构建三体训练-稀疏堆叠自动编码器模型,利用大量的无标签样本提高模型的泛化能力。通过IEEE 39节点系统与华东某省级电网进行分析验证,结果表明,所提方法在有标签样本数较少时具有更高的评估准确度。

一种无需手工标注的半监督学习关键词抽取方法

关键词的自动抽取技术是为了满足信息时代人们对特定领域知识快速便捷获取的需求.它也是机器翻译、信息检索、知识图谱构建等应用场景中的关键基础问题和研究热点.监督学习方法的效果是建立在有现成的大量的带有准确标注的高质量的数据集的前提上的,无法在低资源环境下快速运用.本文提出了一种考虑词频、词长以及词大小写特征的无监督算法以及结合了该无监督算法的自扩展迭代的半监督学习关键词抽取方法.半监督学习方法在同样无需手工标注关键词的前提下,相比无监督算法具有更高的F1值.

基于半监督学习标签传播-极端随机树算法的光伏阵列故障诊断及定位

对光伏阵列故障进行精确诊断和定位有助于提升光伏发电系统的可靠性。针对现有的诊断方法过度依赖大量有标签样本,难以同时兼顾故障类型诊断、故障定位及低成本等问题,将多传感器法与半监督学习算法相结合,构建了一种融合标签传播算法(label propagation,LP)和极端随机树(extra-trees,ET)的半监督学习算法LP-ET。为克服工程实际故障样本较少且往往缺失故障标签的问题,搭建了光伏阵列故障仿真模型获取样本,引入LP算法,基于少量含故障类型及定位信息的有标签故障样本,实现原始故障样本集全标注;继而引入ET模型,持续构建大量决策树形成极端随机树,采用多数投票机制(Bagging)获得故障类型及定位结果。实验结果表明,所提出的LP-ET模型可以在含有大比例未标注样本数据集情况下实现短路、断路、退化及遮阴故障的较高精度诊断,兼顾单组件及多组件故障,有效解决光伏阵列故障诊断及定位问题。