基于K-means聚类和特征空间增强的噪声标签深度学习算法

深度学习中神经网络的性能依赖于高质量的样本,然而噪声标签会降低网络的分类准确率。为降低噪声标签对网络性能的影响,噪声标签学习算法被提出。该算法首先将训练样本集划分成干净样本集和噪声样本集,然后使用半监督学习算法对噪声样本集赋予伪标签。然而,错误的伪标签以及训练样本数量不足的问题仍然限制着噪声标签学习算法性能的提升。为解决上述问题,提出基于K-means聚类和特征空间增强的噪声标签深度学习算法。首先,该算法利用K-means聚类算法对干净样本集进行标签聚类,并根据噪声样本集与聚类中心的距离大小筛选出难以分类的噪声样本,以提高训练样本的质量;其次,使用mixup算法扩充干净样本集和噪声样本集,以增加训练样本的数量;最后,采用特征空间增强算法抑制mixup算法新生成的噪声样本,从而提高网络的分类准确率。并在CIFAR10、CIFAR100、MNIST和ANIMAL-10共4个数据集上试验验证了该算法的有效性。

基于K-means和Label Propagation的半监督网页分类

提出基于图的半监督学习算法,即类别传播算,结合K均值算法改进,用于网页分类。该K均值类别传播方法使用欧式距离的建立带权∈NN图。在这个图中,图节点表示已标记或未标记的网页,边上的权重表示节点的相似度,已标记节点的类别沿着边向邻居节点传播,从而将网页分类问题形式化为类别在图上的传播。结合K均值方法,提高了计算速度以及图方法的归纳能力,经UCI数据集测试,结果表明,此算法比类别传播算法有更好的性能,能够有效地用于半监督网页分类。

New Results on One Modulo N-Difference Mean Graphs

A graph G is said to be one modulo N-difference mean graph if there is an injective function f from the vertex set of G to the set , where N is the natural number and q is the number of edges of G and f induces a bijection from the edge set of G to given by and the function f is called a one modulo N-difference mean labeling of G. In this paper, we show that the graphs such as arbitrary union of paths, , ladder, slanting ladder, diamond snake, quadrilateral snake, alternately quadrilateral snake, , , , , friendship graph and admit one modulo N-difference mean labeling.

基于聚类及长短时记忆神经网络预测油田产量

利用机器学习方法预测油田产量的精度与训练样本的代表性及数量息息相关。通常,采用油田生产数据或者油井生产数据构建训练样本。将油田作为训练样本,存在“小样本”的问题;将油井作为训练样本,由于老油田一般具有开发层系多、生产历史长、油井投产批次多等特点,人工标注能够代表油田产量递减规律的训练样本难度大,且耗时费力。本文将油田和油井生产数据有机融合构建训练样本,建立产量智能预测模型,预测油田产量。首先,采用无监督学习的K均值聚类算法,依据有效厚度、孔隙度、渗透率、饱和度等信息对油井进行聚类分析,识别产量递减类别,并将每类油井转换成一口典型油井作为该类油井的代表;其次,将典型井作为预测对象,通过从每类油井中按比例随机抽取油井来增加训练样本数量,即将典型井和油井生产数据融合构建训练样本;最后,基于长短时记忆循环神经网络建立模型预测典型井产量,进而预测油田产量。研究结果表明:该方法既解决了油田数据作为训练样本的“小样本”问题,又降低了油井数据作为训练样本的标注难度与工作量,并且精度符合现场生产要求,对油气产量智能预测的工程化落地应用具有一定指导意义。

一种改进的半监督K-Means聚类算法

半监督聚类利用部分标签的数据辅助未标签的数据进行学习,从而提高聚类的性能。针对基于K-means的聚类算法发现非球状簇能力差的问题,本文提出新的处理思想,即把已标签数据对未标签数据的引力影响加入到类别分配决策中,给出了类与点的引力影响度定义,设计了带引力参数的半监督K-means聚类算法。实验表明,该算法在处理非球状簇分布的聚类时比现有的半监督K-means方法效果更好。

利用多标签信息的聚类方法

k-means是当前使用最广泛的聚类算法,但其只对无标签信息的样本数据进行聚类,需用户提供初始聚类中心等信息且聚类花费时间长结果不稳定。当前很多数据集都带有多标签的信息,如何利用多标签信息更加快速有效的聚类是一个重要的研究方向。文中提出了多标签数据的聚类方法,首先对多标签信息进行聚类得到适当的初始聚类中心,然后再使用k-means算法对大量样本做聚类。试验结果表明,该聚类方法比使用随机初始聚类中心的k-means算法具有更好的时间性能和聚类结果。

应用k-means算法实现标记分布学习

标记分布学习是近年来提出的一种新的机器学习范式,它能很好地解决某些标记多义性的问题。现有的标记分布学习算法均利用条件概率建立参数模型,但未能充分利用特征和标记间的联系。本文考虑到特征相似的样本所对应的标记分布也应当相似,利用原型聚类的k均值算法(k-means),将训练集的样本进行聚类,提出基于kmeans算法的标记分布学习(label distribution learning based on k-means algorithm,LDLKM)。首先通过聚类算法kmeans求得每一个簇的均值向量,然后分别求得对应标记分布的均值向量。最后将测试集和训练集的均值向量间的距离作为权重,应用到对测试集标记分布的预测上。在6个公开的数据集上进行实验,并与3种已有的标记分布学习算法在5种评价指标上进行比较,实验结果表明提出的LDLKM算法是有效的。

基于AEViT与先验知识的胶质瘤IDH1突变状态预测

针对目前预测胶质瘤异柠檬酸脱氢酶1(isocitrate dehydrogenase1,IDH1)突变状态存在的数据不足、准确率较低等问题,提出一种基于AEViT(auto-encoder vision Transformer)与先验知识的胶质瘤IDH1突变状态预测方法。首先使用改进的K-Means聚类算法为无IDH1突变状态标签的胶质瘤磁共振成像(magnetic resonance imaging,MRI)数据标注伪标签,并采用ViT(vision Transformer)网络对伪标签进行修正,得到最终的胶质瘤IDH1突变状态。为避免不准确的伪标签数据影响模型精度,采用果蝇优化算法为伪标签数据赋予最优权重;然后提出基于Auto-Encoder和ViT的分类模型AEViT,利用Auto-Encoder提取胶质瘤MRI特征;再将特征输入ViT中对胶质瘤IDH1突变状态进行分类;最后将基于胶质瘤位置信息的先验知识加入模型,达到99.01%的预测准确率。结果表明该方法优于其他现有模型,能够实现胶质瘤数据扩增和术前无创、准确地预测胶质瘤IDH1突变状态,从而辅助诊疗过程。

基于K-means的二阶段多类SVM分类器

提出了基于K-means的二阶段多类SVM分类方法。该方法分为二个阶段:第一阶段采用K-means聚类,通过抽样精度来提高聚类准确度;第二阶段采用LIBSVM进行分类。通过使用LIBSVM提供的语料进行实验,结果显示比直接使用LIBSVM进行分类准确度提高了9.35%。

基于SSk-means聚类指导的邮件SVM分类学习算法

邮件分类学习算法需要大量标注样本,人工标记工作费时费力。此外邮件内容因其表达方式上的特殊性,其特征空间一般是稀疏的,这种稀疏性会影响分类处理的效果。为了节省标记训练集的时间和精力,同时更好地处理稀疏的邮件数据,引入自适应选择最佳密度半径球形k-means聚类(SSk-means)算法,作为支持向量机(SVM)的前端处理,将训练集扩展后再送入SVM分类器。实验结果与性能比较表明,在训练集只有极少量标记邮件和一定量未标记邮件的情况下,该分类算法的性能较一般SVM有很大的提高。

QLA-Means:检索结果聚类方法

针对搜索引擎检索大规模数据时结果聚类的性能有限问题,提出一种查询日志辅助的改进K-Means算法。将传统的K-Means聚类扩展为多层次聚类的形式,实现检索对象与检索结果之间的聚类;通过引入检索日志,辅助提升聚类的效果,实现检索结果推送的高相关性。实现结果表明,基于该算法的检索结果聚类,有着较高的准确率,检索过程的时间开销较低,综合效率与准确率而言,该算法是一种理想的检索结果聚类方法。

基于K-means的GLOCAL改进算法

在多标签学习中,标签相关性是不可或缺的。当标签缺损只能观察到一部分标签时,很难判断标签之间的相关性。具有全局与局部标签相关性的多标签(GLOCAL)算法通过学习潜在标签和引入标签流行正则化项,同时利用全局和局部标签相关性来解决标签缺损问题。但是该算法在通过低秩分解学习潜在标签以及原始标签与潜在标签的关联性时,初始化的低秩矩阵是随机获取的,这导致该算法结果并不稳定。基于此,利用K-means算法对原始标签进行聚类,获得的聚类中心矩阵将能更好地表现出原始标签与潜在标签之间的相关性。实验结果表明,本文的算法是合理和有效的。

少标签下油浸式变压器双层故障诊断模型

针对油浸式变压器数据样本标记困难,有标签样本数据量较少,传统故障诊断方法精度低的问题,提出了基于GBDT与K-means增益聚类的少标签下油浸式变压器双层故障诊断模型。首先,采用SAE对表征变压器状态的高维特征气体进行降维,去除冗余信息,得到包含变压器运行状态的低维特征向量作为后续分类器的输入;其次,构建双层故障诊断模型;针对无标签样本,引入GBDT方法作为所提模型首层,获取无标签样本的伪标签;为进一步提高诊断精度,提出基于无标记样本伪标签的K-means聚类增益,作为新的特征向量,输入末层模型K-means用以实现二次诊断的目的。实验分析表明,在少标签状态下,所提的方法可有效提升变压器故障诊断精度,相较于传统方法,在诊断精度上至少提升了6%。为少标签下的油浸式变压器故障诊断提供了新的思路。

任务引导的径向基网络对乳腺病理图像有丝分裂检测

有丝分裂数目是判别乳腺癌恶性程度的重要指标,在诊断、治疗及预后中具有重要的意义.然而,在临床实践上乳腺癌切片中有丝分裂细胞的检测主要是通过病理学医生进行人工计数,这个过程繁琐耗时且具有很强主观性.本文提出了一种乳腺病理图像有丝分裂自动检测的两阶段方法.在第一个阶段,利用卷积神经网络作为主干融合深监督与注意力机制进行有丝分裂细胞候选块的定位.在第二个阶段,将获取的候选块输入融合了径向基函数网络的验证模型,进一步提高有丝细胞识别准确率.针对有丝细胞类内存在较大差异的问题,本文通过任务来引导径向基函数中心的确定,利用径向基函数的“局部响应”特性来表达有丝分裂细胞的形态多样性.通过在弱标签数据集ICPR 2014和AMIDA 2013上进行评估,本文所提出的网络模型取得了最优的F-score,与竞争方法相比,分别提高了5.4%和3.0%,从而证明了该方法对于有丝分裂检测的有效性.

基于标记分布学习的人脸年龄识别算法

针对人脸年龄识别可用数据集普遍不足的问题,为提升可用数据集不变情况下人脸年龄识别的精度,在深度学习(DL)框架中引入标记分布学习(LDL)策略,命名为DL-LDL,其中卷积神经网络用于自动提取人脸特征,改进的标记分布学习用于学习真实年龄及相邻年龄之间的模糊性和多义性,以丰富年龄信息,提高识别精度.将DL-LDL方法在MORPH和FG-NET这2个公开数据集上进行了试验测试.结果表明:DL-LDL方法提高了年龄识别的精度,与现有最先进的人脸年龄识别方法相比,在MORPH和FG-NET上的平均绝对误差分别降低了8.2%和13.8%.

标签均值的自训练半监督支持向量机用于EEG分类

研究半监督学习方法在EEG分类中的应用。结合标签均值和自训练思想提出两种新的半监督支持向量机方法。首先通过未标记样本的预测值估计标签均值,然后对未标记样本的标签进行优化。在此基础上提出了两种半监督支持向量机方法,一种是基于多核学习的标签均值自训练半监督支持向量机(Means4vm_mkl);一种是基于迭代优化的标签均值自训练半监督支持向量机(Means4vm_iter)。对BCI Competition Dataset中的3组数据进行仿真实验,讨论分类正确率和运算效率两个指标。结果表明,两种方法均有较高的分类正确率,尤其在BCIⅠ数据集中,Means4vm_mkl方法达到了竞赛第一名的水平96%;而且运算效率较高,最快的只需29.5 s,为在线BCI系统的设计奠定了基础。

稀疏标签传播:一种鲁棒的领域适应学习方法

稀疏表示因其所具有的鲁棒性,在模式分类领域逐渐得到关注.研究了一种基于稀疏保留模型的新颖领域适应学习方法,并提出一种鲁棒的稀疏标签传播领域适应学习(sparse label propagation domain adaptation learning,简称SLPDAL)算法.SLPDAL通过将目标领域数据进行稀疏重构,以实现源领域数据标签向目标领域平滑传播.具体来讲,SLPDAL算法分为3步:首先,基于领域间数据分布均值差最小化准则寻求一个优化的核空间,并将领域数据嵌入到该核空间;然后,在该嵌入核空间,基于l1-范最小化准则计算各领域数据的核稀疏重构系数;最后,通过保留领域数据间核稀疏重构系数约束,实现源领域数据标签向目标领域的传播.最后,将SLPDAL算法推广到多核学习框架,提出一个SLPDAL多核学习模型.在鲁棒人脸识别、视频概念检测和文本分类等领域适应学习任务上进行比较实验,所提出的方法取得了优于或可比较的学习性能.

数字人图像的自动分割方法

为克服现有方法对数字人切片图像分割中人工参与的依赖,提出了一种基于连通域标记和K-均值聚类的数字人脑彩色切片图像分割方法.该方法首先通过连通域标记分割出脑组织的初始区域,再通过腐蚀操作精确提取脑组织,然后在RGB(红绿蓝)空间内借助直方图确定聚类中心,以欧几里得距离为判断标准实现对白质的K-均值聚类分割.采用首例中国女性数字化可视人体数据集的序列脑切片图像进行实验,定性和定量分析结果表明,该方法分割准确度高,连续分割性能稳定,能够较好地实现颅脑分离与脑内深度结构的自动提取.

半监督的改进K-均值聚类算法

K-均值聚类算法必须事先获取聚类数目,并且随机地选取聚类初始中心会造成聚类结果不稳定,容易在获得一个局部最优值时终止。提出了一种基于半监督学习理论的改进K-均值聚类算法,利用少量标签数据建立图的最小生成树并迭代分裂获取K-均值聚类算法所需要的聚类数和初始聚类中心。在IRIS数据集上的实验表明,尽管随机样本构造的生成树不同,聚类中心也不同,但聚类是一致且稳定的,迭代的次数较少,验证了该文算法的有效性。

论孔子形象的文化意义

历史上,孔子形象不断被抽象化、符号化,呈现不同的文化形貌。从孔子以"君子"自居,再到现当代政海沉浮,直到新时期回归学术研究,并在孔子学院发展中凸显"教育家"形象,孔子形象褒贬不一,却成为中华民族不能回避的文化标签,无论是在古代,还是在当下,孔子形象如同一张名片,表现出强烈的文化意义。