增强学习标签相关性的多标签特征选择方法

针对现有多标签特征选择方法存在的两个问题:第一,忽略了学习标签相关性过程中噪声信息的影响;第二,忽略探索每个簇的综合标签信息,提出一种增强学习标签相关性的多标签特征选择方法。首先,对样本进行聚类,并将每个簇中心视为一个综合样本语义信息的代表性实例,同时计算其对应的标签向量,而这些标签向量体现了每个簇包含不同标签的重要程度;其次,通过原始样本和每个簇中心的标签级自表示,既捕获了原始标签空间中的标签相关性,又探索了每一个簇内的标签相关性;最后,对自表示系数矩阵进行稀疏处理,以减少噪声的影响,并将原始样本和每个簇代表性实例分别从特征空间映射到重构标签空间进行特征选择。在9个多标签数据集上的实验结果表明,所提算法与其他方法相比具有更好的性能。

基于标签相关性的标签特定特征多标签学习

针对标签特定特征多标签学习算法(multi-label learning with label-specific features,LIFT)未能在聚类以及分类阶段考虑标签相关性问题,提出一种基于标签相关性的标签特定特征多标签学习算法(multi-label learning with label-specific features via label correlations,LFLC).将标签空间加入特征空间进行聚类构建分类模型,采用考虑标签相关性的聚类集成技术为每个标签构造标签特定特征,使用相关性矩阵构建无向完全图并挖掘图中标签集合相关性,通过树集成表达标签间多种不同结构的强相关性.在试验部分,采用涵盖不同领域的10个数据集,以Hamming Loss、Ranking Loss、One-error、Coverage、Average Precision和macroAUC为评估指标,进行了参数敏感性分析和统计假设检验.结果表明:结合聚类集成与标签间强相关性的LFLC算法较其他对比多标签算法整体上能取得较好的效果.

基于标签相关性的预测调整算法

多标签学习已成功应用于文本分类、图像识别等各个领域。流行的技术包括提取标签特定特征、利用标签相关性等。提出带有标签相关性的预测调整算法PALC(Prediction adjusting with label correlation)将标签相关性融入串行并行神经网络。一方面,采用新颖的、更有效的串行并行神经网络架构来替代常见的显式特征提取或压缩感知方法;另一方面,考虑用固有的标签矩阵内的相关性来计算相关性矩阵,并以流形正则的方式优化分类器。对10个基准数据集与7种流行算法进行比较,结果表明PALC在3大排名指标下均有优势。

利用标签相关性先验的弱监督多标签学习方法

多标签学习是一种非常重要的机器学习范式.传统的多标签学习方法是在监督或半监督的情况下设计的.通常情况下,它们需要对所有或部分数据进行准确的属于多个类别的标注.在许多实际应用中,拥有大量标注的标签信息往往难以获取,限制了多标签学习的推广和应用.与之相比,标签相关性作为一种常见的弱监督信息,它对标注信息的要求较低.如何利用标签相关性进行多标签学习,是一个重要但未研究的问题.提出了一种利用标签相关性作为先验的弱监督多标签学习方法(WSMLLC).该模型利用标签相关性对样本相似性进行了重述,能够有效地获取标签指示矩阵;同时,利用先验信息对数据的投影矩阵进行约束,并引入回归项对指示矩阵进行修正.与现有方法相比,WSMLLC模型的突出优势在于:仅提供标签相关性先验,就可以实现多标签样本的标签指派任务.在多个公开数据集上进行实验验证,实验结果表明:在标签矩阵完全缺失的情况下,WSMLLC与当前先进的多标签学习方法相比具有明显优势.

基于注意力与标签相关性的胸部X光片疾病分类

针对传统的胸部辅助诊断系统在胸部X光片疾病分类方面图像特征提取效果差、平均准确率低等问题,提出了一个注意力机制和标签相关性结合的多层次分类网络.网络的训练分为两个阶段,在阶段1为了提高网络特征提取能力,引入注意力机制并构建一个双分支特征提取网络,实现综合特征的提取,在阶段2考虑到多标签分类中标签之间相关性等问题,利用图卷积神经网络对标签相关关系进行建模,并与阶段1的特征提取结果进行结合,以实现对胸部X光片疾病的多标签分类任务.实验结果表明,本方法在ChestX-ray14数据集上各类疾病的加权平均AUC达到0.827,有助于辅助医生进行胸部疾病的诊断,有一定的临床应用价值.

一种基于标签相关性的多标签分类算法

针对基于概率统计的ML-kNN算法只能对每个独立的标签进行分析,忽略了真实世界中标签间的相关性,提出了一种联系标签相关性的ML-kNN算法(S-ML-kNN)。该方法对训练集进行扩展,并按照标签间的二阶组合来构造新的标签,融合了标签之间的相关性。实验结果表明,S-ML-kNN算法优于ML-kNN算法。

基于软近邻投票的图像标签相关性计算

如何自动判断社会化标签与图像内容之间的相关性是社会化多媒体内容检索领域一个重要的研究问题.近邻投票算法是已知的计算标签相关性的最有效方法之一.但该算法采用硬投票策略,并未考虑近邻图像的权重以及近邻图像自身标签的质量.针对上述问题,文中提出一种一般性的软近邻投票框架,通过考察近邻权重和近邻标签权重这两个维度,系统性地比较了23种软近邻投票实现方案.以近120万张Flickr图像为训练集、约两万张图像为测试集的实验表明,软近邻投票策略要优于硬投票策略:平均查准率从0.764提升到0.783,且软近邻投票对于近邻个数这一重要参数的选取相对不敏感.

基于标签相关性的多标签分类AdaBoost算法

在多标签分类问题中,标签之间往往是相关的,为了提高分类性能,利用标签之间的相关性,提出AdaBoost.MLR算法和标签相关性分析方法。AdaBoost.MLR算法采用余弦相似度来计算标签相关性矩阵,利用标签相关性矩阵对原始标签矩阵进行补全转换为模糊标签矩阵,将标签空间划分为标签集、标签相关集和标签无关集,结合标签之间的相关性和弱分类器的分类情况,对样本权重进行调整。AdaBoost.MLR算法也能解决多类别分类问题,在其标签相关性的计算中,根据已经训练的弱分类器得到的临时强分类器的分类结果,构造标签相似性矩阵。实验结果表明,文中提出的算法在实验数据集上优于现有的算法,尤其在标签相关性复杂的数据集上分类性能有显著提升。

基于多特征标签相关性学习的图像自动标注

在网络真实环境下的图像数据集上的大规模语义标注是一个研究难点。提出了一种基于多特征标签相关性学习的图像语义标注方法,针对真实环境下大规模图像集合进行自动标注。首先提取图像多种视觉特征,采用多标记学习方法在特定特征空间完成标注词相关性学习,得到每幅图像的单特征标注词相关度;然后采用一种动态阈值确定方法估计单个特征和标注词的相关度阈值;最终采用一种无监督组合方法融合多种特征标和标注词的相关性生成图像语义标签。通过互联网数据集上的测试表明了方法的有效性。

基于补全矩阵的多标签相关性情感分类

目前,对新闻情感分类问题的研究大部分是从新闻作者的角度进行的,而对读者反馈的真实情感分析的较少.本文从读者角度入手进行情感分析研究.提出一种基于补全矩阵的多标签相关性情感分类模型,采用LDA提取主题表示新闻文本,然后通过使用标签相关性矩阵对原始的标签矩阵进行补全,构造了一个增强的补全标签矩阵模型(CM-LDA).最后通过和原始矩阵的LDA模型进行比较,该模型使最终的多标签分类性能有了明显的提高,准确率达到了85.72%.

基于标签相关性的K近邻多标签分类方法

针对K近邻多标签（ML-KNN）分类算法中未考虑标签相关性的问题,提出了一种基于标签相关性的K近邻多标签分类（CML-KNN）算法。首先,计算出标签集合中每对标签间的条件概率;其次,对于即将被预测的标签,将其与已经预测的标签间的条件概率进行排序,求出最大值;最后,将最大值跟对应标签值相乘同时结合最大化后验概率（MAP）来构造多标签分类模型,对新标签进行预测。实验结果表明,所提算法在Emotions数据集上的分类性能均优于ML-KNN、Adaboost MH、RAk EL、BPMLL这4种算法;在Yeast、Enron数据集上仅在1-2个评价指标上低于MLKNN与RAk EL算法。由实验分析可知,该算法取得了较好的分类效果。

基于标签相关性的类属属性多标签分类算法

多标签学习中一个样本可同时属于多个类别标签,每个标签都可能拥有反映该标签特定特点的特征,即类属属性,目前已经出现了基于类属属性的多标签分类算法LIFT。针对LIFT算法中未考虑标签之间相互关系的问题,提出一种基于标签相关性的类属属性多标签分类算法CLLIFT。该算法使用标签距离度量标签之间的相关性,通过在类属属性空间附加相关标签的方式完成标签相关性的引入,以达到提升分类性能的目的。在四个多标签数据集上的实验结果表明,所提算法与LIFT算法相比在多个多标签评价指标上平均提升21.1%。

结合标签相关性和不均衡性的多标签学习模型

针对现有多标签学习算法较少兼顾标签间关联性和不平衡性的问题,提出一种同时考虑多标签间相关性与多标签不平衡问题的学习模型(A Multi-label Learning Model based on Label Correlation and Imbalance,MLCI).该学习模型针对每个标签类别,通过耦合其他标签类别以考量标签间的关联性,并降低缓解标签间不均衡比率,MLCI是一个将当前标签的二类不平衡学习器和多个与其他标签耦合的多类不平衡学习器结合的集成分类器.采用7种常用的多标签算法作为对比算法,针对yeast、scene、emotions和CAL500这4个开放数据集进行分类处理.实验结果表明,MLCI相比其他对比算法,在精度均值(Average-Precision)、排序损失(Ranking-Loss)、宏观平均AUC(Macro-Averaging AUC)和微观平均AUC(Micro-Averaging AUC) 4个性能评估指标上总体占明显优势.

基于标签相关性的K近邻多标签学习

多标签学习是机器学习领域的一个研究热点,其能够有效解决真实世界中的多语义问题。在多标签学习任务中,样本的多个标签之间存在一定的关联关系,忽略标签间的相关性会导致模型的泛化性能降低。提出一种基于标签间相关性的多标签学习K近邻算法。充分挖掘样本多标签间的相关性,通过Fp_growth算法得到标签的频繁项集。针对频繁项和标签分别构建评分模型和阈值模型,评分模型用于衡量样本与频繁项或标签之间的关联程度,阈值模型用于求解频繁项或标签对应的判别阈值,结合评分模型和阈值模型对样本所属频繁项进行预测,进而确定样本标签集。在经典数据集Emotions和Scene上的实验结果表明,该算法的F1-Measure指标分别达到66.6%和73.3%,相比CC、LP、RAKEL、MLDF等基准方法,其F1-Measure分别平均提高3.8和2.1个百分点,该算法通过合理利用标签间的相关性使得分类性能得到有效提升。

基于标签相关性的卷积神经网络多标签分类

多标签分类问题已广泛应用于文本分类、图像分类、生物基因功能分类、视频语义注释等.相比较于单标签分类,多标签分类更符合真实世界的客观规律.然而,已有的卷积神经网络多标签分类算法没有探究标签之间相关性,为此提出了一种基于标签相关性卷积神经网络多标签分类,即计算标签之间共现相似度方法,同时为了解决卷积神经网络预测精度高,训练时间长的缺点,引入了迁移学习的方法加快了模型的训练时间.实验表明,提出的算法优于传统的多标签分类算法.

基于特征选择和标签相关性的多标签分类算法

多标签分类在现实世界中有着广泛的应用,是当今机器学习领域的热点问题之一。多标签分类的代表性算法BR(Binary Relevance)虽有较多的改进工作,但大都仅针对标签相关性或特征选择中某一个方面进行改进,因此现有改进算法的性能仍存在提升空间。针对上述现状,论文提出一种基于特征选择和标签相关性的多标签分类算法,该算法先使用信息增益为每个标签选择与其相关的特征属性,而后采用新的控制结构的方式考虑标签相关性,最后使用新的特征集合为每个标签训练二分类器。在6个基准数据集上的实验结果表明,该算法在5种不同评价指标下的表现优于其它典型的BR改进算法。

基于标签相关性的卷积神经网络多标签分类算法

针对卷积神经网络对于多标签分类中未考虑标签相关性的问题,提出了一种考虑标签相关性的卷积神经网络分类方法。在Alex Net网络结构的基础上进行了两处改进:首先,通过共享卷积层的通用特征,降低神经网络的训练时间;其次,根据贝叶斯模型计算待预测标签的后验概率,通过在神经网络的目标函数中引入后验概率与预测概率的近似度作为损失项,提升多标签分类的准确率。实验结果表明,所提算法在Cars车辆数据集上取得了更好的分类效果。

同时诊断多种精神障碍:基于标签相关性的K近邻多标签学习

随着技术、经济和社会的快速发展,人们的生活质量得到了极大的提高.然而,工作和生活的快节奏也带来了巨大的压力.紧张、焦虑和担忧等生活困扰,及其带来的体内化学物质失衡,会给患者带来多种精神障碍问题,如抑郁症、躁郁症和焦虑症.精神问题往往同时涉及多种相关的精神障碍.为了解决这些问题,文章提出了一种利用机器学习方法和改进的多标签K近邻(ML-KNN)模型的解决方案:基于标签相关性的多标签学习算法.该算法首先利用FPgrowth算法挖掘样本的多个标签之间的相关性,获得标签的频繁项集.然后构建频繁项集和标签的评分模型和阈值模型.前者用于衡量样本与频繁项集或标签之间的相关程度,后者用于解决与频繁项集或标签相对应的判别阈值,并结合起来预测样本的频繁项集.其次,考虑到标签相关性,还引入高斯权重来量化不同实例之间的距离.最后,为了解决模型预测中可能出现的空标签的问题,还依靠传统的K近邻(KNN)算法对空标签数据进行二次预测,进一步提高了预测精度.该算法首先在公开数据集reuters、scene和emotions上与KNN进行比较,以验证算法的有效性.然后在临床数据集上进行实验,结果显示该算法的F1分数、准确度、α准确度和Rate指数分别达到了63.57%、72.73%、73.17%和70.04%.最后,与该数据集上的每种基准方法的实验结果进行比较,平均性能提升为2.8%,证明该算法合理利用了标签之间的相关性和高斯权重对实例之间的距离进行量化.

融合标签相关性的高校学生情感分析模型

针对现有高校学生社交媒体评论情感分析易忽视标签相关性,以及多使用单一粒度特征学习文本表示的问题,提出一种融合标签相关性的高校学生情感分析模型。首先,利用双向Transformer编码器(Bidirectional Encoder Representations from Transformers,BERT)获取词向量表示,通过池化和双向长短期记忆网络(Bidirectional Long-Short Term Memory,Bi-LSTM)分别提取句子级与单词级的文本表示。然后,基于共现关系学习标签之间的相关性,通过句子级、单词级的“文本-标签”注意力获取特定于标签的特征表示,将特征进行融合,使用sigmoid分类器计算文本属于每一类情感标签的概率。实验结果表明,所提模型与对比模型相比,在汉明损失、排序损失和标签排序平均精度方面均有提高,验证了融合不同粒度文本特征与标签相关性对高校学生情感分析的有效性。

基于相关性约束矩阵分解的多标签分类方法

多标签分类是一项重要且具有挑战性的任务,对于场景分类、信息检索和网页挖掘等领域有重要意义.近年来,研究者倾向于挖掘并利用标签相关性以及实例相关性来提升多标签分类的性能,其中利用这类相关性来解决多标签分类中的标签缺失问题一直是机器学习领域的热门研究点,但现有的方法都忽略了标签和实例之间的相关性.针对标签完整和标签缺失的情况,基于矩阵分解的方式分解得到实例和标签的特征表示矩阵,在利用标签相关性和实例相关性建立正则约束的同时,首次建立实例和标签特征表示间的相关性并用以建立正则约束,进而提升算法性能.在三个真实数据集上对提出的算法进行性能验证,实验结果表明,该算法和对比算法相比,获得了最高的预测精度.