基于多标签学习的卷积神经网络的图像标注方法

针对图像自动标注中因人工选择特征而导致信息缺失的缺点,提出使用卷积神经网络对样本进行自主特征学习。为了适应图像自动标注的多标签学习的特点以及提高对低频词汇的召回率,首先改进卷积神经网络的损失函数,构建一个多标签学习的卷积神经网络(CNN-MLL)模型,然后利用图像标注词间的相关性对网络模型输出结果进行改善。通过在IAPR TC-12标准图像标注数据集上对比了其他传统方法,实验得出,基于采用均方误差函数的卷积神经网络(CNN-MSE)的方法较支持向量机(SVM)方法在平均召回率上提升了12.9%,较反向传播神经网络(BPNN)方法在平均准确率上提升了37.9%;基于标注结果改善的CNN-MLL方法较普通卷积神经网络的平均准确率和平均召回率分别提升了23%和20%。实验结果表明基于标注结果改善的CNN-MLL方法能有效地避免因人工选择特征造成的信息缺失同时增加了对低频词汇的召回率。

一种基于标签相关性的多标签分类算法

针对基于概率统计的ML-kNN算法只能对每个独立的标签进行分析,忽略了真实世界中标签间的相关性,提出了一种联系标签相关性的ML-kNN算法(S-ML-kNN)。该方法对训练集进行扩展,并按照标签间的二阶组合来构造新的标签,融合了标签之间的相关性。实验结果表明,S-ML-kNN算法优于ML-kNN算法。

基于类属属性约简的多标记学习

在多标记学习中,由于不同的标记可能会带有自身的一些特性,所以目前已经出现了基于标记类属属性的多标记学习算法LIFT。然而,类属属性的构建可能会增加属性向量的维度,致使属性空间存在冗余信息。为此,借助模糊粗糙集提出了一种能够进行类属属性约简的多标记学习算法FRS-LIFT,其包含4个步骤:类属属性构建、属性维度约简、分类模型训练和未知样本预测。在5个多标记数据集上的实验结果表明,该算法与LIFT算法相比,不仅能够降低类属属性维数,而且在5种多标记评价指标上均具有较好的实验效果。

基于LeaderRank的多标签传播重叠社区发现算法

针对多标签传播重叠社区发现算法COPRA存在的随机性强、鲁棒性差等问题,提出一种基于多标签传播思想的重叠社区发现算法。该算法通过LeaderRank算法来量化网络中节点的重要性,再根据量化值大小对节点进行团扩展,得到可重叠的最具重要性的粗糙团,分别对粗糙团和非粗糙团中的节点进行标签初始化,再通过合理的标签迭代顺序和改进的标签删选策略进行标签更新,直到达到标签传播的终止条件结束迭代过程。在人工网络图和真实数据集上进行实验,结果表明所提算法不仅有效地增强了社区发现结果的稳定性,同时也提高了准确率。

多标签AdaBoost算法的改进算法

针对多标签AdaBoost系列算法,以尽量减小算法的学习错误率为目的,提出了对其进行改进的2种思路。基于改进思路构造出了改进的多标签AdaBoost算法。一种思路是修改算法的样本分布调整策略,破坏现有AdaBoost算法中样本分布的均匀性,以确保增加每一个弱分类器都能降低学习错误的上界估计,从而实现对多标签AdaBoost算法的改进;另一种思路是训练弱分类器时兼顾后续待学习的弱分类器对学习错误的影响,克服现有算法在训练弱分类器时只考虑当前弱分类器对学习错误的影响,而完全忽略后续待学习的弱分类器对学习错误的影响这一现象,从而改进多标签AdaBoost算法。理论上,对于改进多标签AdaBoost算法,增加每一个弱分类器都能进一步降低学习错误。理论分析和实验结果均表明了提出的改进算法有改进效果。

基于多模态多标记迁移学习的早期阿尔茨海默病诊断

针对当前基于机器学习的早期阿尔茨海默病(AD)诊断中训练样本不足的问题,提出一种基于多模态特征数据的多标记迁移学习方法,并将其应用于早期阿尔茨海默病诊断。所提方法框架主要包括两大模块:多标记迁移学习特征选择模块和多模态多标记分类回归学习器模块。首先,通过稀疏多标记学习模型对分类和回归学习任务进行有效结合;然后,将该模型扩展到来自多个学习领域的训练集,从而构建出多标记迁移学习特征选择模型;接下来,针对异质特征空间的多模态特征数据,采用多核学习技术来组合多模态特征核矩阵;最后,为了构建能同时用于分类与回归的学习模型,提出多标记分类回归学习器,从而构建出多模态多标记分类回归学习器。在国际老年痴呆症数据库(ADNI)进行实验,分类轻度认知功能障碍(MCI)最高平均精度为79.1%,预测神经心理学量表测试评分值最大平均相关系数为0.727。实验结果表明,所提多模态多标记迁移学习方法可以有效利用相关学习领域训练数据,从而提高早期老年痴呆症诊断性能。

基于支持向量机的文本兼类标注

该文分析了现有多类别支持向量机分类器的特点及DAGSVM的优势,并结合模糊技术改造DAGSVM使之能进行兼类标注的多类别分类。改进后的FDAGSVM采用模糊决策面代替了DAGSVM的分明决策面,使判决过程适应兼类标注的要求,克服了传统的多类别分类支持向量机必然将样本分入某一类别的不足。基准数据的兼类标注多类别分类试验表明,FDAGSVM在文本的兼类标注分类中表现出较好的性能。

结合旋转森林和Ada Boost分类器的多标签文本分类方法

针对一些多标签文本分类算法没有考虑文本—术语相关性和准确率不高的问题,提出一种结合旋转森林和Ada Boost分类器的集成多标签文本分类方法。首先,通过旋转森林算法对样本集进行分割,通过特征变换将各样本子集映射到新的特征空间,形成多个具有较大差异性的新样本子集。然后,基于Ada Boost算法,在样本子集中通过多次迭代构建多个Ada Boost基分类器。最后,通过概率平均法融合多个基分类器的决策结果,以此作出最终标签预测。在四个基准数据集上的实验结果表明,该方法在平均精确度、覆盖率、排名损失、汉明损失和1-错误率方面都具有优越的性能。

基于贡献度的多标签传播重叠社区发现研究

在真实世界网络中，一个人可以属于多个兴趣小组，一个蛋白质可以属于多个蛋白复合体，因此发现网络中的重叠社团结构更能准确地反映网络中真实信息。与现有一些发现重叠社区结构的算法相比，多标签传播算法具有时间复杂度低的优点，但当节点含有多个邻居社区且属于这些邻居社区的隶属度相等且都要小于设定的阈值参数时，多标签传播算法随机地从邻居节点标签中选择社区，这严重影响了算法稳定性。为此，本文提出了一种基于贡献度改进的多标签传播算法。在真实基准网和计算机生成网的测试结果表明该标签传播算法具有较好的社区发现性能，我们将该算法应用在科学网博客中“图书馆、情报与文献学”领域用户的好友关系网上，能有效地发现该领域中存在的重叠社区结构。

基于快速多示例多标记学习的G蛋白偶联受体生物学功能预测

G蛋白偶联受体(G protein-coupled receptors,GPCRs)是人类中最庞大的膜蛋白家族,也是很多药物的重要靶点,准确了解GPCRs生物学功能是理解它们参与的生物学过程及其药物作用机制的关键.以前的研究表明,蛋白质功能预测可抽象为多示例多标记学习(multi-instance multi-label learning,MIML)问题.设计了一种基于快速多示例多标记学习方法 MIMLfast的GPCRs生物学功能预测模型.该模型采用了一种新的混合特征,它考虑了GPCRs结构域的三联氨基酸、氨基酸关联、进化、二级结构关联、信号肽及无序残基等多种信息.实验结果证明,该模型获得了很好的性能,优于目前最优的多示例多标记学习、多标记学习的预测方法和CAFA蛋白质功能预测方法.

一种半监督的多标签Boosting分类算法

针对标记数据不足的多标签分类问题,提出一种新的半监督Boosting算法,即基于函数梯度下降方法给出一种半监督Boosting多标签分类的框架,并将非标记数据的条件熵作为一个正则化项引入分类模型。实验结果表明,对于多标签分类问题,新的半监督Boosting算法的分类效果随着非标记数据数量的增加而显著提高,在各方面都优于传统的监督Boosting算法。

基于球结构支持向量机的多标签分类的主动学习

为了实现数据的多标签分类,减少多标签训练样本开销,将球结构支持向量机与主动学习方法结合用于多标签分类,依据球重叠区域样本距离差值度确定样本类别,分析多标签分类特性,采用样本近邻方法更新分类器。实验结果表明,该方法可以用较少的训练样本获得更有效的分类结果。

基于多视角二维主动学习的多标签分类

针对多标签图像分类问题的特点，提出了一种多视角二维主动学习（MV-2DAL）算法，以通过多视角学习与主动学习的有机结合，深入挖掘样本、标签、视角三个维度上的相关性和冗余性。此算法以样本．标签对作为基本标注单位，在每个视角内，利用二维主动学习的方法计算样本、标签维度上的不确定度；在不同视角间，通过多视角融合的方法计算跨视角的不确定度；最终，将视角内不确定度与视角间不确定度进行融合得到总不确定度，并以此衡量样本-标签对的标注价值。将MV-2DAL算法应用到图像内容理解的一个重要领域——多标签图像分类中，显著提高了信息标注的针对性，不仅有效降低了信息冗余度，同时也大幅减少了数据标注量。

概念间关联依赖多标记视频语义概念分类方法

一个镜头中的语义概念通常依赖于其他多个语义概念,几个同时出现的语义概念决定着另一个语义概念的出现。为此提出一种概念间关联依赖多标记视频语义概念分类方法。为得到概念间关联依赖规则,合并和修剪技术用于产生候选的项集;计算各候选项集的支持度后,得到满足最小支持度的频繁项集;经过一系列频繁项集迭代,产生具有强关联依赖关系的复合标记;在标记过程中,将具有强关联依赖关系的多个语义标记作为单标记进行标注。实验结果表明,对真实媒体数据本文方法比现有多标记分类方法更能有效进行分类。

多寡核苷酸探针同步标记在Northern blot多基因分析中的应用

目的:建立一种多探针同时标记同步杂交检测多基因的简化的Northern blot方法。方法:通过T4多聚核苷酸激酶5′末端放射性磷酸化标记法对Northern blot中多寡核苷酸探针同时标记,实现对同一张转移印迹膜上的多基因同步杂交显影检测。结果:与常规mRNA逐一检测的效果进行比较,同步简化法的各目的基因同时得到较好的检测。结论:同步简化法简化了实验过程,缩减了实验时间,节省了实验试剂,并使各基因表达丰度之间的比较具有更高的准确性,提高了Northern blot的检测效率和成功率。

基于多尺度张量类标子空间的人脸识别算法

提出一种基于多尺度张量类标子空间的人脸特征提取算法,提高人脸识别对光照的鲁棒性,同时不破坏原始数据固有的高阶结构和数据之间的相关性。采用多尺度小波变换组建人脸三维张量样本,将三维人脸张量空间投影到低维张量子空间,对高维人脸进行降维和特征提取,应用多线性主成分类标算法对样本进行类标号,同时使用最近邻算法完成人脸识别。利用CAS-PEAL-R1东方人脸库进行评测,实验结果表明,该识别算法比经典的主成分分析、线性判别分析和多尺度Gabor识别算法具有更好的识别效果。

基于神经网络探究标签依赖关系的多标签分类

多标签学习广泛应用于文本分类、图像标注、视频语义注释、基因功能分析等问题.最近,多标签学习受到大量的关注,成为机器学习领域中的研究热点.然而,已有的算法并不能充分地探究标签之间的依赖关系和解决标签缺失问题,为此提出一种基于神经网络探究标签依赖关系的算法NN_AD_Omega,它能够有效地处理这2个挑战.NN_AD_Omega算法在神经网络顶层加入Ω矩阵刻画标签之间的依赖关系,标签之间的依赖关系可通过充分挖掘数据内在特点得到.当实例部分标签缺失时,学到的标签之间依赖关系能够有效提高预测效果.为了高效地求解模型,采用最小批梯度下降方法(Mini-batch-GD),其中学习率的自适应计算采用AdaGrad技术.在4个标准多标签数据集上的实验结果表明,提出的算法能够探究标签之间的依赖关系和处理标签缺失问题,且其性能优于当前基于神经网络的多标签学习算法.

基于标签相关性的K近邻多标签分类方法

针对K近邻多标签（ML-KNN）分类算法中未考虑标签相关性的问题,提出了一种基于标签相关性的K近邻多标签分类（CML-KNN）算法。首先,计算出标签集合中每对标签间的条件概率;其次,对于即将被预测的标签,将其与已经预测的标签间的条件概率进行排序,求出最大值;最后,将最大值跟对应标签值相乘同时结合最大化后验概率（MAP）来构造多标签分类模型,对新标签进行预测。实验结果表明,所提算法在Emotions数据集上的分类性能均优于ML-KNN、Adaboost MH、RAk EL、BPMLL这4种算法;在Yeast、Enron数据集上仅在1-2个评价指标上低于MLKNN与RAk EL算法。由实验分析可知,该算法取得了较好的分类效果。

基于迁移学习的多标签图像标注

自动图像标注(AIA)是图像检索领域一项具有挑战性的任务。卷积神经网络(CNNs)在大规模视觉识别挑战中取得杰出的分类性能。文中将图像标注问题看成一个多标签学习问题,提出了一种基于卷积神经网络的多标签分类算法。采用Corel5k数据库训练和测试卷积神经网络。由于训练集的缺乏,采用从Image Net分类任务中迁移得到的参数作为一个"中级图像特征的通用提取器"。采用两种损失函数作为多标签分类器,将多标签学习转化为多个标签的分类问题。将实验结果与其他方法进行比较,表明了该方法的有效性。

多标记收缩哈希方法的人脸属性检索

哈希方法具有存储成本低、查询速度快等优点.但是,大多数哈希方法只用于处理单标记问题,较少用于图像多标记问题.因此,文中提出多标记收缩哈希方法(MLCH),可以保留多标记图像的多水平语义相似性.MLCH利用数据的多标记作为监督信息,依据优化选择算法选取三元组,并加入收缩约束项以获取更饱和的二进制编码.在数据库Celeb A和Pub Fig上评估MLCH性能,证明收缩约束项的有效性,并证明MLCH在大规模图像检索任务中的优越性.