基于半监督学习的多示例多标记E-MIMLSVM^+算法

多示例多标记是一种新的机器学习框架,在该框架下一个对象用多个示例来表示,同时与多个类别标记相关联。MIMLSVM^+算法将多示例多标记问题转化为一系列独立的二类分类问题,但是在退化过程中标记之间的联系信息会丢失,而E-MIMLSVM^+算法则通过引入多任务学习技术对MIMLSVM^+算法进行了改进。为了充分利用未标记样本来提高分类准确率,使用半监督支持向量机TSVM对E-MIMLSVM^+算法进行了改进。通过实验将该算法与其他多示例多标记算法进行了比较,实验结果显示,改进算法取得了良好的分类效果。

一种结合类别权重及多示例的多标记学习改进算法

多标记学习主要用于解决单个样本同时属于多个类别的问题.传统的多标记算法在输入空间仅用单一示例表示多义性对象,过度简化了对象的复杂内涵,导致在表示阶段丢失重要信息.针对这一问题,提出一种结合类别权重及多示例的多标记学习改进算法CWMI-INSDIF.算法采用MIML(Multi-Instance Multi-Label learning)框架,在表示阶段,将学习样本分化为多示例包形式,在生成示例包过程中定义一组描述数据重要度的权重函数,并加入自适应惩罚策略,最终确定了学习样本中各部分信息的权重大小,从而在输入空间更好的描述了样本歧义性.算法给出了在公开数据集的实验结果.通过仿真分析,验证了本文提出的算法在学习性能和分类效果方面的提高.

基于稀疏编码和集成学习的多示例多标记图像分类方法

该文基于稀疏编码和集成学习提出了一种新的多示例多标记图像分类方法。首先,利用训练包中所有示例学习一个字典,根据该字典计算示例的稀疏编码系数;然后基于每个包中所有示例的稀疏编码系数计算包特征向量,从而将多示例多标记问题转化为多标记问题;最后利用多标记分类算法进行求解。为了提高分类器的泛化能力,对多个分类器进行集成。在多示例多标记图像数据集上的实验结果表明所提方法与其它方法相比有更好的性能。

基于快速多示例多标记学习的G蛋白偶联受体生物学功能预测

G蛋白偶联受体(G protein-coupled receptors,GPCRs)是人类中最庞大的膜蛋白家族,也是很多药物的重要靶点,准确了解GPCRs生物学功能是理解它们参与的生物学过程及其药物作用机制的关键.以前的研究表明,蛋白质功能预测可抽象为多示例多标记学习(multi-instance multi-label learning,MIML)问题.设计了一种基于快速多示例多标记学习方法 MIMLfast的GPCRs生物学功能预测模型.该模型采用了一种新的混合特征,它考虑了GPCRs结构域的三联氨基酸、氨基酸关联、进化、二级结构关联、信号肽及无序残基等多种信息.实验结果证明,该模型获得了很好的性能,优于目前最优的多示例多标记学习、多标记学习的预测方法和CAFA蛋白质功能预测方法.

面向蛋白质功能预测中有向无环图标记结构的多示例多标记学习

在多示例多标记学习问题中,标记之间往往是相互关联的,其中有向无环图结构是一种常见的层次关联结构,可见于蛋白质的基因本体学生物学功能预测的应用场景中。针对其标记间的有向无环图结构,提出了一种新的多示例多标记学习算法。算法从原始数据的特征空间训练出所有标记共享的低维子空间,通过随机梯度下降方法来降低模型排序损失,并融入标记间有向无环图结构关系对预测标记进行优化。将该算法应用于多个数据集的蛋白质功能预测中,实验结果表明,该算法具有更高的效率及预测性能。

基于多示例多标记学习的手机游戏道具推荐

手机游戏提供商通过在游戏中销售虚拟道具来获得收益。将游戏玩家日志数据中每个事件描述为一个示例,玩家对多种游戏道具的购买状态表示为多个标记,从而将游戏道具推荐问题抽象为多示例多标记学习问题。在此基础上,将快速多示例多标记学习算法用于手机网络游戏道具推荐,并利用半监督学习提升推荐性能。离线数据集以及实际在线手机网络游戏实验结果表明,基于多示例多标记学习的游戏道具推荐技术带来了游戏营收的显著增长。

基于主题模型的多示例多标记学习方法

针对现有的大部分多示例多标记(MIML)算法都没有考虑如何更好地表示对象特征这一问题,将概率潜在语义分析(PLSA)模型和神经网络(NN)相结合,提出了基于主题模型的多示例多标记学习方法。算法通过概率潜在语义分析模型学习到所有训练样本的潜在主题分布,该过程是一个特征学习的过程,用于学习到更好的特征表达,用学习到的每个样本的潜在主题分布作为输入来训练神经网络。当给定一个测试样本时,学习测试样本的潜在主题分布,将学习到的潜在主题分布输入到训练好的神经网络中,从而得到测试样本的标记集合。与两种经典的基于分解策略的多示例多标记算法相比,实验结果表明提出的新方法在现实世界中的两种多示例多标记学习任务中具有更优越的性能。

基于树结构的层次性多示例多标记学习

针对多示例多标记学习中标记间树结构的问题,将多示例学习、多标记学习和树结构标记优化方法有机融合,提出了基于树结构标记的层次性多示例多标记学习方法TreeMIML.TreeMIML先将样本中的多个示例转化为单示例,然后通过多标记学习得到新样本的标记,最后通过树结构标记优化方法学习样本的最终标记.实验结果证明,TreeMIML方法在G蛋白偶联受体的生物学功能预测上获得了很好的分类性能,优于目前最好的多示例多标记学习和多标记学习方法.

基于近邻加权及多示例的多标记学习改进算法

多数多标记学习方法通过在输出空间中,单示例同时与多个类别标记相关联表示多义性,目前有研究通过在输入空间将单一示例转化为示例包,建立包中多示例与多标记的联系。算法在生成示例包时采用等权重平均法计算每个标记对应样例的均值。由于数据具有局部分布特征,在计算该均值时考虑数据局部分布,将会使生成的示例包更加准确。本论文充分考虑数据分布特性,提出新的分类算法。实验表明改进算法性能优于其他常用多标记学习算法。

结合均值漂移的多示例多标记学习改进算法

多示例多标记学习在多语义对象处理中克服了多示例学习和多标记学习的缺点,成功应用于文本分类、图像识别标注、基因数据分析等任务中.其中基于退化策略的多示例多标记学习算法,多利用K-Medoids聚类将多示例多标记退化成单示例多标记,但此种退化方式过于简化多语义和复杂语义的对象,并未考虑示例间的相关性,导致退化过程中的信息削弱甚至丢失.针对这一问题,提出了结合均值漂移的多示例多标记学习改进算法(MultiInstance Multi-Label with Mean Shift,MIMLMS),将高斯核函数和权值加入均值漂移中.权值的加入保证了示例之间的相关性得以保留,而将多示例集合加入高斯核函数就可利用核密度估计和梯度下降法求解退化过程最优解,最终以误差平方和为分类目标函数,建立多示例多标记分类模型.算法在基准的多示例多标记测试数据集中的实验结果,验证了算法的良好分类效果及算法的有效性和可靠性.

基于分类器链的多示例多标记算法

退化方法是求解多示例多标记学习(MIML)问题常用的求解方式,但是在退化过程中会造成标记之间的关联信息丢失。对该问题进行研究,提出OCC-MIMLSVM+分类算法,将MIMLSVM+算法与有序分类器链(OCC)方法相结合,通过对分类器进行合理组织,将标记之间的关联信息融入至算法的训练过程中,解决信息丢失问题,提高分类准确率。实验结果表明,改进算法取得了比基准多示例多标记算法更好的分类效果。

基于标记相关性的多示例多标记算法

多示例多标记学习(Multi-Instance Multi-Label,MIML)是一种新的机器学习框架,基于该框架上的样本由多个示例组成并且与多个类别相关联,该框架因其对多义性对象具有出色的表达能力,已成为机器学习界研究的热点.解决MIML分类问题的最直接的思路是采用退化策略,通过向多示例学习或多标记学习的退化,将MIML框架下的分类问题简化为一系列的二类分类问题进行求解.但是在退化过程中会丢失标记之间的关联信息,降低分类的准确率.针对此问题,本文提出了MIMLSVM-LOC算法,该算法将改进的MIMLSVM算法与一种局部标记相关性的方法ML-LOC相结合,在训练过程中结合标记之间的关联信息进行分类.算法首先对MIMLSVM算法中的K-medoids聚类算法进行改进,采用的混合Hausdorff距离,将每一个示例包转化为一个示例,将MIML问题进行了退化.然后采用单示例多标记的算法ML-LOC算法继续以后的分类工作.在实验中,通过与其他多示例多标记算法对比,得出本文提出的算法取得了比其他分类算法更优的分类效果.

弱监督场景下的支持向量机算法综述

支持向量机(Support Vector Machine,SVM)是一种建立在结构风险最小化原则上的统计学习方法,以其在非线性、小样本以及高维问题中的独特优势被广泛应用于图像识别、故障诊断以及文本分类等领域.但SVM是一种监督学习算法,它旨在利用大量的、唯一且明确的真值标记样本来训练学习器,在不完全监督、不确切监督以及多义监督等弱监督场景下难以取得较好的效果.本文首先阐述了弱监督场景的概念和SVM的相关理论,然后从弱监督场景角度出发,系统地梳理了目前SVM算法的研究现状和发展,包括基于半监督学习、多示例学习以及多标记学习的方法;其中基于半监督学习的方法根据数据假设可细分为基于聚类假设和基于流形假设的方法,基于多标记学习的方法根据解决方案可细分为基于示例水平空间、基于包水平空间以及基于嵌入空间的方法,基于多标记学习的方法根据处理思路可细分为基于问题转换和基于算法自适应的方法;随后,本文总结了部分代表性算法在公开数据集上的实验结果;最后,探讨并展望了未来可能的研究方向.

基于新型机器学习方法的蛋白质功能预测与分析

介绍了蛋白质功能预测与分析的现状和主要研究内容,并说明了如何利用新型机器学习方法来进行这方面的研究工作,并对其以后的发展提出了展望。

基于MIMLNN的玉米蛋白质功能预测

玉米作为世界上最重要的谷物之一,对其蛋白质进行预测具有重要的现实意义。为实现对玉米蛋白质的自动化功能预测,从蛋白质序列数据库提取数据并进行处理,使用优秀的多示例多标记学习算法进行玉米的蛋白质功能预测,应用主流的评价指标对预测结果进行评价,并与同类预测结果进行对比。结果显示,预测效果良好,具有一定的实用价值。

基于多示例多标记迁移学习的蛋白质功能预测

随着各种基因组测序计划的推出,不断有很多物种被新测序完成,需要对这些物种的蛋白质功能进行注释.这些物种中已知功能的蛋白质数量少,可以考虑使用亲缘关系近、已知功能蛋白质数量多的物种来帮助这些物种进行蛋白质功能预测.本文把这个任务抽象为多示例多标记迁移学习问题,并提出了第一个多示例多标记迁移学习框架TR-MIML来解决此任务.TR-MIML通过最小化投影空间上加权源域样本中心点与目标域样本中心点的距离,给源域样本赋予不同权值,并基于目标域和源域样本训练多示例多标记学习模型.在两个新完成测序物种上,实验结果证明了迁移学习有助于它们的蛋白质功能预测.另外,亲缘关系越近的物种作为源域进行迁移学习帮助越大.

一种基于多示例多标记学习的新标记学习方法

多标记学习是一种应用非常广泛的学习范式,其中,一个对象可能同时与多个标记相关联.传统的多标记学习研究多假设训练数据中观察到的标记分布与测试数据的真实标记分布一致.但在实际应用中,训练数据中可能存在一些从未被标注出的新标记.在预测时,不仅希望能够在目标标记集合(已知标记)上取得好的性能,还要求能够检测出样本是否存在新标记.针对这种多标记新标记学习问题,本文提出了一种端到端的多视图多示例多标记学习方法 EM3NL.该方法基于卷积神经网络产生多示例包,并通过最小化包上观察标记的错分损失和对新标记预测值排序损失的惩罚以及对多视图预测不一致的惩罚同时学习图像,文本两个视图的特征表示以及已知标记和新标记的预测函数.在大规模图片–文本真实数据集上验证了EM3NL在已知标记学习和新标记检测任务上的有效性.

自动图像标注技术研究进展

近年来,自动图像标注(Automatic Image Annotation,AIA)技术已经成为图像语义理解研究领域的热点。其基本思想是利用已标注图像集或其他可获得的信息自动学习语义概念空间与视觉特征空间的潜在关联或者映射关系,来预测未知图像的标注。随着机器学习理论的不断发展,包括相关模型、分类器模型等不同的学习模型已经被广泛地应用于自动图像标注研究领域。现有的自动图像标注算法可以大致分为基于分类的标注算法、基于概率关联模型的标注算法以及基于图学习的标注算法等三大类。首先根据自动图像标注算法的特征提取及表示机制不同,将现有算法划分为基于全局特征和基于区域划分的自动图像标注方法。其次,在基于区域划分的自动图像标注算法中,按照学习算法的不同,将其划分为基于分类的标注方法、基于概率关联模型的标注方法以及基于图学习的标注方法,并分别介绍各类别中具有代表性的标注算法及其优缺点。然后给出了自动图像标注最新的研究进展,最后探讨自动图像标注的进一步研究方向。

对象定位处理中分类信息融合技术研究

为提高图像中对象定位技术的处理效果,对对象定位技术和分类技术的融合进行了研究。针对大规模、多对象类别的图像对象定位问题,提出了先进行快速分类,再精确定位的处理方案。通过MIMLSVM+多类别分类算法预判出包含对象的图像,利用ESS方法在上述图像中定位对象;针对高精度对象定位需求,提出了融入全局分类信息的最优框打分机制,将MIMLSVM+算法对于图像的分类信息融入ESS方法中最优框的打分信息中。在PASCAL 2006数据集上相应的实验结果表明,前者在缩短处理时间的同时取得了不错的定位平均精度,而后者对最优框得分的改进也在多个类别上带来了定位效果的提高。实验结果表明,分类信息融入对象定位处理中能提升处理效果。