基于多标记文本分类的ML-KNN改进算法

利用已经分类得到的类别标记结果之间的相关性,提出一种迭代的改进ML-KNN算法(I-ML-KNN),以提高多标记文本的分类效果.实验表明,改进的ML-KNN算法具有可行性和有效性.

基于ML-kNN多标记学习的中医体质辨识模型研究

目的中医体质与人体健康状态密切相关。研究利用人工智能技术辨识中医体质,为中医体质辨识智能化及自动化发展提供新思路。方法以江苏省中医院体检中心的中医体质数据作为初始数据样本,经过数据清洗、过滤及结构化最终纳入9844条数据作为研究对象,运用ML-kNN多标记k近邻算法构建中医体质辨识模型,使用10折交叉验证训练模型,并采用多标记学习评价指标评估模型效果。结果中医体质辨识模型的平均汉明损失为0.0961,平均1-错误率为0.1261,平均排序损失为0.0866,平均覆盖率为1.1535,平均精度为88.57%。结论基于体检中心中医体质辨识量表数据,利用ML-kNN多标记学习算法,构建体质辨识模型,能够有效实现中医体质辨识智能化。

基于最近邻距离权重的ML-KNN算法

在大数据环境下,K近邻多标签算法(ML-KNN)高时间复杂度的问题显得尤为突出;此外,ML-KNN也没有考虑k个近邻对最终分类结果的影响。针对上述问题进行研究,首先将训练集进行聚类,再为测试集找到一个距离其最近的训练数据簇作为新的训练数据集;然后计算最近邻样本的距离权重,并用该权重描述最近邻和其他近邻对预测结果的影响;最后使用新的目标函数为待测样本分类。通过在图片、Web页面文本数据等数据集上的实验表明,所提算法得到了更好的分类结果,并且大大降低了时间复杂度。

ML-kNN算法在大数据集上的高效应用

k近邻多标签算法(ML-k NN)是一种懒惰学习算法,并已经成功地应用到实际生活中。随着信息量的不断增大,将ML-kNN算法运用到大数据集上已是形势所需。利用聚类算法将数据集分为几个不同的部分,然后在每一个部分中使用ML-k NN算法,并在四个规模不同的数据集上进行了一系列实验。实验结果表明,基于此思想的ML-kNN算法不论在精度、性能还是效率上都略胜一筹。

基于ML-KNN算法的冠心病辨证模型研究

目的:构建冠心病辨证模型,解决兼夹证诊断问题。方法:对收集的1315条冠心病医案进行规范化处理,并在规范数据集上运用多标记近邻算法ML-KNN构建冠心病辨证模型,采用十折交叉验证的方法对模型进行训练和测试,并用经典多标记算法评价指标对模型结果进行评价。结果:模型平均汉明损失为5.47%,1-错误率为2.13%,覆盖率为12.33%,排序损失为1.56%,平均精度为93.55%。结论:利用ML-KNN算法,从临床数据构建冠心病辨证模型,能够较好地模拟中医专家经验。

基于改进ML-KNN算法的文本分类研究

由于传统ML-KNN算法数据集中每个特征具有相同权重,与事实上的不同特征具有不同权重相违背,故提出对ML-KNN算法的改进,用ML-KNN来构建分类模型进行分类。为验证该算法的分类效果,选取算法常用的衡量标准与其他两种算法比较,结果表明由改进ML-KNN算法构造的模型要优于其他两种算法,能有效表达多领域数据集分类问题,算法效果更好。

基于多标记ML-kNN算法的食用植物油检测研究

随着信息科学技术的发展,多种智能处理方法已凸显出自己的优势。食用植物油高效液相色谱法与支持向量机、AdaBoost.RMH、ML-LVQ算法相结合的食用油检测方法已有所应用。本文将甘油三酸脂组成成分指纹谱数据与多多标记ML-kNN算法相结合,用于食用植物油的分类识别与掺伪检验。首先进行甘油三酸脂组成成分指纹谱特征提取,然后构建多标号分类器,接着进行试验并评价其系统的性能。通过8种食用植物油及其混合油的测试结果表明,该算法能有效的应用于食用植物油的定性分类与定量分析。

基于ML-kNN算法的大数据分类系统设计

传统的大数据分类系统无法对海量数据的独立标签进行相关处理,导致系统内大数据的分类处理结果精确度较低。针对这一问题,提出了基于ML-kNN算法的大数据分类系统设计。系统硬件部分采用C/S混合式架构,处理器的设计选用单片机模式;系统软件部分通过设计大数据准备模块将数据集群的节点信息分配传递到系统的处理器中,通过数据模拟层提取大数据的分类特征,依据大数据的非结构文本特点设计大数据分类模块,同时基于ML-kNN算法设计分类结果分析模块,计算出数据集的样本特征标签概率,从而完成大数据分类系统的设计。测试证明,随着数据量的不断增多,该系统分类处理数据的准确率与召回率较传统的数据分类系统具有显著优势,在大数据的分类处理方面具有更好的性能。

一种基于改进ML-KNN的微博文本分类方法

针对传统ML-KNN进行多标签文档分类时,忽略标签之间关联性的问题,笔者提出了一种基于改进的ML-KNN多标签微博短文本分类方法。该方法通过归一化互信息控制每对标签的相关性阈值。针对微博短文本的特征,在计算文本相似度时引入同义词词林进行语义特征扩展。通过数据集的实验测试,笔者所提方法在性能上优于传统的ML-KNN算法。

基于标记特定特征和相关性的ML-KNN改进算法

目前大部分已经存在的多标记学习算法在模型训练过程中所采用的共同策略是基于相同的标记属性特征集合预测所有标记类别.但这种思路并未对每个标记所独有的标记特征进行考虑.在标记空间中,这种标记特定的属性特征对于区分其它类别标记和描述自身特性是非常有帮助的信息.针对这一问题,本文提出了基于标记特定特征和相关性的ML-KNN改进算法MLF-KNN.不同于之前的多标记算法直接在原始训练数据集上进行操作,而是首先对训练数据集进行预处理,为每一种标记类别构造其特征属性,在得到的标记属性空间上进一步构造L_(1)-范数并进行优化从而引入标记之间的相关性,最后使用改进后的ML-KNN算法进行预测分类.实验结果表明,在公开数据集image和yeast上,本文提出的算法MLF-KNN分类性能优于ML-KNN,同时与其它另外3种多标记学习算法相比也表现出一定的优越性.

基于多标记与半监督学习的入侵检测方法研究

机器学习所关注的问题是系统如何随着经验积累自动提高分类性能,这与入侵检测通过对外界入侵进行自我学习来提高其检测率和降低误报率是一致的。因此把机器学习的理论和方法引入到入侵检测中已成为一种有效方案。文中结合多标记与半监督学习理论,将ML-KNN算法应用于入侵检测系统。在KDD CUP99数据集上的仿真结果表明,该方法在入侵检测中能获得高检测率和低误报率。

一种多标记学习入侵检测算法

针对现有入侵检测技术的不足,文章研究了基于机器学习的异常入侵检测系统,将多标记和半监督学习应用于入侵检测,提出了一种基于多标记学习的入侵检测算法。该算法采用"k近邻"分类准则,统计近邻样本的类别标记信息,通过最大化后验概率(maximum a posteriori,MAP)的方式推理未标记数据的所属集合。在KDD CUP99数据集上的仿真结果表明,该算法能有效地改善入侵检测系统的性能。

基于数字内容偏好的多标签分类应用

目前电信行业的数字内容研究主要是基于业务口径进行不同偏好的用户洞察,多以业务经验进行判断,不利于数字内容用户规模的发展扩大。为此,本文利用大流量客户的历史数据,基于多标签分类算法对数字内容偏好进行研究,得到各类别的潜在目标客户,最终通过营销推荐客户喜好内容,提高精准营销能力。首先以M电信公司用户的基础、消费属性等脱敏数据作为数据源,并获取近3个月视频、音乐、阅读活跃用户清单,人工进行活跃维度的标注,得到初始数据集;由于正负样本不均衡,故采用多次下采样的方法随机抽样得到3份样本数据,并使用CC、ML-KNN、Rakel D等6种算法进行对比实验验证;实验结果表明:采用Rakel D及ML-KNN多标签分类算法在数字内容用户偏好洞察方面有较好的预测能力,故采用ML-KNN作为Rakel D算法的基本分类器,即Rakel D_MLKNN方法,对正负样比例不同的数据集分别进行预测,效果均优于前6种已经存在的常用多标签分类算法及传统经验选型方法。

Spark下的并行多标签最近邻算法

随着大数据时代的到来,大规模多标签数据挖掘方法受到广泛关注。多标签最近邻算法MLKNN是一种简单高效、应用广泛的多标签分类方法,其分类精度在很多应用中都高于其他常见的多标签学习方法。然而随着需要处理的数据规模越来越大,传统串行ML-KNN算法已经难以满足大数据应用中时间和存储空间上的限制。结合Spark的并行机制和其基于内存的迭代计算特点,提出了一种基于Spark并行框架的ML-KNN算法SML-KNN。在Map阶段分别找到待预测样本每个分区的K近邻,随后Reduce阶段根据每个分区的近邻集合确定最终的K近邻,最后并行地对近邻的标签集合进行聚合,通过最大化后验概率准则输出待预测样本的目标标签集合。串行和并行环境下的对比实验结果表明,SML-KNN在保证分类精度的前提下性能与计算资源呈近似线性关系,提高了ML-KNN算法对大规模多标签数据的处理能力。

基于标签相关性的K近邻多标签分类方法

针对K近邻多标签（ML-KNN）分类算法中未考虑标签相关性的问题,提出了一种基于标签相关性的K近邻多标签分类（CML-KNN）算法。首先,计算出标签集合中每对标签间的条件概率;其次,对于即将被预测的标签,将其与已经预测的标签间的条件概率进行排序,求出最大值;最后,将最大值跟对应标签值相乘同时结合最大化后验概率（MAP）来构造多标签分类模型,对新标签进行预测。实验结果表明,所提算法在Emotions数据集上的分类性能均优于ML-KNN、Adaboost MH、RAk EL、BPMLL这4种算法;在Yeast、Enron数据集上仅在1-2个评价指标上低于MLKNN与RAk EL算法。由实验分析可知,该算法取得了较好的分类效果。

基于广义Fisher-互信息的管道堵塞故障特征选择方法

针对实际工程应用中,难以在管道声学信号中提取有效的故障特征的问题,提出了一种广义Fisher-互信息特征选择方法的管道堵塞故障特征。广义Fisher准则可以删除无关的和鉴别性能较差的特征,但不能去除冗余特征,在利用多特征对故障信号进行识别时冗余特征会降低分类器性能。利用广义Fisher准则对管道故障特征集进行筛选,选取鉴别性较强的特征;计算特征之间互信息构成互信息矩阵,去除特征集中的冗余特征,选取最优子集,利用多标签k近邻算法(ML-kNN)对多种管道工况进行识别,得到特征子集的分类准确率。实验结果表明,方法在分类任务中的有效性。

融合标记独有属性特征的k近邻多标记分类新算法

在多标记学习系统中,每个样本同时与多个类别标记相关,却均由一个属性特征向量描述。大部分已有的多标记分类算法采用的共同策略是使用相同的属性特征集合预测所有的类别标记,但它并非最佳选择,原因在于每个标记可能与其自身独有的属性特征相关性最大。针对这一问题,提出了融合标记独有属性特征的k近邻多标记分类算法—IML-kNN。首先对多标记数据的特征向量进行预处理,分别为每类标记构造对该类标记最具有判别能力的属性特征;然后基于得到的属性特征使用改进后的ML-kNN算法进行分类。实验结果表明,IML-kNN算法在yeast和image数据集上的性能明显优于ML-kNN算法以及其他3种常用的多标记分类算法。

一种加权的ML—kNN算法

ML—kNN算法利用贝叶斯概率修改传统的kNN算法以解决多标签问题，但这种基于概率统计的方法对覆盖率低的标签容易造成误判。因此，该文提出了一种加权ML—kNN算法，将样本与邻居之间的距离转化为权值来改这种误判。在三个基准数据集上进行对比实验，利用七个标准对其进行评测。实验结果表明，该加权ML—kNN算法整体上优于ML—kNN算法。

基于多标签学习的创伤救治层链决策研究

在现代创伤救治中,根据患者伤情进行合理而准确的院前评估并制定相应的救治决策对降低患者伤残率与死亡率具有重要意义。为了改善人工制定决策的缺陷,实现准确合理的标准化创伤救治决策制定,本文利用多标签学习思想,在对创伤救治决策进行深入分析与研究的基础上,将整体救治决策进行子决策划分,并提取出子决策对应的判定因素作为标签集。为了更好地考虑标签间的关联,将Classifier Chains算法的链式思想与多标签K近邻(Multi-label K-nearest neighbor,ML-KNN)算法融合,提出一种层链多标签学习算法,称为层链多标签K近邻算法(Layer chain ML-KNN,LCML-KNN)。LCML-KNN算法将标签依特点划分为两个层链,在第一层链的预测标签信息输出后对其进行独热编码,转化后的标签看作新特征放入第二层链进行预测与判断。LCML-KNN算法不仅更好地考虑了标签间的关联性,而且通过标签转化扩充了特征维数。在两个创伤类数据集上与现有各类多标签算法进行实验对比,结果验证了LCML-KNN算法的鲁棒性和优越性。

基于多标签标注学习的城市画像文本分类方法研究

【目的】针对当前城市画像领域数据计算面临的相关文本非结构化、长短不一、主题非单一化等问题,研究利用机器学习技术,分析获取社交长文本的多标签,为城市画像文本分析和其他相关分析提供新的思路。【方法】从知乎平台获取有关城市印象的社交文本,对文本进行分句和降噪处理,结合已有的城市画像标注框架,对部分文本进行人工标注,采用支持向量机分类模型、卷积神经网络模型、朴素贝叶斯模型行训练,并对三种模型的结果进行对比分析。通过效果最优模型得到所有长文本的全部标签,使用ML-kNN多标注学习模型进行训练得到多标签社交文本分类模型。【结果】在单标签文本分类模型方面,支持向量机分类模型整体效果最优,对于短文本标注准确率达0.6900。使用ML-kNN构建多标签文本分类模型,准确率最高达到0.8103,平均汉明损失为0.0353。【局限】没有充分考虑文本前后关联对主题分类的影响。【结论】基于社交长文本数据,利用ML-kNN多标签学习算法,构建长文本多标签分类模型,能够有效实现城市画像社交长文本的多标签识别。