属性值加权的一依赖估测器模型分类算法研究

分类问题是数据挖掘和机器学习领域研究的重点问题,贝叶斯网络模型因其简单高效的特点而广泛应用于分类问题。一依赖估测器(ODE)模型作为半监督学习贝叶斯网络模型中的经典模型,受到研究人员的广泛关注。现有的ODE模型分类器在进行分类判别时,未考虑不同的属性节点作为根节点时对分类过程的贡献不同,为此,将ODE模型分类器与属性值加权方法相结合并提出MI-ODE算法。采用相互信息(MI)度量属性根节点的属性值与类变量之间的依赖关系并作为ODE模型的权值,对ODE分类器模型进行属性值加权平均。将MI-ODE算法应用于现实分类问题的36个标准数据集,结果表明,相比于NB算法、AODE算法与TAN算法,该算法的分类性能更优。

基于属性值加权的隐朴素贝叶斯算法

隐朴素贝叶斯(Hidden Naive Bayes,HNB)算法是一种结构扩展后的朴素贝叶斯分类改进算法,其分类精确率较原算法有了很大的提高,但是在分类过程中,HNB算法没有考虑测试实例的各个特征属性的不同取值对分类的贡献程度。针对这个问题,构建相应的加权函数计算各个特征属性取不同值时对分类的贡献程度,并利用得到的结果对HNB算法中用到的条件概率计算公式加权,得到了一个改进的HNB算法,然后利用加利福尼亚大学的埃文斯标准数据集(University of California Irvine,UCI)在Eclipse上对其进行数值实验,结果表明,改进的HNB算法较原始HNB算法的分类精确率有了较大提高。

多类属性加权与正交变换融合的朴素贝叶斯

由于朴素贝叶斯算法忽略了数据多维属性的相关性,从而导致分类算法的极大应用局限。对此提出多类属性加权与正交变换融合的朴素贝叶斯改进算法。利用贡献度与相关互信息去量化离散属性以及离散属性值之间的相关程度,以获得其权重;利用正交变换方法消除连续属性之间的线性关系;将加权后的离散属性和正交变换后的连续属性的条件概率进行区分计算,从而得到较高的分类精度并提高算法的泛化能力。通过在公开数据集以及校园一卡通数据集上的k折交叉验证,实验结果表明,与最新的5种改进朴素贝叶斯算法相比,该算法的准确率高了7.19~9.94个百分点,加权平均F1值高了6.4~11.64个百分点。

面向Stacking集成的改进分类算法及其应用

为了提高Stacking集成算法的分类性能,充分利用Stacking学习机制产生的先验信息和贝叶斯网络丰富的概率表达能力,提出一种基于属性值加权朴素贝叶斯算法的Stacking集成分类算法AVWNB-Stacking(Stacking based Attribute Value Weight Naive Bayes)。通过考虑属性值这个深层次的因素,以互信息(Mutual Information,MI)作为权值度量的基础,对属性权值向量横向扩展为每个属性值分配一个权值,避免不同的属性值共享相同的权值,从而解决朴素贝叶斯算法作为Stacking元分类器由于属性独立性假设带来的分类精度损失。实验结果表明,相比于传统算法及其他元分类器的Stacking分类算法,AVWNB-Stacking算法有效提高了模型的分类性能,在两个测试集上AUC值分别达到了0.8007和0.8607。

遗传算法在人员征集选择的仿真应用研究

文章结合科技动员管理信息系统,对经过相关数据查询后得到的结果集,利用遗传算法在数据搜索方面的优化特性,通过构造加权属性权值对人员征集再次选择进行仿真实现。仿真的实验结果表明生成的结果集具有较好的实用性和可操作性。

决策树ID3算法的一种改进

ID3算法是决策树分类挖掘方法的核心算法，其思想是通过计算训练属性集的信息增益值，选取增益值最大的属性作为分类依据。文中针对ID3算法在大数据量下计算信息增益时：苣行效率低下，利用数学运算对计算信息增益的公式进行了改进，提出了新的改进算法，同时针对ID3算法在选择属性时偏向于选择较多的属性，引入了加权属性值的概念。通过实验结果分析，新的算法在运行时间效率上有很大的提高。