智能参数学习的模糊决策树算法

模糊决策树算法在处理数量型属性的数据时,需要进行数据模糊化预处理。但是,每个数量型属性应该模糊化为几个语言项通常要凭经验设定的,目前还没有使用标准粒子群优化算法(PSO)自动设定语言项个数的研究。提出使用PSO确定语言项个数的模糊决策树算法(FDT-K算法),通过实验证明FDT-K算法产生的模糊决策树性能明显优于凭经验设定语言项个数所产生的模糊决策树。

基于协作学习理论的中小学机器人教学设计研究

协作学习对培养学生的协作共事能力、创新能力和改变学生的思维方式有重要的作用。与传统学习方式相比，协作学习更能提高课堂学习氛围、学习兴趣和效率。将协作学习应用到中小学机器人教学中，对基于协作学习的中小学机器人教学设计进行研究。

基于不平衡学习的分类器博弈模型及其在中国象棋中的应用

计算机博弈是人工智能领域中的热点研究课题.传统计算机博弈模型使用极大极小搜索与评估函数相结合的方式,棋力高低依赖于搜索的深度.在计算性能较低的平台上,搜索深度加深会延长反应时间.因此,提出了一种应用不平衡学习技术使用专家谱训练分类器的机器博弈解决方案,反应时间只相当于一层搜索,且更能体现学习的特性.使用3种经典的不平衡学习方法训练神经网络,并对结果进行了比较.验证了使用分类器模拟中国象棋策略的可能性,以及不平衡学习技术在该策略建模过程中起到的关键作用.

图像特征提取研究

图像特征提取是图像识别的关键步骤,图像特征提取的效果如何直接决定着图像识别的效果.如何从原始图像中提取具有较强表示能力的图像特征是智能图像处理的一个研究热点.本文旨在介绍各种图像特征提取方法的基本思想、特点和研究发展现状,以引起国内学者的进一步关注.

基于粗糙集技术的决策树归纳

ID3算法是一种典型的决策树归纳算法,它以信息增益作为选择扩展属性根结点的标准,并递归地生成决策树。但ID3算法倾向于选取属性取值较多的属性作为根结点,而且它假设训练集中各类别样例的比例应与实际问题领域里各类别样例的比例相同。提出一种新的基于粗糙集技术的决策树归纳算法,它是一种完全数据驱动的归纳算法,可以克服ID3算法的上述不足。

最小相关性最大依赖度属性约简

在经典粗糙集中,基于重要度的决策表属性约简算法只考虑了决策属性与条件属性之间的依赖度,没有考虑约简中条件属性之间的相关性,由此求出的约简中可能依然包含冗余属性。针对这一问题,提出了一种改进算法,它利用最小相关性和最大依赖度准则求决策表属性约简。与基于重要度的决策表属性约简算法相比,本算法求出的约简包含的属性个数少、冗余小。实验结果显示,本算法优于基于重要度的决策表属性约简算法。

改进的基于排序熵的有序决策树算法

由于基于排序熵的有序决策树在扩展属性选取时,需计算每个条件属性的每个割点处的排序互信息,并通过对比这些排序互信息的大小来确定最大值(最大值对应的属性为扩展属性),计算复杂度较高.针对此问题,文中将割点分为平衡割点和非平衡割点两部分,建立一个数学模型,从理论上证明排序互信息最大值不会在平衡割点处达到,而只能在非平衡割点处达到.这说明在计算排序互信息时只需遍历非平衡割点,而无需再计算平衡割点处的值,从而使决策树构建的计算效率得到较大程度提高.数值实验验证此结果.

基于优势-等价关系的几种约简及规则抽取方法

考虑了条件属性引入优势关系而决策属性上引入等价关系的不协调目标信息系统。分析了这种基于优势-等价关系的相容约简、最大分布约简及正域约简三者之间的关系。此外,结合劣势关系抽取规则以提高规则的覆盖率,改进了基于优势关系的正域约简抽取规则(PDRIS)的方法。最后给出算例,并在UCI数据集上进行了大量的试验,以与PDRIS进行比较。

密度加权近似支持向量机

标准的近似支持向量机(PSVM)用求解正则化最小二乘问题代替了求解二次规划问题,它可以得到一个解析解,从而减少训练时间。但是标准的PSVM没有考虑数据集中正、负样本的分布情况,对所有的样本都赋予了相同的惩罚因子。而在实际问题中,数据集中样本的分布是不平衡的。针对此问题,在PSVM的基础上提出了一种基于密度加权的近似支持向量机(DPSVM),其先计算样本的密度指标,不同的样例有不同的密度信息,因此对不同的样例给予不同的惩罚因子,并将原始优化问题中的惩罚因子由数值变为一个对角矩阵。在UCI数据集上用这种方法进行了实验,并与SVM和PSVM方法进行了比较,结果表明,DPSVM在正负类样本分布不平衡的数据集上有较好的分类性能。

层次聚类的簇集成方法研究

聚类集成比单个聚类方法具有更高的鲁棒性和精确性,它主要由两部分组成,即个体成员的产生和结果的融合。针对聚类集成,首先用k-means聚类算法得到个体成员,然后使用层次聚类中的单连接法、全连接法与平均连接法进行融合。为了评价聚类集成方法的性能,实验中使用了ARI(Adjusted Rand Index)。实验结果表明,平均连接法的聚类集成性能优于单连接法和全连接法。研究并讨论了融合方法的聚类正确率和集成规模的关系。

基于小波变换和2DPCA的人脸识别

主成分分析(principal component analysis:PCA)已成功用于人脸识别,但基于主成分分析的人脸识别方法需要将图像数据向量化,而向量化后的图像样本维数非常大,计算代价非常高.二维主成分分析(2 di mension principal component analysis:2DPCA)直接处理图像数据,不需要向量化的过程,2DPCA降低了计算复杂度,但是2DPCA与PCA相比,需要存储更多的系数,即要占用更多的存储空间.本文提出了一种基于小波变换和2DPCA的人脸识别方法,可以克服上述缺点,实验结果证明了该方法的有效性.

有序决策树的比较研究

有序分类是现实生活中广泛存在的一种分类问题。基于排序熵的有序决策树算法是处理有序分类问题的重要方法之一,这种方法是以排序互信息作为启发式来构建有序决策树。基于这项工作,通过引入模糊有序熵,并以模糊有序互信息作为启发式构建模糊有序决策树,对有序决策树进行了扩展。这两种算法在实际应用中各有自己的优劣之处,从四个方面对这两种算法进行了详细的比较,并指出了这两种算法的异同及优缺点。

基于小波多尺度奇异值分解的人脸识别

作为一种矩阵分解方法,奇异值分解可用于提取图像的代数特征。图像的奇异值特征具有很多好的性质,如稳定性、几何不变性、对噪声的不敏感性。但是只用一个尺度的图像奇异值特征难以获得高识别率。基于小波变换和奇异值分解,提出了基于小波多尺度奇异值分解的图像特征提取方法,它将多个尺度的小波子图奇异值特征组合起来用于人脸识别,在ORL,YALE和JAFFE 3个人脸数据库上的识别率分别达到82.11%,100%和95.68%。

基于模拟退火的SVDD特征提取和参数选择

支持向量数据描述(Support Vector Data Description,SVDD)被认为是用于异常检测的典型方法。众所周之,参数的设置和特征的品质是影响SVDD性能的两个关键点。将SVDD的特征提取和参数选择问题结合在一起,提出了一种基于模拟退火的SVDD特征提取和参数选择方法(SA-SVDD)。在模拟退火的过程中,自动选择最优核参数、折衷参数以及抽取特征的维数。在UCI基准数据集上的实验结果表明,与传统的参数选择方法相比,SA-SVDD取得了更优的性能。

基于概率神经网络和K-L散度的样例选择

提出了一种基于概率神经网络和K-L散度的样例选择算法。该算法利用概率神经网络估计训练样例的概率分布,利用K-L散度作为启发式来进行样例选择,用该方法选出的样例大多分布在分类边界附近。与五个著名的样例选择算法CNN、ENN、RNN、MCS和ICF进行了实验比较,实验结果显示,算法的选择比更低,训练出分类器具有更好的泛化能力,提出的方法是有效的。

基于模糊积分的多模糊决策树融合

给定一个模糊信息系统,可能找到多个重要的模糊属性子集,而且这些重要的模糊属性子集对决策有不同的贡献,会产生不同的影响.如果仅选择其中一个模糊属性子集进行决策,即使是最重要的一个,也会丢失隐含在其他重要的模糊属性子集中的可用信息.为了充分利用模糊信息系统中每个重要的模糊属性子集所提供的信息,提出了一种基于模糊积分的多模糊决策树融合方法.这种方法分3个步骤:1)通过模糊等价关系找到几个重要的模糊属性子集;2)对每个模糊属性子集,利用模糊ID3算法生成一棵模糊决策树;3)用模糊积分融合几棵模糊决策树.实验结果证明了用多模糊决策树融合方法比单模糊决策树分类效果更好.

样例约简支持向量机

支持向量机(support vector machine,SVM)仅利用靠近分类边界的支持向量构造最优分类超平面,但求解SVM需要整个训练集,当训练集的规模较大时,求解SVM需要占用大量的内存空间,寻优速度非常慢。针对这一问题,提出了一种称为样例约简的寻找候选支持向量的方法。在该方法中,支持向量大多靠近分类边界,可利用相容粗糙集技术选出边界域中的样例,作为候选支持向量,然后将选出的样例作为训练集来求解SVM。实验结果证实了该方法的有效性,特别是对大型数据库,该方法能有效减少存储空间和执行时间。

RTS游戏中用户行为的神经网络预测模型

即时战略游戏(简称RTS游戏)中,用户的行为由于游戏自身庞大的决策空间而难以预测。针对这个问题,提出了通过对RTS游戏的对战记录进行分析,建立5种结构的神经网络模型来预测用户行为的方法。模型考虑了不同时间片的状态对于决策行为的影响,设计了单时间片输入和双时间片输入的神经网络,并与基于动态贝叶斯网络的模型进行了比较。实验结果表明,基于单时间片输入的神经网络模型能够更加快速地完成训练过程并达到满意的预测准确度。

基于模糊积分的不完全小波包子空间集成人脸识别

提出一种基于模糊积分的不完全小波包子空间集成人脸识别方法,并与五种相关方法进行实验比较.首先对人脸图像做不完全小波包分解,对双向低频子空间图像直接进行特征提取,对含有一个方向低频成分的高频子空间图像先求平均,再进行提取特征;然后用得到的不同子空间图像训练模糊分类器;最后用模糊积分融合训练的模糊分类器.该方法能够充分利用不同频率小波子空间图像中包含的有用信息,从而提高人脸识别的精度.在ORL、YALE、JAFFE和FERET这4个人脸数据库上进行实验,实验结果表明该方法在识别精度方面均优于五种相关方法.

基于粗糙集技术的压缩近邻规则

近邻(Nearest Neighbor,NN)算法是一种简单实用的监督分类算法。但NN算法在分类未知类标的样例时,需要存储整个训练集,还要计算该样例到训练集中每一个样例之间的距离,所以NN算法的计算复杂度非常高。为了克服这一缺点,P.Hart提出了压缩近邻(Condensed Nearest Neighbor,CNN)规则算法,即从整个训练集中找原样例集的一致子集(一致子集是能正确分类训练集中其他样例的子集)。其计算复杂度依然比较高,特别是对于大型数据库,寻找其一致子集是非常耗费时间的。针对这一问题,提出了基于粗糙集技术的压缩近邻规则算法。该算法分为3步,首先利用粗糙集方法求属性约简(特征选择),以将冗余的属性去掉。然后选取靠近边界域的样例,以将冗余的样例去掉。最后从选出的样例中计算一致子集。该算法能同时沿垂直方向和水平方法进行数据约简。实验结果显示,所提出的方法是行之有效的。