多尺度邻域决策信息系统的特征子集选择

多尺度决策信息系统的特征子集选择是处理多尺度分类问题的一种有效的数据预处理方法.在实际应用中,数据类型往往多样混合,现有的多尺度模型无法有效处理这类数据.针对该问题,文中面向多源异构多尺度数据,提出多尺度邻域半径的形式化定义,构造多尺度邻域信息粒并讨论其相关性质.在此基础上,探讨特征的重要度,提出可同步进行最优尺度选择和特征选择的特征子集选择算法.改进原有的Wu-Leung模型,在一定程度上扩展其在实际问题上应用的范围.最后,在UCI数据集上验证模型和算法的可行性和有效性.

不一致邻域决策信息系统的增量式属性约简研究

属性约简是数据挖掘、机器学习等研究领域中的一个非常重要的预处理步骤,其效率的高低会直接影响到数据挖掘、机器学习等相关任务的性能。针对目前已有的非增量式属性约简方法在处理不一致邻域信息系统动态变化时无法高效更新属性约简的问题,提出一种在不一致邻域决策信息系统中对象集发生变化时的增量式属性约简方法。首先,该文以不一致邻域决策信息系统为研究对象,结合不一致邻域的特点给出了一种新的不一致度的表示方法。在此基础上用不一致度来表征属性重要度,以属性重要度为启发式信息研究不一致邻域信息系统对象集发生变化条件下邻域类以及不一致度的更新机理。随后,以不一致度为启发信息构建了增量式属性约简算法。进一步,在UCI上选取6个数据集,通过分类精度测试实验精选出各个数据集的最佳邻域半径δ,最后,利用最佳邻域半径δ在各个数据集上执行增量式属性约简算法实验,实验结果表明该文提出的增量式属性约简算法在保持分类精度不变的前提下较其他算法更加快速和有效。

基于邻域容差互信息和鲸鱼优化算法的非平衡数据特征选择

针对大多数特征选择算法未充分考虑数据的类不均匀分布、特征之间的相关性和不同参数对特征选择结果的影响等问题,提出一种基于邻域容差互信息和鲸鱼优化算法(WOA)的非平衡数据特征选择方法。首先,在不完备邻域决策系统中,针对二分类数据集和多分类数据集,基于上、下边界域定义两种非平衡数据的特征重要度;然后,为充分反映特征的决策能力和特征之间的相关性,构建邻域容差互信息;最后,通过将非平衡数据特征重要度和邻域容差互信息相结合,提出基于邻域容差互信息的非平衡数据特征选择(FSIDN)算法,该算法采用WOA获取特征选择算法中的最优参数,并引入非线性收敛因子和自适应惯性权重来改进WOA,以解决WOA易陷入局部最优的问题。在8个基准函数上进行实验,结果表明改进的WOA具有较好的优化性能;在13个二分类和4个多分类的非平衡数据集上进行特征选择实验,实验结果表明,与其他相关算法相比,所提算法能够有效地选择出具有良好分类性能的特征子集。

一种人工蜂群算法优化的邻域粗糙集特征选择方法

在邻域粗糙集模型中,由于计算邻域及正域的工作量较大,因此,对邻域决策表进行特征选择或降维具有较高的时间复杂度。特别是随着邻域决策表维数的增多,计算工作量呈指数级增加。针对此类问题,引入人工蜂群算法进行优化。首先,给出了一种邻域粗糙集分辨矩阵特征重要性度量方法;其次,以邻域分辨矩阵特征重要度为启发因子构造了适应度函数,新的适应度函数增加了启发信息;最后,设计了一种人工蜂群算法优化的特征选择算法。UCI数据集对比实验结果与分析表明,与原有的邻域特征选择算法相比,新算法减少了迭代次数,加快了收敛速度,并且能够有效寻找到最小特征子集。

变精度邻域等价粒的邻域决策树构造算法

针对现有决策树算法对连续性数据分类的信息丢失、效果不佳等缺点,提出一种邻域决策树(NDT)构造算法。首先,挖掘了邻域决策信息系统上的变精度邻域等价粒,并探讨了相关性质;然后基于变精度邻域等价粒构建邻域基尼指数度量,以度量邻域决策信息系统的不确定性;最后,用邻域基尼指数度量诱导出树节点的选取条件,并以变精度邻域等价粒为树分裂规则,从而构建NDT。在UCI数据集进行实验的结果表明,NDT算法的准确度比基于信息熵的决策树算法ID3、基于基尼指数的决策树算法CART、基于信息增益率的决策树(C4.5)算法和融合信息增益和基尼指数(IGGI)算法平均提高了20个百分点左右,验证了NDT算法的有效性。

基于邻域属性重要度与主成分分析的齿轮箱故障特征约简

为有效降低齿轮箱故障特征的维数并提高诊断效率,提出了基于邻域属性重要度与主成分分析法相结合的齿轮箱故障特征约简方法,并利用支持向量机和BP神经网络对诊断的准确率进行对比分析。针对齿轮箱中具有不同程度裂纹的齿轮,选取其时域、频域和基于希尔伯特变换的36个特征;将邻域模型引入到特征属性的约简,构造前向贪心算法,以邻域属性重要度较大的9个特征作为特征集,提取累积贡献率达到95%以上的主成分,分别输入支持向量机和BP神经网络分类器中进行分类识别,并与不经过特征优选的主成分特征融合相对比。结果表明,采用基于邻域属性重要度与主成分分析法相结合的特征约简方法,既可以降低齿轮箱故障特征的维数,又不影响对其运行状态的表征,有助于识别不同裂纹水平的齿轮,与不经过特征优选直接进行融合的方法相比,所提出方法诊断准确率更高,训练时间更短。

基于邻域属性重要度的齿轮箱故障特征优选方法

为有效降低齿轮箱故障特征的维数并提高诊断效率,提出了基于邻域属性重要度的齿轮箱故障特征优选方法,并结合支持向量机和BP神经网络对诊断的准确率和时间进行对比分析。以齿轮箱中不同裂纹齿轮为对象,选取能够表征齿轮箱故障状态的时域、频域和基于希尔伯特变换的36个特征。构造基于邻域模型的前向贪心数值属性约简算法进行特征优选,提取属性重要度较大的9个特征组成最优特征子集,数据压缩量达到75%,并输入支持向量机分类器中进行分类识别,用BP神经网络分类器进行结果的比较分析。结果表明,采用基于邻域属性重要度的齿轮箱故障特征优选方法,既可以在降低特征维数的情况下有效地表征齿轮箱的运行状态,又可以提高诊断的精确度和诊断效率。

基于邻域区分度的不完备混合数据属性约简方法

针对不完备混合数据,提出一种基于邻域区分度的属性约简方法.首先,在不完备混合邻域决策系统中,针对3种数据类型定义新的距离函数,由此给出邻域、邻域容差关系及其邻域上下近似集等概念,构造邻域粗糙集模型.然后,在不完备混合邻域决策系统中定义区分关系,给出邻域区分度、相对邻域区分度等度量,并讨论相关性质及定理.最后,基于相对邻域区分度定义不完备混合邻域决策系统的属性约简集、属性重要度等概念,设计一种启发式的不完备混合数据属性约简算法.8个公共数据集上的实验结果表明,所提出的属性约简算法可以获取最优/次优属性子集,且具有较好的分类精度.

基于邻域粗糙集的偏标记特征选择

基于邻域粗糙集框架提出一种针对偏标记数据的特征选择方法,构建偏标记邻域决策系统,定义偏标记学习问题中邻域粗糙集的下近似和依赖度,建立适用于偏标记分类问题的特征选择算法。该算法能够在对特征空间进行邻域粒化的同时度量候选标记集合中标记间的相似程度,选出与标记信息相关性较强的特征子集。使用了2种不同于最常用随机方法的假阳性候选标记生成机制,在实验部分对不同偏标记生成机制进行分析和对比。最后给出了在6个真实偏标记数据集和6个受控单标记数据集上的大量实验对比结果,验证了所提特征选择方法的有效性。

结合分辨矩阵改进的邻域粗糙集属性约简算法

针对基于邻域粗糙集属性重要度约简算法在某些决策表中约简正确率下降等问题,结合基于等价关系下的分辨矩阵知识,定义一种邻域决策系统下的分辨矩阵,邻域分辨矩阵由能够分辨不同邻域对象的条件属性子集组成。根据条件属性在邻域分辨矩阵中的占比提出一种属性重要度的度量方法,以新的重要度作为启发性因子,设计一种邻域决策系统下属性重要度启发性约简算法。该算法以核属性集作为初始集合,依次选择重要度大的属性加入到核集,直至找到最小属性约简时,算法终止。实例分析和UCI数据集试验结果表明,与基于属性依赖度的约简算法相比,该算法能够更有效地找到最小属性约简集,并且可以有效减少计算工作量,证明了算法的有效性和可实用性。