基于二进制粒子群优化算法的封装式特征选择研究

在监督学习中,封装式特征选择能够筛选数据集的冗余特征,从而提高目标监督算法的性能。该文主要研究将二进制粒子群优化算法用于封装式特征选择问题时,3种不同的转换函数对粒子群算法性能的影响。首先,论述了标准粒子群算法和二进制粒子群算法的原理。其次,对比分析了二进制粒子群算法的S型转换函数、V型转换函数和线性转换函数。在实验阶段,对不同转换函数的二进制粒子群算法在特征选择问题中的性能进行了比较。实验结果表明,采用V2型转换函数的二进制粒子群优化算法搜索的特征子集,与直接在原特征上使用KNN算法得到的预测准确率相比,在总体上平均提升3.29%。

一种快速的Wrapper式特征子集选择新方法

Wrapper式特征选择方法需要耗费大量时间,为此提出了一种快速的Wrapper式特征选择新方法(Fast Feature Subset Ranking,简称FFSR).与以单个特征作为评价单位的传统方法不同,FFSR算法以特征子集作为评价单位,以子集收敛能力作为评价标准.FFSR算法从收敛速度和收敛极值两个方面对收敛能力进行分析,并利用Sequential Floating Forward Selection(简称SFFS)算法构造和评价快速收敛的子集.FFSR算法选择的特征子集能力接近SFFS算法,但所需时间较SFFS算法大幅度减少.

混合式的K-匿名特征选择算法

K-匿名算法通过对数据的泛化、隐藏等手段使得数据达到K-匿名条件,在隐藏特征的同时考虑数据的隐私性与分类性能,可以视为一种特殊的特征选择方法,即K-匿名特征选择。K-匿名特征选择方法结合K-匿名与特征选择的特点使用多个评价准则选出K-匿名特征子集。过滤式K-匿名特征选择方法难以搜索到所有满足K-匿名条件的候选特征子集,不能保证得到的特征子集的分类性能最优,而封装式特征选择方法计算成本很大,因此,结合过滤式特征排序与封装式特征选择的特点,改进已有方法中的前向搜索策略,设计了一种混合式K-匿名特征选择算法,使用分类性能作为评价准则选出分类性能最好的K-匿名特征子集。在多个公开数据集上进行实验,结果表明,所提算法在分类性能上可以超过现有算法并且信息损失更小。

基于改进斑点鬣狗优化算法的同步优化特征选择

针对传统支持向量机(SVM)在封装式特征选择中分类精度低、特征子集选择冗余以及计算效率差的不足,利用元启发式优化算法同步优化SVM与特征选择。为改善SVM分类效果以及选择特征子集的能力,首先,利用自适应差分进化(DE)算法、混沌初始化与锦标赛选择策略对斑点鬣狗优化(SHO)算法改进,以增强其局部搜索能力并提高其寻优效率与求解精度;其次,将改进后的算法用于特征选择与SVM参数调整的同步优化中;最后,在UCI数据集进行特征选择仿真实验,采取分类准确率、选择特征数、适应度值及运行时间来综合评估所提算法的优化性能。实验结果证明,改进算法的同步优化机制能够在高分类准确率下降低特征选择的数目,该算法比传统算法更适合解决封装式特征选择问题,具有良好的应用价值。

基于改进秃鹰搜索算法的同步优化特征选择

针对传统支持向量机在封装式特征选择中分类效果差、子集选取冗余、计算性能易受核函数参数影响的不足,利用元启发式优化算法对其进行同步优化.首先利用莱维飞行策略和模拟退火机制对秃鹰搜索算法的局部搜索能力与勘探利用解空间能力进行改进,通过标准函数的测试结果验证其改进的有效性;其次将支持向量机核函数参数作为待优化目标,利用改进后的算法在封装式特征选择模型中搜寻最优核函数参数,同时获得相对应的最优特征子集;最后对UCI存储库的12个标准数据集进行特征选择仿真实验,在平均分类准确率、所选特征个数及适应度值上进行综合评估分析.实验结果表明,所提算法可有效降低特征维度,能够更准确地实现数据分类,在空间搜索与求解精度方面较原算法及其他非线性最优化算法表现优秀,具有一定的工程应用价值.