基于Relief-SBS特征选择算法的入侵检测方法研究

入侵检测技术作为网络安全领域的焦点,在不同的环境中发挥着极其重要的作用。入侵检测数据的特征选择方法,直接影响着入侵检测的效率。在综合统计相关性的特征选择算法(Relief)和顺序后向搜索算法(SBS)的基础上提出基于Relief与顺序后向搜索的特征选择算法(Relief-SBS),该算法在每一轮迭代后去除一个特征,并在每一轮迭代中,采用Relief算法的结果作为特征的评估标准,仿真实验表明,该特征选择算法提高了入侵检测效率,它为入侵检测技术这一长期目标提供相关技术支持。

基于SBS-NARX的浮选过程精矿品位软测量

精矿品位是矿物浮选过程中的一项关键工艺指标,但在实际生产中该变量难以在线检测;且该过程非常复杂,具有高度的非线性及不确定性,常用的建模方法精度不够。针对上述问题,设计了一种顺序后向回归(SBS)与非线性自回归(NARX)神经网络结合的软测量算法。算法利用SBS对输入变量进行筛选以降低冗余变量对模型精度的影响,采用NARX神经网络对精矿品位进行预测。工业运行数据的仿真结果表明,该算法可以有效预测精矿品位,并且与其他算法相比,具有一定的优越性。

基于混合式特征选择的辐射源个体识别

为提高辐射源个体识别的准确率和运算效率,提出了一种基于混合式特征选择的辐射源个体识别。封装式特征选择方法分类正确率高,但计算复杂度高,处理高维数据时效率低。嵌入式特征选择方法计算复杂度低,但依赖于特定分类器。针对上述问题,综合封装式和嵌入式特征选择方法的特点,首先对信号数据使用3种嵌入式方法(随机森林、XGBoost和Ligh-tGBM)初选特征,分别得到随机森林子集、XGBoost子集和LightGBM子集。然后使用封装式方法对初选后得到的子集进行第二次降维,其中搜索策略分别使用序列后向搜索策略和蚁群优化算法,分类算法使用LightGBM。混合式方法共得到6种特征选择模型,通过对比各个模型得到的分类正确率和最优子集中的特征个数,确定最佳混合式特征选择模型。

入侵检测中基于SVM的两级特征选择方法

针对入侵检测中的特征优化选择问题,提出基于支持向量机的两级特征选择方法。该方法将基于检测率与误报率比值的特征评测值作为特征筛选的评价指标,先采用过滤模式中的Fisher分和信息增益分别过滤噪声和无关特征,降低特征维数;再基于筛选出来的交叉特征子集,采用封装模式中的序列后向搜索算法,结合支持向量机选取最优特征子集。仿真测试结果表明,采用该方法筛选出来的特征子集具有更好的分类性能,并有效降低了系统的建模时间和测试时间。

改进蜻蜓算法及其在特征选择中的应用

为合理应用生产制造中产生的数据,分析和挖掘出数据中的关键特征和潜在信息,以帮助企业提高效率、降低成本,提出一种改进的蜻蜓算法,并将其用于特征选择。算法在继承蜻蜓算法良好收敛性的基础上,引入局部序列浮动后向选择机制,在增加算法的全局搜索能力的同时提高了算法的求解精度。在标准复杂数据集上对该算法与其他特征选择算法进行仿真对比与分析,并将其应用在半导体生产线上进行验证。实验结果表明,所提算法无论是在标准数据集上还是实际工程问题上,均表现出良好的全局搜索能力与发展潜力。

基于不同Margin的人脸特征选择及识别方法

Margin在机器学习中具有很重要的意义,基于margin的特征选择方法就是从分类的角度对特征集各特征的权重进行分析。该文对不同的margin进行了分析,提出将sample-margin和hypothesis-margin分别作为特征选择标准对SBS特征选择方法进行改进,然后设计具有最佳超参数的SVM多项式分类器进行人脸识别。实验在FRERT人脸图像库上进行并与Relief特征选择方法进行了比较,对SVM和NN分类器的实验结果也进行了分析。实验结果显示:该文提出的人脸识别特征选择及识别方法是有效、适用的。

基于单因素SVM的航空兵空运转场飞行架次需求预测研究

航空兵部队成建制空运转场飞行架次需求预测,对机关、航空兵部队拟定空运计划、进行空运准备等都具有重要的意义。运用序列后向选择方法(SBS)对影响飞行架次的特征因素进行逐层淘汰,利用支持向量机(SVM)理论建立单因素非线性回归模型,进而对飞行架次进行预测。预测结果表明:同多因素SVM预测模型相比,单因素SVM预测模型虽在预测精度上没有显著提高,但其减少了预测的前期工作量,方便了机关和部队的使用,实现了飞行架次预测的实时性要求。

体表标测系统的导联优选法

在体表标测系统中合理地选择合适的电极数量和位置,其临床应用的推广意义重大.为此,开发了一种由多导联体表记录选择最优导联位置的新算法.采用基于最小二乘法的多变量线性回归算法确定变换系数,将原始信号与重构势的空间残差均方值作为优化判据,分别用顺序前进法和前进-后退搜索法对奇异值分解(singular value decomposition,SVD)前后的体表势矩阵寻找最优导联组合.结果表明:所得到的4种最优导联位置不尽相同,但分区统计规律相同;同时,优选出的最优导联组合对测试样本的预测最大相对误差均在1%左右,表现出较好的适应性.

基于XGB-BFS特征选择算法的电信客户流失预测

客户流失是现代企业面临最困难的问题,对客户流失进行预测是电信业保留现有客户的最有效策略之一。电信客户数据集往往具有高维特征,选择重要特征并减少无关属性的数量可以提高模型的分类性能。针对客户流失数据集高维特征的问题,提出了一种混合的XGB-BFS特征选择方法。首先基于XGBoost的Fscore值对特征重要性排序来度量特征与目标变量之间的相关关系,然后使用序列后向搜索的方法依次删除重要性最低的特征,根据验证集的AUC值判断是否保留该特征,最后将选择的特征子集用于构建XGBoost客户流失预测模型。在电信客户流失数据集上的实验结果表明,该方法能够筛选出特征重要性较高的特征且删除了冗余特征,与基于递归特征消除的Logistic模型、基于Embedded的Adaboost和随机森林模型相比,具有良好的性能。

利用可分性指数的极化SAR图像特征选择与多层SVM分类

可分性指数(SI)可用来选择各类地物的有效分类特征,但在多维特征以及地物可分性较好的情况下,只利用可分性指数进行特征选择不能有效去除特征之间的冗余性。基于此,提出了利用可分性指数并辅以顺序后退(SBS)算法进行特征选择与多层支持向量机(SVM)分类的方法。首先,由各类地物在所有特征下的可分性指数选择分类地物和特征;然后,以该地物的分类精度为评估依据,利用顺序后退法筛选特征;其次,由剩余地物之间的可分性指数和顺序后退法依次选择各类地物的分类特征;最后利用多层SVM进行分类。实验结果表明,与只利用可分性指数选择特征进行多层SVM分类的方法相比,所提方法的分类精度提高了2%,各类地物的分类精度均高于86%,且运行时间为原来方法的一半。

基于CSP和SFFS-SFBS的两级双向脑电导联特征选取方法

针对多任务运动想象条件下脑电导联选取质量差、搜索时间长的问题,提出了一种基于公共空间模式(CSP)和顺序浮动双向选择算法(SFFS-SFBS)的两级导联特征选取方法.首先,结合空域滤波分析各个被试的时频特性,确定相应的特征时间和特征频率;然后由训练集的CSP滤波系数计算各个导联在特征提取过程中的权重大小,根据权重排序缩小导联搜索空间;最后,运用以训练集交叉检验正确率为评价准则的SFFS-SFBS算法在相应的搜索空间内双向选择最优的导联序列.实验结果表明,在保证较高分类正确率的前提下,与传统SFFS算法和改进SFFS算法相比,该方法选取的导联数量分别减少了51. 36%,47. 52%,对应的搜索时间缩短了90. 95%,80%.因此,基于CSP和SFFS-SFBS的两级特征选取方法可快速选择优质导联序列,有效提高脑机接口的实际使用性能.

基于生成对抗网络的情绪识别数据增强方法

使用深度学习方法构建高准确率的情绪识别模型需要大量的情绪脑电数据。生成对抗网络(GAN)最近在生成逼真的数据方面取得了巨大成功,但一直没有客观的评价指标衡量生成的数据质量,无法保证生成的样本总是有助于分类。针对此问题,提出了一种将带条件和梯度惩罚的生成对抗网络(Conditional Wasserstein GAN-Gradient Penalty,CWGAN-GP)与序列后向选择(Sequential Backword Selection,SBS)相结合的数据增强方法。利用SBS自动从CWGAN-GP生成的人工样本中选择高质量的人工样本加入到训练集中,在DEAP数据集中评估提出的CWGAN-GP-SBS方法。实验结果表明,使用CWGAN-GP-SBS方法得到样本的测试分类准确率相比传统SBS方法平均高出5.86%,说明CWGAN-GP-SBS生成的人工样本可以显著提高情绪识别模型的准确性。

基于PSO混合特征选择算法在疲劳驾驶中的应用

基于多源生理信号的驾驶员疲劳检测研究存在特征信息冗余以及佩戴多种传感器影响驾驶员操作的问题。为此,提出一种结合粒子群优化算法和序列后向选择的特征选择算法。在适应度函数中加入信号源数的惩罚项,在降低特征维度的同时减少传感器的使用数量。根据所使用分类器的特点对适应度函数进行简化,提高特征选择算法的运行效率。在粒子定义中加入信号选择位,提高信号的筛选力度。实验结果表明,该算法平均使用2种信号和16. 1种特征,能够获得95. 3%的疲劳驾驶检测正确率。

融合序列后向选择与支持向量机的混合式特征选择算法

维度灾难是机器学习任务中的常见问题,特征选择算法能够从原始数据集中选取出最优特征子集,降低特征维度.提出一种混合式特征选择算法,首先用卡方检验和过滤式方法选择重要特征子集并进行标准化缩放,再用序列后向选择算法(SBS)与支持向量机(SVM)包裹的SBS-SVM算法选择最优特征子集,实现分类性能最大化并有效降低特征数量.实验中,将包裹阶段的SBS-SVM与其他两种算法在3个经典数据集上进行测试,结果表明,SBS-SVM算法在分类性能和泛化能力方面均具有较好的表现.

基于混合式特征选择的高分五号影像农田识别

精准农田识别是农作物估产和粮食安全评估的基础。遥感数据作为农田识别的重要数据源,可提供动态、快速的监测结果。高光谱数据在农田识别分类方面具有巨大的应用潜力,但其中的冗余波段影响了分类效率和分类精度。因此,本研究提出了一种适用于高光谱数据农田分类的混合式特征选择算法。首先,基于变量的重要性排序或约束程度,按步长逐步进行降维;其次,寻找分类精度骤减的转折点,并将其对应的变量作为特征子集;最后,利用序列后向选择SBS(Sequential Backward Selection)方法搜索最优分类特征子集。本研究利用GF-5高光谱数据,共研究了3种降维方法(随机森林RF(Random Forest)、互信息MI(Multi-Information)和L1正则化(L1 regularization))和3种分类算法(随机森林、支持向量机SVM(Support Vector Machine)和K近邻KNN(K-Nearest Neighbor))的组合在农田分类中的表现。结果表明,基于L1正则化法得到的特征子集自相关性较低,并且包含的红边和近红外波段有效提高了农田、森林和裸土的区分度。在不同分类模型比较中发现,SVM在高维空间中表现出非常好的抗噪能力,分类精度高于RF和KNN。而RF在低维空间中的泛化能力要高于SVM和KNN。相比于第一步降维得到的特征子集,使用SBS搜索得到的最优特征子集均提高了分类精度。最终,具有23维输入的L1-SVM-SBS分类模型得到了最高的总体分类精度(94.64%)和农田召回率(95.83%)。本研究为高光谱数据特征优选提供了一种新思路,筛选出了更具代表性的特征波段,提高了农田分类精度,对高光谱遥感分类研究具有参考价值。