面向不平衡医疗数据的多阶段混合特征选择算法

为解决医疗数据中存在的特征高维和类别不平衡问题,在基于简单、快速和有效高维特征选择算法SFE(simple,fast and effective high-dimensional feature selection)的基础上,提出了一种面向不平衡医疗数据的多阶段混合特征选择算法HFSIM(hybrid feature selection for imbalanced medical data)。HFSIM算法采用改进的自适应边界SMOTE过采样技术,生成符合边界条件的新少数类实例以解决医学数据中类不平衡问题。同时,为了改善搜索空间多样性不足的问题,优化了SFE算法中的非选择操作符率参数UR(unselected rate),有效避免了算法过早收敛及易陷入局部最优的问题。将过滤式Fisher Score方法与优化UR参数后的算法有效结合,使算法能以较低的计算成本获得较好寻优能力。经实验验证,相比于SFE算法,HFSIM算法在Ovarian数据集上准确率达到99.67%,提升了2.11个百分点,G-means和F1分别提升了5.13和2.30个百分点。此外,通过对比特征数量和运行时间,证明了HFSIM算法既能保证算法精度又有效降低了计算成本。

基于局部离群因子的HRRP开集识别特征选择方法

特征选择是雷达目标识别流程中一个较为关键的环节,通过对原始特征集进行筛选,挑选出其中的优质特征构成新的特征子集,可以有效增加识别准确率,提升识别效率。为了提升开放环境下高分辨距离像(High Range Resolution Profile,HRRP)的识别性能,针对现有特征选择方法基于闭集假设,无法有效应对实际应用中存在库外目标导致的开集识别(Open Set Recognition,OSR)性能下降问题,本文提出了一种基于局部离群因子(Local Outlier Factor,LOF)的HRRP开集识别特征选择方法。首先,从原始HRRP中提取15维特征向量作为原始特征集;其次,该方法引入聚合性概念,并使用LOF作为其度量,通过评估特征子集的聚合性来保证其在OSR时具有最小的开放空间风险。同时,采用重心法评估特征子集的可分性,并使用前向搜索算法优化特征选择过程,确保所选特征子集为维数约束下的最优解。实验结果表明:利用所提方法选择的特征子集在开集环境下识别性能优于现有特征提取方法,提升了开集环境下高分辨距离像的识别性能。

考虑数据预处理和特征选择的静力触探参数研究

确定土性参数对岩土工程的设计与施工具有重要意义,静力触探测试(Cone penetration test, CPT)是主要的原位测试方法,利用该方法可以得到锥尖阻力,从而获得多种海洋土土性参数。以CPT勘察获得的锥尖阻力实测值为研究对象,通过分析土体空间位置、上覆土压力和孔隙率等特征,利用XGBoost算法构建机器学习模型,同时在建模中考虑数据预处理和特征选择以改善模型预测性能,其中数据预处理方式包括箱型图分析法和噪声平滑处理。提出了一种考虑数据预处理和特征选择的静力触探参数预测模型,实现对锥尖阻力的准确预测,并将该方法运用到浙江沿海某工程项目。研究结果表明:所提模型的预测值与实测值的R^(2)为0.951,预测准确性较高。箱型图分析法与噪声平滑处理能够有效提高预测准确性,在输入集中加入孔隙率能够提升预测准确性。

基于多粒度模糊邻域熵的在线流组特征选择

针对传统在线流组特征选择方法无法处理异常或者缺失的不完备混合数据,导致特征选择效果不佳的问题,在不完备系统中提出一种基于多粒度模糊邻域熵的在线流组特征选择算法。考虑不完备混合数据中的不确定信息,将决策自信息与模糊邻域熵相结合,从代数和信息视角提出多粒度模糊邻域熵;提出在线流组内、组间粒选度,根据模糊邻域对比度对特征组进行冗余分析。在8个公共数据集上进行实验对比分析,所提算法在处理不完备混合数据时能有效消除冗余特征,提高数据的分类精度。

基于特征选择及ISSA-CNN-BiGRU的短期风功率预测

针对风电功率随机性大、平稳性低,以及直接输入预测模型往往难以取得较高精度等问题,提出了一种基于特征选择及改进麻雀搜索算法(ISSA)优化卷积神经网络-双向门控循环单元(CNN-BiGRU)的短期风电功率预测方法。首先,利用变分模态分解(VMD)将原始功率分解为一组包含不同信息的子分量,以降低原始功率序列的非平稳性,提升可预测性,同时通过观察中心频率方式确定模态分解数。其次,对每一分量采用随机森林(RF)特征重要度的方法进行特征选择,从风速、风向、温度、空气密度等气象特征因素中,选取对各个分量预测贡献度较高的影响因素组成输入特征向量。然后,建立各分量的CNN-BiGRU预测模型,针对神经网络算法参数难调、手动配置参数随机性大的问题,利用ISSA对模型超参数寻优,自适应搜寻最优参数组合。最后,叠加各分量的预测值,得到最终的预测结果。以中国内蒙古某风电场实际数据进行仿真实验,与多种单一及组合预测方法进行对比,结果表明,本文所提方法相比于其他方法具有更高的预测精度,其平均绝对百分比误差值达到2.644 0%;在其他4个数据集上进行的模型准确性及泛化性验证结果显示,模型平均绝对百分比误差值分别为4.385 3%、3.174 9%、1.576 1%和1.358 8%,均保持在5.000 0%以内,证明本文所提方法具有较好的预测精度及泛化能力。

基于轻量化特征选择的镜片多尺度缺陷检测系统研究

为解决对镜片缺陷识别和定位困难的问题,设计了一种基于轻量化特征选择(LFSN)的镜片多尺度缺陷检测系统。首先通过四步相移栅格光成像系统采集缺陷图像,基于傅里叶变换对图像进行融合以提高图像质量;然后,LFSN使用自动特征层选择结构,在训练过程中计算无锚框分支损失,获得最优特征层信息,更新参数,从而优化模型对不同缺陷大小信息的学习能力;还使用了深度分离可变卷积,通过双线性插值增加像素点在平面的偏移量,从而提升模型对缺陷形貌的主动学习能力,并一定程度减少模型训练参数量,降低检测时间,同时优化回归定位损失明确各阶段训练任务,利用一次惩罚项指导前期预测框中心距离回归;利用归一化二次项,指导后期预测框大小比例回归,使预测框更接近真实值;最后,通过实验采集镜片缺陷图像,并构建数据集进行对比实验。实验结果表明:识别和定位镜片的缺陷的准确率为96.3%,单幅检测时间为24.9 ms。

基于LightGBM-VIF-MIC-SFS的风电机组故障诊断输入特征选择方法

针对风电机组数据采集与监视控制(SCADA)系统数据维数较高、特征冗余、特征相关性高导致风电机组的故障诊断过程存在误差大、分类正确率低的问题,提出一种基于LightGBM-VIF-MIC-SFS的三段式特征选择方法。首先,根据LightGBM实现对所有特征的重要性计算,确定初步特征空间;其次,根据方差膨胀因子(VIF)和最大信息系数(MIC)构建相关性判别阵,据此评估一次筛选中重要性相近的特征,舍弃相似性高的输入特征;最后,使用序列前向搜索法对特征进行第3次处理,逐个输入前2次特征选择获得的特征,保留能提升系统性能的特征,从而实现最终特征的选取。在完成了模型的建立后,使用风电场真实SCADA系统数据进行性能评估,将所提方法与2种对比算法在6个数据集上进行对比,结果显示所提出的LightGBM-VIF-MIC-SFS相较2种对比特征选择算法有显著优势。对所提方法内部的3个模块进行了消融实验,有效验证了所提特征选取方法内部各个模块的有效性以及基于所提方法得到的最优特征空间的合理性及准确性。

采用进化计算的高维多模态特征选择

针对特征选择问题中的多模态特性和高维特性,引入新的种群初始化策略对大规模多模态多目标优化算法进行改进,提出了一种基于进化多目标优化的高维多模态特征选择算法。对原始的连续优化算法进行离散化处理,用于评价离散优化问题中的个体,并在6个高维特征选择数据集上进行验证。结果表明:所提算法提升了初始种群的质量并加快了算法的收敛;相比于其他同类算法,所提算法获得了更优的帕累托前沿,其超体积指标值整体最优,并且在不影响分类精度的前提下可获得平均2.53个等效特征子集,表明所提算法具有最好的分类精度和最多样化的等效特征子集。

面向特征选择任务的改进蜣螂优化算法

蜣螂优化算法是一种基于蜣螂不同行为模式的新型启发式算法,与其他算法相比的收敛速度更快,逃脱局部最优的能力更强。针对蜣螂优化算法不能进行特征选择的问题,在蜣螂优化算法的基础上提出了蜣螂灰狼融合算法。该算法基于3种改进策略:精英初始化种群策略、灰狼蜣螂融合策略、运行加速策略,进一步提高蜣螂优化算法在特征选择任务上的性能,并给出了算法整体的伪代码。实验结果表明,比较其他改进型启发式算法,蜣螂灰狼融合优化算法在12个分类数据集中能够得到更高精度、更低维度的特征子集,同时兼备收敛速度、运行速度更快的优点。

改进麻雀搜索算法的入侵检测特征选择

针对网络入侵检测所处理数据存在特征维数高、检测效率低、准确率不高的问题,提出一种改进麻雀搜索算法的特征选择方法,旨在减少特征冗余的同时提高分类准确率。利用改进Circle映射初始化种群;结合秃鹰搜索算法中的螺旋搜索方式更新发现者位置;采用单纯形法和小孔成像法优化适应度较差和最优麻雀的位置,提升算法的寻优能力。将该算法与其它算法在6个经典基准函数上进行对比测试,其在收敛速度、精度等方面均有提升。使用数据集CIC-IDS2017进行特征选择实验,平均保留了7.6个特征,准确率达到了99.5%,结果表明,该算法可以在保证准确率的同时有效降低特征维度。

基于模糊邻域判别指数的在线流组特征选择

在线流组特征选择可以充分利用特征流中原始的组结构信息,以在线的方式处理特征选择问题。然而,现有方法大多无法处理具有模糊性和不确定性的数据。为此,提出一种基于模糊邻域判别指数的在线流组特征选择算法。设计一种模糊邻域判别指数,用于描述模糊邻域粒的判别信息,扩展相关的不确定性度量方法。在此基础上,用组内特征选择和组间特征选择两种策略选择具有强近似能力且非冗余的特征。在8个公共数据集上进行对比实验,验证了该算法具有更优且稳定的分类性能。

基于不一致近邻的模糊粗糙集特征选择

模糊粗糙集可突破经典粗糙集仅能处理离散数据的局限,有效对连续型数值进行特征选择。然而,模糊粗糙集以对象为中心计算,时间复杂度高,难以处理高维和大规模数据。为此,基于水平截集提出一种不一致近邻加速策略。该策略跟踪论域中每个对象的模糊近邻集,持续删减其中不影响计算的近邻,若对象的不一致近邻删减至空,则删减该对象,从而提高算法效率。同时,设计一种基于不一致近邻递减的属性重要度,可有效抑制冗余特征入选,提升效率及分类精度。通过理论证明,所提的加速策略及属性重要度不影响属性入选的次序。在此基础上,提出新的模糊粗糙集特征选择算法。在9个UCI和scikit数据集上进行验证,实验结果表明,该算法不仅有效缩短运行时间,并可取得较高的分类精度,相比FA-FSCE、AVDP和IV-FS-FRS-2算法,运行时间至少可缩短9.44%,尤其在高维和大规模数据上可缩短61.01%~99.54%,在支持向量机和K-近邻算法的分类精度上最高可分别提高11.20%和19.95%。

增强学习标签相关性的多标签特征选择方法

针对现有多标签特征选择方法存在的两个问题:第一,忽略了学习标签相关性过程中噪声信息的影响;第二,忽略探索每个簇的综合标签信息,提出一种增强学习标签相关性的多标签特征选择方法。首先,对样本进行聚类,并将每个簇中心视为一个综合样本语义信息的代表性实例,同时计算其对应的标签向量,而这些标签向量体现了每个簇包含不同标签的重要程度;其次,通过原始样本和每个簇中心的标签级自表示,既捕获了原始标签空间中的标签相关性,又探索了每一个簇内的标签相关性;最后,对自表示系数矩阵进行稀疏处理,以减少噪声的影响,并将原始样本和每个簇代表性实例分别从特征空间映射到重构标签空间进行特征选择。在9个多标签数据集上的实验结果表明,所提算法与其他方法相比具有更好的性能。

具有潜在表示和动态图约束的多标签特征选择

针对现有嵌入式方法忽略实例相关性的潜在表示对伪标记学习的影响以及固定的图矩阵导致计算误差随迭代的加深而不断增大的问题,提出一种具有潜在表示和动态图约束的多标签特征选择方法.该方法首先利用实例相关性的潜在表示构造伪标签矩阵,并将其与线性映射和最小化伪标签与真实标签之间的Friedman范数距离相结合,从而保证伪标签与真实标签之间具有较高的相似性.其次,利用伪标签的低维流形结构构建动态图,以缓解固定图矩阵导致的随迭代深度增加计算误差的问题.在12个数据集上与7种先进方法的对比实验结果表明,该方法的整体分类性能优于现有先进方法,能较好地处理多标记特征选择问题.

基于混合特征选择和IOMA-CNN的变压器故障诊断

为解决变压器油中溶解气体故障特征种类不足和诊断模型准确率较低的问题,提出一种混合特征选择方法。并利用改进光学显微镜优化算法(improvedopticalmicroscopealgorithm, IOMA)优化卷积神经网络(convolutional neuralnetworks, CNN),实现变压器故障诊断。首先,基于相关比值法构建30维变压器故障候选特征集,采用混合特征选择方法,通过两次特征选择确定输入集的特征维数。其次,引入Tent混沌映射、自适应t分布变异与动态选择策略改进光学显微镜优化算法(optical microscope algorithm, OMA),提升其寻优性能。然后,利用IOMA算法对CNN模型的学习率、卷积核大小和数量等超参数进行优化。最后,构建IOMA-CNN变压器故障诊断模型并通过算例分析对其性能进行评估。实验表明,所提方法故障诊断准确率达到98.5%。与常规特征选择方法相比,利用混合特征选择方法所选择的输入特征进行故障诊断能够有效提升诊断准确率。相较于其他优化诊断模型,IOMA-CNN具有更高的准确率和更好的稳定性。

面向辐射源识别的多尺度特征提取与特征选择网络

目前应用于辐射源识别的卷积神经网络对时序同相正交(in-phase and quadrature-phase,IQ)信号的处理有两种方式:一种方式是将其变换为图像,另一种方式是提取IQ时序数据的浅层特征。前一种方式会导致算法计算量大,而后一种方式会导致识别准确率低。针对上述问题,提出一种多尺度特征提取与特征选择网络。该网络以IQ信号为输入,经多尺度特征提取网络提取IQ信号的浅层特征和多尺度特征,采用特征选择网络降低多尺度特征的数据维度,通过自适应线性整流单元实现特征增强,使用单个全连接层对辐射源进行分类。在FIT/CorteXlab射频指纹识别数据集上,与ORACLE、CNN-DLRF和IQCNet对比实验表明,所提网络在一定程度上提高了识别准确率,降低了计算量。

基于特征选择的LightGBM算法预测钠离子电池剩余寿命

钠离子电池剩余使用寿命(RUL)的准确预测对于可再生能源系统中的大规模储能设备具有重要意义.提出了一种基于特征选择的LightGBM方法来预测钠离子电池的剩余使用寿命.通过结合Pearson相关系数和灰色关联度,选择了四个与电池寿命高度相关且不同特征之间自相关程度较低的最佳特征.采用LightGBM模型,并结合网格搜索(GridSearchCV)算法对其超参数进行优化,以达到最佳的预测性能.通过钠离子电池数据验证了预测模型的优越性,并与使用GridSearchCV算法的GBRD和RF模型在相同条件下进行比较.结果表明,该方法能够显著加快模型运算速度,并相比传统算法具有更高的可靠性和更好的预测性能,预测的最大MAE、MSE、RMSE分别不超过3.0、17.7、4.2.

基于特征选择和ELM神经网络的轴承可靠性预测

针对滚动轴承可靠性预测问题,提出了基于特征选择和ELM网络的可靠性预测方法。首先,对振动信号提取特征,构成特征参数初选集;其次,引入单调性、相关性、鲁棒性三个特征评价指标对特征参数初选集进行特征评价,并定义了一种新的限制性指标,得到可以反映轴承退化过程的参数,构成退化特征参数集;再次,对退化特征参数集进行维数约简,构成低维特征向量集;最后,以退化特征参数集和特征向量集分别为输入数据和标签带入ELM网络中做可靠性预测。通过西安交通大学轴承振动信号数据集证明了该方法的有效性。

基于生物入侵的特征选择算法

在自然界中,生物入侵以其发展的迅速和巨大的生态影响而受到关注,所引入种群对合适栖息地的寻找过程往往有其内在的逻辑,种群之间的交流和种群的扩张也在这个过程中起到了重要作用。通过探究种群对适宜栖息地的寻找原理,提出一种基于生物入侵的特征选择(BIAFS)算法。在BIAFS算法中,生物入侵过程分为种群建立、种群迁移、种群交流和扩张、种群发展4个阶段。在实验验证过程中,在9个数据集上将BIAFS算法与8种高性能算法进行实验比较。实验结果显示,BIAFS算法在7个数据集上的分类准确率(CA)和降维(DR)率均超过了对比算法。此外,适应度标准偏差的比较实验也证实了BIAFS算法的高稳定性,表明其在多个数据集上能更加稳健地寻找最优解。上述实验结果证明了BIAFS算法在特征选择任务中的有效性和优越性。

基于Bagging集成的高维不平衡数据特征选择方法

随着大数据的发展,很多应用领域样本都以高维形式呈现,而数据集的高维特性会削减不平衡学习的分类效果。针对高维不平衡数据的分类问题,文章提出了一种基于SVM-RFE与Bagging集成的自适应特征选择方法WAFS,该算法结合嵌入式与包装式的特征选择方法,能够自适应地选择最优特征构成特征空间。在5个不同维度(100~5000)的高维不平衡公开数据集上与基于过滤式的CSFS特征选择算法和基于嵌入式的ASG特征选择算法进行了对比分析,并探究了适合不同数据集的最佳采样方式以及不同维度数据集的最优特征空间率。以AUC、Acc、Recall、F1-score和G-mean为评估指标,实验结果表明,WAFS算法在不同维度数据集上都有比较好的表现,尤其是在分类高维小样本的不平衡数据集上具有巨大优势,在保证了准确率的前提下,该模型也有很强的稳定性和泛化性。