多尺度上下文引导特征消除的古塔图像分类

针对古塔建筑图像分类任务中难以准确定位判别性特征以及复杂场景干扰的问题,提出多尺度上下文引导特征消除的分类方法.构建以MogaNet为核心的特征提取网络,结合多尺度的特征融合以充分挖掘图像信息;设计上下文信息提取器,利用网络的语义上下文来对齐和过滤更具判别性的局部特征,加强网络捕捉细节特征的能力;提出特征消除策略,抑制模糊类特征和背景噪声干扰,并设计损失函数来约束模糊类特征消除和分类预测;建立中国古塔建筑图像数据集,为细粒度图像分类领域内针对复杂背景和模糊边界的研究提供数据支撑.实验结果表明,所提方法在自建的古塔建筑数据集上达到了96.3%的准确率,并在CUB-200-2011、Stanford Cars和FGVC-Aircraft这3个细粒度数据集上分别达到了92.4%、95.3%和94.6%的准确率,优于其他对比算法,可以实现古塔建筑图像的精确分类.

基于递归特征消除−随机森林模型的江浙沪农田土壤肥力属性制图

以江苏省、浙江省、上海市农田为研究区,选用气候、地形、植被、土壤属性等自然环境协变量,及农业机械总动力、每公顷农用化肥施用量、农业总产值、农村用电量等农业活动变量,利用递归特征消除方法(RFE)对环境协变量进行筛选,基于筛选后的最优变量组合建立随机森林(RF)模型,进行表层土壤pH、有机碳、全氮、全磷、全钾、铵态氮、硝态氮、有效磷、速效钾、交换性钙、交换性镁11种主要土壤肥力属性的空间分布预测,并采用100次重复的十折交叉验证法进行验证。结果表明:①11个模型筛选出的环境协变量类型主要集中在气候、地形与植被变量,表征人类农业活动的变量在有机碳、全磷、全钾、铵态氮和有效磷预测中体现重要作用。②11个模型的决定系数(R^(2))在0.27~0.53,pH、速效钾、交换性镁和交换性钙的预测模型决定系数(R^(2))均在0.45以上。本研究表明人类活动变量对于土壤肥力预测具有重要意义,而递归特征消除−随机森林模型(RFE-RF)可以用于农田主要土壤肥力属性制图,为农业生产提供准确的土壤肥力属性空间分布信息。

递归特征消除与极端随机树在铣刀磨损监测中的研究

针对金属铣削过程中刀具磨损监测问题,本文提出了一种基于递归特征消除和极端随机树相结合的刀具磨损监测模型。首先对力、振动和声发射信号的时域、频域特征进行提取,分别采用逻辑回归、分类与回归树、线性回归、线性判别分析作为递归特征消除的基模型进行特征降维。再利用处理后的特征对K近邻、支持向量回归、极端随机树模型进行训练,得出多种监测模型。通过对比刀具磨损拟合曲线图和分析评估结果的标准差,可得出基模型为分类与回归树的递归特征消除,与极端随机树算法相结合模型拟合度达到99.74%,评估结果的标准差为4.04。结果表明该方法能够实现对铣刀磨损的有效监测,从而提高零件加工质量。

耦合递归特征消除与二维CNN的滑坡敏感性评价

针对传统滑坡敏感性评价方法仅考虑滑坡点本身的影响因子信息,而忽略周围空间信息的问题,本文提出了一种耦合递归特征消除与二维卷积神经网络相结合的方法。首先通过递归特征消除对滑坡影响因子进行排序与筛选;其次裁取二维特征因子集输入添加了L2正则化、Dropout等优化方法的二维CNN中,顾及滑坡周围的空间信息,在保证模型精度与泛化能力的基础上预测滑坡敏感性;然后以九寨沟地区为试验区,选取高程、岩性等14个相关因子作为滑坡影响因素,预测试验区的滑坡发生概率并绘制滑坡敏感性图;最后使用Logistic模型和带有3种不同核函数(线性核函数、径向基核函数、Sigmoid核函数)的SVM模型进行对比验证。结果表明,本文方法具有最高的准确度与AUC,且具有效性与可靠性。

基于递归纹理特征消除的WorldView-2树种分类

利用遥感影像识别树种是一个尚未解决的科学难题,传统方法在高分辨率影像树种分类中存在着诸多不适宜问题。本文通过提取WorldView-2影像的纹理特征构造高维数据,利用递归特征消除降低数据维数,逐步解除最大似然分类的休斯现象,并将有代表性的纹理特征集合与光谱特征结合,对树种进行分类。结果显示:在递归消除8个纹理特征后,最大似然的休斯现象达到了很好的规避;在结合光谱特征后,分类的总体精度达到了86.39%,Kappa系数达到了0.841 0,比基于光谱特征的总体精度和Kappa系数高12.32%和0.143 6。研究表明,在高维数据中通过递归特征消除规避最大似然分类的休斯现象,充分结合影像纹理与光谱信息对树种分类可以取得更为理想的结果。

基于对称不确定性和SVM递归特征消除的信息基因选择方法

基因表达谱中存在大量与肿瘤分类无关的基因,严重降低肿瘤诊断的准确率.基因表达谱还存在高维小样本、噪声大等问题,增加肿瘤诊断的难度.为了获取基因数量较少且分类能力较强的信息基因子集,文中提出基于对称不确定性(SU)和支持向量机递归特征消除(SVM-RFE)的信息基因选择方法.首先利用SU评估基因和类标签之间的相关性,根据SU定义近似马尔科夫毯,快速消除大量无关和冗余基因.然后利用SVM-RFE进一步剔除冗余基因,获取有效的信息基因子集.实验表明,文中方法可以在选取维数较少或相等的信息基因子集情况下获取较高的肿瘤分类性能.

基于多类支持向量机递归特征消除方法特征选择的原发性肝癌患者预后预测

本研究通过特征选择的方法,分析肝癌患者术前临床信息,提高患者的预后模型的准确性。基于多类支持向量机递归特征消除(recursive feature elimination based on multiple support vector machine,MSVM-RFE)方法对进行过肝切除手术的原发性肝癌患者的临床变量进行重要特征排序,使用5折交叉验证的支持向量机确定最优特征子集,构造原发性肝癌患者术后的1年、3年无瘤生存和总体生存的列线图。通过与临床医生沟通,确认特征排序结果为合理的。患者3年无瘤生存风险和总生存风险的列线图的一致性指数分别为0.701和0.706。使用多类支持向量机递归特征消除方法后的预测模型准确率有所提高,列线图在临床实践中能够提供患者生存风险信息,简单清晰的反映患者的生存风险。

基于支持向量机递归特征消除筛选急性心肌梗死相关免疫基因诊断急性心肌梗死的价值

目的基于支持向量机(SVM)递归特征消除(RFE)(SVM-RFE)筛选急性心肌梗死(AMI)相关的关键免疫基因,并探讨其在AMI中的诊断价值。方法通过基因芯片表达数据库(GEO)获取AMI患者基因表达芯片数据集GSE66360。通过SVM-RFE筛选AMI相关的免疫基因,进而用受试者工作特征(ROC)曲线评估其对AMI的诊断价值。结果共得到66个差异免疫基因,基于SVM-RFE最终得到8个免疫基因用于构建SVM分类器,该基因分类器在探索队列(AUC=0.998)和验证队列(AUC=1.00)中都具有极好的预测AMI的能力。通路富集分析特征基因主要参与血管平滑肌细胞增殖的调控及血管动脉硬化等过程。结论本研究识别出8个关键的免疫基因,发现其在AMI诊断中的潜在作用,并将增进对AMI发生的分子机制的了解。

基于递归特征消除方法的随机森林算法

基于随机森林算法中的相关预测因子进行变量选择,在高维回归或分类框架中,变量选择是一项艰巨的任务,甚至在高度相关的预测中变得更加具有挑战性,文章提供了在回归模型上置换重要性测量的理论研究,这使我们能够描述相关性预测和排名的重要性之间的影响。相比于原始随机森林算法使用重要性排名做变量选择,研究结果使用了递归特征消除(RFE)方法做变量选择。通过实验证明了RFE-RF方法对机器学习算法的正确预测有很大的帮助。

改进的多类支持向量机递归特征消除在癌症多分类中的应用

为处理癌症多分类问题,已经提出了多类支持向量机递归特征消除(MSVM-RFE)方法,但该方法考虑的是所有子分类器的权重融合,忽略了各子分类器自身挑选特征的能力。为提高多分类问题的识别率,提出了一种改进的多类支持向量机递归特征消除(MMSVM-RFE)方法。所提方法利用一对多策略把多类问题化解为多个两类问题,每个两类问题均采用支持向量机递归特征消除来逐渐剔除掉冗余特征,得到一个特征子集;然后将得到的多个特征子集合并得到最终的特征子集;最后用SVM分类器对获得的特征子集进行建模。在3个基因数据集上的实验结果表明,改进的算法整体识别率提高了大约2%,单个类别的精度有大幅度提升甚至100%。与随机森林、k近邻分类器以及主成分分析(PCA)降维方法的比较均验证了所提算法的优势。

基于递归特征消除和随机森林融合算法的大豆前体MicroRNA预测模型研究

随着大豆RNA基因的生物调控作用研究的不断深入,利用数据挖掘技术对大豆前体MicroRNA(pre-microRNA)进行有效的预测已成为该领域的重要发展方向。针对常规的随机森林算法在pre-microRNA预测模型中存在识别精度较低的问题,研究提出并构建基于递归特征消除(recursive feature elimination, RFE)与随机森林(random forest, RF)融合算法的大豆pre-microRNA预测模型。首先利用递归特征消除法筛选大豆pre-microRNA序列的最优特征子集;然后结合随机森林算法构建大豆pre-microRNA的预测模型;最后利用十折交叉验证法,将递归特征消除与随机森林(RFE-RF)融合模型的预测结果与单一随机森林和支持向量机分类模型的预测结果对比。研究结果表明:融合后构建的大豆pre-microRNA预测模型精度有明显提高,达到84.62%,相比于支持向量机算法(support vector machine, SVM)构建的模型精度提高了17.02%,相比于单独使用随机森林算法构建的模型精度提高了14.58%。该研究方法为大豆的pre-microRNA基因预测提供了新思路。

基于Lasso与RFE特征消除的RVM旋转机械故障预测

针对旋转机械故障诊断问题,提出一种基于相关向量机(RVM)的故障检测方法,RVM是一种用于回归和分类问题的贝叶斯稀疏核方法,其突出的优势是模型的稀疏性和预测的概率性。为进一步提高RVM模型的鲁棒性,减小样本数据中异常值对预测值的影响,针对Lasso方法进行特征选择时无法去除冗余特征的问题,提出以Lasso为底层算法的RFE递归特征消除方法去除样本数据集中无关特征和冗余特征。最后以工业环境下采集的数据作为样本集进行实验,同传统算法进行了比较,结果表明该方法在保持较高检测率的同时,提高了故障预测的时效性和稳定性。

基于递归特征消除-加权k近邻算法的多联机系统制冷剂充注量故障诊断策略

本文提出了一种基于递归特征消除-加权k近邻算法的多联机系统制冷剂充注量故障诊断策略。首先,基于专家先验知识筛选18个多联机运行特征,经数据预处理步骤后,采用递归特征消除(RFE)算法进行特征选择,筛选出最优特征子集;然后基于加权k近邻(wkNN)算法对训练集建立诊断模型,并采用网格搜索算法得到最优参数组合,对制冷剂充注量故障进行诊断。结果表明:该诊断策略弥补了现有方法中“只适用于单一工况、充注量等级分类少”等不足,选择重要性排列前7的特征集作为最优特征子集,在全工况和9个充注量等级的情况下,整体准确率为98.30%,受试者工作特征曲线下的面积(AUC)为0.9883,为设备维护人员提供了详细、关键的信息。

基于间隔二肽组分和递归特征消除法的DNA结合蛋白的鉴定

DNA结合蛋白(DNA-binding proteins,DBPs)的鉴定在原核和真核生物的基因和蛋白质功能注释研究中具有十分重要的意义.本研究首次运用间隔二肽组分(gapped-dipeptide composition,Gap DPC)结合递归特征消除法(recursive feature elimination,RFE)鉴定DBPs.首先获得待测蛋白质氨基酸序列的位置特异性得分矩阵(position specific scoring matrix,PSSM),在此基础上提取蛋白质的Gap DPC特征,通过RFE法选择最优特征,然后利用支持向量机(support vector machine,SVM)作为分类器,在蛋白质序列数据集PDB396和LB1068中进行夹克刀交叉验证(jackknife cross validation test).研究结果显示,基于PDB396和LB1068数据集,DBPs预测的准确率、Matthews相关系数、敏感性和特异性分别达到93.43%、0.86、89.04%和96.00%,以及86.33%、0.73、86.49%和86.18%,明显优于文献报道中的相关方法,为DBPs的鉴定提供了新的模型.

基于递归特征消除和Stacking集成学习的股票预测实证研究

该文以沪深300为投资标的池,选取波动指标、收益指标、经典技术指标和交易指标等4大类指标共24个二级指标作为评价因子,用递归特征消除法结合Stacking集成学习以及传统的随机森林、支持向量机和逻辑回归等4个机器学习算法分别构建分类模型,预测投资标的池中周频收益率排名前20%的股票标的,为投资者提供量化投资策略.实证研究对这4个模型的分类预测效果进行了比较.结果表明,基于递归特征消除法和Stacking集成学习的模型的预测性能最高,其AUC值达到0.6447,准确率为60.21%,精确率为59.87%,召回率为62.65%,F 1值为61.23%.因此,基于递归特征消除法和Stacking集成学习的模型能够有效地为投资者选取高收益率的投资标的,是一个可行的基于机器学习的量化投资策略.

基于支持向量机递归特征消除的电缆局部放电特征寻优

电缆局部放电通常由电缆缺陷引起。有效地识别局放信号可以快速地判断缺陷类型。本文提出了一种基于支持向量机递归特征消除且结合了K均值聚类算法的局部放电特征优选新方法。对原始数据提取特征后展开了K-SVM-RFE的特征寻优,按照权重大小获得了不同类型缺陷的局部放电特征排序结果,并对优选排序结果进行了验证。结果表明,不同类型局部放电信号有效特征参数是测试电压和相角与极性的乘积。不同算法下的验证结果表明,本文提出的K-SVM-RFE的特征寻优方法是一种有效的电缆局部放电特征优选方法,可大幅提高电缆缺陷的故障诊断率。

基于递归特征消除选择的粒子群优化-支持向量机回归模型的滑坡位移预测方法

在季节性降水及水库水位变化的影响下,部分山体会产生滑坡,滑坡位移的累积位移-时间曲线表现为明显的“阶跃型”动态变形特征。针对阶跃型滑坡位移,提出基于递归特征消除(RFE)算法的粒子群优化算法(PSO)-支持向量机回归(SVR)阶跃型滑坡位移预测模型,并以新铺滑坡为例展开研究。探究了滑坡位移数据的异常值剔除及缺失值填充方法,采用基于中位数法与集合经验模态分解的方法进行异常值剔除,采用基于统计学变量的方法进行缺失值填充;然后采用指数平滑法将阶跃型滑坡的累积位移拆分为趋势项和周期项。其中对趋势项位移采用傅里叶曲线进行拟合预测;对周期项位移通过基于SVR的RFE筛选出与周期项位移相关性高的影响因子,建立周期项位移预测模型,采用PSO对预测模型参数进行优化;最后,叠加周期项与趋势项位移预测结果,得到滑坡累积位移预测值,所提模型拟合优度为0.999,均方根误差为9.974 mm,平均绝对误差为7.037 mm。与网络搜索交叉验证算法-优化支持向量机模型(GSCV、SVR模型)、遗传算法优化-支持向量机模型(GA-SVR模型)对比,该模型对于突变位移的预测能力较强,适用于阶跃型滑坡中位移加速变化时期的风险预警。

递归特征消除法在商品需求预测的应用

需求预测作为企业供应链的第一道防线,有着至关重要的作用.需求预测因受多种因素的影响,准确率长期不佳.文中借助Python的可视化库进行数据可视化操作,通过特征相关性分析增强数据的可读性.采用XGBoost、LightGBM和随机森林等机器学习模型,寻找对需求量影响较大的特征,运用递归特征消除法对特征进行排序得分,以获得更准确的需求预测结果 .提取、添加特征并分组合并,以提高预测的精确性.基于递归特征消除法并利用数据可视化提升数据提取准备度,在具体应用实例能提高准确率和缩短运行时间.

基于随机森林-特征递归消除模型的可解释性缓丘岭谷地貌滑坡易发性评价

研究旨在基于随机森林-特征递归消除模型,通过SHAP算法(SHapley Additive exPlanation,SHAP)与部分依赖图(Partial Dependence Plot,PDP)对缓丘岭谷地貌区域进行滑坡易发性评价与内部机制解释,以期为地质灾害防治研究提供参考。利用优化随机森林算法对典型缓丘岭谷地区滑坡易发性进行研究,建立缓丘岭谷滑坡易发性评价模型;利用特征递归消除算法剔除噪声因子,选取地形地貌、地质构造、环境条件、人类活动5个类型16个因子构建重庆合川区滑坡致灾因子数据库;结合合川区754个历史滑坡点,利用随机森林算法对因子重要性进行排序,并根据专家经验法对研究区的滑坡易发性进行划分,将研究区的滑坡易发性分为极低、低、中、高、极高5个等级;应用部分依赖图对合川区滑坡发生影响大的因子进行解释和SHAP算法对个体滑坡进行局部解释。结果表明:与原模型相比,随机森林-特征递归消除模型测试集AUC值提高了0.019,证明了特征递归消除算法的有效性;训练集以及测试集的AUC值分别为0.769、0.755,具有较高的预测精度;缓丘缓坡地区在起伏较大地区滑坡密度较大,历史滑坡多集中于高易发地区;滑坡的空间分布具有不均匀性与复杂性,各致灾因子对滑坡发生的影响有着明显的区域特征与空间异质性,在缓坡丘陵地区多年平均降雨、高程、岩性3个因子对滑坡发生的影响最大;由SHAP算法对合川白塔坪上山公路滑坡事件进行解释,岩性与高程对滑坡起抑制作用,起伏度、坡度、归一化植被指数(NDVI)与POI核密度促进滑坡发生。综上所述,基于随机森林-特征递归消除模型在缓丘岭谷区滑坡易发性评价中具有较高的准确性,通过部分依赖图与SHAP算法对全局滑坡与个体滑坡发生的内在机理进行解释分析,有利于构建与完善不同地貌环境下滑坡易发性评价因子体系并探究滑坡内部决策机理,可为区域滑坡易发性评估与地质灾害防治提供参考。

面向土地覆盖精准分类的遥感特征参数优选方法

在显著气候变化叠加人类活动干扰的背景下,可持续的自然资源管理对于精准掌握土地覆盖信息的需求不断提升。为应对地表形态的复杂性、地物类型的多样性、遥感图像特征的非线性给传统遥感图像分类方法带来的挑战,本文基于随机森林Gini指数,提出了一种10%阈值决策的遥感特征参数优选方法,旨在筛选出最优的遥感特征参数组合,达到最佳土地覆盖分类效果。首先,选择光谱特征、纹理特征、温热特征、高程特征、主成分特征组成遥感影像堆栈。然后,设置多组决策树对特征贡献度进行交叉验证,并根据特征重要性的归一化均值确定特征排序。最后,设定阈值,筛选出符合要求的遥感特征参数,并迭代过程。选择覆盖江苏盐城自然保护区的Sentinel-2遥感图像开展试验,结果表明,本文方法筛选出的遥感特征参数代表性好,与CART、SVM、KNN和只使用波段信息的RF相比,分类结果地物边界清晰,类别属性准确,总体精度和Kappa系数分别为96.20%和0.9556。本文研究能够为区域空间规划和可持续发展提供技术支持。