基于Relief-F算法的心血管介入患者术后死亡风险预测

针对心血管介入患者全周期病理数据普遍存在缺失、不连续、非结构化等问题,建立了心血管介入专病数据库,并采用基于Relief-F算法的预测方法,对心血管介入患者术后死亡风险进行预测。首先参照HL7、CDISC等国际心血管疾病统一标准对各数据源进行标准化处理,建立研究数据集,并对数据进行清洗和预处理;其次采用Relief-F算法对特征进行选择,最终保留30个特征变量;再次选择逻辑回归、支持向量机、随机森林等3种机器学习方法进行建模分析,并采用10折交叉验证方法对分类器进行训练;最后引入准确率等模型评价指标来评估各算法在数据集上的分类预测效果。实验结果表明:随机森林的分类效果在该研究数据集上的表现最佳,准确率达到81.97%,精确率为86.90%,召回率为82.14%,F1值为0.8441。该研究提出的方法能够客观反映患者术后死亡风险,为心血管介入患者术后死亡风险预测提供了一种有效的解决方案。

不平衡数据集上的Relief特征选择算法

Relief算法为系列特征选择方法,包括最早提出的Relief算法和后来拓展的ReliefF算法,核心思想是对分类贡献大的特征赋予较大的权值;特点是算法简单,运行效率高,因此有着广泛的应用。但直接将Relief算法应用于有干扰的数据集或不平衡数据集,效果并不理想。基于Relief算法,提出一种干扰数据特征选择算法,称为阈值-Relief算法,有效消除了干扰数据对分类结果的影响。结合K-means算法,提出两种不平衡数据集特征选择算法,分别称为K-means-ReliefF算法和K-means-Relief抽样算法,有效弥补了Relief算法在不平衡数据集上表现出的不足。实验证明了本文算法的有效性。

基于Q-relief的图像特征选择算法

针对特征选择算法——relief在训练个别属性权值时的盲目性缺点,提出了一种基于自适应划分实例集的新算法——Q-relief,该算法改正了原算法属性选择时的盲目性缺点,选择出表达图像信息最优的特征子集来进行模式识别。将该算法应用于列车运行故障动态图像监测系统(TFDS)的故障识别,经实验验证,与其他算法相比,Q-relief算法明显提高了故障图像识别的准确率。

极大熵Relief特征加权

Relief特征加权的最新研究进展表明其可近似地表述为一个间距最大化优化问题.尽管该类算法广为应用,但仍然存在一些缺陷.为了提高Relief特征加权的适应性和鲁棒性,融合间距最大化和极大熵理论,并由此探讨了新的鲁棒的具有更好适应性的Relief特征加新方法.首先,构造了一个结合极大熵原理的间距最大化目标函数.对于该目标函数,运用优化理论得到一些重要的理论结果.在此基础上,对于两类数据、多类数据和在线数据,提出了一组鲁棒的Relief特征加权算法.利用UCI基准数据集和基因数据集进行了实验验证,结果表明提出的新Relief特征加权算法对噪音和例外点显示出了更好的适应性和鲁棒性.

基于GF-1遥感影像和relief-mRMR-GASVM模型的小麦白粉病监测

选择合适的建模和特征选择算法对提高作物病害的遥感监测水平有着重要的作用。研究以河北省小麦白粉病为研究对象,基于GF-1/WFV数据共提取了4个波段反射率数据和10个对作物长势和胁迫敏感的植被指数作为初选特征。针对常用的特征提取算法relief算法筛选出的特征存在冗余性的问题,提出了一种relief结合最小冗余最大相关(minimum redundancy maximum relevance,m RMR)的特征降维算法(relief-m RMR)。首先,通过relief算法计算出各特征的权重系数,对特征集进行加权;然后利用m RMR算法选出与类别具有最小冗余性的特征,利用支持向量机(support vector machine,SVM)对河北白粉病进行监测,并用遗传算法(genetic algorithm,GA)优化的SVM(GASVM)建立了白粉病的监测模型(relief-m RMR-GASVM),将监测结果分别与SVM和网格寻优(grid search,GS)算法优化的SVM(GSSVM)的监测结果进行对比分析,同时比较了该方法与Ada Boost、粒子群(Pso)优化的最小二乘支持向量机(least squares support vector machine,Pso-LSSVM)和随机森林(random forest,RF)3种方法的优越性。结果表明,relief-m RMR算法筛选出的特征与GASVM、SVM和GSSVM建立的监测模型精度比传统relief算法筛选特征所建模型的精度分别提高了14.3个百分点、7.2个百分点和7.1个百分点,比传统m RMR算法筛选特征所建模型的精度分别提高了14.3个百分点、14.3个百分点和14.2个百分点。relief-m RMR算法结合GASVM建立的监测模型精度为所有模型中最高,精度为85.7个百分点,分别比SVM和GSSVM所建监测模型精度提高了21.4个百分点和7.2个百分点。此外,GF-1数据结合relief-m RMR-GASVM模型的监测精度分别高出Ada Boost、Pso-LSSVM和RF方法21.4个百分点、14.3个百分点和7.1个百分点。说明GF-1数据结合relief-m RMR-GASVM模型可用于小麦白粉病的遥感监测。

基于Relief相关性特征提取和微分进化支持向量机的短期电价预测

针对电价预测中特征输入量选择的盲目性,本文通过改进传统的Relief算法,提出一种电价预测输入量的自动选取方法,并引入相关性分析来剔除冗余特征。在此基础上,采用支持向量机来建立电价预测模型并应用微分进化算法来优化选择支持向量机的参数以达到提高预测精度的目的。以PJM电力市场的真实电价来进行仿真分析,结果表明本文的特征选取方法能够很好地提取电价的短期趋势特征和周期性特征,而微分进化优化的支持向量机也获得了比常规支持向量机和BP神经网络要好的预测结果,体现了本文方法的优越性。

基于Relief算法的故障图像识别与匹配方法

针对图像识别与匹配问题,提出一种基于Relief算法的新方案。利用k最近邻的Relief算法选择表达图像的最优特征子集,再利用基于最小距离分类器的模板匹配技术,实现故障图像的识别。在特征提取时,改进了对传统的灰度共生矩阵的选取。实验证明,该算法正确识别图像故障与否的概率能到达90%左右,提高了特征选择的有效性,完全满足实际应用中的需要。

改进Relief-C5.0的恶意域名检测算法

针对目前恶意域名检测算法中分类模型计算复杂度较大、实时性不强以及准确率不高等问题,提出了Rf-C5(Relief-C5.0)恶意域名检测算法模型。提取待测域名的全局URL特征,根据提取的特征按照改进的Relief算法进行权重计算,并依据权重值进行优先级排序;选取权重值排名前20的关键特征作为C5.0分类器的输入端,进行合法域名与恶意域名的分类。实验结果表明,在大样本数据集下,Rf-C5模型与当前主流恶意域名检测算法相比,在提高平均检测速率的基础上,检测准确率提高了1.58~4.91个百分点。

Relief算法在关门车故障自动识别中的应用

针对货车运行故障动态图像检测(TFDS)系统中的图像识别问题,提出一种基于Relief算法的解决方案。该方案采用梯度—共生矩阵的数字特征来描述一幅图像,然后通过Relief算法进行有效的特征选择,根据这些特征,通过模板匹配技术,最终检测出关门车故障。现场运用表明,该方案具有很高的实用性。

基于Relief和BFO的并行支持向量机算法

针对大数据环境下并行支持向量机(SVM)算法存在冗余数据敏感、参数选取困难、并行化效率低等问题,提出了一种基于Relief和BFO算法的并行SVM算法RBFO-PSVM。首先,基于互信息和Relief算法设计了一种特征权值计算策略MI-Relief,剔除数据集中的冗余特征,有效地降低了冗余数据对并行SVM分类的干扰;接着,提出了基于MapReduce的MR-HBFO算法,并行选取SVM的最优参数,提高SVM的参数寻优能力;最后,提出核聚类策略KCS,减小参与并行化训练的数据集规模,并提出改进CSVM反馈机制的交叉融合级联式并行支持向量机CFCPSVM,结合MapReduce编程框架并行训练SVM,提高了并行SVM的并行化效率。实验表明,RBFO-PSVM算法对大型数据集的分类效果更佳,更适用于大数据环境。

局部一致性的信息熵Relief特征加权算法

为了改善传统Relief算法适应性和鲁棒性差的缺陷,融合间距最大化、信息熵和分类局部一致性,构造了新的间距最大化目标函数,并进一步对目标函数进行优化,得到一些新的理论结果。在此基础上提出了新的基于两类数据的Relief特征加权算法LIE-Relief-T(Local consistency information entropy Relief algorithm based twoclass data),并将其扩展到多类数据的特征加权算法LIE-Relief-MLocal consistency information entropy Relief algorithm based multi-class data)。利用UCI和基因表达数据集进行实验验证,结果表明该新的Relief特征加权算法分类错误率较低,对噪声和野点表现出了更好的适应性和鲁棒性。

基于Relief算法的特征学习聚类

聚类作为数据挖掘常用工具之一,是按照事物间的相似性进行的一种无监督分类.然而传统的聚类方法较少考虑特征权值.为此,通过研究、分析Relief算法及其在聚类应用中存在的问题,提出了一种基于Relief算法的特征评价函数,并将此函数运用到特征学习聚类中,以解决特征权值取值不当对聚类产生的负面影响.

基于ReliefF和PSO混合特征选择的面向对象土地利用分类

针对面向对象土地利用分类存在特征维数过高的问题,提出了一种结合Relief F和粒子群优化算法(particle swarm optimization,PSO)的混合特征选择方法,即首先利用Relief F作为特征预选器滤除相关性小的特征,然后以PSO作为搜索算法,以支持向量机(support vector machine,SVM)的分类精度作为评估函数在剩余特征中选择出最优特征子集。该文以吉林省长春市部分区域为研究区,采用Landsat8遥感影像为数据源,首先对其进行多尺度分割,然后提取影像对象的光谱、纹理、形状和空间关系特征,利用提出的混合特征选择方法选取最优特征子集,最后使用SVM分类器对研究区进行土地利用分类,总体分类精度和Kappa系数分别为85.88%和0.8036,与基于4种其他特征选择方法的土地利用分类结果进行比较,基于Relief F和PSO的混合特征选择方法利用最少的特征获得最高的分类精度,能够有效地用于面向对象土地利用分类。

基于迭代式RELIEF算法的农业环境地形标记

为了能够根据当前场景内容在线提取优势推理特征,使得提取后的优势特征集能更好地区分当前场景的地形类别,满足农业机器人室外导航环境要求,提出一种基于迭代式RELIEF算法的农业机器人地形标记方法。该方法通过超像素分割产生训练样本,由迭代式RELIEF算法输出一个特征权重向量,向量每个元素的值代表其所对应的候选特征对地形标记的影响程度,通过对特征权重设定阈值来剔除大量无关特征。地形标记试验结果表明,该方法不但能够将地面标记准确率与障碍标记召回率分别提高1%与0.8%,还能将SVM地形分类器的计算复杂度降低40%左右。在导航试验中,该方法能够使农业机器人的导航效率提高15%左右。

利用Relief特征加权进行基于小波变换的纹理分割

在利用小波进行纹理分割的相关研究中,通常小波分解的四个子带对分类的贡献是均匀的。为了考虑不同子带对图像分割的不同影响,提出了一种利用Relief算法对小波分解的子带特征进行加权的算法。首先对纹理图像进行标准金字塔结构小波变换,对小波变换后的各层四个子带进行特征提取作为纹理图像的四维特征;从粗尺度开始对纹理图像进行K均值分割,得到初步分割结果;然后把初步分割结果扩展到下一尺度,根据扩展后的分割标记图对相应尺度的纹理特征进行基于Relief的特征加权,得到加权后的四维特征;再进行K均值分割,经过多层迭代后,得到原纹理图像的分割结果。实验结果表明,与未加权的传统分割方法比较,该方法在分割错误率、边缘准确性以及区域一致性上都有明显改善。

面向高维数据PCA-ReliefF的EP模式分类算法

针对高维数据集,文中提出一种PREP(PCA-Relief F for EP)算法:首先采用PCA和Relief F算法实现特征降维;然后利用EP模式思想,构造精度更高、规模更小的EP模式分类器;最后利用标准数据集对文中的方法进行测试。实验结果表明,在对高维数据进行分类时,该方法构造的分类器在预测精度和运行时间上均有较大幅度的提升。

基于Relief算法的风电机组故障特征参数提取方法

随着风电技术的快速发展,风电装机容量快速增长,风机SCADA系统监测的数据也越来越全面。风电机组部件故障与运行环境密切相关,可通过重点关注风电场中工况恶劣的风机来提高整体可用率。文章提出一种基于Relief算法从风电机组SCADA数据中提取故障特征参数的方法,根据SCADA历史数据和风机故障记录,利用Relief算法筛选出与风机部件故障相关度高的故障特征参数,作为判断风机运行工况和故障率的特征量。采用实际风电场的SCADA数据,以变桨故障和偏航故障为例进行计算,验证了本方法的有效性。

Relief-F筛选波段的植被伪装揭露研究

为了快速揭露植被伪装,基于Relief-F算法进行了高光谱波段选择,将高光谱研究问题转化为多光谱应用问题。首先以常见植物云杉模拟植被伪装目标,利用HH2地物光谱仪采集实验数据,然后引入Relief-F算法筛选特征波段子集,与其它两种常用算法得到的波段子集进行了分类实验。结果表明,使用Relief-F算法筛选特征波段子集分类精度达96.4%,高于其它两种算法。该研究对于揭露植被伪装问题是有帮助的。

基于Relief-F的半监督特征选择算法

传统的Relief-F算法主要用于处理有标记数据集。针对部分标记数据集,引入一种基于耦合学习的数据样本相似度,设计了一种面向符号数据的基于Relief-F算法的半监督特征选择算法。为有效验证新算法的可行性,实验分析中选取了5组UCI数据集和3种常用机器学习分类器来进行验证,实验结果进一步验证了算法的有效性。

实例加权类依赖Relief

Relief算法是一个过滤式特征选择算法,通过一种贪心的方式最大化最近邻居分类器中的实例边距,结合局部权重方法有作者提出了为每个类别分别训练一个特征权重的类依赖Relief算法(Class Dependent RELIEF algorithm:CDRELIEF).该方法更能反映特征相关性,但是其训练出的特征权重仅仅对于衡量特征对于某一个类的相关性很有效,在实际分类中分类精度不够高.为了将CDRELIEF算法应用于分类过程,本文改变权重更新过程,并给训练集中的每个实例赋予一个实例权重值,通过将实例权重值结合到权重更新公式中从而排除远离分类边界的数据点和离群点对权重更新的影响,进而提高分类准确率.本文提出的实例加权类依赖RELIEF(IWCDRELIEF)在多个UCI二类数据集上,与CDRELIEF进行测试比较.实验结果表明本文提出的算法相比CDRELIEF算法有明显的提高.