融合Lasso的近似马尔科夫毯特征选择方法

在特征选择问题中,近似马尔科夫毯常用于判断冗余特征,但所得到的冗余特征并不完全相同,因此,在直接使用近似马尔科夫毯删除冗余特征时,存在可能导致信息丢失的情况,影响模型精度。为此,提出一种用于中药代谢组学高维小样本数据的融合Lasso的近似马尔科夫毯特征选择方法。方法分为两个阶段,第一阶段,通过最大信息系数对特征的相关度分析过滤无关特征;第二阶段,采用近似马尔科夫毯构建相似特征组,使用Lasso评估相似特征组中特征影响力,迭代去除冗余特征。通过实验对比表明,该算法可以在一定程度上减少有用信息丢失,去除无关特征和冗余特征,提高模型精度和稳定性。

基于注意力机制和HSIC Lasso的特征选择算法

特征选择作为高维数据预处理的重要方法,广泛应用于机器学习与数据挖掘任务并取得了良好的效果.然而,随着高维、海量的大数据时代到来,现有的特征选择算法面临着特征选择后所取得的分类准确率不甚理想等方面的挑战.本文提出了一种全新的特征选择算法AHSIC Lasso,通过运用注意力机制寻找特征之间的关联性,根据SoftMax计算特征权重并对数据进行加权,然后基于加权结果,使用HSIC Lasso方法对加权后的数据作特征选择.实验结果表明,本文提出的算法在精度上相比于传统的特征选择算法有较大的提高.

K-split Lasso:有效的肿瘤特征基因选择方法

随着DNA微阵列技术的出现,大量关于不同肿瘤的基因表达谱数据集被发布到网络上,从而使得对肿瘤特征基因选择和亚型分类的研究成为生物信息学领域的热点。基于Lasso(least absolute shrinkage and selection operator)方法提出了K-split Lasso特征选择方法,其基本思想是将数据集平均划分为K份,分别使用Lasso方法对每份进行特征选择,而后将选择出来的每份特征子集合并,重新进行特征选择,得到最终的特征基因。实验采用支持向量机作为分类器,结果表明K-split Lasso方法减少了冗余特征,提高了分类精度,具有良好的稳定性。由于每次计算的维数降低,K-split Lasso方法解决了计算开销过大的问题,并在一定程度上解决了"过拟合"问题。因此K-split Lasso方法是一种有效的肿瘤特征基因选择方法。

基于稀疏组lasso的脑机接口通道和特征选择研究

脑电信号(EEG)特征提取和分类是脑机接口(BCI)系统的核心问题之一。由于BCI系统中EEG信号多通道采样和特征向量的高维性,有效的特征选择算法已经成为研究中不可分割的一部分。针对EEG特征选择问题采用一种新方法:基于封装式稀疏组lasso的EEG融合特征的同时通道和特征选择方法。实验中将该方法与现有的通道选择和特征选择方法进行比较,结果表明,该方法更适用于高维融合特征的最优特征子集选择问题,且该算法稳定、时间成本低。此外,在保证错误率相当或较低的情况下,该方法能够同时实现通道和特征选择。国际BCI竞赛IV的两类运动想象信号的测试错误率为15.28%。

基于LASSO-LARS的软件复杂性度量属性特征选择研究

针对软件可靠性早期预测中软件复杂性度量属性维数灾难问题,提出了一种基于最小绝对值压缩与选择方法(The Least Absolute Shrinkage and Select Operator,LASSO)和最小角回归(Least Angle Regression,LARS)算法的软件复杂性度量属性特征选择方法。该方法筛选掉一些对早期预测结果影响较小的软件复杂性度量属性,得到与早期预测关系最为密切的关键属性子集。首先分析了LASSO回归方法的特点及其在特征选择中的应用,然后对LARS算法进行了修正,使其可以解决LASSO方法所涉及的问题,得到相关的复杂性度量属性子集。最后结合学习向量量化(Learning Vector Quantization,LVQ)神经网络进行软件可靠性早期预测,并基于十折交叉方法进行实验。通过与传统特征选择方法相比较,证明所提方法可以显著提高软件可靠性早期预测精度。

基于不平衡情感分类的Lasso-Lars特征选择方法研究

基于Lasso回归和支持向量机分类器,首先利用Lasso回归具有变量筛选的特点,过滤部分不重要的特征,然后利用支持向量机分类器做情感提取.在某化妆品品牌的评论数据实验中,利用基础情感词典和领域情感词典构建待选择高维特征集,通过对比特征选择前后的G-means,精确度和召回率等,均取得显著效果.

基于矩阵特征值分解的MIMO天线选择算法

天线子集选择技术是一种有效的低代价且能够获得MIMO好处的技术。文中提出了一种基于矩阵特征值分解的天线选择算法以最大化信道容量,它将大的搜索空间分成若干小区间,在较小的搜索空间中采用穷举法。分析了所提算法及相关算法的计算复杂度。仿真实验表明,该算法能够获得接近穷举法的中断容量性能而且具有较低的计算复杂度。

Lasso回归方法在特征变量选择中的应用

Lasso方法是变量选择领域的一类重要方法,它具有计算上的简便性.SCAD和MCP在一定程度上降低了Lasso估计的偏差.本文在对影响我国各省房价的主要因素进行数据分析时,对比研究了Lasso,SCAD和MCP的效果。

特征值在选择统计方法中的应用

借助初步计算，探索选择适宜统计方法的依据。方法：采用几种统计方法分析出生缺陷的地区聚集性，通过分析结果间比较，找出简便、有效的衡量统计方法优劣的指标。结果：累计贡献率，多维标度法前4个特征向量为84．97％，主成分分析法前2个特征向量为73．22％。结论：凡涉及特征值的统计方法，可根据与特征值相应的累计贡献率大小进行统计方法选择。

基于特征值准则的可变数目天线选择算法

提出了多输入多输出相关信道下基于特征值准则的可变数目收发天线选择算法,来动态适应相关性不同的无线环境的通信要求.算法根据特征值准则,利用最小特征值和特征值总和之比,来确定选择的发送或接收天线数目,并通过每次循环中选择最大特征值所对应的发送或接收天线实现具体的天线选择;为了进一步降低算法复杂度,还可使用特征值估计来代替特征值分解.算法能够结合链路自适应技术,如自适应调制技术和动态检测算法选择等,来提高数据速率或误码性能.理论分析和仿真结果表明:所提算法能够根据多输入多输出信道的相关特性动态选择天线数目,即使在信道相关性很高时,仍然可以在保证误比特率的前提下,获得与信道相关性较低时几乎相同的数据速率.

近红外光谱LASSO特征选择方法及其聚类分析应用研究

近红外光谱技术是一种通过分析样本的特征光谱数据,实现定性或定量分析的无损检测方法,特征数据的完整性和代表性决定了所建模型的性能,而现有分析方法只能实现光谱子区间特征筛选,导致分析模型稳定性差、且难以再优化。为实现近红外光谱区间高维数特征提取,有效提高近红外光谱定性分析模型的精度和稳定性,提出一种基于最小绝对收缩和选择算法(LASSO)的光谱特征筛选方法,并以我国特色高值外贸产品云南松茸为分析对象进行聚类应用研究,讨论了该方法对于高维光谱特征筛选的有效性、分析对比了LASSO筛选特征变量及主元分析(PCA)降维算法所建松茸真伪甄别及食用菌分类模型的预测精度及稳定性。通过调研发现,云南产鲜松茸因其独特外形易于分辨,而片状的干松茸失去其独有的外形特征,导致国内干松茸掺假事件屡禁不止。选取云南产松茸、杏鲍菇、老人头、姬松茸四种干样共166样本数据进行分析,采用光谱范围为900~1700 nm的NIRQuest512型近红外光谱仪获得166×512维原始光谱数据,剔除异常数据后采用标准正态变换对光谱数据进行预处理。在此基础上,利用LASSO筛选出全光谱区间的特征变量,再使用Kennard-Stone法并结合典型线性(KNN)和非线性建模(BP)算法,构建松茸真伪甄别模型和食用菌分类模型,对两种模型进行盲样测试,并分析了LASSO与PCA算法的不同点,最后使用蒙特卡罗方法检测两种模型的稳定性。实验结果表明基于LASSO光谱特征选择的松茸真伪甄别模型和食用菌分类模型预测精度和稳定性均高于PCA方法,其中基于原始光谱数据所建真伪甄别模型的预测准确率为69.57%(BP)和60.87%(KNN),食用菌分类模型准确率为67.39%(BP)和65.22%(KNN),基于LASSO特征筛选的真伪甄别模型预测准确率分别达到100%(BP)和78.26%(KNN),食用菌分类模型预测准确率分别达到89.13%(BP)和80.43%(KNN),对两种模型进行10次蒙特卡罗实验,其结果平均值分别为99.93%和97.22%,由此可知,与PCA等数据降维算法相比,LASSO可实现全光谱区间的光谱特征选择和数据降维,有效地提高了近红外定性分析模型的预测性能,为近红外分析提供了一种新的特征筛选方法。

基于Lasso算法的中文情感混合特征选择方法研究

中文情感分析中的一个重要问题就是情感倾向分类,情感特征选择是基于机器学习的情感倾向分类的前提和基础,其作用在于通过剔除无关或冗余的特征来降低特征集的维数。提出一种将Lasso算法与过滤式特征选择方法相结合的情感混合特征选择方法:先利用Lasso惩罚回归算法对原始特征集合进行筛选,得出冗余度较低的情感分类特征子集;再对特征子集引入CHI,MI,IG等过滤方法来评价候选特征词与文本类别的依赖性权重,并据此剔除候选特征词中相关性较低的特征词;最终,在使用高斯核函数的SVM分类器上对比所提方法与DF,MI,IG和CHI在不同特征词数量下的分类效果。在微博短文本语料库上进行了实验,结果表明所提算法具有有效性和高效性;并且在特征子集维数小于样本数量时,提出的混合方法相比DF,MI,IG和CHI的特征选择效果都有一定程度的改善;通过对比识别率和查全率可以发现,Lasso-MI方法相比MI以及其他过滤方法更为有效。

多标记学习Lasso特征选择方法及参数优化分析

降低高维数据的维度是多标记学习中一个重要且具有挑战性的工作,它可以提高数据处理速度,特征选择作为一种有效的降维技术,是找到一个保持最相关信息的特征子集。本文提出相似性矩阵及分解,结合Lasso进行特征选择的新方法,首先对高维数据进行形式化,构造相似性矩阵;然后分解相似性矩阵,利用Lasso进行特征选择;最后对比已有的特征选择算法,并进行参数优化分析,实验结果表明,提出的算法具有明显的优势。

基于特征值的阴性选择算法和MHC检测滤窗

在分析连续位匹配规则基础上提出了特征值匹配的概念,通过对特征值比较代替传统匹配方式,实现了阴性算法的改进.引入主要组织相容复合体(Major Histocompatibility Complex,MHC)特征判别概念,在分析黑洞特性以及与非检测器集合关系的基础上,设计MHC检测滤窗作为检测器之后的更高级别安全防护层,以彻底杜绝黑洞模式的侵入,真正意义上消除黑洞这一危险检测漏洞.仿真结果表明,使用MHC独立检测滤窗成功地发现了所有检测器未能阻击的黑洞模式,确保了外来模式检测的准确性和安全性,而其检测时间和对系统资源的占用并未因此而显著增加.

基于LASSO和PCA降维的脑电特征选择方法

最小绝对值收缩和选择算子(LASSO)在运动想象脑电(EEG)特征选择中已得到了广泛应用。然而,LASSO的使用形式存在不少差异,其各种使用形式的性能如何目前还没有系统的研究。为此,探讨了现有的LASSO特征选择方法,进而提出了基于LASSO和主成分分析(PCA)降维的混合特征选择方法。该方法先训练LASSO模型,然后选择模型权重大于0的特征进行PCA降维,最后使用降维后的特征训练分类器。最优LASSO模型参数、特征个数、主成分个数使用10折交叉验证进行选择,分别使用Fisher线性判别分析(FLDA)、贝叶斯线性判别分析(BLDA)、支持向量机(SVM)3种分类器的分类结果作为交叉验证的评价准则。最优特征子集进行PCA降维之后,训练以上3种分类器作为最终的分类模型。选用两个公开的脑机接口竞赛数据验证算法的有效性,所提出的方法取得了80.06%的最高平均分类准确率。实验结果表明,所提出的方法优于现有的LASSO特征选择方法。

基于特征值的阳性选择的图像边缘检测算法

边缘是图像的基本特征之一,携带了大量图像信息。边缘检测能够提取边界有用的结构信息,因此边缘检测具有重要作用。论文提出了基于特征值的阳性选择的图像边缘检测算法。该算法基于阳性选择原理,根据特征值匹配规则,综合图像的梯度、非极大值抑制、最大梯度差三个特征值构造"自我集",生成动态检测器对图像进行边缘检测。实验结果表明,该算法在边缘检测中可行,且对比canny和Prewitt边缘检测算法,能得到更好的图像边缘。

基于Lasso特征选择的方法比较

模型和特征选择是统计学中较为重要的问题之一。Lasso是一种基于一范式的特征选择方法,与现有特征选择方法比较,Lasso不仅能够准确地选择出重要变量,同时还具有特征选择的稳定性。文中对线性回归模型中变量选择的Lasso算法、基于线性模型的Lasso、Lars、Adaptive-lasso、elastic net等方法进行了比较,指出了它们间的联系,并通过对几个选自UCI数据集的数据进行对比验证,给出了变量选择方法的具体实现。

基于对称不确定性和Lasso的基因数据特征选择算法

基于目前肿瘤基因表达谱数据在医学相关结合行业的广泛普及,运用特征选择算法对其处理成了如今大量学者们的重点研究方向。基于此,提出了一种FCBF-Lasso结合算法。首先,采用FCBF算法对各基因数据集进行特征选择,通过删除冗余的和不相关的特征,得到特征子集;然后,再利用Lasso方法对得到特征子集进行特征选择,进一步地删除冗余特征,得到对应基因数据集的最优特征子集。算法采用FCBF算法的对称不确定性和Lasso方法的最小残差平方和作为度量特征之间以及特征与类之间相关性的评价准则,在一定程度上克服了两种算法的缺点。在6个基因数据集上与其它3种经典的特征选择算法进行比较,结果表明算法在选择最少特征数的最优特征子集和分类精度方面具有很好的优势。

利用相关系数图选择振动信号特征值的方法

振动信号常被用来监测机械设备工作状态,其特征值选择会直接影响监测效果。以振动信号识别发动机故障为工程背景,为了快速有效地提高识别率,提出构建相关系数图并利用其选择振动信号特征值的方法。首先,对发动机振动信号提取时域特征参数,计算各特征值之间的皮尔逊相关系数(PCC)和最大互信息系数(MIC);然后,选择不同阈值构建相关系数图,筛选特征值;最后,将特征值作为广义回归神经网络(GRNN)的输入,分析比对故障识别效果。实验结果表明,利用阈值为0.9的MIC图筛选特征值可以在仅提取少量时域特征值的前提下获得较高的振动信号对发动机故障的识别率。

基于Lasso和模糊互信息多标记特征选择算法

本文提出一种基于Lasso和模糊互信息多标记特征选择算法。本文所提的算法在6个多标记数据集上进行了测试,实验结果和统计假设检验说明本文算法是有效的。