基于稀疏组Lasso的分段平稳自回归模型变点检测方法

结构变化检测是分析系统动态规律的重要方式之一.针对分段平稳自回归模型,将变点检测问题转化为变量选择问题,采用稀疏组Lasso方法得到变点个数和位置的初始估计,提出分组选择方法在初始估计的变点中进行选择,然后用后向删除法得到变点个数及位置的估计.证明了提出的方法对变点个数和位置估计的一致性.另外,稀疏组Lasso方法通过约束变点位置上模型参数的稀疏性,能够进一步确定回归系数发生变化的具体滞后变量阶数.最后,仿真实验和应用实例证实,相对于直接应用后向删除法,分组选择方法的引入显著提高了估计的效率;相对于组Lasso方法,稀疏组Lasso方法可以进一步识别在变点位置上发生变化的具体滞后变量阶数.

基于稀疏组lasso的脑机接口通道和特征选择研究

脑电信号(EEG)特征提取和分类是脑机接口(BCI)系统的核心问题之一。由于BCI系统中EEG信号多通道采样和特征向量的高维性,有效的特征选择算法已经成为研究中不可分割的一部分。针对EEG特征选择问题采用一种新方法:基于封装式稀疏组lasso的EEG融合特征的同时通道和特征选择方法。实验中将该方法与现有的通道选择和特征选择方法进行比较,结果表明,该方法更适用于高维融合特征的最优特征子集选择问题,且该算法稳定、时间成本低。此外,在保证错误率相当或较低的情况下,该方法能够同时实现通道和特征选择。国际BCI竞赛IV的两类运动想象信号的测试错误率为15.28%。

稀疏组lasso罚向量自回归模型的大气污染物预测:京津冀案例研究

进行了大气污染物预测研究。针对传统的向量自回归模型方法所面临的过参数化问题,提出了稀疏组lasso罚向量自回归模型并应用近邻梯度下降法求解模型参数。为了验证模型的有效性,将其应用于2015年京津冀大气污染物数据中并对2016年1月1日北京6项大气污染物浓度进行预测。实验数据表明:基于稀疏组lasso罚模型的PM2.5预测归一化均方误差约为3.8%,预测精度高于向量自回归(VAR)模型、基于各种稀疏结构的向量自回归(VAR-L)模型、分层向量自回归(HVAR)模型。此外,京津冀不同城市对北京的空气质量影响程度不同,这可以通过组内稀疏模型参数进行解释。将凸优化概念与向量自回归模型结合应用于大气污染物浓度的预测中,对京津冀大气污染协同治理具有重要意义。

基于稀疏组LASSO约束的本征音子说话人自适应

本征音子说话人自适应方法在自适应数据量不足时会出现严重的过拟合现象,提出了一种基于稀疏组LASSO约束的本征音子说话人自适应算法。首先给出隐马尔可夫—高斯混合模型下本征音子说话人自适应的基本原理;然后将稀疏组LASSO正则化引入到本征音子说话人自适应,通过调整权重因子控制模型的复杂度,并通过一种加速近点梯度的数学优化算法来实现;最后将稀疏组LASSO约束的自适应算法与当前多种正则化约束的自适应方法进行比较。汉语连续语音识别的说话人自适应实验表明,引入稀疏组LASSO约束后,本征音子说话人自适应方法的性能得到了明显提高,且稀疏组LASSO约束方法优于l1、l2和弹性网正则化方法。

基于稀疏组Lasso与支持向量机的肺结节CT征象自动标注

为减少人工读片的工作量及医生对肺结节解释的差异性,提出一种基于稀疏组Lasso特征选择与支持向量机分类器的肺结节CT征象自动标注方法.首先,采用基于多专家标注的阈值概率图方法从肺部CT图像中分割肺结节,并提取专家标注的CT征象;其次,提取肺结节图像的形状、大小、灰度、纹理4种底层特征,通过稀疏组Lasso方法对4种特征进行选择;然后利用支持向量机建立选择后底层特征与CT征象之间的关系模型;最后利用此模型标注肺结节CT征象.LIDC数据库上的实验结果表明,本文方法具有较高的标注精度,能够实现肺结节CT征象的自动标注,辅助医生解释.

基于稀疏组Lasso惩罚函数支持向量机的经费预算困境预测

文章以支持向量机模型为基准模型,提出引入稀疏组Lasso惩罚函数的修正模型,并设计了有助于增强预测精度与预测效果的双层坐标下降算法,以探究全面预算理念下司法经费预算的新特征。以2014-2018年司法部门"三公"经费决算公开数据为例,研究发现:(1)基于稀疏组Lasso支持向量机(SGL-SVM)方法能够显著增强数据变量与组数的遴选精度。(2)结合分量特征的异化程度所设计的集成化向量方法不仅可大幅度压缩网络训练时间,亦能够趋近实现最优的样本外预测效果。(3)SGL-SVM模型弥补了单维支持向量机算法中整组进整组出与忽略数据组间结构的统计局限,既能够有效反映观测变量的时变特征,又可精准地预测司法经费预测困境的动态情况。

金融市场下非负稀疏组LASSO在股指跟踪中的研究

作为一种流行的被动投资组合管理策略,指数跟踪主要侧重于复制或跟踪金融指数的表现.以股指为例,传统的投资策略通常考虑指数所有成分股的完全复制.然而,随着指数成分股数量的增加,完全复制通常会受到流动性差以及成本高的影响.因此,投资者倾向于购买部分成分股进行资产配置.此外,在股票市场中,股票之间还存在明显的“组群”效应.基于此,本文提出了非负稀疏组LASSO方法,用于成分股的选择和权重系数的估计.在有限维组的情况下,我们给出了模型变量选择和参数估计一致性的几乎充要的条件.为了得到模型的解,我们推导出一种基于坐标下降的计算方法.最后,实证结果表明,非负稀疏组LASSO优于具有“组效应”的其他目前的流行方法,例如非负弹性网.

稀疏组Lasso Granger因果图模型及应用

辨识序列间的因果联系是时间序列分析的主要任务之一。将Granger因果关系的检验问题转换为变量选择问题,应用稀疏组Lasso方法辨识序列间Granger因果关系的存在性和因果影响的滞后阶数。提出了稀疏组Lasso Granger因果图模型,顶点表示多维时间序列的分量序列,顶点间的有向边表示序列间存在的Granger因果关系,定义了滞后信息矩阵揭示因果影响的滞后信息。数值模拟验证了在各种维数和滞后影响结构的模型下,样本量对估计效果的影响。应用到中国宏观经济数据,进行实证分析的结果表明,稀疏组Lasso Granger因果图方法能够较好地揭示序列间的因果关系结构。

稀疏组Lasso-logistic回归模型在财务报告舞弊识别中的应用研究

财务报告舞弊行为对广大投资者的切身利益造成巨大损害,如何高效识别财务报告中的舞弊行为已成为目前研究的热点.在对已有的财务报告舞弊识别模型分析的基础上,提出一种基于稀疏组Lasso-logistic回归的识别模型,并通过选取近8年间180家上市公司年报数据作为样本,综合财务及非财务指标,从盈利能力、营运能力、偿债能力、治理结构等方面设计了15组29个解释变量使用该模型进行了实证研究.结果证明,与以往的向前Logistic回归、Lasso-logistic回归和组Lasso-logistic回归等模型相比,稀疏组Lasso-logistic回归识别模型不但具备良好的变量筛选能力而且可以获得更好的识别效果,具有较高的应用价值.

基于不同分组稀疏先验的降噪方法

稀疏组Lasso已经被证明是一种强大的回归技术,可以通过使用两层不同分组稀疏正则同时发现不同组的稀疏特性.但是在大量的应用中,由于正则项的复杂性给计算带来了巨大的挑战.针对多层不同分组稀疏的组Lasso提出了一种合理有效的方法,称为DGDN-OGS算法.把信号处理中的信号看作为样本或者特征进行不同的交叠稀疏分组,然后将多个不同的交叠稀疏分组分别编码成正则项,最后再利用Proximal映射及MM算法的框架进行迭代求解,这也说明了该方法可以应用到信号降噪领域当中.此外,该求解方法避免了之前方法中需求解对偶问题的最优解所带来的困难,并对算法的收敛性进行了分析,说明了所提出方法的合理性.

稀疏化的因子分解机

因子分解机(简称为FM)是最近被提出的一种特殊的二阶线性模型,不同于一般的二阶模型,FM对二阶项系数进行了分解,这种特殊的结构使得FM特别适用于高维且稀疏的数据。虽然FM在推荐系统领域已获得了应用,但FM本身并未显式考虑变量的稀疏性,特别当变量中包含结构稀疏信息时。因此,FM的二阶特征结构使其特征选择时应当满足这样一种性质,即涉及同一个特征的线性项和二阶项要么同时被选要么同时不被选,当该特征是噪音时,应当同时不被选,而当该特征是重要变量时,应当同时被选。考虑到这种结构特性,本文提出了一种基于稀疏组Lasso的因子分解机(SGL-FM),通过添加稀疏组Lasso的正则项,不仅实现了组间稀疏,还实现了组内稀疏。从另一个角度看,组内稀疏也相当于对因子分解的维度k进行了控制,使其能根据数据的不同而自适应地调整维度k。实验结果表明,本文提出的方法在保证了相当精度甚至更优精度的情况下,获得了比FM更稀疏的模型。

基于优化和两阶段筛选的时间序列Shapelets提取研究

与基于全局特征的时间序列分类方法相比,基于shapelets的分类方法在可解释性和分类速度方面更具优势。针对现有的优化模型学习到的shapelets判别力不足以及shapelets候选数量太多等问题,提出了基于优化和两阶段筛选的时间序列shapelets提取算法。首先对时间序列取样,结合极值点和序列趋势对取样的时间序列进行分组,根据分组结果对稀疏组Lasso正则器的每项赋予权重,并在加权稀疏组Lasso的每一组中都使用融合罚正则项来保证解的相邻位置平坦变化,将多项稀疏正则项作为正则器与局部线性判别分析相结合来构建目标函数。然后,建立一个两阶段的筛选框架来度量组的稀疏性,从而快速地找到对分类起决定性作用的关键组。最后仅使用一组关键组来提取shapelets用于时间序列的分类,缩小了shapelets的规模。在28个时间序列数据集上进行了大量实验,实验结果表明,与现有的基于shapelets的提取方法相比,所提方法不仅能显著提高分类精度,具有较高的时间效率,而且能够在一定程度上缩小shapelets的规模。

卵巢癌脂质组学诊断标志物的筛选及其效果研究

目的卵巢癌是女性生殖器官常见的恶性肿瘤之一,90%的卵巢癌患者诊断时已进展到晚期(Ⅲ/Ⅳ期)。尽管治疗方式的不断改进,但晚期卵巢癌患者5年总生存率为20%,而早期卵巢癌患者5年总生存率>90%。本研究旨在识别卵巢癌脂质组学诊断生物标志物,提高卵巢癌早期诊断的准确性。方法采用稀疏组lasso变量筛选方法和单因素分析相结合的方法,对2011-03-01-2013-07-31哈尔滨医科大学附属肿瘤医院的139例卵巢癌患者和76例对照患者的血浆脂质组学数据进行分析,筛选可用于诊断卵巢癌脂质组学的生物标志物,在差异代谢物中选择与CA125相关性小的物质作为最终诊断标志物,通过七折交叉验证方法来评价其预测效果及与CA125联合的诊断准确性。进一步采用cytoscape软件研究差异脂质物质间的相互作用。通过Wilcoxon秩和检验方法筛选出能够区分早晚期卵巢癌的生物标志物。结果共筛选出20种可用于区分卵巢癌和对照的差异脂质生物标志物,其中Stearamide、Stearic acid、Arachidic acid和PI(42∶9)与CA125不相关(P<0.05),这4个脂质与CA125联合AUC值为0.94,大于CA125单独的诊断性能。另外,其中8个差异脂质在早期与晚期上皮性卵巢癌患者中有差异,分别为PC(35∶4)、PC(38∶6)、PC(46∶4)、PC(P-35∶2)、PE(P-36∶6)、PG(34∶2)、Cer(d18∶1/16∶0)和3-Deoxyvitamin D3,均P值<0.05。结论卵巢癌血浆脂质组学筛选出的物质提高了CA125单独诊断的准确性,其中8个差异物质可以作为卵巢癌早期诊断潜在的生物标志物。