L1+L2正则化逻辑斯蒂模型分类算法

提出一种L1+L2范数正则化逻辑斯蒂模型分类算法。该算法引入L2范数正则化,解决L1正则化逻辑斯蒂算法迭代过程奇异问题,通过引入样本向量的扩展和新的权值向量完成L1范数非平滑问题,最终使用共轭梯度方法求解经过转化的最优化问题。在各种实际数据集上的实验结果表明,该算法优于L2范数、L1范数和Lp范数正则化逻辑斯蒂模型,具有较好的特征选择和分类性能。

上市公司财务预警的正则化逻辑回归模型

基于统计学习理论的正则化技术构建L1(一范数约束惩罚)正则化的逻辑回归(Logistic Regression)模型,同比建立了logistic回归模型和L2(二范数约束惩罚)正则化的logistic回归模型,结合沪深股市ST公司和正常公司的T-3年和T-2年财务数据进行仿真实验用于上市公司财务预警实证分析。实验结果表明L1正则化的logistic回归模型的有效性,并且在保证模型预测精度的同时提高模型了解释性。

L1正则化Logistic回归在财务预警中的应用

线性模型和广义线性模型已广泛地用于社会经济、生产实践和科学研究中的数据分析和数据挖掘等领域,如公司财务预警,引入L1范数惩罚技术的模型在估计模型系数的同时能实现变量选择的功能.本文将L1范数正则化Logistic回归模型用于上市公司财务危机预报,结合沪深股市制造业ST公司和正常公司的T-2年财务数据开展实证研究,对比Logistic回归和L2正则化Logistic回归模型进行对比分析.实验结果表明L1正则化Logistic回归模型的有效性,其在保证模型预测精度的同时提高模型的解释性.

基于内点法的稀疏逻辑回归财务预警模型

逻辑回归已广泛应用于财务危机建模,但是一定程度存在过拟合问题。为了避免建模出现上述问题,提出了基于L1正则化逻辑回归的财务预警模型。该模型是一种稀疏模型,能同时实现变量选择和参数估计,具有较强的鲁棒性。同时,针对L1正则化逻辑回归问题的求解,提出了一种高效的基于内点法的求解算法。结合沪深股市A股制造业上市公司进行实证分析,分析结果表明,L1正则化逻辑回归模型在预报精度、经济解释性等方面明显优于其他逻辑回归模型,并且提出的内点法与其它求解算法相比具有一定的优越性。

L_(1/2)正则化Logistic回归

提出一种L1/2正则化Logistic回归模型,并针对此模型构造有效的求解算法.文中模型基于L1/2正则化理论建立,有效改善传统模型存在的变量选择与计算过拟合问题.文中算法基于"坐标下降"思想构造,快速有效.在一系列人工和实际数据集上的实验表明,文中算法在分类问题中具有良好的变量选择能力和预测能力,优于传统Logistic回归和L1正则化Logistic回归.

监控视频图像过曝光区域检测

提出一种融合多种特征的图像过曝光区域检测算法。利用像素的亮度特征和颜色特征,并新引入亮颜特征和边界邻域特征来构成特征向量,用L2正则化逻辑非线性回归方法对训练样本的特征向量进行训练,得到最优分类器模型。对实验图像进行过曝光区域检测,结果显示,相较于亮度阈值法和基于亮度和颜色特征的常规检测方法,引入新特征后的改进算法检测出的过曝光范围区域连通性更好。

惩罚logistic回归方法在SNPs数据变量筛选研究中的应用

目的比较L1正则化、L2正则化和弹性网三种惩罚logistic回归对SNPs数据的变量筛选能力。方法根据所设置的参数生成不同条件的SNPs仿真数据,利用正确率、错误率和正确指数从三个方面评价三种惩罚logistic回归的变量筛选能力。结果正确率表现为L2正则化惩罚logistic回归>弹性网惩罚logistic回归>L1正则化惩罚logistic回归;错误率表现为L2正则化惩罚logistic回归>弹性网惩罚logistic回归>L1正则化惩罚logistic回归;正确指数则表现为弹性网惩罚logistic回归>L1正则化惩罚logistic回归>L2正则化惩罚logistic回归。结论综合来看弹性网的筛选能力更优,弹性网融合L1、L2两种正则化的思想,在高维数据分析中既能保证模型的稀疏性,便于结果的解释,又解决了具有相关性自变量不能同时进入模型的问题。

一种基于群稀疏特征选择的图像检索方法

针对图像检索问题,提出一种基于群稀疏特征选择的图像检索方法。利用特征具有的群聚与稀疏的特性,构建一个L2,1范数正则化逻辑回归问题,运用自适应谱梯度算法(ANSPG)有效地求解权重,根据这个权重选择出有效特征。最后运用所选择的有效特征在基于内容的检索框架上进行图像检索。在Core15K与IAPR IC12图像库上进行的实验结果表明,提出的方法具有非常良好的性能。

一种新的地面激光点云中树木叶面积计算方法

【目的】地面激光扫描仪(terrestrial laser scanning,TLS)通过获取植物的稠密激光点云,以精细刻画森林的结构参数,如树木骨架和叶面积等。真实叶面积是林学和植物学中表型研究的一个重要参数,而目前在植物科学领域,还没有很好的表型特征测量手段。因此,本研究提出了一种新颖的地面激光点云的叶面积估算方法来评估树木的表型特征指标。【方法】首先,设计了一种基于小平面区域定位与生长的植物点云的单叶分割算法,实现精准的单叶点云分割提取;其次,以每片叶片法向量与扫描仪入射激光线的夹角、扫描仪与叶片的距离和单叶的点云数量3个参量为输入特征,并结合训练样本与L1+L2正则化多元回归方法获取拟合系数,以反演树冠内所有叶片的面积。最后,将校园内实验树(紫薇、樱花、银杏和香樟)作为研究对象,并将计算结果与实测值进行比对。【结果】本研究方法相较最小二乘拟合算法,取得了更优的叶面积反演结果。对于两棵小树而言,本研究方法与实测值比对取得了较好的结果:紫薇(R^(2)=0.95,RMSE为0.42 cm^(2))、樱花(R^(2)=0.92,RMSE为1.87 cm^(2));对于两棵具有更大树冠和枝叶的大树,本研究方法也取得了较好的结果,分别为银杏(R^(2)=0.83,RMSE为1.24 cm^(2))、香樟(R^(2)=0.86,RMSE为1.10 cm^(2))。【结论】本研究方法面向林木激光点云数据,运用计算机视觉与机器学习技术准确计算树冠内叶片面积,为林木的叶面积计量提供新颖的思路。