众数自适应Lasso回归的统计推断

本文给出了自适应Lasso的众数回归模型,用来对众数回归模型的变量进行选择.对比传统的均值回归模型和中位数回归模型,众数回归在解决重尾、多峰分布问题时更加稳健.众数回归模型的主要估计方法是核估计方法,当自变量的数目较大时,该方法会产生难以忽略的计算误差.本文在核估计方法的众数回归模型基础上添加惩罚项,并通过自适应Lasso方法进行参数估计,有效的剔除了贡献率低的自变量,同时提高了计算的准确性.本文详细阐述了该计算方法,并在一些正则条件下,给出了模型的参数的估计方法和估计值的渐近正态性.模拟实验和实证分析研究了所提方法在有限样本下的性质.对比均值回归模型和传统的众数回归模型,添加自适应Lasso惩罚项的众数回归模型极大地提高了参数估计的准确性.

基于LASSO-RBFNN的采煤机液压系统故障诊断研究

针对采煤机液压系统故障诊断精度不高的问题,提出一种套索(LASSO)算法与径向基函数神经网络(RBFNN)相结合的故障诊断模型。首先利用LASSO算法去除液压系统中冗余特征,筛选关键故障特征,减少模型过拟合风险;故障特征筛选后确定RBFNN拓扑结构,将采煤机液压系统故障数据输入模型中,进行故障诊断;最后将LASSO-RBFNN模型诊断结果与RBFNN模型和BP神经网络模型诊断结果进行对比。试验结果表明,该模型可用更短的网络训练时间得到较高的故障诊断精度。

基于Lasso和构造性覆盖算法的不均衡数据分类方法

针对机器学习分类算法在不均衡数据分类问题中对少数类样本识别能力不足的问题,以电信客户流失场景为例,提出一种不均衡数据分类方法 L-CCSmote(Lasso Constructive Covering Smote)。首先,通过套索回归(Lasso)提取流失用户特征以优化模型输入;然后,通过构造性覆盖算法(CCA)建立神经网络生成符合样本整体分布的覆盖;最后,进一步提出单样本覆盖策略、样本多样性策略和样本密度峰值策略,通过以上策略混合采样以平衡数据。选用了KEEL数据库中的13个不均衡数据集和2个脱敏电信客户数据集,分别在逻辑回归(LR)和支持向量机(SVM)分类算法上对该方法进行验证。在LR分类算法上,与SMOTE-Enn(Synthetic Minority Oversampling TEchnique Edited nearest neighbor)相比,所提方法的平均几何平均值(G-MEAN)提升了2.32%;在SVM分类算法上,与Borderline-SMOTE(Borderline Synthetic Minority Oversampling Technique Edited)相比,所提方法的平均G-MEAN提升了2.44%。实验结果表明,所提方法能解决类别偏斜分布影响分类的问题,且对于稀有类的识别能力优于经典平衡数据方法。

基于LASSO-BP神经网络模型的滆湖组黏性土抗剪强度预测

为了研究苏锡常地区滆湖组黏性土工程地质特性,建立能够描述其抗剪强度特性的预测模型,笔者选取727组土工试验数据作为研究样本,运用LASSO算法筛选出对抗剪强度影响显著的参数,然后结合BP神经网络算法建立抗剪强度预测模型。结果表明:①滆湖组黏性土的黏聚力、内摩擦角与液性指数、压缩系数呈反相关,与塑性指数、饱和重度呈正相关;②确定液性指数、塑性指数、压缩系数、颗粒比重、饱和重度等5个参数为抗剪强度的预测参数,建立了基于LASSO-BP神经网络算法的滆湖组黏性土抗剪强度预测模型;③黏聚力预测模型的拟合优度R=0.92,平均绝对误差<5.4 kPa;内摩擦角预测模型的拟合优度R=0.75,平均绝对误差<1.7°。模型预测精度及可靠性总体较高,能够对滆湖组黏性土抗剪强度进行有效预测。预测模型引入LASSO算法,为运用数学方法研究土体参数间关系提供参考。

基于LASSO算法的波束空间信道估计

在大规模毫米波(mmWave)天线阵列通信中,多输入多输出(Multiple Input Multiple Output,MIMO)系统可以使用透镜天线阵列大幅减少射频链的数量,但由于天线的数量远远大于射频链路的数量,信道估计具有挑战性。由于波束空间信道具有稀疏的特性,那么用于求解稀疏信号恢复问题的算法,可以作为波束空间信道估计问题的解决方法。波束空间信道估计问题建立的模型是基于l0-范数的非凸性问题,该问题为NP-hard。通常用l1-范数代替l0-范数,将该问题转化为凸优化问题。该凸优化问题可以用传统的贪心算法方法进行求解。然而,这些贪心算法估计精度差。而且随着稀疏度的增加,计算复杂度也会增加。文章提出了最小角回归(Least Angle Regression,LARS)算法和改进的最小绝对收缩和选择算子(Least Absolute Shrinkage and Selection Operator,LASSO)算法,高效地解决了稀疏信号的恢复问题,即波束信道的估计。实验仿真结果表明,LARS算法和所提出的改进LASSO算法能够获得比传统OMP算法更高效且具有更好的波束空间信道估计精度。

基于Lasso算法的油田产量预测方法

随着油田的不断开采,油田的产量预测也变得越来越重要。目前有许多基于机器学习的预测方法,但大多数都不能给出具体的预测模型。提出一种基于Lasso算法的预测方法,结合现场生产数据,选取一系列相关特征参数,通过对参数数据的分析,初步选取各个参数的函数形式,然后利用Lasso算法得到最终的预测模型,达到预测产量的目的。现场试验表明,该方法得到的预测模型比较准确,可解释性强,且预测精度高,可以应用于矿场产量预测。

基于LASSO-LARS的软件复杂性度量属性特征选择研究

针对软件可靠性早期预测中软件复杂性度量属性维数灾难问题,提出了一种基于最小绝对值压缩与选择方法(The Least Absolute Shrinkage and Select Operator,LASSO)和最小角回归(Least Angle Regression,LARS)算法的软件复杂性度量属性特征选择方法。该方法筛选掉一些对早期预测结果影响较小的软件复杂性度量属性,得到与早期预测关系最为密切的关键属性子集。首先分析了LASSO回归方法的特点及其在特征选择中的应用,然后对LARS算法进行了修正,使其可以解决LASSO方法所涉及的问题,得到相关的复杂性度量属性子集。最后结合学习向量量化(Learning Vector Quantization,LVQ)神经网络进行软件可靠性早期预测,并基于十折交叉方法进行实验。通过与传统特征选择方法相比较,证明所提方法可以显著提高软件可靠性早期预测精度。

基于Lasso函数的分层混合模糊-神经网络及其在遥感影像分类中的应用

本文提出一种新的分层混合模糊-神经网络(HHFNN)算法.在模糊系统中使用Takagi-Sugeno模型和三角波隶属函数.同时,为降低离散输入变量中可能存在的强交互作用,采用了系数收缩机制中的Lasso函数.最后,以福建的漳平洛阳—安溪潘田地区LANDSAT ETM+遥感影像数据地物分类为例,应用本文的改进算法与其他神经网络算法进行分析比较,得到了较高的分类精度,验证了采用基于Lasso函数的T-S型分层混合模糊-神经网络的可行性和有效性,可作为一种新的遥感影像地物分类方法.

基于套索算法和灰色模型的浙江省碳排放量分析与预测

在我国“碳达峰、碳中和”的绿色低碳发展背景下,对碳排放量的周期性分析与准确预测具有重要的现实意义。以浙江省碳排放量为研究对象,引入变分模态分解方法提取多尺度信息,将套索算法(Least Absolute Shrinkage and Selection Operator,LASSO)和灰色模型GM(1,N)相结合,对浙江省的碳排放量进行深入分析和预测。首先,使用变分模态分解方法对浙江省碳排放量进行数据分解,分析其历史波动的周期性。其次,利用套索算法对影响碳排放的关键因素进行有效筛选,降低数据维度,提取主要特征。最后,结合“十四五”规划与实际发展路径,假设了常态、低碳、惯性发展情景,并采用GM(1,N)模型对浙江省2020—2030年碳排放量进行预测,克服了传统预测方法在处理非线性、小样本数据时的局限性,预测结果更加稳健。结果表明浙江省的碳排放量的主导因素包括第三产业占GDP的比重、私人汽车拥有量、全省固定资产投资、电力消费总量、研发强度、技术市场成交额6个指标。预计到2030年,仅低碳发展情景下的碳排放量达到峰值,为400.28 Mt,而常态发展情景的碳排放量为474.23 Mt,惯性发展情景为568.77 Mt,且常态发展情景和惯性发展情景下的碳达峰量在2030年后仍会有所增长。因此,建议浙江省继续优化产业结构、提升能源效率、增加低碳研发投入,稳扎稳打推进“碳达峰”目标。

基于LASSO方法的结构突变理论研究综述

结构突变是统计学、经济学、信号处理和生物信息学等学科领域中的研究热点之一.Z.Harchaoui等提出了基于LASSO的结构突变点检测方法,是近几年结构突变问题的最新研究方法.为了在国内推行该方法,系统介绍了国外基于LASSO方法的几种变点模型中的变点检测问题,其核心是把变点检测问题转化成模型选择问题来解决,并阐述了相应的算法.最后探讨该方法在不同学科领域的应用和前景展望.

基于融合分割和LASSO回归的实时车道偏离预警

在有路面污染、标识干扰等复杂高速道路环境下,车道偏离预警系统的鲁棒性和实时性会变差。为此提出一种利用两种算法融合分割和LASSO回归模型进行车道线检测和偏离预警的新方法。首先,分别采用TopHat算法和OTSU算法分割出车道线背景并进行“与”运算融合,据此准确提取出车道信息;其次,分两步检测车道线,第一步基于概率Hough变换进行直线检测,将检测出的车道线位置设为动态ROI区域并进行卡尔曼滤波跟踪处理,第二步是基于LASSO多项式回归模型对车道线再次进行参数估计和拟合,以改善使用最小二乘法时的过拟合问题;最后,根据设置的虚拟车道线和角度模型进行车道偏离预警决策。实验结果表明,所提出的方法在复杂道路环境下的平均正检率为96.07%,检测速率可达到32 ms/帧,即具有良好的鲁棒性和实时性。

耦合LASSO回归的HHO-LSVR中长期径流预报模型

为验证LASSO回归在剔除冗余预报因子中的高效性,并探讨基于LASSO回归的哈里斯鹰群算法(HHO)与支持向量回归(SVR)耦合的HHO-LSVR模型的年径流预报效果,利用LASSO回归分别求得各气象因子的拟合系数并以此作为优选预报因子的依据,采用HHO算法来优化选择SVR模型的控制参数进行年径流预报并设置对照模型,利用Friedman检验量化上述两种方法对模型性能的贡献程度。结果显示HHO-LSVR拟合和检验效果均为最优,对照检验结果显示LASSO回归在提升模型性能上占主要地位。与其他预报模型相比较,HHO-LSVR具有较高的预报精度和稳定性,可为实际预报提供支撑。

基于LASSO-WOA-LSSVM的海洋管线外腐蚀速率预测

目的构建海洋管线外腐蚀速率预测模型,提高海底油气管线外腐蚀速率预测的准确性。方法建立基于套索(LASSO)回归和鲸鱼优化算法(WOA)的最小二乘支持向量机(LSSVM)腐蚀速率预测模型,采用LASSO回归方法对指标进行筛选,提取海洋管线腐蚀的主要影响因素。应用最小二乘支持向量机算法建立海洋管线外腐蚀速率预测模型,并使用鲸鱼优化算法对模型参数进行优化,避免了参数取值对模型回归性能的影响。以海洋挂片实验为例,通过MATLAB进行模拟仿真,分析验证模型预测结果,并将预测结果与其他模型进行对比分析。结果 LASSO回归算法筛选得到影响腐蚀速率的主要因素为:温度、溶解氧含量、pH值。采用WOA-LSSVM模型所预测的结果与实际值较为吻合,其平均相对误差为2.23%,均方根误差(RMSE)为0.3248,决定系数R2达到0.9708,均优于其他两种模型。结论基于LASSO回归和鲸鱼优化算法的最小二乘支持向量机预测模型具有更优的泛化能力和预测精度,为海底管道腐蚀研究工作提供了新思路,也为海洋油气输送系统的结构安全与风险防范提供了参考。

基于套索与优化算法的矿山岩质边坡可靠度研究

【目的】为解决拟合边坡极限状态方程时存在的过拟合与共线性等问题,且为获得更符合实际的安全系数,在考虑剪胀角的基础上,建立基于LASSO-GA-PSO的矿山岩质边坡可靠度分析模型。【方法】通过将Slide与FLAC3D相结合的方法,计算考虑剪胀角变化的边坡安全系数;采用LASSO对数据进行拟合,获得相应的极限状态方程;编写用遗传算法与LHS优化的自适应粒子群算法程序,建立基于LASSO-GA-PSO的边坡可靠度分析模型,进而确定边坡的可靠度指标。【结果】二次带交叉项的LASSO-GA-PSO模型所得的可靠度指标为2.3257,略小于LASSOMonte-Carlo的2.3879,误差为2.6%。【结论】模型具有较好的优化结果,可为类似工程提供参考。

LASSO算法及其在边坡稳定性分析中的应用

将LASSO算法引入边坡可靠度分析中,建立算法模型预测边坡安全系数,并实现搜索边坡危险区域的功能。首先,借助有限元软件实现蒙特卡洛模拟,获取边坡各处土体参数及对应安全系数数据集。其次,通过LASSO算法对获取的数据集进行分析,建立模型预测特定条件下边坡安全系数,该结果通过与普通线性回归算法预测的结果进行比较,证实了LASSO算法的优越性。同时,提出了其在边坡长期风险监控中的应用建议。最后,将LASSO算法与蒙特卡洛模拟相结合,充分考虑多次模拟结果,实现搜索边坡最危险区域功能。结果表明,与普通线性回归算法相比,LASSO算法所建立的模型能准确搜索到影响边坡稳定性的最危险区域。因此,LASSO算法能为边坡长期风险监控和边坡加固工作提供新的思路。

基于多重共线性的Lasso方法

多重共线性是多元线性回归分析中的一个重要问题,消除共线性的危害一直是回归分析的一个重点。就此问题介绍了一种Lasso方法,并设计了一种选择最佳模型的方法。通过实例分析,将其与常用方法进行比较,从结果可看出,Lasso回归在处理多重共线性问题上较其他方法更加有效。

基于LASSO法的桉木-相思混合制浆原料近红外分析模型的建立

为提高国内木浆产量和利用率,缓解制浆造纸行业优质原料紧缺的现状,针对我国南方特定的制浆原料模式——桉木-相思混合原料进行快速分析研究。采集了175个桉木-相思混合原料和45个单一材种原料的近红外光谱,明确其混合程度和化学成分含量。通过平滑、矢量归一化(V-Norm)、多元散射校正(MSC)、一阶导数(1st Der)和二阶导数(2nd Der)等方法组合预处理原始光谱,结合LASSO算法,确定了混合程度(桉木质量分数)、综纤维素、Klason木质素、聚戊糖、苯醇抽出物和1%NaOH抽出物含量分析模型的建模方法,并建立了相应的模型。建模过程中最优调整参数(μ)分别为13.62、18.30、6.39、9.64、7.49和12.07。6个模型的预测均方根误差(RMSEP)值分别为1.93%、0.61%、0.51%、0.80%、0.28%和0.41%。绝对偏差范围(AD)分别为-3.19%~3.24%、-0.96%~1.01%、-0.89%~0.84%、-1.37%~1.46%、-0.43%~0.39%和-0.58%~0.60%。模型适应性好,能够满足制浆造纸工业需求,同时也证实了LASSO法用于混合制浆原料分析的可行性。

近红外光谱结合Lasso算法测定制浆材抽出物含量

为实现制浆材材性的快速测定,首先用常规方法测定了144个制浆材样品的冷水、热水、苯-醇和1%NaOH抽出物含量,并采集了样品的近红外光谱,然后对原始光谱进行预处理,并运用Lasso算法及交互验证建立最优校正模型。对模型进行独立验证,决定系数R2val分别为0.9186、0.9085、0.9241、0.9760,预测均方根误差分别为0.24%、0.30%、0.28%、0.38%,相对分析误差分别为3.50、3.31、3.63、6.45,绝对偏差分别为-0.42%~0.37%、-0.43%~0.41%、-0.47%~0.40%、-0.55%~0.57%。这些模型预测性能能够满足制浆造纸工业的要求,同时,也证实了Lasso算法用于制浆材抽出物测定的可行性。

改进粒子群算法优化下的Lasso-Lssvm预测模型

文章首先针对最小二乘支持向量机(Lssvm)对高维输入特征较为敏感的问题,提出以Lasso算法筛选输入特征,建立Lasso-Lssvm预测模型,并通过粒子群算法对Lssvm中核函数的未知参数进行优化。然后,针对粒子群算法容易陷入局部最优和后期收敛较慢等问题,提出了改进的粒子群算法(IPSO):基于网格划分方法,完成粒子初始化;在设定粒子速度更新的惯性权重时,基于Sigmod函数提出种群对比自适应动态惯性系数;针对粒子所处位置的优劣,动态变化学习因子。最后,基于1985—2018年能源排放相关数据建立改进的粒子群算法优化下的Lasso-Lssvm模型。结果表明,Lasso方法可以有效解决Lssvm对高维输入特征敏感的问题,所提出的粒子群算法有更好的寻优能力和鲁棒性,改进粒子群算法优化下的Lasso-Lssvm模型拥有更好的拟合效果和预测精度,验证了该方法的适用性和优越性。

基于Group Lasso的多重信号分类声源定位优化算法

多重信号分类算法因其抑制噪声能力强、计算速度快等优点,在声源定位领域得到广泛应用。但该算法在中低频段分辨率及聚焦性能较差。针对该问题,提出一种基于Group Lasso的多重信号分类优化算法。该算法将多重信号分类算法输出值作为初始值,并在Group Lasso算法组间计算时对目标信号进行稀疏、在组内计算时对该组信号进行平滑及阈值截断。仿真结果表明:该优化算法在中低频段可明显提高多重信号分类算法分辨率,同时改善因扫描位置与声源面位置不重合引起的聚焦性能下降问题。