超高维数据下部分线性可加分位数回归模型的变量选择

在超高维数据中,一方面,协变量的维数可能远远大于样本量,甚至随着样本量以指数级的速度增长;另一方面,超高维数据通常是异质的,协变量对条件分布中心的影响可能与他们对尾部的影响大不相同,甚至会出现重尾以及异常点的复杂情况。文章在协变量维度发散且为超高维的情况下研究了部分线性可加分位数回归模型的变量选择和稳健估计问题。首先,为了实现模型的稀疏性和非参数光滑性,引入了一种非凸Atan双惩罚,并采用分位迭代坐标下降算法来解决所提方法的优化问题。在选择适当正则化参数的情况下,证明了所提双惩罚估计量的理论性质。其次,通过模拟研究对所提方法的性能进行验证。模拟结果表明,所提方法比其他惩罚方法具有更好的表现,尤其是在数据存在重尾的情况下。最后,通过基于癌症筛查病人血液样本数据的实证来验证所提方法的实用性。

部分线性变系数模型的贝叶斯分位数回归

针对部分线性变系数模型的参数估计问题,采用B样条方法逼近非参数部分的未知光滑函数,进而利用非对称拉普拉斯分布实现贝叶斯分位数回归,并基于Gibbs抽样推导出所有未知参数的后验分布,通过数值模拟比较分析了贝叶斯分位数回归与分位数回归参数估计的优劣,结果表明,在均方误差准则下,贝叶斯分位数回归的估计效果更优。最后,通过实例分析说明了所提方法的有效性。

变系数部分非线性模型的分位数回归估计

研究纵向数据缺失下变系数部分非线性分位数回归模型的估计问题.利用逆概率加权法结合分位数回归给出参数估计和非参估计;在一定条件下,证明了所给估计量的渐近正态性;通过数值模拟,验证了所提方法的有效性.

基于加权复合分位数回归的变系数部分线性模型的稳健经验似然估计

研究了变系数部分线性模型的稳健经验似然推断问题。利用加权复合分位数回归以及经验似然方法,并结合基于矩阵QR分解的正交投影技术,对模型的参数分量提出了一种基于加权复合分数回归的经验似然估计方法。理论证明了提出的经验对数似然比函数渐近服从卡方分布,得到参数分量的置信区间。该估计方法中引入了基于矩阵QR分解的正交投影技术,保证对模型的参数分量进行估计时不会受到非参数分量估计精度的影响,因此具有较好的稳健性和有效性。

部分线性变系数模型的贝叶斯复合分位数回归

部分线性变系数模型由参数和非参数2部分组成,具有适应范围广和解释性强双重优点。针对该模型的参数估计问题,采用B样条方法逼近非参数部分的未知光滑函数,进而利用复合非对称拉普拉斯分布实现贝叶斯复合分位数回归,并基于Gibbs抽样算法推导出所有未知参数的后验分布,以获取参数的估计值。通过数值模拟对贝叶斯复合分位数回归与贝叶斯分位数回归、贝叶斯线性回归参数估计效果进行比较分析,结果显示:当误差服从非正态分布时,在均方误差准则下,贝叶斯复合分位数回归估计表现更优。基于上述3种方法对实例数据进行预测分析,结果表明:在平均绝对偏差和均方误差预测意义下,基于贝叶斯复合分位数回归的预测效果更好。

基于复合分位数回归的部分线性模型平均估计

针对部分线性模型的参数与非参数估计问题,基于复合分位数回归提出了一种稳健的模型平均估计量.为了提高估计效率,采用B样条的方法拟合子模型中的非参数函数.数值模拟和仿真实验证明了所提出的估计量预测效果优良.

部分线性变系数空间自回归模型的惩罚轮廓拟最大似然方法

主要研究了部分线性变系数空间自回归模型的变量选择问题。结合拟最大似然方法、局部线性光滑方法以及一类非凸罚函数,提出了一个变量选择方法用于同时选择该模型的参数部分中重要解释变量和估计相应的非零参数。大量模拟研究表明,所提出的变量选择方法具有满意的有限样本性质,并且关于空间权矩阵的稀疏度、空间相关强度、系数函数的复杂度以及误差分布的非正态性非常稳健。特别地,当样本容量较大且罚函数选择合适时,即使解释变量的相关性较强或者模型中含有较多不重要解释变量,所提出的变量选择方法仍然具有比较满意的有限样本性质。通过分析波士顿房屋价格数据考察了所提出的变量选择方法的实际应用效果。

部分线性空间自回归模型的惩罚最小二乘方法

部分线性空间自回归模型因具有参数空间自回归模型的解释能力和非参数空间自回归模型的灵活性而成为一类备受关注的半参数空间自回归模型。主要研究部分线性空间自回归模型的变量选择问题,基于轮廓拟最大似然方法和一类非凸罚函数,提出了一类惩罚最小二乘方法同时选择该模型的参数部分中重要解释变量和估计相应的非零回归系数。在适当的正则条件下,推导了回归系数的惩罚估计的收敛速度,并证明了所提出的变量选择方法具有Oracle性质。模拟研究和实际数据分析均表明所提出的变量选择方法具有满意的有限样本性质。

多水平线性分位数回归增值评价模型估计精度的影响因素探析

随着教育评价改革的深入推进和增值评价实践的不断拓展,增值计算的科学性及估计精度问题日益受到重视。本研究以多水平线性分位数回归增值评价模型为研究对象,借助数据模拟的方法探讨了组间变异系数、群体内样本量(学生层面)及群体样本量(班级层面)三个因素对于增值评价模型估计精度的影响。研究主要得到以下两点结论:1)就学生增长百分位数估计而言,采用多水平分位数回归方法的误差较大,估计精度不稳定,组间变异系数会影响学生增长百分位数的估计精度,而群体内样本量、群体样本量均不会对其有显著影响;2)就群体增长百分位数估计而言,采用多水平分位数回归方法的误差很小,具有较优的估计精度,群体内样本量会影响群体增长百分位数的估计精度,而组间变异系数和群体样本量均不会对其有显著影响。

基于纵向数部分线性模型的分位数模型平均

本文针对纵向数据部分线性回归模型中的参数估计与非参数估计问题,基于分位数回归估计方法提出了一种稳健的模型平均估计量。为了提高估计效率,采用工作相关矩阵分解和估计方程平滑法处理纵向数据的组内相关性,并通过局部线性估计方法处理模型的非参数部分,给出了模型参数与非参数估计的Newton-Raphson迭代算法。数值模拟表明,新的估计方法具有良好的估计性能。将新估计方法应用到空气质量数据的预测分析中,证明了该方法在实际应用中也具有可行性。

删失部分线性可加模型的复合分位数回归及应用

本文针对一种具有广泛适用性的半参数模型,部分线性可加模型,研究其响应变量存在删失数据时模型系数和非参数函数的估计.对此,提出了一种基于数据增广的复合分位数回归估计方法.该方法利用分位数回归和分布函数之间的联系,构造插补数据集,并通过迭代采用复合分位数回归得到最终的估计值.所提方法放宽了对模型的假设,不但对迭代初始值的要求很低,还允许响应变量同时存在多种类型的删失,具有一定的普适性.数值模拟表明所提方法可以较为准确地估计出删失部分线性可加模型的系数和非参数函数.实证研究中,本文选取了北京市空气质量数据,测度了PM10浓度、CO浓度、温度、气压以及露点对PM2.5浓度的影响.结果显示,部分线性可加模型的复合分位数回归可以较好地从线性和非线性关系两个角度来刻画这些因素对PM2.5浓度的影响,并且所提方法在删失数据的处理上表现良好.

部分线性分位数回归模型的平均估计

模型平均估计可对不同候选模型中的参数估计量进行加权平均,能有效提高参数估计的精度,在经济、金融和管理等领域有着广泛应用。为提高部分线性分位数回归模型的参数估计效果,本文构造了基于兴趣参数的模型平均估计量并探究了其大样本性质。首先,利用B样条近似非参数函数,并通过极小化分位数损失函数来得出各候选模型的回归系数估计量,在局部误设定框架下推导了系数估计量的渐近分布;其次,基于候选模型中兴趣参数的估计构造出了模型平均估计量,并得出其渐近性质;最后,推导了覆盖真实参数的概率趋近于名义水平的置信区间。本文研究不仅丰富了平均估计的渐近分布理论,而且为兴趣参数构造了合适的置信区间。

基于弹性网惩罚的高维部分线性模型的稳健变量选择

高维数据下部分线性模型的变量选择方法大多基于最小二乘回归估计展开,但随着数据复杂性的提升,极端、异常等因素使得以往模型的估计效率直线下滑。为此,本文基于弹性网络法与分位数回归相结合的正则化理论,提出了一种应对高维数据下部分线性模型的稳健变量选择模型。该模型不仅可以有效处理强相关变量组的数据,还可以在面对离群点或存在异方差时仍达到较好的稳健性。此外,理论上证明了在一定条件下模型估计量的相合性和稀疏性,最后通过数值模拟,与其他变量选择方法作比较,进一步表明了该方法的优越性。

数据流下部分线性模型的在线估计

部分线性模型作为一种重要的半参数回归模型,因其在复杂数据结构分析中表现出的灵活适应性,广泛应用于各领域.然而,在大数据背景下,该模型的研究和应用面临着多重挑战,其中最为关键的难点在于计算速度和数据存储.本文针对以数据块形式连续观测的数据流场景,提出一种在线估计的计算方法,用于估计部分线性模型中线性部分的参数和非线性部分的未知函数.该方法仅需利用当前数据块和之前计算过的汇总统计量即可实现实时估算.数值模拟从两个角度进行验证有效性:分别改变数据流的单位数据块大小和总样本规模,以比较在线估计方法和传统估计方法的偏差、标准误差以及均方误差.实验表明,与传统方法相比,本文的方法具有快速计算和无需重新访问历史数据的优势,同时在均方误差方面接近传统方法.最后,基于中国综合社会调查(CGSS)数据,本文应用在线估计方法分析我国劳动年龄人口生活质量的影响因素,得出周工作时间在30–60 h范围内的全职工作对提升生活质量具有积极作用的结论,为相关政策制定提供了一定参考价值.

基于惩罚最小绝对偏差的部分线性空间自回归模型的稳健变量选择

结合B样条逼近以及工具变量调整技术,并利用惩罚最小绝对偏差方法,对部分线性空间自回归模型提出了一种稳健变量选择方法.理论上证明了所提出的变量选择方法可以相合地识别出模型中的重要协变量和不重要协变量,并给出了所得正则估计的收敛速度.所提出的变量选择过程对模型中的参数分量和非参数分量的估计可以一步同时完成,避免了非参数分量的估计对参数分量变量选择的影响,因此具有较好的稳健性和有效性.

部分线性分位回归模型估计的MM算法

近年来,关于部分线性分位回归模型的估计方法的研究得到了较多的关注.但由于目标函数的非光滑性,估计程序的实现是比较具有挑战性的.文章将采用MM(Majorization Minimization)算法计算部分线性分位数回归模型的估计.其基本原理是首先找到目标函数的优化函数,然后借助优化函数的最小化过程.逐步迭代至目标函数的解.数值模拟和实证研究表明该算法具有较好的稳定性和较强的数值计算能力.

固定效应部分线性单指数面板模型的惩罚分位数回归

分位数回归是均值回归的有益补充,该方法毋须对分布函数的具体形式做出假设,且对具有异常值或厚尾分布的数据仍具有稳健性。当前,对部分线性单指数面板模型估计方法的研究主要集中于均值回归,基于此,本文考虑了固定效应部分线性单指数面板分位数回归模型,结合B-样条函数、SCAD惩罚函数和迭代加权最小二乘法,构建了模型的估计方法,证明了估计方法的一致性和渐近正态性,同时利用Monte Carlo模拟评价了所述方法在有限样本下的表现。最后,将估计方法应用于分析碳排放的影响因素。

固定效应部分线性单指标空间自回归面板模型的二次推断函数估计

从模型结构的特点着手,获得了一些不依赖于工具变量的矩条件.将这些矩条件与二次推断函数法(QIF)和最小二乘虚拟变量法(LSDV)结合,为模型构建了一种新的估计方法.该方法的优点是考虑了空间内生性的同时,还将个体内的相关结构包含其中.进一步,在一些正则条件下,研究了模型估计量的大样本性质,发现非参数估计量具有最优收敛速度,参数估计量渐近于正态分布.同时,采用Monte Carlo模拟评价了估计方法在有限样本下的表现,结果表明文中所述方法的表现符合大样本性质,且远远优于忽略相关性的估计方法.最后,将所述方法应用于实际数据分析中.

广义线性模型的分位数回归变点检测

变点问题因具有广泛的应用,一直是一个研究的热门问题。文章结合分位数回归的思想,考虑了广义线性模型在连接函数不变的情况下其参数是否发生改变,利用子样本的次梯度来构造检验统计量,并且找到了在原假设下检验统计量的渐进分布,并通过数值模拟证明了该检验的有效性。

基于FPCA的部分函数型线性模型的复合分位数回归估计

本文研究了部分函数型线性回归模型的复合分位数估计问题.采用函数型主成分基函数对斜率函数和函数型预测变量进行展开,在相当宽松的条件下给出斜率函数的最优收敛速度和参数部分的渐近正态性.最后通过理论模拟来评价提出方法的有效性.