基于惩罚最小绝对偏差的部分线性空间自回归模型的稳健变量选择

结合B样条逼近以及工具变量调整技术,并利用惩罚最小绝对偏差方法,对部分线性空间自回归模型提出了一种稳健变量选择方法.理论上证明了所提出的变量选择方法可以相合地识别出模型中的重要协变量和不重要协变量,并给出了所得正则估计的收敛速度.所提出的变量选择过程对模型中的参数分量和非参数分量的估计可以一步同时完成,避免了非参数分量的估计对参数分量变量选择的影响,因此具有较好的稳健性和有效性.

基于邻近交替线性化的稀疏非负矩阵分解算法

结合稀疏约束与邻近交替线性化(PALM),提出稀疏非负矩阵分解算法(SNMF_PALM)。将非凸的平滑剪切绝对偏差函数作为稀疏正则项,获得逼近L0范数的最佳凸松弛,并利用PALM算法对非凸问题进行求解,得到SNMF_PALM算法的局部稳定最优解。在人脸数据库上将SNMF_PALM算法与SNMF、NMF算法进行实验对比,结果表明SNMF_PALM算法具有更好的聚类性能。

基于组选择的近似无偏稀疏脑功能超网络模型构建与分类研究

针对LASSO方法构建脑功能超网络模型缺乏组效应解释能力和网络有偏性问题,提出了两种基于组变量选择的近似无偏稀疏脑功能超网络模型来改善超网络的构建,分别为组最小最大凹惩罚方法和组平滑剪裁的绝对值偏差方法,并将其分别应用于抑郁症的分类研究中。分类结果显示,两种方法的分类表现均优于传统超网络模型,且组最小最大凹惩罚方法的分类准确率最高,达到86.36%。结果表明若想构建有效的脑功能超网络模型,不仅需要考虑脑区间组效应的解释能力,还需考虑模型变量选择的有偏性问题。而且在考虑到超网络有偏性的基础上,选取较为宽松的惩罚方式来选取目标变量,则可更精确地表征人脑的复杂高阶多元交互信息。

超记忆梯度法在大规模信号重构问题中的应用

研究了用基于非单调线搜索技术的超记忆梯度算法解决大规模信号恢复问题。利用平滑切片绝对偏差惩罚函数(SCAD)代替1正则化最小二乘问题的1范数惩罚函数,因SCAD的一个局部二次逼近是凸且可微的,所以目标函数的梯度和海瑟阵易计算。该算法的特点:每一步迭代充分利用前面多步迭代信息,避免目标函数海瑟阵的储存和计算,因此它适合解决大规模信号恢复问题。在某些假设下,证明了提出算法的收敛性,数值实验表明本文提出的算法是可行的。