平滑削边绝对偏离惩罚截断Hinge损失支持向量机的财务危机预报

针对传统支持向量机(SVM)分类存在对离群点敏感、支持向量(SV)个数多和分类面参数非稀疏的问题,提出了平滑削边绝对偏离(SCAD)惩罚截断Hinge损失SVM(SCAD-TSVM)算法,并将其用于构建财务预警模型,同时就该模型的求解设计了一个迭代更新算法。结合沪深股市A股制造业上市公司的财务数据进行实证分析,同时对比L1范数惩罚SVM、SCAD惩罚SVM和截断Hinge损失SVM(TSVM)构建的T-2和T-3模型,结果发现SCAD-TSVM构建的T-2和T-3模型都具有最好的稀疏性和最高的预报精度,而且其在不同训练样本数上的平均预测准确率都要比L1范数SVM(L1-SVM)、SCAD-SVM和TSVM算法的高。

基于平滑削边绝对偏离惩罚技术对大肠癌术前淋巴结转移因素的回顾性分析

目的应用基于平滑削边绝对偏离(SCAD)惩罚方法揭示大肠癌术前淋巴结转移因素。方法对252例大肠癌患者入院检查各项常规指标进行回顾性分析,应用SCAD惩罚方法筛选出影响淋巴结转移的主要因素,并推算出模型参数。结果统计结果显示腹痛、血便、癌胚抗原以及血清总胆汁酸4项数据异常对大肠癌淋巴转移的影响有统计学意义,进而可以根据模型推算大肠癌患者的淋巴结转移概率。结论 SCAD统计学研究的结果可在临床上用于手术前评估大肠癌患者淋巴结转移发生的概率,指导手术前的干预治疗。

基于迭代近端投影的二维欠采样合成孔径雷达成像

合成孔径成像雷达(SAR)具有数据量大、采样率高等特点,针对传统压缩感知(CS)的SAR成像存在精度低及抗噪性能差的问题,该文提出一种基于迭代近端投影(IPP)的2维欠采样合成孔径雷达成像重建方法。即通过对雷达回波构建为距离频域-方位多普勒域的2维稀疏表示模型,在此基础上将成像问题转化为距离向和方位向压缩感知稀疏重构问题,利用迭代近端投影算法的函数优化模型来表示合成孔径雷达成像中的稀疏表示,最后采用平滑削边绝对偏离(SCAD)罚函数获得近端算子以求解该模型并进行成像。仿真与实测数据处理结果表明,所提方法成像效果更好。

基于SCAD-ESN的时间序列预测模型

回声状态网络(ESN)是一种重要的时间序列预测方法,但在训练数据存在噪声或野点情况下,ESN将会出现过拟合问题。针对该问题,提出基于平滑消边绝对偏离罚函数的回声状态网络(SCAD-ESN)模型。不同于在模型中加入岭回归、L1范数罚函数及小波降噪等常规方法,该模型利用SCAD罚函数对变量进行选择,将小变量置为零以满足变量稀疏性,将大变量直接置为常数,从而能够很好地解决ESN过拟合问题并满足近似无偏估计。对于SCAD罚函数的非凸函数优化问题,提出基于局部二次近似(LQA)的求解方法,将最小角回归(LQR)方法用于SCAD罚函数求解,避免了计算量巨大的问题。使用基于粒子群优化(PSO)的超参数选取方法快速确定平滑消边绝对偏离–回声状态网络模型的超参数,克服利用经验选取超参数时存在的盲目性较大且难以确定整体最优的超参数问题。混沌系统数值仿真和网络流量仿真结果表明,相对于常规模型,该模型能有效地降低测试误差,从而克服过拟合问题。

求解大规模SCAD回归问题的随机坐标下降算法研究

回归方法是重要的数据分析工具。带平滑削边绝对偏离(smoothly clipped absolute deviation, SCAD)正则项的回归问题,以其在处理高维数据中的近似无偏性(见Fan和Li,2001),在大数据分析中得到广泛应用。但在大数据背景下,待求解的SCAD回归问题的数据量往往很大,而且分布在不同地理位置,这使得在SCAD回归问题的求解算法设计中,需要重新考虑计算的内存使用量。常规用于求解SCAD回归问题的优化算法(LQA、LLA、ADMM等)往往需要在每一次迭代中更新全部变量,从而造成计算的内存需求很大,难以适应大数据的求解要求。随机坐标下降方法(stochastic coordinate descent, SCD)以其子问题运算内存需求小(见Nesterov,2012)的优势,在大规模分布式最优化问题中得到了广泛的应用。但目前理论上SCD算法仅能处理带凸惩罚项的回归问题,由于SCAD回归问题中惩罚项的非凸非光滑性,现有的随机坐标下降方法难以处理这一问题。首先对SCAD回归问题模型进行分析,得出SCAD回归模型的损失函数是导数Lipschitz、惩罚函数是semi-convex的,此外根据已有结论,得到SCAD回归问题的稳定点即可保证良好的统计性质。基于这些性质的分析,介绍了一种新的随机坐标下降方法(variable bregman stochastic coordinate descent, VBSCD),这一方法能很好求解带SCAD惩罚项的回归问题,算法的收敛点是SCAD回归模型的稳定点。最后,通过计算实验进一步说明本算法在求解SCAD回归问题的有效性。对不同的变量分组数,算法迭代到稳定点所需的迭代回合数相对稳定。随着变量分块数的增加,单次迭代中计算的内存需求减少。该研究方法可广泛应用于大数据背景下SCAD回归问题的求解当中。