基于联邦学习的Gamma回归算法

在水文学、气象学以及保险理赔评估等领域中,通常假设因变量服从Gamma分布,相比多元线性回归,在Gamma分布假设下建立起的Gamma回归具有更出色的拟合效果。以往获得Gamma回归模型的方法是将数据集中起来进行训练,当数据是由多方提供时,在不交换数据的情况下训练满足隐私保护的Gamma回归模型成为需要解决的问题。为此,提出了一种多方安全的纵向联邦Gamma回归算法,该算法首先使用迭代法推导出纵向联邦Gamma回归模型的对数似然估计表达式,然后结合工程实际确定模型的连接函数,进而构造损失函数建立参数的梯度更新策略,最后对同态加密后的各方参数进行融合更新,获得联邦学习后的Gamma回归模型。在两种公开数据集上进行性能测试,实验结果表明,所提联邦Gamma回归算法在不交换数据的前提下,可有效利用多方数据的价值生成Gamma回归模型,该模型对数据的拟合效果逼近数据在集中情况下学习到的Gamma回归模型,优于单方独立学习获得的Gamma回归模型。

Gamma回归模型的几乎无偏岭估计

针对Gamma回归模型的复共线性,文章提出Gamma回归模型的几乎无偏岭估计。研究了几乎无偏岭估计与极大似然估计之间的线性关系,证明了几乎无偏岭估计是一种压缩估计。在均方误差准则下,讨论了几乎无偏岭估计的均方误差关于参数k的函数性质,并给出了几乎无偏岭估计优于极大似然估计和普通岭估计的存在性定理。最后讨论了最优几乎无偏岭参数的一种取值方法。通过Monte Carlo模拟,证明了所提出几乎无偏岭估计和最优几乎无偏岭参数的优良性。

Gamma回归模型中岭估计的几种改进岭参数

针对Gamma回归模型的复共线性问题,基于HOERL和KENNARD等人的工作,提出了岭估计的几种新的岭参数.在最小均方误差的准则下,采用蒙特卡罗模拟法验证了岭估计和所提出的岭参数的优良性.

大样本Gamma回归的最优子抽样

随着计算机行业的迅猛发展,人类社会逐渐迈入大数据时代。面对大规模右偏性和厚尾分布的数据,Gamma回归模型发挥着非常重要的作用。然而如何快速并准确估计出Gamma回归中感兴趣参数成为值得思考的热点问题。在本文中,我们提出两种两步算法分别有效地逼近Φ已知Gamma回归和Φ未知Gamma回归在全数据下的最大似然估计,从而解决了单参数与双参数大样本Gamma回归估计问题。首先在Φ已知情况下,可证明出在给定全数据下一般子抽样估计量渐近服从正态分布,推导出使估计量渐近均方误差最小的最优子抽样概率。为了进一步降低计算量,我们还提出了另一种最优子抽样概率。由于最优子抽样概率取决于未知参数,我们还提出了单参数两步算法。其次在Φ未知情况下,我们基于单参数两步算法提出了双参数两步算法。最后使用数值模拟表明两种算法的计算效率高,也证实了通过单参数两步算法得到的估计量与双参数两步算法得到的估计量差距不明显。