Gibbs抽样算法及软件设计的初步研究

基于贝叶斯理论框架 ,对适应于广义线性模型的Gibbs抽样技术及相关算法进行了理论与实践的研究 ,初步提出了在面向对象开发环境下开发该类软件的基本构架。对实例进行实际运算并将计算结果与权威统计软件SPSS及WinBUGS进行对比 ,参数估计值相互接近 ,模拟运算时间短 ,但与WinBUGS相比仍有差距。

基于Gibbs抽样算法的贝叶斯动态面板数据模型分析

针对现有动态面板数据分析中存在偶发参数和没有考虑模型参数的不确定性风险问题,提出了基于Gibbs抽样算法的贝叶斯随机系数动态面板数据模型.假设初始值服从平稳分布,自回归系数服从Logit正态分布的条件下,设计了Markov链Monte Carlo数值计算程序,得到了模型参数的贝叶斯估计值.实证研究结果表明:基于Gibbs抽样方法的贝叶斯动态面板回归模型能有效地揭示跨截面滞后变量对响应变量的位置、尺度和形状的影响.

贝叶斯复合分位回归的Gibbs抽样算法（英文）

大多数基于传统均值回归的建模方法都对非正态误差表现出不稳健的估计结果.和传统均值回归相比,复合分位回归(CQR)可以产生稳健的估计.基于一个复合反对称Laplace分布(CALD),我们建立了加权复合分位回归(WCQR)的贝叶斯分层模型.Gibbs抽样算法被发展用于WCQR的后验推断.最后,我们提供了一些模拟研究和一个实际数据分析来验证所提方法.

利用条件概率和Gibbs抽样技术为分布估计算法构造通用概率模型

本文针对传统分布估计算法在建立概率模型时面临的各种困难,提出一种基于条件概率和Gibbs抽样的概率模型,能有效改进分布估计算法的通用性.使用该模型的分布估计算法利用进化过程中有前途的优秀个体构造出多个监督学习样本集,并对每个样本集估计出对应分量的条件概率,再使用这一组条件概率进行Gibbs抽样产生新的个体替代种群中的劣等个体.通过仿真实验表明,改进后的算法能够求解出可加性降解函数的全局最优解,表现出较强的全局优化能力.

基于EM-GIBBS算法的ARMA(p,q)测量误差模型的参数估计

本文对基于ARMA(p,q)的测量误差模型的参数估计提出了EM-Gibbs算法.由于无法给出模型参数的极大似然估计解析解,本文在EM算法框架下对参数进行估计.在实施EM算法M步骤过程中,为了计算高维正态分布的隐变量一阶、二阶矩,需要求出高阶矩阵的逆矩阵.为了避开计算高阶矩阵的逆矩阵,通过Gibbs抽样,给出了隐变量的一阶、二阶矩的估计,从而给出了EM算法M步骤中参数最优值的估计.最后通过对ARMA(1,1)测量误差模型进行了数值模拟,模拟结果验证了所提EM-Gibbs算法的可行性和有效性.

基于切片Gibbs抽样方法的Logistic回归模型参数估计

文章采用切片Gibbs抽样方法对多元Logistic回归模型的参数进行了研究。结果表明,在切片Gibbs抽样过程中通过引入辅助变量扩大参数空间,得到了参数的后验分布为截尾正态分布。在此基础上随机模拟显示,马氏链经过有限次迭代达到了平稳状态并且链的收敛速度较快,通过参数的自相关图得出自相关系数随迭代次数的增大呈减小趋势,即产生链的机理是正确的,说明该方法对估计Logistic回归模型是有效的。

基于EM算法和Gibbs抽样的污染模型的参数估计

研究简单回归模型中响应变量受到另一随机变量序列污染时,模型参数和污染系数的估计,运用EM算法给出了两类污染数据回归模型的参数的极大似然估计(MLE),并用Gibbs抽样的方法给出了未知参数的Monte-Carlo估计.

基于Gibbs抽样算法的造纸工艺能源消耗预测模型仿真研究

针对造纸工艺能源消耗预测模型效果不佳的整体现象,基于Gibbs抽样算法设计了造纸工艺能源消耗预测模型,通过以贝叶斯参数估计为载体的马尔科夫蒙特卡洛算法优化传统预测模型,以能源消耗数据特性合理选择最佳先验分布,生成与目标分布要求相符的马氏链,以Gibbs抽样算法进行参数后验分布均值提取分析,当作模型参数估计值。同时进行模型仿真试验验证,结果表明,优化前模型与优化后模型预测值都可准确拟合真实值,但是就整体拟合效果来讲,贝叶斯参数估计算法能源消耗预测模型的效果更优;且贝叶斯参数估计算法能源消耗预测模型的预测精确度较高,平均绝对百分误差相对更小。

指数-威布尔分布参数贝叶斯估计的混合Gibbs算法

文章利用混合Gibbs算法分别在分组数据和定数截尾场合给出了指数-威布尔分布参数的贝叶斯估计,并进行了Monte-Carlo模拟。结果表明:在两种不完全数据场合,用混合Gibbs算法求指数-威布尔分布参数的贝叶斯估计,结果令人满意,该算法可行、稳定且精度高。

分组数据场合Burr-XII分布参数贝叶斯估计的混合Gibbs算法

文章利用混合Gibbs算法(Gibbs抽样与Metropolis算法混合)给出了分组数据场合Burr-XII分布参数的贝叶斯估计,通过Monte-Carlo模拟,考查贝叶斯估计的均值、均方误差及参数的可信区间,并给出混合Gibbs抽样过程中相应参数的轨迹图、直方图及自相关系数图。结果表明:在分组数据场合,用混合Gibbs算法求Burr-XII分布参数的贝叶斯估计都得到了比较满意的结果,该算法可行、稳定、有效。

基于免疫GA与Gibbs的模体识别算法

生物序列motif识别问题是当今生物信息学面临的一个复杂问题,要设计一个能识别所有motif的方法几乎是不可能的。针对该问题,在免疫遗传算法中引入了统计估计,提高了motif识别的精度,根据个体的浓度和适应值概率。设计了免疫替换算子,有效地解决了种群的多样性问题,利用Gibbs Sampler算法生成种子,提高了免疫遗传算法的搜索速度,最后得到了一个基于免疫GA与Gibbs Sampler的生物序列motif识别算法,该算法充分发挥了免疫遗传算法和Gibbs Sampler算法的优越性,较好地解决了计算速度和计算精度之间的矛盾。实验表明,该算法是有效的。

基于聚类算法的有限制单纯形均匀随机抽样研究

针对单纯形在抽样算法设计方案中无法适用复杂限制情况下的条件分布以及满足高维情形要求,需要提出一种行之有效的抽样算法,即Gibbs抽样算法,来为有限制单纯形均匀随机抽样提供一个可靠算法框架,同时为了获得有限制单纯形上均匀分布的代表点,此研究引入了3种聚类算法。从数值模拟结果可以看出,提出的抽样方法能够获取到较为均匀的样本,能够广泛应用至各种有限制或高维等复杂条件中,且对聚类算法的抽样算法框架有显著提升试验点的价值属性。

稳健学生t回归模型的非迭代贝叶斯抽样算法

与正态回归相比,学生t回归模型是一种对异常值较稳健的回归模型,通常用Gibbs抽样算法估计参数。而Gibbs抽样是一种迭代算法,所得样本不是独立样本,统计推断之前需判断其收敛性。文章探讨了一种基于逆贝叶斯公式的非迭代抽样算法,该算法利用t分布的正态混合表示,结合EM算法和重要再抽样算法,得到参数的独立同分布的后验样本,该样本可直接用于统计推断,从而避免了Gibbs抽样中的问题。

基于蒙特卡洛方法的金融市场风险VaR的算法分析

为解决蒙特卡洛(Monte Carlo)方法在计算风险价值(Value at Risk,VaR)方面的缺陷,文章首先引入GARCH模型来刻画金融数据的波动聚集性,再引入马尔科夫链蒙特卡洛(Markov Chain Monte Carlo,MCMC)方法,来克服GARCH模型参数估计约束条件带来的估计误差。通过对上证50指数的实证分析表明,引入MCMC方法可以提高模型的估计精确度。

一种新的基于LDA-MURE模型的音乐个性化推荐算法

针对基于音乐作品信息的音乐作品个性化推荐及协同过滤方法的不足,通过分析音乐作品需求者的音乐试听数据及下载数据,并结合LDA(latent Dirichlet allocation)主题挖掘模型,提出一种基于LDA-MURE模型的推荐算法.实验结果表明,与基于音乐作品需求者的协同过滤算法和基于音乐属性项目的协同过滤算法相比,LDA-MURE算法可更高效地向音乐作品需求者推荐感兴趣的音乐作品.

数控机床可靠性增长模型参数的贝叶斯算法确定

以国产数控机床的可靠性为研究对象,给出了适合数控机床的可靠性增长模型,引入了适用于小子样抽样试验的贝叶斯参数确定算法,通过贝叶斯参数估计值与传统的参数估计值分别与实验真值比较,得出应用贝叶斯算法所确定的模型参数具有更高的可靠性和准确性结论。

带有不可忽略缺失偏正态数据下众数回归模型的贝叶斯分析

诸多学科领域中大量数据都存在偏斜与缺失,针对不同的缺失机制,考虑相应的处理方法是必要的。基于众数是“最多水平”的标志值,本文提出了一种同时解决数据带有偏斜特征且存在不可忽略缺失时的估计方法。通过Logistic回归模型指定数据缺失机制,借助Gibbs抽样与M-H算法相结合的混合抽样算法,获得参数的联合贝叶斯估计。模拟研究比较了不同缺失数据机制和不同先验设定所得的结果,随机模拟表明不同先验设置下具有一致的结论且不可忽略缺失机制模型处理缺失数据优于随机缺失机制模型。电子元件损坏数据的实例分析体现了方法的可行性。

半参数双重Tweedie复合泊松回归模型的贝叶斯分析

为了分析健康保险行业中出现的半连续卫生保健费用数据,本文提出一类半参数双重Tweedie复合泊松回归模型.在分析中,首先采用修正鞍点逼近的数值方法去近似Tweedie复合泊松分布的密度函数;其次,利用Gibbs抽样技术和Metropolis-Hastings(MH)算法的混合算法获得了模型参数的联合贝叶斯估计;最后,给出了几个模拟研究以及把这些方法用来分析兰德健康保险实验中的卫生保健费用数据.

非线性状态空间模型的EHMM抽样法

给出了一种新的非线性状态空间模型的MCMC方法———EHMM(EmbeddedHiddenMarkovModel)抽样法,运用该方法构造的Markov链的收敛速度比传统的MCMC方法有明显提升,文中证明了这一结论并以一维非线性状态空间模型为例加以说明。

部分线性变系数模型的贝叶斯复合分位数回归

部分线性变系数模型由参数和非参数2部分组成,具有适应范围广和解释性强双重优点。针对该模型的参数估计问题,采用B样条方法逼近非参数部分的未知光滑函数,进而利用复合非对称拉普拉斯分布实现贝叶斯复合分位数回归,并基于Gibbs抽样算法推导出所有未知参数的后验分布,以获取参数的估计值。通过数值模拟对贝叶斯复合分位数回归与贝叶斯分位数回归、贝叶斯线性回归参数估计效果进行比较分析,结果显示:当误差服从非正态分布时,在均方误差准则下,贝叶斯复合分位数回归估计表现更优。基于上述3种方法对实例数据进行预测分析,结果表明:在平均绝对偏差和均方误差预测意义下,基于贝叶斯复合分位数回归的预测效果更好。