基于变分贝叶斯层次概率模型的非刚性点集配准

非刚性点集配准是计算机视觉和模式识别领域的基础研究问题,现今的非刚性点集配准算法在存在大量离群点、噪声、点集对应关系缺失、旋转和形变情况下,不能非常准确地评估出两个点集间的对应关系.本文通过交替执行点集对应关系评估和空间转换更新两个步骤来逐步恢复点集间一一对应关系.在对应关系评估步骤,首先本文基于有限重尾学生t分布隐变量混合模型(student-t distribution Latent Mixture Model,简称TLMM)构造变分贝叶斯层次概率模型(Variational Bayes Hierarchical Probability Model,简称VBHPM)并将其分为对应关系评估组件和离群点聚合组件,分别用来评估点集间对应关系和聚合离群点,同时使用贝叶斯线性回归方法来抵抗噪声的干扰.其次本文加入Dirichlet先验分布来动态调节模型的混合比例,为对应关系缺失的点分配较小的混合比例以保持点集结构的稳定性.在空间转换更新步骤,本文基于变分贝叶斯(Variational Bayes,简称VB)框架来迭代更新模型参数,并提出树状平均场因式分解方法来维持模型参数间的依赖关系,以获得更紧致的变分下界.此外,本文提出自适应全局-局部约束策略来维持点集间结构的稳定性,抵抗形变和旋转影响的同时实现从局部到全局的约束过程.最后,本文采用了双阶段先验退火方案,在退火过程中使用Gamma先验分布来动态调节精度,实现由粗到精的配准过程.在实验部分,本文不仅测试了VBHPM的性能,而且展示了点集和图像配准的结果,并与当前流行的13种算法进行了比较,VBHPM皆能展现较准确的配准结果和较高的精度.

基于局部变分贝叶斯推断的分布式交互式多模型估计

针对目前部分多模型算法预先设定运动模型转移概率矩阵对状态估计精度的不利影响,本文提出了一种基于局部变分贝叶斯推断的分布式交互式多模型估计算法.不同于传统交互式多模型估计中运动模型转移概率矩阵为先验已知的假设条件,在分布融合估计框架下,首先基于最小化Kullback-Leibler散度准则的递归优化策略实现对运动模型转移概率矩阵的预测与更新;在此基础上,结合变分贝叶斯推断实现对当前时刻目标状态与模型概率的联合估计;最后依据协方差交叉融合策略完成对局部状态估计融合.仿真结果表明:新算法通过对运动模型转移概率矩阵以及模型概率自适应在线估计,有效提升了机动目标的状态估计精度.

不确定性环境下维纳模型的随机变分贝叶斯学习

多重不确定性环境下的非线性系统辨识是一个开放问题.贝叶斯学习在描述、处理不确定性方面具有显著优势,已在线性系统辨识方面得到广泛应用,但在非线性系统辨识的应用较少,且面临概率估计复杂、计算量大等难题.针对上述问题,以典型维纳(Wiener)非线性过程为对象,提出基于随机变分贝叶斯的非线性系统辨识方法.首先对过程噪声、测量噪声以及参数不确定性进行概率描述;然后利用随机变分贝叶斯方法对模型参数进行后验估计.在估计过程中,利用随机优化思想,仅利用部分中间变量概率信息估计模型参数分布的自然梯度期望,与利用所有中间变量概率信息估计模型参数比较,显著降低了计算复杂性.该方法是首次在系统辨识领域中的应用.最后,利用一个仿真实例和一个维纳模型的Benchmark问题,证明了该方法在对大规模数据下非线性系统辨识的有效性.

基于变分贝叶斯算法的多模型车载组合导航算法

在行车过程中强机动引起全球卫星导航系统(GNSS)量测噪声产生野值,表现出厚尾特性导致常规状态估计精度下降的问题,为此提出一种基于变分贝叶斯的SINS/GNSS组合导航信息融合方法。构建车载组合导航系统模型,采用Student’s t分布对量测异常情况下噪声建模,并用变分贝叶斯的方法对系统状态和隐变量进行求解,实现对模型参数的后验估计。针对城市行车存在GNSS测量失效的问题,利用交互式多模型算法实现了GNSS量测中断情况下的SINS/GNSS和SINS/OD子系统的动态交互融合。通过跑车实验进行验证,实验结果表明,所提算法可有效抑制GNSS量测野值噪声对SINS/GNSS/OD组合导航系统的影响,与传统交互式多模型算法相比,具有较高的精度和鲁棒性。

基于变分贝叶斯的鲁棒自适应因子图优化组合导航算法

复杂环境下的量测粗差和时变噪声严重影响了状态估计的精度和可靠性,对此提出了一种基于变分贝叶斯的鲁棒自适应因子图优化组合导航算法。首先,基于先验和后验两阶段更新将变分贝叶斯推断引入因子图优化框架中,以估计时变量测噪声协方差;其次,利用相邻帧间的平均新息构造量测协方差预测值,作为粗差判据来实现稳健估计。基于INS/GNSS组合导航的仿真和现场实验评估表明,所提方法能在粗差干扰的情况下有效估计时变量测噪声,相比M估计和滑动窗口自适应因子图优化算法的水平定位误差分别减小了26.7%和39.8%,兼顾了估计精度和抗差性能,具有较好的复杂环境适应性。

脉冲干扰下基于变分贝叶斯推断的水声正交频分复用联合估计方法

脉冲干扰环境下水声正交频分复用通信性能严重下降,为此提出了基于变分贝叶斯推断的信道估计方法。该方法利用水声信道和脉冲干扰的稀疏特性,基于平均场变分贝叶斯推断,将信道向量和脉冲干扰向量的后验概率分布分别分解为简单概率分布进行拟合,基于导频子载波迭代直至收敛,得到信道和脉冲干扰的最大后验估计。所提方法改进了基于稀疏贝叶斯学习的干扰、信道联合估计方法中信道和干扰构成的联合向量无法分离二者稀疏度的问题,并且显著降低了计算复杂度。在此基础上,进一步提出了基于变分贝叶斯推断的干扰、信道和符号联合估计方法,将未知符号融入变分贝叶斯推断框架,与干扰和信道一起迭代,最终得到更精确的符号估计。仿真和试验结果验证了所提算法的有效性,与现有方法相比,本文所提方法具有更低的误码率和复杂度。

双自编码结合变分贝叶斯的单细胞RNA-Seq聚类

近年来单细胞RNA测序(scRNA-seq)技术的快速发展使得在单个细胞水平上研究组织器官的异质性成为可能。针对单细胞RNA测序数据中准确鉴定细胞类型问题,提出一种新的基于双自编码结合变分贝叶斯高斯混合模型的聚类方法,称之为sc-VBDAE。首先通过对抗自编码网络的编码和解码过程重构数据,然后使用经典自编码对数据进行降维,获得低维且有效的数据。最后使用变分贝叶斯高斯混合模型对细胞进行聚类,并可视化聚类结果。在10个scRNA-seq数据上的实验结果表明,该方法在6个数据集上ARI指标均优于其它方法,在数据集Biase和Klein上ARI指标值达到0.90及以上。

GNSS/SINS组合导航系统的改进变分贝叶斯自适应滤波算法

针对系统噪声及测量噪声统计量不准确的组合导航系统线性高斯状态模型,提出一种组合导航系统的改进变分贝叶斯自适应滤波算法(modified variational Bayesian adaptive filter,MVBAKF)。首先,选择Wishart分布作为已知均值的高斯分布协方差矩阵的共轭先验,并给出测量噪声方差、状态向量及其预测误差协方差矩阵的联合概率分布函数;然后,利用变分贝叶斯方法给出测量噪声方差及状态向量预测误差协方差矩阵的计算公式,进而提出具有迭代性质的MVBAKF算法;最后,进行基于MVBAKF算法的GNSS/SINS组合导航系统仿真实验。结果表明,相对于传统VBAKF算法,MVBAKF算法可较准确地估计测量噪声方差,有效克服系统噪声统计量不准确对滤波精度的影响,进而提高组合导航系统的滤波精度。

基于参数解耦的变分贝叶斯自适应卡尔曼滤波

针对噪声协方差矩阵失配情况下的状态估计问题,本文基于变分贝叶斯框架,提出了一种适用于过程噪声协方差矩阵和测量噪声协方差矩阵均未知条件下的参数解耦的变分贝叶斯自适应卡尔曼滤波算法。所提算法选取预测误差协方差矩阵作为变分优化变量,并引入了其马尔可夫演化模型,构造了参数解耦的变分推断模型。同时,采用固定点迭代优化实现状态、预测误差协方差矩阵和测量噪声协方差矩阵的联合后验概率分布求解,并设计了算法的收敛性判断准则。仿真结果验证了算法的有效性。

基于变分贝叶斯深度学习的水文概率预报方法

目前水文领域关于深度学习的研究多集中于提高预测能力方面,与具有物理机制的水文模型相比,深度学习复杂的内部结构导致其不具备可解释性,预测结果难以被信任,因此发展可信赖的深度学习对于推进水科学发展具有重要意义。基于预报残差分析框架,构建具有物理机制的水文模型与深度学习融合的混合模型,以充分利用两者优势;引入变分贝叶斯理论,提出变分贝叶斯与深度学习耦合的概率预报模型VB-LSTM,以定量评估水文预报结果的不确定性、提高结果可靠度。以黄河源区1961—2015年的径流过程为研究对象,对VB-LSTM模型进行应用示例研究。结果表明:与长短时记忆网络(LSTM)相比,VB-LSTM模型在验证期预报精度更高,结果更稳定;与传统基于“线性-正态”假设的水文概率预报方法相比,VB-LSTM模型具有更高的预报精度,且不确定性更小、预报结果更可靠。

基于变分贝叶斯隐马尔科夫模型的股票价格指数预测

本文将传统的隐马尔科夫模型中用于参数学习的Baum-Welch算法改进为变分贝叶斯算法,并将变分贝叶斯隐马尔科夫模型应用于股票价格指数预测,分别选取国外市场美股S&P500指数以及国内市场沪深300指数进行预测,并与传统的隐马尔科夫模型、BP神经网络、ARIMA模型相比较,得出结论变分贝叶斯隐马尔科夫模型对于大规模数据处理更有优势,运算速度快且预测精度更高。

基于自然梯度的噪声自适应变分贝叶斯滤波算法

考虑到运动目标跟踪系统机动、隐身等人为对抗特征以及非视距、干扰、遮挡等环境因素,其系统建模、估计与辨识过程中越来越无法回避非线性、非高斯以及参数未知等复杂系统特征的影响.针对过程噪声先验信息不准确以及量测噪声非高斯环境下运动目标的非线性状态估计问题,提出一种基于自然梯度的噪声自适应变分贝叶斯(Variational Bayes,VB)滤波算法.首先,利用指数族分布具有统一表达形式的优势,构建参数化逆威沙特(Inverse-Wishart,IW)分布作为状态一步预测误差协方差的共轭先验分布,同时选取学生t分布重构因量测随机缺失导致的具有非高斯特点的似然函数;其次,在变分贝叶斯优化框架下采用平均场理论将状态变量联合后验分布近似分解为独立的变分分布,在此基础上,结合坐标上升方法更新各变量的变分分布参数;进而,结合Fisher信息矩阵推导置信下界最大化关于状态估计及其估计误差协方差的自然梯度,使非线性状态后验分布的近似分布沿梯度下降,以实现对状态后验概率密度函数(Probability density function,PDF)的“紧密”逼近.理论分析和仿真实验表明:相对传统的非线性滤波方法,本文算法对噪声不确定问题具有较好的自适应能力,并且能够获得较高的状态估计精度.

顾及组合导航闭环反馈的变分贝叶斯自适应滤波优化算法

多传感器组合的方式可以较好地应对全球导航卫星系统信号被遮挡、干扰等情况下的导航定位问题,滤波方法是导航定位中将多源数据融合最常使用的方法之一。在滤波过程中,组合导航的系统噪声和量测噪声无法实时精确地测定,常通过自适应滤波的方法进行时间更新和量测更新的平衡解算。贝叶斯自适应滤波方法在很多时候具有较好的效果,但是和其他的自适应滤波方法一样,该类方法都需要进行自适应因子的选取。本文根据组合导航对于实时性要求及其闭环反馈的特殊性,在变分贝叶斯自适应滤波的基础上进行了算法的优化,给出了一种调节因子的动态计算方法,并以GNSS和惯性导航系统组合系统为例,通过模拟和实测试验进行验证。试验结果表明,本文算法不需要通过迭代计算的方法就可以获取高精度组合结果,提升了计算效率;对于真实的动态场景中,本文算法的调节因子动态自适应确定,结果更具有优越性。

基于可变因子的变分贝叶斯SINS海上动态对准

针对传统变分贝叶斯自适应滤波中,基于经验选取常值遗忘因子,不能自适应时变量测噪声的问题,提出一种基于可变因子的变分贝叶斯自适应滤波,并应用于船载捷联惯性导航系统(strapdown inertial navigation system,SINS)动态对准。首先利用变分贝叶斯方法近似噪声的后验分布,估计时变量测噪声和状态向量后验分布。其次通过噪声方差时变强度构造可变因子,实现自适应调整变分贝叶斯参数。最后给出了基于可变因子的GNSS/SINS海上动基座对准流程及算法。船载实测数据表明,所提算法在时变方差下,较卡尔曼滤波和传统贝叶斯滤波方位角误差收敛到0.5°范围内所需时间分别缩短了52%和44%;横滚角和方位角均方根误差分别降低57%、46%和13%、9%;东向和北向速度均方根误差分别降低56%、68%和51%、22%。

一种变分贝叶斯改进无偏转换卡尔曼滤波

针对雷达测量系统受野值干扰导致跟踪精度下降的问题,提出了一种变分贝叶斯改进无偏转换量测卡尔曼滤波器(VB-MUCMKF)。该算法通过无偏转换卡尔曼滤波将更新后的目标状态估计值作为新的量测进行第二次无偏转换,一定程度上解决了量测偏差过大的问题;针对野值影响采用具有重尾特性的学生t分布取代高斯分布建模新的量测,利用变分贝叶斯方法通过最小化Kullback-Leibler散度函数迭代逼近实现测量协方差和目标状态的联合估计,从而提高野值干扰环境下滤波器的跟踪精度。仿真结果表明,提出的算法与EKF,UCMKF,EMUCMKF和MUCMKF相比位置均方根误差分别减少了48.9%,50.2%,1.9%,44.1%,速度均方根误差分别减少了60.6%,66.6%,9.7%,47.3%,降低了野值干扰带来的影响。

基于变分贝叶斯推断的DPGMM风电机组异常数据识别研究

为了准确识别和剔除风电机组在实际运行过程中产生的异常数据,以便为功率预测等工作提供有效的数据支持,通过分析风电机组运行数据散点在风速-功率(v-P)坐标系中的分布特征,提出了基于变分贝叶斯推断的狄利克雷过程高斯混合模型异常数据识别方法。将试验机组E17实测数据散点沿水平功率方向以一定间隔划分区间,采用能自适应确定最佳分量个数的狄利克雷过程高斯混合模型对每一个功率区间内的数据散点进行聚类,结合各高斯分量置信椭圆参数及数据散点在v-P坐标系中的分布特征,对试验机组E17各功率区间内的高斯分量及其聚类散点进行异常标识。结果表明:该模型克服了传统高斯混合模型需要人为确定分量个数的缺点,能够对风电机组异常数据进行准确识别。

二值probit回归模型的坍缩变分贝叶斯推断算法

给出了二值probit回归模型的坍缩变分贝叶斯推断算法.此算法比变分贝叶斯推断算法能更逼近对数边缘似然,得到更精确的模型参数后验期望值.如果两个算法得到的分类错误一致,则该算法的迭代次数较变分法明显减少.仿真实验结果验证了所提出算法的有效性.

变分贝叶斯Kriging模型预测混沌时间序列

基于变分贝叶斯及Kriging数学思想,提出了一种含噪混沌时间序列的相空间域预测模型。在相空间域中利用变分贝叶斯推断方法估计模型中的回归系数,采用Kriging数学方法估计模型中的随机部分,将该模型对含加性高斯噪声的Lorenz及Mackey-Glass混沌时间序列进行了预测研究;结果表明该文方法能够有效地预测含噪混沌时间序列,且具有较强的抗噪能力以及有效地克服了过拟和现象;同时预测精度对重构相空间的嵌入维数和时间延迟的变化不敏感。

基于变分贝叶斯的连续-离散最大相关熵CKF算法

针对纯方位目标跟踪中测量噪声协方差未知和非高斯测量噪声突变问题,提出了一种平方根连续-离散变分贝叶斯最大相关熵容积卡尔曼滤波(SRCD-VBMCCKF)算法。将目标跟踪模型建立为连续状态空间-离散测量空间模型,提高了目标跟踪的解算精度;由变分贝叶斯准则对未知的时变测量噪声进行估计,提升了算法的自适应性;考虑到测量中出现的非高斯突变噪声,由最大相关熵准则构建抗差因子,进一步增强了算法对异常测量值的鲁棒能力。仿真结果表明:所提算法能够对测量中的未知时变噪声和非高斯重尾突变噪声有效抑制,且相比于传统滤波算法,所提算法兼具自适应性和鲁棒性。

基于可变遗忘因子的渐消记忆变分贝叶斯自适应滤波算法

针对全球卫星导航系统/捷联惯性导航系统(GNSS/SINS)组合导航中GNSS信号易受干扰,造成量测噪声突变的问题,提出一种基于可变遗忘因子的渐消记忆变分贝叶斯自适应Kalman滤波(VBAKF)算法。针对自适应滤波中突变噪声难以准确探测,构建基于初值的噪声突变检验准则;为解决自适应滤波估计突变噪声的拖尾现象,将变分贝叶斯自适应滤波的超参数传递结构转化为协方差阵修正结构,通过构造可变遗忘因子函数动态调节自适应滤波中的遗忘因子。仿真和实测数据表明:所提算法可在GNSS/SINS噪声突变时快速估计量测噪声,提高组合导航精度。