消除溢出问题的精确Baum-Welch算法

Baum- Welch算法是在语音领域中用于 HMM( hidden Markov model)模型参数训练的最基本方法之一 .但它在多样本训练时存在着严重的上、下溢问题 ,需要不断地人工介入来调整中间参数 .该文提出了一种新的能消除上、下溢问题的 Baum- Welch改进算法 .该算法不但摆脱了人工介入 ,保证了计算的精度 ,而且不会带来过大的计算和存储要求 .

基于GEP和Baum-Welch算法训练HMM模型的研究

传统的向前-向后算法或Baum-Welch算法训练HMM的转移概率aij和发射概率ai(ot),使观察序列的O概率恰好达到最大值往往很难,虽然在理论上训练HMM的这两个网络结构是可能的,但仅能保证局部的最大值,而基于全局搜索的基因表达式编程(GEP)的一个主要的特点就是可以高效快速的发现全局最优解。把GEP引入到HMM的训练中去,提出一种改进的训练方法GBHA。实验结果表明,该算法比传统算法的系统效率更高、更稳定。

基于Baum-Welch算法HMM模型的孤词算法研究

介绍了隐Markov模型原理,它是用来描述含有未知参数的Markov过程,是描述随机过程统计特性的概率模型。在此基础上,设计了基于HMM模型的孤词检测实验,通过优化实验模型,采用Baum-Welch算法解决HMM模型的训练问题,找到HMM模型估计参数λ值,这在数学角度上等价于其他线性预测系数。此实验在减少不必要的HMM训练的同时,降低了算法复杂程度。为了测试Baum-Welch算法的有效性,进行了数据仿真实验,结果表明该算法是有效的。

多观测序列HMM2的Baum-Welch算法

介绍了在观测噪声和马尔可夫链不相互独立的条件下二阶隐马尔可夫模型(second- order HMM:HMM2)的结构.研究了在多观测序列不相互独立的情况下HMM2的学习算法,并由此导出了该模型的参数重估公式.

混合隐马尔可夫模型Baum-Welch算法的改进

介绍了任一时刻出现的观测矢量的概率不仅依赖于系统当前时刻所处的状态,而且依赖于系统前一时刻出现的观测矢量的前提下混合隐马尔可夫模型的结构.并研究了新模型的Baum-Welch算法,导出了该模型各个参数估计公式.

解决Baum-Welch算法下溢问题的参数重估公式中存在的问题及其更正

Ｂａｕｍ－Ｗｅｌｃｈ算法在实际应用中存在算法下溢问题，参考文献ｌ～文献３中都介绍了尺度变换（Ｓｃａｌｉｎｇ）算法以解决该问题．然而这３篇文献的算法公式中存在不同程度的错误．实验结果显示原算法会导致模型训练不收敛或收敛性不好而导致识别率不高．本文分析了这些文献算法公式中存在的问题并推导给出正确公式．使用了修正后算法的语音识别系统有良好的收敛性而且可以获得较高的识别率．

基于马尔科夫的计算机网络缓存侧信道攻击检测方法

计算机网络缓存侧信道能够间接体现计算机内部状态以及数据传输情况,其受攻击时,用户端信息数据存在泄露风险,因此提出一种基于马尔科夫的计算机网络缓存侧信道攻击检测方法。构建隐马尔科夫模型,对计算机网络缓存侧信道状态改变的概率进行计算。通过Baum‐Welch算法估计隐马尔科夫模型最优参数,并计算缓存侧信道状态观测序列输出概率。比较缓存侧信道观测序列输出概率与设定的阈值,判断该序列为计算机网络缓存侧信道攻击信号的可能性,并引入平均信息熵判断计算机缓存侧信道状态是否存在异常,完成计算机网络缓存侧信道攻击检测。通过实验验证得出,该方法用于计算机网络缓存侧信道攻击检测的准确率高,误报率低,在遭受DDoS攻击(Distributed denial of service)时的检测时间较短,对计算机网络缓存侧信道攻击的防御与保护产生了积极影响。

基于隐半马尔可夫模型的微震信号分割方法

微震监测系统采集到的连续微震信号中往往包含着多种微震事件,为了对各种事件做进一步的分析,如微震事件识别与分类、微震源定位等,对微震信号的分割进行研究是首要前提。针对此问题,提出了一种基于隐半马尔可夫模型(hidden semiMarkov model, HSMM)的微震信号分割方法,该方法将微震信号中有无微震事件发生视为HSMM中的状态转换过程,并考虑状态的持续时间。首先提取预处理后微震信号的香农能量包络作为特征,对应HSMM中的观测序列,然后对训练集信号使用Baum-Welch算法估计出HSMM最优参数,接着使用维特比算法预测待分割微震信号的状态序列,最后基于状态序列完成信号分割。使用来自实验室和隧道开挖工程中的微震数据验证了方法的有效性,对比方法为长短时窗比值(STA/LTA)算法和AIC拾取算法。实验结果表明,不论是初至时刻拾取还是结束时刻拾取,HSMM均取得了最好效果,平均拾取误差分别为5.44 ms和17.70 ms,且初至拾取误差在10 ms及20 ms内的占比分别为79.3%和100%。在对连续微震信号的分割实验中,HSMM的拾取效果也优于STA/LTA算法,初至时刻和结束时刻的平均拾取误差分别为3.55 ms和27.11 ms,优于STA/LTA算法的4.00 ms和167.88 ms。

多观察序列连续隐含马尔柯夫模型的无溢出参数重估

在语音识别系统的HMM模型训练阶段 ,由于Baum Welch算法中前向概率和后向概率包含大量连乘项 ,计算结果数值会越来越小 ,以致产生溢出 .在单观察序列情况下采用定标技术可以妥善地解决溢出问题 .在多观察序列情况下 ,则会引入各序列对HMM的输出概率作为修正系数 ,其数值很小 ,溢出问题仍存在 .本文分析了溢出问题产生的原因 ,针对多观察序列的情况 ,将优化目标函数由输出概率的连乘改为对数累加和形式 ,推导出一套改进的Baum Welch算法。该算法降低了HMM参数重估算法的计算复杂度 ,提高了稳定性 。

二阶隐马尔可夫模型及其在计算语言学中的应用

介绍了在观测噪声和马尔可夫链不相互独立的条件下改进的隐马尔可夫模型(HMM)的结构.在传统的隐马尔可夫模型的基础上研究了改进模型的Baum Welch算法,并导出了改进模型的参数估计公式.

基于改进隐马尔科夫模型的鲁棒用户行为识别

提出了一种基于改进隐马尔科夫模型的用户行为识别方法.采用遗传算法用于优化隐马尔科夫模型的初始参数,将混沌算子代替遗传算法中高斯变异算子,以避免传统遗传算法在收敛过程中的停滞和早熟问题,并有效解决传统隐马尔科夫模型中Baum-Welch算法对初始参数敏感的问题.此外,采用UCI中ADLs数据对用户行为进行识别,实验结果表明该方法具有很高的识别率和可靠性.

基于隐马尔可夫模型的语音激活检测算法

针对现有基于隐马尔可夫模型(HMM)的语音激活检测(VAD)算法对噪声的跟踪性能不佳的问题,提出采用Baum-Welch算法对具有不同特性的噪声进行训练,并生成相应噪声模型,建立噪声库的方法。在语音激活检测时,根据待测语音背景噪声的不同,动态地匹配噪声库中的噪声模型;同时,为了适应语音信号的实时处理,降低了语音参数提取的复杂度,并对判决阈值提出改进,以保证语音信号帧间的相关性。在不同噪声环境下对改进算法进行性能测试并与自适应多速率编码(AMR)标准、国际电信联盟电信标准分局(ITU-T)的G.729B标准比较,测试结果表明,改进算法在实时语音信号处理中能够有效提高检测的准确率及噪声跟踪能力。

基于多相关分组的HMM训练算法

在用多观察序列训练HMM理论的基础上,提出了一种基于对多观察序列按多相关系数分组的HMM训练算法(简称基于多相关分组的HMM训练算法).该算法避免了直接计算条件概率的困难,与传统的Baum-Welch算法相比,既考虑了训练序列之间的相关性,又不增加计算量.

n阶隐马尔可夫模型的参数估计

给出了n阶隐马尔可夫模型(HMMn)的定义及结构。在传统的隐马尔可夫模型及二阶隐马尔可夫模型(HMM2)的基础上研究了HMMn的前向、后向算法,Baum-Welch算法,并导出了HMMn在单观测序列和多观测序列培训两种情况下的参数估计公式。

基于隐马尔可夫模型的ATM机用户异常行为识别

提出一种基于隐马尔可夫模型(hidden markov model,HMM)的ATM机异常行为识别方法.对ATM机前用户存(取)款行为的视频序列用Hu变换提取运动目标的行为特征,采用Baum-Welch算法对正常行为训练并建立隐马尔可夫模型,通过模型输出测试样本序列的概率来识别异常行为.用Matlab对ATM机用户运动行为的模拟视频进行实验仿真,结果表明:该方法对ATM机前的用户行为具有较高的识别率.

基于PCA和HMM的心音自动识别系统

针对信号识别率高低由识别模型及特征参数决定的特点,提出融合K均值聚类的多观察序列的Baum-Welch参数重估算法,用于训练隐马尔科夫模型(HMM),通过主分量分析(PCA)对梅尔频率倒谱系数进行变换,并设计与实现一套基于PCA和HMM的心音自动识别系统。实验结果表明,该系统对6类常见心音的平均识别率达到83.3%,性能优于其他心音识别系统。

基于HMM的信源—信道迭代联合译码

提出一种在接收端利用Turbo译码软输出,结合HMM(隐马尔可夫模型)中的Baum-Welch重估算法获取信源模型参数并进行信源—信道迭代联合译码的算法。通过含噪接收序列信道译码后的软输出对信源模型参数进行估计,并将迭代估计获得的信源精确概率结构和信道译码结合进行信源—信道联合迭代译码。同时从信息论角度提出用鉴别信息来度量估计获得的信源模型参数的精度,以及确定迭代估计终止的条件。

汉语语音识别中基于区分性权重训练的声调集成方法

提出一种区分性方法,将声调信息加入大词汇量连续语音识别系统中。该方法根据最小音子错误准则,区分性地圳练模型相关的概率权重。利用这些权重对传统基于传统谱特征的隐马尔可夫模型概率以及声调模型概率进行加权,通过调整模型之间的作用程度提高系统识别率。推导了利用扩展Baum-welch算法的权重更新公式。对不同模型权重组合策略进行了评估,并利用权重之间的平滑方法来克服权重训练过拟合的问题。分别通过大词汇连续语音的带调音节输出和汉字输出两种识别任务来验证区分性模型权重训练的性能。实验结果表明在两种识别任务上,区分性的模型权重较使用全局模型权重分别获得9.5%以及4.7%的相对误识率降低。这表明了区分性模型权重对提高声调集成性能的有效性。

基于HMM和仿射不变矩三维模型归类与检索算法

针对Hu不变矩对仿射形变图像描述的不足,为提高三维模型的检索精度,提出一种基于Hu不变矩和仿射不变矩特征性融合的隐马尔科夫模型相似性归类与检索算法。首先使用Sobol算子对机械零件三维模型进行轮廓边缘的提取,得到二维的正等测轴测图,然后对该图进行组合不变矩的特征提取,并进行特征值的编码,最后构造五类机械零件三维模型的样本集,通过添加比例因子的多观测值b-W(baum-Welch)算法进行机械零件三维模型的训练与识别,仿真实验表明本文所提算法具有较高的识别率。

与观测信息相关的n阶隐马尔可夫模型的参数估计

定义了与观测信息相关的n阶隐马尔可夫模型,给出了该模型的结构。研究了该模型的前向算法,并用前向算法计算给定模型下观测序列出现的概率。通过研究该模型的Baum-Welch算法,导出了它的参数重估公式。