多观测序列HMM2的Baum-Welch算法

介绍了在观测噪声和马尔可夫链不相互独立的条件下二阶隐马尔可夫模型(second- order HMM:HMM2)的结构.研究了在多观测序列不相互独立的情况下HMM2的学习算法,并由此导出了该模型的参数重估公式.

基于多相关系数分组HMM2的学习算法

目的为了得到一种基于多相关系数分组二阶隐马尔可夫模型(second-or-der HMM:HMM2)的学习算法。方法最大似然准则,Lagrange乘子法。结果给出了在观测噪声和马尔可夫链不相互独立条件下二阶隐马尔可夫模型(second-or-der HMM:HMM2)的结构,获得了在多观测序列不相互独立的情况下HMM2的Baum-Welech学习算法。结论为得到充足数据,以对所有参数可靠估计,必须使用多观测序列。所获算法避免了直接计算条件概率的困难,考虑了训练序列间的相关性,故使计算过程更为便捷,在观测序列分组均匀相关情况下非常有用。

基于模拟退火算法和二阶HMM的Web信息抽取

针对传统隐马尔科夫模型对初值敏感和未考虑历史状态的问题,提出了使用模拟退火算法训练二阶隐马尔科夫模型参数的SA-HMM2。在基于SA-HMM2的Web信息抽取方法中,采用基于视觉的网页分割算法VIPS对网页分块得到状态转移序列,利用提出的SA-HMM2训练算法获取HMM2全局最优模型参数,用改进的Viterbi算法实现了Web信息的抽取。实验结果表明,该方法在平均综合值方面比HMM、GA-HMM分别提高约21%和7%。

基于二阶HMM的中医诊断古文词性标注

针对传统隐马尔可夫模型(HMM)的词性标注存在捕获上下文信息有限的问题,提出一种改进的二阶隐马尔可夫模型。该模型考虑上下文联系,精确标注中医诊断文本。对训练过程中出现数组下溢的问题,采用生词处理及增加比例因子的方法对其加以修正。实验结果表明,改进后的二阶HMM比传统HMM模型具有更高的词性标注正确率。

用神经网络构造鲁棒HMM＇s

对窗口神经网络（ＢＷＮＮ）与鲁棒ＨＭＭ’ｓ之间的关系作了新的探讨，指出了鲁棒ＨＭＭ’ｓ是循环的ＢＷＮＮ（ＲＢＷＮＮ）的特殊情况。讨论了由ＲＢＷＮＮ构造用于噪音环境下语音识别的组合ＨＭＭ’ｓ和二阶ＨＭＭ’ｓ的算法，给出了它们相应的网络结构。

二阶隐马尔可夫模型的学习算法及其与一阶隐马尔可夫模型的关系

研究和推导了二阶隐马尔可夫模型 (HMM2 )的学习算法 ,其中包括前向、后向变量的定义与计算 ,Viter-bi算法 ,以及 Baum - Welch算法 .同时还研究了 HMM2与一阶隐马尔可夫模型 (HMM1)之间的关系 ,发现对任给的 HMM2 ,总存在一个 HMM1与之等价 ,提出了 HMM2与 HMM1的等价性定理 。

二阶隐马尔可夫模型及其在计算语言学中的应用

介绍了在观测噪声和马尔可夫链不相互独立的条件下改进的隐马尔可夫模型(HMM)的结构.在传统的隐马尔可夫模型的基础上研究了改进模型的Baum Welch算法,并导出了改进模型的参数估计公式.

高阶神经网络与二阶隐马尔柯夫模型的统一的数学模型

随着VLSI技术的迅猛发展,对神经网络与隐马尔柯夫模型(HMM’s)之问的关系研究已成为信息处理领域的一个重要的研究方向.在分析高阶神经网络和二阶HMM’s的结构及算法的基础上,提出了这两种模型的统一数学模型,从而为这两种模型的systolic设计奠定了基础.

基于上下文的二阶隐马尔可夫模型

为体现上下文信息对当前词汇词性的影响,在传统隐马尔可夫模型的基础上提出一种基于上下文的二阶隐马尔可夫模型,并应用于中文词性标注中。针对改进后的统计模型中由于训练数据过少而出现的数据稀疏问题,给出基于指数线性插值改进平滑算法,对参数进行有效平滑。实验表明,基于上下文的二阶隐马尔可夫模型比传统的隐马尔可夫模型具有更高的词性标注正确率和消歧率。

DNA序列的二阶隐马尔科夫模型分类

隐马尔可夫模型是对DNA序列建模的一种简单且有效的模型,实际应用中通常采用一阶隐马尔可夫模型.然而,由于其一阶无后效性的特点,一阶隐马尔科夫模型无法表示非相邻碱基间的依赖关系,从而导致序列中一些有用统计特征的丢失.本文在分析DNA序列特有的生物学构造的基础上,提出一种用于DNA序列分类的二阶隐马尔可夫模型,该模型继承了一阶隐马尔可夫模型的优点,充分表达了蕴涵在DNA序列中的生物学统计特征,使得新模型具有明确的生物学意义.基于新模型,提出一种DNA序列的贝叶斯分类新方法,并在实际DNA序列上进行了实验验证.实验结果表明,由于二阶隐马尔可夫模型充分反映了DNA序列碱基间的结构信息,新方法有效地提高了序列的分类精度.

基于二阶隐马尔可夫模型的清浊音恢复算法

为了解决低速率语音编码中比特受限的问题,提出了一种基于二阶隐马尔可夫模型的清浊音参数恢复算法。该算法采用二阶隐马尔可夫模型,通过归一化的能量参数和LPC倒谱系数估计出序列中的全带清浊音判决和各个子带的清浊音度。解码器实现该算法后,编码器就无需对清浊音参数进行量化传输,从而节约了比特数。实验结果表明,该算法比基于GMM模型的算法能更好地恢复出清浊音信息,全带清浊音误判率减少了5%～20%,合成语音的MOS分比用5 bit的矢量量化(VQ)算法提高了0.03左右,达到了在节约比特数的同时也提高了语音质量的效果。

基于二阶隐马尔可夫模型的新闻分类算法

提出一种基于二阶隐马尔可夫模型(HMM)的新闻分类算法,旨在提取新闻内容中的类别字,构成特征词集合.以该特征词集合作为不同二阶HMM分类器的观察序列,二阶HMM的隐藏状态反映了文档中词语之间的相关性差异,每个状态表示出现在语料库中的词语的相关性水平.实验结果表明,相比k近邻(k NN)、朴素贝叶斯(Naive Bayes)以及支持向量机(SVM)算法,二阶HMM算法的分类表现更显优势.