口语对话系统的POMDP模型及求解

许多口语对话系统已进入实用阶段 ,但一直没有很好的对话管理模型 .把对话管理看做随机优化问题 ,用马尔科夫决策过程 (MDP)来建模是最近出现的方向 ,但是对话状态的不确定性使 MDP不能很好地反映对话模型 .提出了一种新的基于部分可观察 MDP(POMDP)的口语对话系统模型 ,用部分可观察特性来处理不确定问题 .由于精确求解算法的局限性 ,考察了许多启发式近似算法在该模型中的适用性 ,并改进了部分算法 ,如对于格点近似算法 。

口语对话系统中对话管理方法研究综述

口语对话系统是人机交互领域的核心技术,也是实现和谐人机交互的重要途径,具有重大的研究意义和应用价值,其中的各项理论和技术的研究进展一直备受关注。较为全面深入地总结了对话管理及口语对话系统的研究进展和现状。首先阐述了口语对话系统中的主要研究问题,包括系统各模块的研究内容与关键技术、系统的可移植性和鲁棒性设计等;然后从理论模型、研究进展及可用性等角度系统地剖析了现有的多种口语对话管理策略;最后展望了未来可能的研究方向和亟待解决的问题。

限定领域口语对话系统中超出领域话语的对话行为识别

由于领域外话语具有内容短小、表达多样性、开放性及口语化等特点,限定领域口语对话系统中超出领域话语的对话行为识别是一个挑战。该文提出了一种结合外部无标签微博数据的随机森林对话行为识别方法。该文采用的微博数据无需根据应用领域特点专门收集和挑选,又与口语对话同样具有口语化和表达多样性的特点,其训练得到的词向量在超出领域话语出现超出词汇表字词时提供了有效的相似性扩展度量。随机森林模型具有较好的泛化能力,适合训练数据有限的分类任务。中文特定领域的口语对话语料库测试表明,该文提出的超出领域话语的对话行为识别方法取得了优于最大熵、卷积神经网络等短文本分类研究进展中的方法的效果。

航班预定口语对话系统的设计与实现

介绍一个航班预定口语对话系统的设计与实现,该系统允许用户通过普通话进行航班信息查询与预定.重点介绍口语对话系统中的口语语言理解.为了克服语音识别引入的识别错误导致语义理解错误的问题,提出基于词混淆网络的两阶段中文口语语言理解方法:首先从词混淆网络中选择N元文法作为分类特征,进行主题分类,并通过语义分类模型解析获取对应的语义树结构;然后利用基于规则的语义槽填充器抽取相应的语义槽属性-值.该方法是数据驱动的,训练数据的标记比较容易.实验在汉语航班预定领域进行,结果表明,在语音识别字错误率很高的情况下,该方法比传统的基于语法规则的语言理解方法更加鲁棒,在语义理解正确率方面有明显改善.

口语对话系统中的语句主题提取

语句的主题提取是口语对话系统中话语分析部分的工作。目前的口语对话系统大多将自然语言处理的重点放在语法和语义平面,而忽视了对上下文语境的分析,该文提出一种基于规则的语句主题提取方法,通过自底向上与自顶向下两种分析器完成主题与用户意图的提取,为系统的自然语言生成提供更准确的领域知识,从而大大提高了系统的整体性能。

一个基于文本输入的口语对话系统的新的实现策略

口语对话系统(Spoken Dialogue Systems,SDS)现在已经越来越多地应用于实际生活之中,然而,当前对于普通人来说要开发处理英文对话的功能强大的系统通常很困难,而一些被人们提出的、不很复杂的,且能够比较容易开发SDS的方法其理解能力则受到了限制。在介绍并比较了以上所提到的一些方法之后,一个基于文本的自然语言的SDS工具包(被称为SDS Lite)将会被详细地介绍。我们的系统处理中文对话并使不仅是专家而且是普通人都很容易学习和开发他们自己的SDS。

口语对话系统中对话管理的演变

为了对人机语言交互领域的主要工作进行归纳和总结,分析了口语对话系统的各个组成模块,包括主要研究内容和关键技术;然后,针对其核心的对话管理技术进行了综述,通过详细分析并比较几类主要对话管理实现方法,力求在分析现有算法的同时勾勒出其技术的发展与演变过程;最后,对对话管理领域的深入研究进行了分析与展望。

智能熊猫口语对话系统

论文介绍一套应用于博物馆熊猫模型的口语对话系统。该系统利用大词汇量非特定人连续语音识别技术与口语对话模型实现了智能熊猫系统的人机知识问答。系统采用统计的正则语言模型和机器主导的口语对话策略提高系统的识别速度和识别率。由于采用基于子词的声学模型,系统的识别词表易于增加,不受限制。该系统自2001年7月起在北京自然博物馆正式运行,系统对环境噪声以及带有不同方言口音的普通话都表现出良好的稳健性。在实际环境下的测试表明系统语音识别率达到99.07%。

汉语口语对话系统中语义分析的消歧策略

框架语义分析是目前汉语口语对话系统中常用的语义解析方法 ,本文分析了语义分析过程中容易产生的两种典型歧义现象 -结构歧义和语义关系歧义。并针对这两种歧义结构 ,分别提出基于语义PCFG模型的结构歧义消歧策略以及基于语义期待模型EM的语义关系歧义消歧策略 ,并给出了有效的消歧算法。实验结果表明综合运用本文提出的消歧策略后 ,基线系统理解模块的句子语义分析正确率大大提高 ,从原来的75 7%上升到 91 5 % ,而且标志语义单元理解率的三项指标 ,准确率 ,召回率和精度也平均提高了 10 %。

面向任务口语对话系统中期待模型的实现算法

该文研究如何从口语对话系统特定场景的期待内容中,抽象出期待所需要的一般的数据结构和处理方法,提出了基于任务模型的期待模型的构建算法。将该期待模型与对话上历史相结合,可以为系统构造出随对话过程动态改变的语境,使系统具备初步地利用语境推导用户意向的推理功能,从而大大提高语义分析的鲁棒性及对话成功率,最后给出了该期待模型在实验系统中应用的有效性结果。

限定领域口语对话系统中超出领域话语的协处理方法

领域外话语的开放性、口语化以及表达多样性,使得现有的限定领域口语对话系统不能很好地处理超出领域话语。该文提出了一种限定领域口语对话系统协处理方案,基于人工智能标记语言AIML,设计一套理解开放语义用户话语的理解模板,并对未匹配话语基于话语相似度进行理解模板分类,进而采用扩展有限状态自动机处理模式,结合对话流程上下文的状态及信息,实现理解模板到应答模板的转换,改变了单纯模板匹配方法在对话流程控制方面的相对缺失。中文手机导购领域的测试表明,该文所提出的协处理方法能有效地辅助口语对话系统完成限定领域完整对话流程,得到更好的用户满意度。

限定领域口语对话系统中的商品属性抽取

按功能或问题域划分,商品属性抽取(product feature mining)在限定领域的对话系统中属于口语语言理解(spoken language understanding,SLU)的范畴。商品属性抽取任务只关注自然文本中描述商品属性的特定部分,它是细粒度观点抽取(fine-grained opinion mining)的一个重要的子任务。现有的商品属性抽取技术主要建立在商品的评论语料上,该文以手机导购对话系统为背景,将商品属性抽取应用到整个对话过程中,增强对话系统应答的针对性。使用基于CBOW(continuous bag of words)语言模型的word2vector(W2V)对词汇的语义层面建模,提出一个针对口语对话的指数型变长静态窗口特征表达框架,捕捉不同距离词语组合的重要特征,使用卷积神经网络(convolutional neural network,CNN)结合词汇的语义和上下文层面对口语对话语料中的商品属性进行抽取。词嵌入模型给出了当前词和所给定的属性类别是否存在相关性的证据,而所提出的特征表达框架则是为了解决一词多义的问题。实验结果表明,该方法取得了优于研究进展中方法的商品属性识别效果。

面向任务口语对话系统中不含槽信息话语的端到端对话控制

端到端(end-to-end)模型因其能有效避免传统管道式设计存在的错误传递与累积问题,成为了近年来口语对话系统(spoken dialogue system,SDS)的研究热点。在面向任务SDS的end-to-end对话控制中,处理携带任务领域语义信息(槽信息)的话语可以结合命名实体识别、数据库查询结果等语义特征,而不含槽信息的话语,由于缺乏领域语义信息以及表达多样,其有效对话控制仍然是一个挑战。该文提出一种融合"显式"话语特征和"隐式"上下文信息的end-to-end混合编码网络用于处理不含槽信息话语。具体地,在应用卷积神经网络(convolutional neural network,CNN)对"显式"话语序列提取得到的特征表达的基础上,通过构造和捕获对话序列中"隐式"的系统后台上下文信息,进一步丰富了系统动作分类模型的特征表达。在限定领域面向中文任务SDS中的评估结果表明,与传统的管道式SDS和经典的end-to-end SDS相比,该文的方案在不含槽信息话语的单回合处理以及对话段整体性能上都得到了显著提升。

口语对话系统EasyNav中的省略分析

为解决口语对话系统 Easy Nav中大量出现的语境省略现象 ,提出了用于刻画关注状态的主题结构 ,其动态生成的特点适合于在用户主导的场景下 ,对主题的变化进行建模。通过分析省略现象与指代现象的不同与联系 ,将指代分析的指导理论与处理流程延伸到省略分析中 ,从原先以句法结构信息为主进行省略分析 ,扩展到以语义知识和会话因素为主。提出的进行省略分析的主题结构方法 ,不仅使处理各种省略成分的方法统一 ,而且将片断型省略。

口语对话系统中的词类概率模型和知识表示

语言分析和知识库管理是口语理解与对话系统的两个重要组成部分 ,作者在这两方面提出了一些新的方法。一是提出并实现了词类概率模型 ,它具有较高的性能和较低的时间复杂度 ,是基于句法规则的语义分析和语言理解的基础。此外还提出了与数据无关的多叉树层次结构模型的知识表示方法 ,它具有很强的表达能力并易于扩展。在此基础上 ,实现了一个用以提供清华大学地理、办公、商业及其它一些相关信息检索、基于文本的口语对话系统 Easy Nav。实验表明 。

陪护机器人口语对话系统设计与实现

针对陪护机器人口语对话系统的难点给出了相应的解决方案:以话题为单位的聊天机器人知识库构建规则、简单有效的句子相似度计算方法、准确高效的答案检索模块。通过对78个回合的实际聊天结果的统计分析,验证了解决方案的有效性;同时分析了方案的局限性。

口语对话系统中的一种稳健语言理解算法

为提高口语对话系统中语言理解的稳健性,提出了一种基于最大后验统计框架的两级搜索的理解算法。第一级用概念捆绑达到提取句中关键成分并剔除某些干扰成分的目的;第二级采用改进的基于树扩展的稳健句法分析搜索最佳理解结果,同时引入用户意图推断和句子特征短语两方面的信息对搜索空间进行约束,进一步提高了理解的稳健性和实时率。实验表明,该算法应用于火车信息查询领域,在0.22倍实时下,能得到13.6%的句意理解错误率和25.4%的概念理解错误率,相对基线系统分别为降低了23.2%和9.3%。

口语对话管理综述

主要介绍了口语对话系统中对话管理的作用、基本问题和设计方法。对话管理在整个对话系统中处于核心地位,控制整个对话的进行,负责对用户输入的理解以及根据领域内容决定系统对用户的反应。对话管理的设计主要有基于状态图的结构(有限状态机)、填充槽结构和基于任务的结构三种方法,提出了一种基于逻辑表达式的结构,并设计了状态图/逻辑表达式双层结构。

基于词嵌入扩充的口语对话文本领域分类

针对口语对话系统领域分类任务中传统领域分类方法如SVM需要进行大量人工标注的问题,将LDA(Latent Dirichlet Allocation)模型应用于口语对话系统领域分类;针对口语对话内容少、长度短、数据稀疏等问题,在LDA模型基础上提出了基于词嵌入文本扩充的口语对话系统领域分类方法.该方法主要特点是:1)使用词嵌入方法word2vec对类似于短文本的语音识别后的口语对话文本进行语义扩充,将短文本转化为长文本,使主题模型LDA更加有效地估计口语对话文本的隐含主题;2)采用无监督的概率生成模型LDA对扩充后的口语对话文本进行建模以及领域分类,从而降低人工标注成本.实验结果表明,与直接使用LDA模型进行口语对话系统领域分类方法对比,适当扩充长度的word2vec文本扩充方法在口语对话系统领域分类中的平均准确率、平均召回率和平均F1值分别提高了26.1%、25.5%、27.2%,且该方法具有一定的鲁棒性..

三种不同类型语音对话系统的分析与研究

口语对话系统一直是计算机科学领域人类语言技术的热点,能够应用于不同的领域并且具备广阔的前景。将分析国外不同领域的三种典型会话系统:CommandTalk、ITSPOKE和NICE。将从使用范围与交互方式、语音识别、对话管理、语音合成等几方面分析和研究这三种来自不同领域的对话系统,并提出观点和见解,为国内的口语对话系统研究和开发提供一定的参考和建议。