自适应独立性假设的非自回归Transformer语音识别

基于非自回归Transformer的端到端自动语音识别模型与自回归Transformer等传统模型相比拥有更快的解码速度,然而非自回归的解码方式与独立性假设导致了语音识别结果准确性的下降.为了解决此问题,提出了一种语音表征融合的自适应独立性假设非自回归Transformer端到端中文语音识别模型.在训练期间,通过对表征向量进行注意力融合,改善decoder输入帧语义信息部分缺失的问题;在解码期间,采用基于自适应独立性假设的解码策略,解决非自回归模型独立性假设带来的输出字符条件独立问题.最后,利用迭代式波束搜索进行多目标的排序搜索解码,解决波束搜索算法在提出模型上的不适用问题.在中文数据集AISHELL-1的实验结果显示,模型的实时性因子达到0.005,字错误率为8.8%,较非自回归Transformer基线模型降低了20%,在保证较高的识别速度的同时大幅降低了错误率,展现出先进的模型性能.

基于主成分分析提升朴素贝叶斯

在特征属性相对于类属性统计独立时,朴素贝叶斯能达到最优的分类效率。但该条件独立性假设在许多现实问题中并不成立,这将在某种程度上影响预测准确度。这里结合主成分分析(PCA)对原始数据进行预处理,消除噪声并使数据分布具有一定程度的独立特性。在U CI数据集上分别从独立性和预测准确度方面进行了验证,取得了良好的效果。

基于朴素贝叶斯与ID3算法的决策树分类

在朴素贝叶斯算法和ID3算法的基础上,提出一种改进的决策树分类算法。引入客观属性重要度参数,给出弱化的朴素贝叶斯条件独立性假设,并采用加权独立信息熵作为分类属性的选取标准。理论分析和实验结果表明,改进算法能在一定程度上克服ID3算法的多值偏向问题,并且具有较高的执行效率和分类准确度。

朴素贝叶斯分类器的独立性假设研究

朴素贝叶斯分类器(NBC)是一种简洁而有效的分类模型。介绍了NBC模型的基本原理,并着重分析了该模型的独立性假设条件。在总结现有独立性假设研究的基础上,通过例子和实验分析得出结论:NBC模型的表现和独立性假设是否满足没有必然联系。

基于树桩网络的贝叶斯文本分类算法

分析贝叶斯文本分类算法的不足,提出相应的改进算法。放宽朴素贝叶斯文本分类模型中的属性独立性假设,采用一种改进的基于贝叶斯定理的文本分类模型"树桩网络",改进朴素贝叶斯文本分类模型。实验证明,改进后的文本分类模型适合于文本分类的需要,改善了原有分类器的性能。

面向文本分类的基于最小冗余原则的特征选取

在文本分类中,为了降低计算复杂度,常用的特征选取方法(如IG)都假设特征之间条件独立。该假设将引入严重的特征冗余现象。为了降低特征子集的冗余度,本文提出了一种基于最小冗余原则(minimal RedundancyPrinciple,MRP)的特征选取方法。通过考虑不同特征之间的相关性,选择较小冗余度的特征子集。实验结果显示基于最小冗余原则方法能够改善特征选取的效果,提高文本分类的性能。

试论审计应有的职业谨慎

风险作为市场经济的重要特征之一越来越渗透到社会经济的各个角落 ,民间审计作为市场经济的产物自然也受到风险的影响。面临不断升级的“诉讼爆炸” ,审计职业界的“生存危机”感绝非危言耸听。研究审计风险成因、制定防范措施、积极有效地迎接挑战 ,是民间审计求生存、谋发展的必然选择。而在众多的风险预防措施中 ,提倡审计应有的职业谨慎 ,以引起职业界的广泛关注 ,不失为一种明智之举。本文拟就审计应有的职业谨慎的涵义、假设及其在实践中的具体应用 ,通过理论联系实际 。

基于关系数据分析的决策森林学习方法

模式识别中的多分类器集成日益得到研究人员的关注并成为研究的热点。提出一种基于决策森林构造的多重子模型集成方法,通过对每个样本赋予决策规则,构造决策森林而非单个决策树以自动确定相对独立的样本子集,在此基础上结合条件独立性假设进行模型集成。整个学习过程不需要任何人为参与,能够自适应确定决策树数量和每个子树结构,发挥各分类器在不同样本和不同区域上的分类优势。在UCI机器学习数据集上的实验结果和样例分析验证了方法的有效性。

基于多项式分布模型的Web文本分类

利用信息增益函数对文档进行特征提取,根据特征在文档中出现的次数,将文档表示成为向量的形式。假设文档的特征之间是相互独立的,其特征和主题类别的联合概率分布为服从多项式分布。利用训练集中已标注的文档、学习特征和主题类别的联合概率分布参数,根据学习的结果,对测试集中未分类的文档进行分类。实验结果表明,分类具有较高的准确性。

决策树ID3算法的一种改进算法

首先对决策树ID3算法基本原理及主要不足进行了简要分析,然后针对其主要不足即分裂属性选取过程中的多值偏向问题,通过引入一种修正函数对其加以改进,同时又提出了一种独立性假设。理论分析和实验结果表明：改进算法在一定程度上不仅较好地弥补了多值偏向的最大不足,而且还大大简化了算法计算过程,在提高分类准确度的同时也明显加快了决策树构建速度。

基于原因独立性的信度网推理

1. 原因独立性假设 信度网的条件概率表通常都比较大,若X有n个交结点,每个交结点有m种取值,则X的条件概率表将有mn行.为了对其简化,研究者提出了一些简化模型,如Noisy-OR模型[1],Noisy-Adder模型[2]等.这些模型的基本思想是:可以将一个结点的父结点看作是该结点的直接原因,按照人们的思维习惯,一个原因单独对结果的影响较容易估计.

基于广义信息论的决策森林数据挖掘模型

针对模式识别中的多分类器集成,通过挖掘测试样本特征属性的相关性,结合训练集的条件独立性分析对每个样本赋予分类规则,构造分类森林(而非单个决策树)进行模型集成。整个学习过程能够自适应确定各决策树结构和数量,并充分发挥集成模型的伸缩性和扩展性。在UCI机器学习数据集上的实验结果验证了本方法的有效性。

不相关高斯输入情况下LMS滤波器的收敛性分析

在分析最小均方自适应滤波器(LMS AF)均方误差(MSE)的收敛性时,文献常用统计自相关矩阵代替瞬时自相关矩阵以简化分析,由此得出的收敛条件比较粗糙。本文指出:不相关高斯输入情况下,无需如上简化,可依据高斯阶矩因式分解定理得到确切的MSE收敛条件,相应的失调表式能更准确地预报失调。

论审计应有的职业谨慎

风险作为市场经济的重要特征之一越来越渗透到经济社会的各个角落 ,民间审计作为市场经济的产物自然也受到风险的影响。面临不断升级的“诉讼爆炸” ,审计职业界的“生存危机”感绝非危言耸听。研究审计风险成因、制定防范措施、积极有效地迎接挑战 ,是民间审计求生存、谋发展的必然选择。而在众多的风险预防措施中 ,提倡审计应有的职业谨慎 ,以引起职业界的广泛关注 ,不失为一种明智之举。本文就审计应有的职业谨慎的涵义、特征、假设、职能及表现形式等 ,通过理论联系实际 ,发表了自己的看法。

Bayesian图解模型——直线回归

Bayesian图解模型是综合Bayesian理论、图论的观点及MCMC模拟方法的复合模型。现通过具体实例系统地介绍该模型的基本思想、建模求解及推论过程 ,体现Bayesian图解模型的优点与不足。

“隐性课程”的开发与现代远程教育自主学习模式的构建

“隐性课程”的开发是以情感和关爱为特征的人文主义精神的张扬。本文在“隐性课程”与现代远程教育自主学习模式相关联的前提下,从人性化、个性化和整体化的角度,阐述“隐性课程”开发的几点设想,以及这种开发对于自主学习模式建构的作用和意义。

审计假设新探

在观察和研究审计实践与理论的基础上,运用逻辑的思维方式,重构审计假设体系,提出包括受托责任多样性假设、独立性假设、受托责任可验证性假设等8项具体审计假设内容的审计假设体系,以期对我国审计假设理论的研究有所裨益。

基于Copula的贝叶斯分类器

利用Copula的理论提出了基于Copula贝叶斯分类算法,克服了一般的朴素贝叶斯分类器要求属性独立性假设的不足,进一步扩展了朴素贝叶斯分类器,实验结果表明,基于Copula贝叶斯算法取得了较好的分类效果。

贝叶斯网络的简约模式表达

当现实问题域包含连续变量时,研究人员通常在建模前进行离散化预处理。文章将朴素贝叶斯的条件独立性假设进行推广以处理连续变量,在此基础上提出广义朴素贝叶斯学习方法(GNB)。该方法不仅能避免离散化引起的信息损失对判决精度的影响,还在参数估计过程中引入增量学习机制以充分利用样本提供的信息。实验在UC I机器学习数据库分别从独立性和判决精度方面进行了验证,取得了良好的效果。

改进朴素贝叶斯算法在火灾预警中的应用

为解决实际场景中传统火灾预警系统识别准确率低的问题,提出了一种新的朴素贝叶斯(NB)算法,即改进朴素贝叶斯(INB)。用基于属性权重和正交矩阵相结合的优化方法对NB加以改进。属性权重考虑了每个决策类别下各个属性的不同取值对分类性能的影响,正交矩阵弱化了属性间的线性关系,降低了属性间的关联性,使其更贴近条件属性独立性假设。利用美国国家标准与技术研究院(NIST)有关火灾研究的报告资料作为仿真数据,构建了八个不同规模的数据集,滤波、归一化处理后用于INB的训练与测试。十次十折交叉验证结果表明,当数据集中含190组样本时,INB已得到有效训练,并展示出稳F_(1)定的火灾预警能力。换句话说,INB可以在小样本下得到充分训练。选取支持向量机(SVM)、反向传播(BP)神经网络和NB进行对比研究,结果表明,新改进的INB算法的识别正确率、平均查准率、平均召回率和平均值在四种算法中最高,分别为96.1%、97.3%、97.2%和97.3%。此外,与其他算法相比,INB在具有更好性能的情况下,其训练时间更短,响应迅速。综上所述,INB具有良好且稳定的火灾预警性能,可以作为火灾预警系统的核心算法。