信度网结构在线学习算法

提出一种新的信度网结构在线学习算法.其核心思想是,利用新样本对信度网结构和参数不断进行增量式修改,以逐步逼近真实模型.本算法分为两个步骤:首先分别利用参数增量修改律和添加边、删除边、边反向3种结构增量修改律,并结合新采集的样本,对当前信度网模型进行增量式修改;然后利用结果选择判定准则。从增量式修改所得的后代信度网集合中选择一个合适的信度网作为本次迭代结果.该结果在与当前样本的一致性和与上一代模型的距离之间达到一个合理的折衷.实验结果表明,本算法能有效地实现信度网结构的在线学习.由于在线学习不需要历史样本,且能够不断适应问题域的变化,适合于对具有时变性的领域进行信度网建模.

因果图转换为信度网的算法

动态因果图理论是在信度网基础上发展起来的一种不确定推理模型,两者在知识表达上存在一定的差别,但大体结构类似,在一定的条件下可以进行相互转换。从分析信度网与因果图的知识表达方式的异同入手,最后推导出一种将因果图模型转换为信度网模型的算法,主要从构成信度网模型的两大要素———拓朴结构和条件概率表两方面的生成算法进行了推导和阐述。

信度网近似推理算法(上)

信度网提供了一套强有力的图形工具来表达基于概率的领域知识,并且已经成功地应用在诸多实际问题中,如:故障诊断、预测、模式识别、数据挖掘等.目前基于信度网提出了多种推理算法以精确计算待求概率值[2,4,12,19,21～23,26,30].这些算法在某些信度网上具有很高的推理效率,但是在最坏情况下这些算法的计算时间复杂度都是NP-难的.

学习信度网的结构

一、等价的信度网结构学习信度网的结构,就是通过分析实例数据库,建立能够表达实例数据所包含信息的信度网的结构。任何一个由所有的结点(变量)构成的有向无环图都可能作为信度网的结构。如对图1(d)所示的关于吸烟、性别及肺癌的实例数据库。

信度网推理——方法及问题(上)

基于概率知识表达的信度网,已成为人工智能非精确知识表达与推理领域近10几年来研究的热点.目前国外的许多研究机构都对信度网进行了深入的研究.这些研究主要集中在以下三个方面:基于信度网的推理、基于信度网的学习和基于信度网的应用.其中基于信度网的推理一般分为:精确推理(即精确计算概率值)和近似推理(近似计算概率值)两个部分,主要研究高效的推理算法[13,6];基于信度网的学习一般分为参数学习和结构学习两个内容,同时根据样本数据的不同性质每一部分均包括:实例数据完备、实例数据不完备两个方面[7,6];基于信度网的应用,主要包括:基于信度网的知识表达、相应的软件工具开发、基于信度网的实例应用等.目前这些研究都取得了丰硕的成果,正逐步走向实际应用.信度网的提出人Pearl教授也于1999年被授予IJCAI杰出研究成果奖.

信度网中条件概率表的学习

一、引言信度网B的学习包括结构B(?)的学习和条件概率表B_p的学习。因果马尔可夫条件原理表明:如果图形G是一个随机变量集合X的因果图,那么图形G也是该随机变量集合的联合概率分布所对应的信度网的结构图。根据这一原理,在实际应用中。

信度网近似推理算法(下)

2 仿真方法[14] 基于信度网的精确推理算法通过利用各节点之间的条件独立性来加快推理计算,前面介绍的基于搜索的方法则不仅利用节点间的条件独立性而且利用概率分布的一些特性进行近似计算,但是在很复杂的问题领域要想通过分析条件独立性和利用概率分布的特征来加速推理计算往往不太现实.基于仿真的方法则另辟蹊径,既不利用条件独立性,也不考虑概率分布的特征,而是通过对样本进行统计以得到待求概率的近似值[9].根据概率论,当样本量趋近于无穷大的时候,样本的统计值将等于其概率值,但是当样本量越小的时候,样本的统计值与真实概率值差异的可能性越大,即:p(p-p*＞ε)的值越大.其中p为对样本的统计值,P*为真实的概率值,ε为误差量(一个大于0的正数).随着样本量的增加,统计计算的结果就越精确.但是该精度的给定不象部分精确计算方法那样给一个误差边界,而只能给出一个概率边界.即样本量越大,其统计结果与真实结果的误差小于某误差限的可能性就越高.

信度网分类器

分类问题是人工智能中机器学习研究的一个重要问题 ,它在模式识别、故障诊断以及数据挖掘等领域有着广泛的应用。利用信度网可以构造出分类性能更好的分类器。文章着重探讨了NaiveBayes分类器 ,增强的NaiveBayes分类器和通用信度网分类器的构造方法 ,并分析比较了这三类分类器的优缺点。

因果图向信度网转化的方法研究

在因果图理论中,采用了图形化和直接因果强度来表达知识和因果关系,它克服了贝叶斯网的一些不足,已经发展成了一个能够处理离散变量和连续变量的混合模型。但已有的因果图的推理算法还不能完全适应实际问题的需要,这大大地限制了因果图推广和使用,然而信度网研究已比较成熟,已有许多现成的算法和实用的推理软件。文中给出了从因果图向信度网转化的一般方法,包括因果图的连接强度向信度网的条件概率表转化和因果图的结构向信度网的结构转化,从而可以利用信度网的这些成果。

基于互信息和测度学习信度网结构

交叉熵是对一个分布与其近似分布的接近程度的度量。在许多关于信度网结构的学习文献中 ,都将交叉熵作为检验算法学习效果的一个指标。笔者直接从交叉熵最优这一指标出发 ,在分析已有测度的基础上 ,提出了一个新的测度———互信息和测度 ,并证明了该测度的可分解性质。最后 ,给出了利用互信息和测度进行信度网结构学习的两种启发式搜索算法。

信度网推理——方法及问题(下)

3.2团树传播方法[20] 信度网推理的第二类算法为基于团树传播的方法[3,9,7,10].该方法采用了另一种图形表达方式来表达联合概率分布,即采用了另一种对联合概率分布进行参数化的方法.该方法所对应的图形结构是一棵无向树--团树.该树必须满足如下特征: 每一个节点为一个团,每一个团里面将包含一定量的随机变量; 每两个相邻团节点X和Y之间,都有一个分隔节点S,该节点中的随机变量为相邻两节点中随机变量的交集:S=X∩Y; 对于任意两个团节点X和Y,如果它们随机变量集合的交集S不为空,则在连接X和Y路径上所有节点的随机变量集合均包含集合S中的随机变量(即满足Join Tree特征); 对于团树中的每一个节点Xi(包括团节点和分隔节点),都包含有一个函数Фxi.该函数表达了该节点内各个随机变量间的联合概率分布.它将节点Xi中随机变量的每一种取值组合映射为一个≥0的数,该数被习惯称作--势.

一种用于信度网推理的高效三角化算法

信度网是不确定性知识表达和推理的有力工具。信度网的精确推理是NPC问题,计算的主要困难在于将信度网三角化并构造一棵最小权的join tree上。此项研究提出了一种新的三角化算法MsLB-Triang,该算法同时利用了无向图三角化的Direc性质与LB-单纯性质,在生成的三角化图的总权以及增加边的数目上均明显优于目前广泛采用的Min.Weight Heuristic算法。

用于通信网阻塞控制的信度网模型

1.引言阻塞是通信网中的一种常见现象。网络由于信息流特性的可变性和网络结点的特性,使得信息在通过结点时产生滞留现象,从而造成信息的时延增大和信息丢失率上升。这种由于网络结点吞吐率下降而引起的信息聚集于一些结点的缓冲区中,网络时延极大增加的现象即为网络的阻塞现象。当网络中一个结点处于阻塞状态。

用遗传算法实现信度网结构学习:一种新的编码方案

近年来,信度网已经成为表达一组随机变量间的概率关系的常见方法。在大的变量域中信度网的结构生成是信度网应用的难点。为了解决信度网的结构学习问题,一些研究者研究如何从数据集自动学习结构。本文研究采用遗传算法进行信度网结构学习时存在的问题和编码方法,并给出了一种新的信度网编码方案。数值试验显示遗传算法能够给出理想的结果。

一种信度网推理的并行计算模型

基于概率知识表达的信度网已成为人工智能中非确定知识表达和推理的研究热点。推理算法是信度网学习和应用的基础。该文提出了一种基于经典Polytree算法的推理计算模型。该模型表达清楚,计算过程容易控制,并能够简单地映射到并行机结构上。该文首先介绍了模型在单联通网络下的计算步骤,然后将模型引入到多联通网络上。

基于原因独立性的信度网推理

1. 原因独立性假设 信度网的条件概率表通常都比较大,若X有n个交结点,每个交结点有m种取值,则X的条件概率表将有mn行.为了对其简化,研究者提出了一些简化模型,如Noisy-OR模型[1],Noisy-Adder模型[2]等.这些模型的基本思想是:可以将一个结点的父结点看作是该结点的直接原因,按照人们的思维习惯,一个原因单独对结果的影响较容易估计.

基于信度网的网站在线智能导航

A Web site always provides a large number of topics,so the browser is prone to lost the Way. In this paper we build a Navigation system for the Web site by using the model of Belief networks. It can help the browser to find the topics that he is interesting to quikly. It also can be used to optimize the structure of the Web site.

一种新的知识表达模型——信度网

A belief network is a new mechanism for knowledge representation based on probability the-ory. Its distinct performance in representing and reasoning about uncertainty makes it a hot researchtopic in artificial intelligence. It is now being Used in many areas. In this paper,we give a comprehensiveintroduction to a belief network,including its historic background ,principles ,the progress of its researchand development ,and some challenging problems.

基于隐含变量信度网模型的脱机签名鉴别方法

本文提出一种新的基于信度网表示的签名鉴别方法。这种信度网表示方法和传统的信度网表示不同，其中的结点被划分成两类：共有结点和可选结点，以保证构造的网为树结构。该方法不仅可以获得每个结点的条件概率，而且可以表达与结点相关联的成分间的拓扑关系，以便对结构描述的不确定性和成分间的依赖关系进行处理。

信度网对于不确定知识的表达及推理

不确定知识的表达及演化规律的推理是概率理论领域的热点,信度网作为其中最有效的理论模型吸引了大批的研究者。本文就信度网的知识表达和推理方式进行基础性的探索,并对其应用前景进行介绍。