基于贝叶斯网络的不确定性知识的推理方法

贝叶斯网络是不确定性知识表达与推理的一种新方法。它是概率论和图论相结合的产物 ,可用于复杂多因果关系的分析 ,是人工智能领域的研究热点和重要成果之一。由于它的解决方案明确、直观 ,所以近年来在远程医疗、故障诊断以及数据挖掘等领域 ,得到了广泛的应用。本文论述了贝叶斯网络的基本理论、方法和应用 。

基于互信息的适用于高维数据的因果推断算法

推断数据间存在的因果关系是很多科学领域中的一个基础问题。然而现在暂时还没有快速有效的方法对高维数据进行因果推断。为此,提出了一种基于互信息的适应于高维数据的因果推断算法,该算法采取将高维网络结构学习问题分解成每一个节点的因果网络结构学习问题的策略。在第一阶段,利用基于互信息的条件独立性测试算法寻找目标节点的父子节点;在第二阶段,利用一种混合的方向识别算法对目标节点与其父子节点之间的方向进行判别,所有节点迭代完后得到一个完整的因果网络。数据实验表明,该算法在高维数据的情况下要优于目前其他的算法。

一种适用于高维网络的方向推断算法

挖掘数据间蕴含的因果性是很多科学领域中的一个基础问题.然而现在很多方法只能从数据中构造出关联型网络,暂时还没有有效的途径对高维的关联型网络进行方向推断.这里提出一种采取分治策略的算法,该算法先将高维网络中边方向的学习问题分解成每一个节点的因果网络边方向的学习问题,然后根据每个子网络的具体结构利用条件独立性测试和加噪声模型推断出每一个子网络所有边的方向.所有节点都迭代完后得到数据集的一个完整因果网络图.数据实验表明,该算法应用在高维因果网络下,效果要优于目前其他算法.

基于原因独立性的信度网推理

1. 原因独立性假设 信度网的条件概率表通常都比较大,若X有n个交结点,每个交结点有m种取值,则X的条件概率表将有mn行.为了对其简化,研究者提出了一些简化模型,如Noisy-OR模型[1],Noisy-Adder模型[2]等.这些模型的基本思想是:可以将一个结点的父结点看作是该结点的直接原因,按照人们的思维习惯,一个原因单独对结果的影响较容易估计.

基于偏相关性测试的递归式因果推断算法

因果推断是挖掘事物间联系的一种重要方式,但在高维数据场景下,利用因果推断算法进行条件独立性(CI)测试存在冗余测试多和测试效率低的问题,这限制了因果推断在高维数据集上的应用。提出一种基于偏相关性测试的递归式因果推断算法。采用“分治”的方法对变量集进行递归式因果分割,得到更易于处理的低维子数据集,提高对数据集的处理效率。在每个子数据集上进行局部因果推断,减少每次因果推断的计算量并提升算法的运行速度。在此基础上,通过比较显著性值的合并策略整合所有子结果并得到完整的因果关系,保证总体因果结构的准确性。在“分治”过程中,采用高效的偏相关性测试避免高复杂度的核密度估算,进一步提升算法效率。基于10个经典数据集的实验结果表明,在准确率与经典推断算法CAPA持平的情况下,该算法的运算速度提升了2~10倍,且在样本量越大的数据集中提升效果越明显,证明递归式因果推断算法可以有效处理高维数据集,在保证准确率的同时提高运算效率。

基于神经网络的混合数据的因果发现

因果推理正在成为机器学习领域一个越来越受关注的研究热点,现阶段的因果发现主要是在研究某一种假设条件下,基于纯粹的观测数据推断变量之间的因果方向。然而在现实世界中观察到的数据往往是由一些假设生成,使得传统因果推断方法的识别率不高、稳定性较差。针对当前的问题,提出了一种基于神经网络来解决混合数据因果推断的方法。该方法在混合加性噪声模型(ANM-MM)的假设下,使用梯度下降法最优化改进的损失函数得到混合数据的抽象因果分布参数,然后将分布参数看作是原因变量和结果变量之间的隐变量,通过比较原因变量和分布参数之间的HilberSchmidt独立性来确定二元变量的因果方向。在理论上证明了该方法的可行性,并通过实验表明该算法在人工数据和真实数据的表现较传统的IGCI,ANM,PNL,LiNGAM,SLOPE方法具有较好的准确率和稳定性。

基于线性残差独立性测试的致病基因检测

使用因果推断相关的机器学习方法辅助检测致病基因时,作为因果推断的核心工具,条件独立性(CI)测试算法在高维生物数据场景中往往存在时间复杂度高以及准确性低等问题。为此,提出一种融合偏相关测试与线性残差独立性测试算法,压缩CI测试条件集的搜索空间,同时提高准确率。设计一种因果推断策略,在减少冗余CI测试的同时结合V结构与因果函数模型的优点,在应用于真实癌症数据的致病基因检测场景中可以区分Markov等价类,找到真正的因果关系。实验结果表明,提出的算法有较好的致病基因检测性能。