Learning Bayesian network structure with immune algorithm

Finding out reasonable structures from bulky data is one of the difficulties in modeling of Bayesian network （BN）, which is also necessary in promoting the application of BN. This pa- per proposes an immune algorithm based method （BN-IA） for the learning of the BN structure with the idea of vaccination. Further- more, the methods on how to extract the effective vaccines from local optimal structure and root nodes are also described in details. Finally, the simulation studies are implemented with the helicopter convertor BN model and the car start BN model. The comparison results show that the proposed vaccines and the BN-IA can learn the BN structure effectively and efficiently.

Learning Bayesian networks using genetic algorithm

A new method to evaluate the fitness of the Bayesian networks according to the observed data is provided. The main advantage of this criterion is that it is suitable for both the complete and incomplete cases while the others not. Moreover it facilitates the computation greatly. In order to reduce the search space, the notation of equivalent class proposed by David Chickering is adopted. Instead of using the method directly, the novel criterion, variable ordering, and equivalent class are combined,moreover the proposed mthod avoids some problems caused by the previous one. Later, the genetic algorithm which allows global convergence, lack in the most of the methods searching for Bayesian network is applied to search for a good model in thisspace. To speed up the convergence, the genetic algorithm is combined with the greedy algorithm. Finally, the simulation shows the validity of the proposed approach.

Causal constraint pruning for exact learning of Bayesian network structure

How to improve the efficiency of exact learning of the Bayesian network structure is a challenging issue.In this paper,four different causal constraints algorithms are added into score calculations to prune possible parent sets,improving state-ofthe-art learning algorithms’efficiency.Experimental results indicate that exact learning algorithms can significantly improve the efficiency with only a slight loss of accuracy.Under causal constraints,these exact learning algorithms can prune about 70%possible parent sets and reduce about 60%running time while only losing no more than 2%accuracy on average.Additionally,with sufficient samples,exact learning algorithms with causal constraints can also obtain the optimal network.In general,adding max-min parents and children constraints has better results in terms of efficiency and accuracy among these four causal constraints algorithms.

Evaluating the Efficacy of Latent Variables in Mitigating Data Poisoning Attacks in the Context of Bayesian Networks:An Empirical Study

Bayesian networks are a powerful class of graphical decision models used to represent causal relationships among variables.However,the reliability and integrity of learned Bayesian network models are highly dependent on the quality of incoming data streams.One of the primary challenges with Bayesian networks is their vulnerability to adversarial data poisoning attacks,wherein malicious data is injected into the training dataset to negatively influence the Bayesian network models and impair their performance.In this research paper,we propose an efficient framework for detecting data poisoning attacks against Bayesian network structure learning algorithms.Our framework utilizes latent variables to quantify the amount of belief between every two nodes in each causal model over time.We use our innovative methodology to tackle an important issue with data poisoning assaults in the context of Bayesian networks.With regard to four different forms of data poisoning attacks,we specifically aim to strengthen the security and dependability of Bayesian network structure learning techniques,such as the PC algorithm.By doing this,we explore the complexity of this area and offer workablemethods for identifying and reducing these sneaky dangers.Additionally,our research investigates one particular use case,the“Visit to Asia Network.”The practical consequences of using uncertainty as a way to spot cases of data poisoning are explored in this inquiry,which is of utmost relevance.Our results demonstrate the promising efficacy of latent variables in detecting and mitigating the threat of data poisoning attacks.Additionally,our proposed latent-based framework proves to be sensitive in detecting malicious data poisoning attacks in the context of stream data.

Self-Organizing Genetic Algorithm Based Method for Constructing Bayesian Networks from Databases

The typical characteristic of the topology of Bayesian networks (BNs) is the interdependence among different nodes (variables), which makes it impossible to optimize one variable independently of others, and the learning of BNs structures by general genetic algorithms is liable to converge to local extremum. To resolve efficiently this problem, a self-organizing genetic algorithm (SGA) based method for constructing BNs from databases is presented. This method makes use of a self-organizing mechanism to develop a genetic algorithm that extended the crossover operator from one to two, providing mutual competition between them, even adjusting the numbers of parents in recombination (crossover/recomposition) schemes. With the K2 algorithm, this method also optimizes the genetic operators, and utilizes adequately the domain knowledge. As a result, with this method it is able to find a global optimum of the topology of BNs, avoiding premature convergence to local extremum. The experimental results proved to be and the convergence of the SGA was discussed.

改进贝叶斯网络在变压器故障诊断中的应用

针对变压器故障诊断精度低的问题,文中提出一种基于改进黏菌优化算法(Improved Slime Mould Algorithm,ISMA)优化贝叶斯网络(Bayesian Network,BN)的变压器故障诊断方法。通过爬山算法对定向最大支撑树搜索得到贝叶斯网络初始结构即初始种群,在改进黏菌优化算法中引入反向学习策略,增加种群多样性。添加正弦-余弦算法(Sine Cosine Algorithm,SCA),更新解的位置以避免种群陷入局部最优。根据改良的无编码比值法选取变压器故障状态的特征,利用改进黏菌优化算法优化贝叶斯网络结构,提高基于贝叶斯网络的变压器故障诊断的准确率,并利用不同种类的测试函数验证了改进黏菌优化算法具有收敛速度快、收敛精度高的优良性能。仿真结果表明,ISMA-BN诊断模型的训练集和测试集准确率分别为98.2%和97.14%,具有一定的研究价值。

基于BA-MKELM的微电网故障识别与定位

提出一种基于贝叶斯算法优化多核极限学习机的微电网故障识别和定位方法。针对极限学习机输入参数和隐含层节点数随机选取导致回归能力不足的问题,引入核函数,将多项式与高斯径向基核函数加权组合构成多核极限学习机建立故障识别与定位模型,并采用贝叶斯算法对多核极限学习机相关参数进行优化,进一步提高模型的逼近能力。为了验证所提模型的故障识别与定位性能,选用极限学习机和多核极限学习机分别建立故障诊断模型进行比较分析。实验结果表明,所提方法能够高性能地识别和定位微电网中任何类型的故障,识别和定位精度更高。

一种用于变压器故障诊断的贝叶斯网络优化方法

针对变压器故障诊断效率低的问题,文中将油中溶解气体分析与人工智能方法相结合,提出了一种改进蝗虫优化算法优化贝叶斯网络的变压器故障诊断方法。利用差分进化算法和与模拟退火算法对蝗虫算法进行改进,提高了算法的优化能力。将改进蝗虫算法应用于贝叶斯网络结构来学习构建变压器故障诊断模型,利用所提方法对变压器进行故障诊断。实验结果表明,该方法诊断正确率达到了92.7%,与其他算法所构建的诊断模型相比具有更高的故障诊断准确率。

近似图引导的演化贝叶斯网络结构学习算法

贝叶斯网络结构学习是贝叶斯网络推理及应用的基础.搜索高质量的节点序是贝叶斯网络结构学习的一类重要方法.针对在节点序空间中,搜索高质量节点序存在的难以高效、准确评估解的问题,本文提出了一种近似图引导的演化贝叶斯网络结构学习算法.首先,该算法利用互信息构建无向近似图;其次,该算法通过结合节点序和无向近似图构造有向图结构,将其贝叶斯信息准则评分作为节点序的适应度来高效评估节点序,并在演化优化的框架下,使用提出的基于Kendall Tau Distance的交叉算子和基于逆度的变异算子搜索最优节点序;最后,将搜索到的最优节点序输入K2算法得到其对应的贝叶斯网络结构.在4种不同规模网络上的实验结果表明,该算法在收敛时间和准确度之间取得了较好的平衡,其评分相较于对比算法中的次优解分别提升了10.91%、12.28%、53.96%、10.87%.

基于Bayesian改进算法的回转窑故障诊断模型研究

贝叶斯网络是数据挖掘最有效和可靠的方法之一,而贝叶斯网络结构学习是贝叶斯网络研究的关键环节。针对现有经典结构学习算法——爬山算法易陷入局部最优、效率低的问题,通过计算互信息建立最大支撑树,并将最大支撑树与简化爬山算法相结合,提出了一种新的贝叶斯网络结构学习改进算法。通过与经典的爬山法和K2算法进行比较,结果表明该改进算法不仅能够得到较高准确率的模型,而且能够提高模型建立的效率。最后基于该改进算法,结合冀东水泥集团的水泥回转窑现场运行数据,建立了水泥回转窑故障诊断模型,实现了精确快速的故障诊断。

基于全流程并行遗传算法的贝叶斯网络结构学习

为解决海量数据情况下学习贝叶斯网络(Bayesian network,BN)结构的算法性能急剧降低问题,基于Spark框架设计了一种全流程并行遗传算法用于BN结构学习(简称为SparkGA-BN)。SparkGA-BN包含互信息计算并行化、遗传算子并行化和适应度评分并行化3个部分。互信息并行计算可以高效减少搜索空间;在演化前增加对种群信息与选择信息的广播来对全种群执行选择操作。选择与交叉算子共用选择信息以并行执行,从而高效演化并减少数据落盘时间。对约束和评分两阶段产生的中间数据作记忆化存储,提升数据复用率和全局执行效率。实验结果表明,所提算法在执行效率和学习准确率方面均优于对比算法。

基于MMPC-FPSO贝叶斯网络混合结构学习方法

针对贝叶斯网络结构学习的过程中网络结构规模随节点数增加呈指数增长,导致网络结构搜索空间增大,进而导致网络结构学习算法效率低下的问题,提出一种基于最大最小父子集合约束与萤火虫粒子群搜索算法的贝叶斯网络混合结构学习方法。首先,针对粒子群算法在解决贝叶斯网络结构学习过程中,随机初始化网络结构种群导致算法搜索效率低下,网络结构准确性低的问题提出一种基于改进的最大最小父子集合算法的种群约束方法。其次,针对传统的基于粒子群评分搜索方法速度慢,精度低,易陷入局部最优的问题,提出一种基于萤火虫算子的粒子寻优策略。最后,为了验证所提方法的正确性和优越性,将上述方法用于3种标准网络的结构学习。仿真结果表明:所提算法与传统的基于粒子群的结构学习方法相比,所得的贝叶斯信息准则评分与标准网络评分的差距分别缩小了68.7%、65.5%、34.1%。

基于改进爬山算法的Bayesian网结构增量学习方法

已建成的贝叶斯网与领域环境间可能存在较大偏差,加之领域本身固有的动态变化特征,因此在观察到新数据时,改善贝叶斯网的性能和优化网络结构是十分必要的.对传统爬山算法进行研究并改进Gamez等提出的爬山算法,该算法通过引入删除结点时的禁忌表和环路禁忌表,避免搜索不必要的冗余结点,提高搜索效率,并给出禁忌表的更新方法.在ALARM数据集上进行实验,结果表明该算法是有效的.

一种具有结构先验的贝叶斯网络结构学习算法

贝叶斯网络(Bayesian Network,BN)的计算复杂度随着节点数量的增加而增加,其最优结构仍是一个NP(Non-deterministic Polynomial Time)-hard问题。为优化贝叶斯网络结构,提高复杂BN结构的计算能力,通过约束和分数的混合学习方式进行BN结构优化。基于约束的学习采用PC(Peter-Clark)算法生成初始网络结构,以提高网络的初始评分。基于分数的学习采用麻雀搜索算法寻找BN的最优结构,以增强其在BN中的评分搜索能力。将麻雀搜索算法同PC算法应用于BN优化其结构,并采用标准BN进行实验,证明了所提算法在BN结构学习中的可行性与有效性。不同复杂度的网络实验表明,相比其他算法,文中所提方法获得了更好的贝叶斯信息准则评分,且在ASIA网络上的2000个样本的测试中,与标准分数误差仅为0.2。

改进遗传-狼群对节点序寻优的贝叶斯网络结构算法

贝叶斯网络是数据挖掘领域的一种重要方法。针对贝叶斯网络结构学习算法寻优效率低和易陷入局部最优的问题,提出一种基于改进的混合遗传-狼群对节点序寻优的贝叶斯网络结构学习算法。该算法首先利用深度优先搜索对最大支撑树的节点进行拓扑排序;然后利用动态变异及最优交叉算子构建适用于节点序寻优的改进捕食行为,引入动态参数因子来增强算法局部寻优能力;最后与K2算法结合得到最优的贝叶斯网络结构。用3种不同大小的标准网络数据集中进行实验,结果表明,该算法收敛到较优值,寻优效率高于其它同类优化算法。

基于改进麻雀搜索算法优化BN的变压器故障诊断研究

针对变压器故障诊断准确率低和稳定性差的问题,文中提出了一种改进麻雀搜索算法优化贝叶斯网络的变压器故障诊断方法。首先,通过计算互信息建立最大支撑树并进行定向处理得到贝叶斯网络初始结构即初始种群。然后,在算法中引入一种新的合作机制和正弦余弦算法,提高算法收敛速度和全局搜索能力,并利用油中溶解气体分析,创建基于改进麻雀搜索算法优化贝叶斯网络的变压器故障诊断模型。最后,为了证明所提方法的优越性,将所提的方法与现有变压器故障诊断方法进行对比。结果表明,文中所提出的方法故障诊断率最高,可以更精准地对变压器进行故障诊断。

基于遗传算法的贝叶斯网络结构学习综述

贝叶斯网络采用图模型描述变量之间的依赖关系,因其结构清晰,具有突出的决策机制和学习机制,故拥有优秀的推理能力。在各类研究方法中,遗传算法能够有效地解决复杂的优化问题,以其普适性好、鲁棒性强、便于并行执行、高效便捷等显著特点,在贝叶斯网络结构的学习研究过程中发挥着非常重要的作用。从初始种群、遗传操作算子设计两个层面对近年基于遗传算法的因果结构学习改进方法进行了调研分析并指出了该技术路线进一步的研究方向。

贝叶斯网络结构学习的CMIHC算法

贝叶斯网络源于对人工智能领域不确定问题的研究,是进行不确定问题推理和数据分析的重要工具。自贝叶斯网络结构学习诞生以来,已有众多成熟的结构学习算法,包括基于依赖分析的方法、基于评分搜索的方法和混合搜索的方法。其中利用信息论进行结构修剪已成为常用手段,但条件互信息中条件集的选取并没有统一标准,导致网络结构的修剪不一致。爬山算法利用3种搜索算子对网络结构进行局部更新,通过评分函数得到最优结构。结合信息论和爬山算法思想,提出一种新的结构学习算法——CMIHC(Conditional Mutual Information Hill Climbing)算法。该算法利用互信息和创建的条件集修剪初始连通图,对其进行定向,进而得到初始网络结构,结合评分函数和爬山算法的贪婪搜索策略得到最优网络结构。通过实验分析,在精度和效率上,CMIHC算法效果优于其他对比算法。

混合数据贝叶斯网结构学习算法及其在课程关系分析中的应用

考虑在含有有序数据和高斯数据的混合数据情形下的贝叶斯网结构学习问题,基于EM算法提出MSEM算法。并应用MSEM算法分析了某高校统计学专业某年级学生22门课程的考试成绩,利用有向无环图刻画了统计学专业各门课程之间的内在联系。

互信息与爬山法相结合的贝叶斯网络结构学习

针对爬山法容易陷入局部最优,而随机重复爬山法时间开销过大的问题,将互信息与爬山法相结合,提出了MI&HC贝叶斯网络结构学习算法。首先利用互信息构建初始网络结构,再从该网络结构开始利用爬山法进行贝叶斯网络结构学习。仿真结果表明:MI&HC算法,对小型稀疏网络结构的学习效果非常好,对较大型的网络结构的学习也能得到令人满意的结果;该算法不需要节点顺序这一先验信息,却能获得与K2算法相当的学习效果。