Sum-Product Networks模型的研究及其在文本分类的应用

图模型在机器学习有着广泛的应用。相比图模型,Sum-Product Networks模型具有更强表达能力和更快的推理速度,所以其在对文本和图像数据建模有着广泛的应用。本文总结Sum-Product Networks这一新的深度概率模型的研究进展,先介绍了固定结构的Sum-Product Networks的参数学习方法,再介绍了根据不同的输入数据而进行的结构和参数学习方法。并且介绍了判别式和生成模型的Sum-Product Networks,最后介绍了Sum-Product Networks在文本分类上的应用。

健壮且自适应的学习型近似查询处理方法研究

由于在大规模数据集上执行精确查询耗时较长,因此近似查询处理(AQP)技术常被用于在线分析处理,目的是以较短的交互延迟返回查询结果,并尽可能地降低查询误差。现有的学习型AQP方法与底层数据解耦,将I/O密集型计算转化为CPU密集型计算,但是由于计算资源的限制,该类方法通常基于随机的数据样本进行模型训练,此类训练数据会引起稀有群组缺失问题,导致模型预测准确性不高。针对上述问题,提出一种基于分层样本学习的混合型和积网络模型,并基于该模型设计一种AQP框架。分层样本能够有效避免稀有群组缺失现象,基于该样本训练的模型预测准确性大幅提升。此外,针对数据动态更新的情况,提出一种模型自适应更新策略,使得模型能够及时检测数据偏移现象并自适应地执行更新。实验结果表明,与基于抽样和基于机器学习的AQP方法相比,该模型在真实数据集和合成数据集上的平均相对误差分别约降低18.3%和2.2%,在数据动态更新的场景下,其准确性和查询时延均呈现出良好的稳定性。

基于因子图模型的水下传感器网络时间同步方法

为了降低水下传感器时间同步周期长、提高同步效率,本文提出了一种基于因子图模型的水下位置、声速、时延测量值的参数融合方法。该方法在求解系统钟差边缘概率密度函数后,对该函数进行二进制化简,从而快速解算各传感器钟差,实现网络的动态时间统一。试验结果证明:在其动态时间同步准确度高于8×10^(-4) s的前提下,其同步周期仅为现有方法的1/2,并可以在一个周期内完成对整个网络的授时,计算量降低。

基于轻量和积网络及无人机遥感图像的大豆田杂草识别

为提高机器视觉在无人机等小型嵌入式设备中杂草识别的准确率,该文以大豆苗中常见禾本科杂草和阔叶型杂草为研究对象,针对传统和积网络在图像分类任务中模型参数多、训练时间长、含有较多冗余节点和子树的问题,该文改进传统和积网络的学习过程,提出一种以小批量数据作为输入的轻量和积网络。在结构学习中,当积节点作用域内的变量个数小于一定阈值时,合并积节点为多元叶节点,否则将积节点重组为和积混合结构,并对边缘节点进行裁剪,有效降低了模型的参数量和复杂度。在参数学习中,提出贝叶斯矩匹配更新网络参数,使得模型对小样本的学习效率更高。最后结合K均值聚类算法应用于无人机图像中的杂草识别。试验结果表明,利用该方法对无人机图像中大豆苗、禾本科杂草、阔叶型杂草以及土壤的平均识别准确率达99.5%,高于传统和积网络和传统AlexNet。并且模型平均参数量仅为传统和积网络的33%,内存需求最大时减少了549 M,训练时间最多减少了688.79 s。该研究可为轻量和积网络模型在无人机喷洒农药中的杂草识别提供参考。

改进的和积网络自动编码器及短文本情感分析应用

为了提升深度自动编码器在短文本情感分析应用中的性能,本文提出了一种基于改进和积网络的深度自动编码器,重构和积网络节点层,增加输入层输出到每一个和积网络的隐藏层,提出了层次和积网络模型,构造了基于层次和积网络的深度自动编码器。同时还提出了一种改变和积网络的sum节点为max节点的最大积网络(mpns)模型,并作为深度解码器。将基于层次和积网络的深度自动编码器应用于短文本情感分析。实验结果表明:基于层次和积网络的深度自动编码器相比于现有深度自动编码器在短文本情感分析领域能得到较高的分类准确率,且模型具有更快的运行速度。

基于改进和积网络的双人交互行为识别

受到视角变化、相机移动、尺度、光线、遮挡等因素的影响,双人交互行为识别的效果往往不太理想。有效地提取特征和合理地建立交互模型是双人交互行为识别与理解的两个重要研究内容。基于深度学习的思想,直接在三维空间中构建多层神经网络,使用两层卷积叠加独立子空间分析网络提取视频的时空特征。在此基础上,提出了一种基于改进和积网络(sum product networks,SPNs)的双人行为识别算法。通过改进后的LearnSPN结构学习算法学习和积网络的结构和权重,在训练过程中对数据集进行实例划分或者变量划分直至满足划分结束条件,从而实现对双人交互行为的分类。该方法在UT、BIT-Interaction和TV-human交互数据库上进行测试,实验结果证明了该方法对双人交互行为识别的有效性,尤其对背景复杂的TV-human交互数据库效果更好。

协同导航不完全量测环路和积数据关联算法

协同导航技术是提升平台协作性能的重要保障和关键技术,针对复杂环境中导航信息测量数据丢包或延迟问题,提出一种协同导航滤波用不完全量测环路和积数据关联算法(IM-LSPADA),将局部节点状态与友邻节点状态进行扩维,协同节点的状态噪声联合扩维,为系统状态变量,友邻节点测距为观测量,对状态与量测噪声的后验概率密度函数进行高斯近似;量测数据随机延迟或丢包时,采用上一时刻量测量作为系统观测值,基于确定积分点进行采样的贝叶斯框架,计算预测目标节点位置,进行定位。通过无迹变换(UT)传播的sigma积分点进行IM-LSPADA估计仿真和实验结果表明,量测数据丢失时,能够完成目标网络的定位和跟踪。与未考虑量测随机延迟的SPBP算法相比,改进算法的横轴位置误差降低了76%,纵轴位置误差降低了66%,精度可达到标准的和积数据关联算法(SPADA)的精度。

一种计算网络可靠度的不交和算法

给出了一种计算网络可靠度的不交和算法,该算法的最大特点是操作简便,易于在计算机上实现,从而适用于大型网络可靠度的计算。

计算无圈有向网络可靠度的一个有效算法

利用布尔代数知识和网络的拓扑结构相结合 ,同时采用道路排序的技巧、保持可靠度不变的串并联化简等计算 ,给出了一个计算无圈有向网络

一个计算网络可靠度的递归算法

给出一个计算网络可靠度的有效算法,该算法的特点是结合概率论的有关知识和布尔代数运算:递归地调用一个简单、有效的概率公式来计算网络可靠度。该算法易于在计算机上操作和实现,从而适用于大型网络可靠度的定量计算。最后通过实例验证所给算法的有效性。

一种用二元判决图求网络可靠度的方法

在已有结果的基础上,提出了一种利用二元判决图计算网络可靠度的方法.该方法将网络的最小路集用二元判决图来表示,并得到最小路集的不交和,最后获得网络的可靠度.与其他方法比较,该方法所用的二元判决图的规模较小,并且可以计算出在不同故障率条件下、不同时间长度下的网络可靠度.

综合联想记忆神经网络的外积取等准则

本文提出了一个新的联想记忆设计准则，即外积取等准则，它具有外积和准则的所有优点。由外积取等准则设计出的联想记忆网络能够存储任意给定的训练模式，即对于训练模式的数目和它们之间相关性的强弱没有限制。外积取等准则可用来定量地评价记忆模式向量各分量对于记忆模式分类或识别的重要性。由外积取等准则设计出的网络的连接权值只取１、０或－１，因而网络易于光学实现。计算机实验结果充分说明了外积取等准则的有效性。

网络可靠度一种新的不交和算法

给出网络可靠度一种新的不交和算法．对两终端可靠度而言，当给出两终端间道路（或割集）集合后，提出一种排列道路顺序的新原则．利用不交和算法，在计算中借助布尔代数定理进行简化。

基于和积网络的花朵图像分类研究

通过和积网络的结构学习,将其与新颖的图像特征提取方法相结合,提出了一个新的花朵图像分类方法。所提出的分类方法在考虑了自然场景图像的特点下,利用图像小块的信息进行特征提取,提取到的特征向量具有可辨别性、独立性和鲁棒性;对特征向量构成的矩阵使用和积网络结构学习算法,有利于将相似的实例聚为一类,不同的变量分为不同类。实验结果表明,提出的基于和积网络的花朵图像分类算法有着更理想的分类效果。

网络可靠度的不交分解算法

不交分解算法是应用分解方法把网络分解成若干个不交的部分，并应用循环算法计算网络的可靠度。该算法将分解和不交和方法融合在一起，主要思想是寻找最短路，然后进行不交分解。由于不交分解算法在计算过程中逐步分解。因此可以根据具体网络，随时选择具体最短路以及最短路中的具体边进行分解。这样就简化了同类算法。与Locks算法相比，可以得到更少的不交项。

和积网络的性质分析及其有效性验证算法

和积网络(sum-product networks,SPN)是一种在多层网络中进行快速推理的深度概率图模型,在人工智能领域有广泛应用前景。SPN的有效性即它可用来正确表示概率分布,使得SPN可以表示一些图模型的配分函数和所有的边缘分布。由于只有部分SPN是有效的,快速判断SPN的有效性很有必要。针对SPN理论体系中的有效性验证问题,讨论并揭示SPN内部结构性质,提出验证SPN有效性的两个算法,并给出算法的正确性证明及其复杂度。还通过给出一种新的SPN中生成树个数的计算方法来验证SPN有效性算法的可靠性。

关于网络的终端可靠度的新算法

类比Ｄｏｄｔｓｏｎ与Ｇｏｂｉｅｎ［１］提出的算法，给出网络的终端可靠度的一种新算法，提出了Ｒｓ－ｔ的选边原则，使得算法过程中产生的项在遇到含有道路或割集时，则停止生长，而继续其它的分支，不必枚举出所有道路或割集，使得Ｒｓ－ｔ的表达式中的项数和过程中产生的项数减少，表达式更加紧凑，运算更快。通过对计算结果的比较，可以看到本文算法对较大的网络有着很大意义。

基于关系和积网络的社交网络链接预测

针对传统的链接预测模型推理方法通常只针对简单网络,只考虑单一的网络结构特征,难以适应不断复杂化的社交网络的问题,提出一种基于关系和积网络的链接预测方法,利用和积网络快速精确推理的能力进行链接预测.实验结果表明:该方法可以真实的还原社交网络的用户关系,比传统统计关系学习方法方法具有更快的推理速度和更高链接预测准确率.

基于广义概率和、积模糊神经模型的故障预测方法

针对典型的模糊算子缺乏柔性的缺点,将广义概率和(GPS)与广义概率积(GPP)模糊算子引入模糊神经网络,分别代替规则层和输出层的神经元传递函数,通过补偿度参数对算法的逻辑运算强度进行调整,以模拟人类推理思维的灵活性.建立了一种基于GPS-GPP的故障预测模型,推导出了参数训练迭代算法.以轨道电路的故障预测为例对模型进行了仿真验证,并提出了一种基于余切函数的故障可信度到维修时限的映射关系.通过对GPS-GPP和Sum-Prod.的预测结果进行比较,得出GPS-GPP模糊神经模型具有更好的预测精度和泛化能力.