基于图半监督与多任务学习的配电网故障区段与类型统一辨识

为解决深度学习类配电网故障辨识方法在量测不足和标记率低时准确率不高的问题,提出了基于图半监督与多任务学习的故障区段与类型统一辨识方法。首先,设计了故障区段与类型统一辨识的图神经网络架构,在图嵌入层中融入网络拓扑和线路参数信息,以充分挖掘不同位置、类型的故障特征。其次,采用多任务注意力网络构建了故障区段定位和类型辨识两个任务,以提取故障的多重信息,实现不同任务间知识转移。再次,将图嵌入特征与无标签样本的编码压缩特征进行融合,得到新的多任务共享特征,以充分利用未标记数据,增强模型泛化能力。最后,通过算例测试表明,所提方法的故障辨识精度优于传统神经网络,且在实时量测少、标签率低及不同量测噪声条件下具有更好的鲁棒性。

基于图半监督学习的移动相机背景减除

在对移动相机拍摄的视频进行背景减除时,已有的无监督和监督学习模型的泛化能力都比较差。为此提出一种基于图表示和半监督学习的移动相机背景减除模型。首先提出了一种基于凸非凸图全变差正则的半监督学习模型。模型利用L1范数与其广义Moreau包络的差来构造非凸图全变差正则,可避免图全变差中L1正则项带来的有偏估计,并且在理论上可以保证模型中目标函数的整体凸性,进而可以利用交替方向乘子法对模型进行求解。数值实验中,将新模型应用到背景减除中,并在CDnet2014数据集的PTZ挑战上进行了比较实验。实验结果表明,对移动相机视频序列进行背景减除时,新模型在视觉效果和数值指标上都要优于已有的无监督和监督学习模型。

基于超图切割的半监督学习和聚类算法

对超图切割上的半监督学习和聚类算法进行了研究;通过对超图切割和超边展开法及其切割函数的讨论,引入了超图上的总变异作为超图切割的洛瓦兹扩展,并在此基础上提出了一组正则化函数,它对应于图上的拉普拉斯型正则化;基于正则化函数族提出了半监督学习方法,并基于平衡超图切割提出了谱聚类方法;为了求解这两个学习问题,将它们转化为求解凸优化问题,并为此提出了一种主要组成部分为近端映射的可扩展算法,从而实现半监督学习和聚类;仿真实验结果表明,提出的基于超图切割实现的半监督学习和聚类方法相比于经典的超边展开法和其他图切割方法有更好的标准偏差和聚类误差性能。

一种双通道半监督网络表示学习模型

在半监督网络表示学习中,节点标签对于网络在不同空间中映射关系的建立具有重要指导意义。然而在很多实际任务中,可用标签信息往往比较有限或难以获取,这导致在学习网络低维表示的过程中无法提供充分有效的监督。针对这一问题,提出了一种双通道半监督网络表示学习模型,该模型以自编码器为基本框架,由自监督和半监督两个信息传递通道构成。自监督信号与标签信息分别在两个通道中对网络表示映射关系的建立提供指导,同时二者之间形成信息互补与增强。考虑到两个通道间可能存在信息冗余,在互信息视角下设计了冗余识别与消除机制。在此基础上,构造了一体化优化模型,实现自监督学习与半监督学习的协同,使学习到的网络表示更好地捕捉和保持网络的结构和特性。在真实数据集上的实验结果表明,提出的模型学习的网络表示在节点分类、聚类和可视化等任务中能够获得优于基线方法的性能。

一种基于最小最大邻域阶构图的半监督分类法

为克服K近邻图边的对称问题及互K近邻图的连通性的不足,并且针对局部全局一致性学习(LLGC)算法的分类精度在很大程度上取决于控制参数α的设置,设置不合理可能造成分类的准确率较低,聚类的结果不准确的情况,研究提出一种半监督学习分类算法,将最小最大邻域阶构图法(KMM)结合少参数的简洁局部全局一致性学习(BB-LLGC),即KMM-BB-LLGC算法,兼顾边的对称及整个图的连通,简化图上的目标函数,使其不受参数α的影响。用UCI数据库中的数据集进行实验,与KNN-LLGC、KNN-BB-LLGC、KMM-LLGC几种分类方法进行对比,实验表明,提出的方法能可以带来更高的分类准确率,达到较高的分类精度,算法效率更高,可以实现对样本精确、快速的分类。

结合改进高斯核的图半监督转导小样本学习

近年来,深度学习在机器学习领域取得巨大的研究进展,广泛应用于各个行业。但其需要大量地标注数据训练模型,资源成本耗费较大。因此,小样本学习逐渐成为机器学习的研究热点之一,并可结合半监督学习解决小样本学习标注数据少的问题。为了提高小样本学习模型准确率,针对半监督转导传播网络模型中高斯核在无限远处的衰减几乎为零的问题,提出适用于半监督转导网络模型的改进高斯核函数。通过加入位移参数和修正参数,使其在高维特征空间中能在测试点附近具有较快的衰减速度且在无限远处仍能保持适度的衰减,提高了小样本学习模型效果。在监督和半监督环境下进行实验对比,实验结果表明该算法在一定程度上提高模型精度,且具有实用价值。

生成样本对抗训练的图半监督学习

给定一个由少量标记节点和大量未标记节点组成的图,图半监督学习的目标是为图中的未标记节点分配标签。生成对抗网络已经在半监督学习中展示了强大的能力,但基于生成对抗网络的图半监督学习的研究工作较少,目前的工作主要关注在低密度区域生成未标记样本削弱子图之间的信息传播,从而使决策边界更清晰,但在这类方法中,标记样本过少仍是其面临的主要挑战。针对这个问题,提出了一种基于生成样本对抗训练的图半监督学习算法。该算法基于生成对抗网络,分别生成服从真实样本分布的标记样本和与真实样本分布不同的未标记样本,其中生成的标记样本扩充了监督信息,生成的未标记样本减少了密度间隙中邻近节点的影响,从而提高了图半监督分类效果。相比现有的方法,提出的算法全面考虑了标记样本和未标记样本对图半监督学习的影响,使其分类能力更强。同时在不同的数据集上进行了大量的实验,验证了该方法的有效性。

基于图半监督学习的电力信息物理系统风险范围预测方法

现有电力信息物理系统风险传播分析中,缺少对节点自身级联失效概率计算分析的考虑,使得风险传播过程分析出现偏差,导致最终所预测的风险范围不准确。为此,文中提出一种基于图半监督学习的电网安全风险范围预测方法。首先,通过考虑双层网络状态交互影响的方向和节点的依赖性,构建基于节点故障概率函数的风险传播模型;然后,为实现在事故发生初期及时预演风险传播范围,将既定风险节点标签化,基于标签度量学习对风险传播模型进行快速求解;最后,通过信息物理系统真实数据进行实验分析,验证了所提方法的有效性和鲁棒性。

基于自适应图的半监督图像分类方法

针对半监督分类模型存在的模型复杂度高、构造正则化项难度大的问题,从丰富样本特征表示的角度出发,构造了自适应图结构的融合网络模型(AGSH)。该模型在卷积神经网络模型(CNN)基础上引入了自适应图卷积神经网络(AGCN)提取CNN模型特征间的关系。对AGSH模型泛化性能的分析证明了该模型在解决半监督相关问题时的有效性。实验结果表明:融合模型在五种图像数据集上的分类精度相比于单一CNN模型分类精度均有提升。研究结论为解决小样本分类问题的建模方法提供了参考。

主动学习与图的半监督相结合的高光谱影像分类

针对当前高光谱影像分类时,人工标注样本费时费力以及大量未标记样本未有效利用等问题,提出了一种主动学习与图的半监督相结合的高光谱影像分类方法。首先,将像素的光谱信息与其邻域内的空间信息相结合,利用重排序机制得到一种旋转不变的空谱特征表达。在此基础上,利用主动学习算法选择最不确定性样本(即分类模糊度最大的样本),提交操作者标注得到标记样本集。最后将该标记样本与未标记样本组合,用于图的半监督分类。该算法可保证类别边界样本的选择,利于分类器的边界构造,同时,在较少标记样本情况下,通过引入大量的未标记样本,可以达到较好的分类效果。在3幅真实高光谱影像上的试验表明,该方法可以取得精度较高的分类结果。

基于局部聚类与图方法的半监督学习算法

基于图的算法已经成为半监督学习中的一种流行方法,该方法把数据定义为图的节点,用图的边表示数据之间的关系,在各种数据分布情况下都具有很高的分类准确度.然而图方法的计算复杂度比较高,当图的规模比较大时,计算所需要的时间和存储都非常大,这在一定程度上限制了图方法的使用.因此,如何控制图的大小是基于图的半监督学习算法中的一个重要问题.本文提出了一种基于密度估计的快速聚类方法,可以在局部范围对数据点进行聚类,以聚类形成的子集作为构图的节点,从而大大降低了图的复杂度.新的聚类方法计算量较小,通过推导得到的距离函数能较好地保持原有数据分布.实验结果表明,通过局部聚类后构建的小图在分类效果上与在原图上的结果相当,同时在计算速度上有极大的提高.

基于图的半监督深度学习及其在新生儿疼痛表情识别中的应用

针对新生儿疼痛表情识别任务中由于有类别标签样本数量不足而导致分类准确率不高的问题,提出了一种基于图的半监督深度学习(Graph-based Semi-supervised Deep Learning,GSDL)方法。首先,使用训练集中少量有类别标签的样本对深度神经网络模型进行初步训练,得到初始模型;然后,利用初始模型提取有类别标签样本与无类别标签样本的特征向量,并使用提取的特征向量构建一个邻接矩阵,进而构建一个图,在构建的图上通过标签传播算法推测出无类别标签样本的伪标签;最后,使用所有样本及其标签对深度神经网络模型进行微调,得到最终的新生儿疼痛表情识别分类模型。在新生儿疼痛表情数据集上的实验结果表明,在使用相同数量的有类别标签样本情况下,文中提出的GSDL模型的分类准确率优于传统的有监督深度学习模型,也高于现有的半监督深度学习模型(Mean-Teachers,MT),验证了GSDL方法在新生儿疼痛表情识别中的有效性。

基于图半监督学习的医学图像检索

针对医学图像检索中底层特征不能完整地描述图像的高层语义的问题,提出一种基于图的半监督学习框架的医学图像检索算法.首先根据图像之间的距离关系构建图模型,并在标记传播过程中加入密度相似性约束,得到查询图像的类别归属度,即图像的视觉语义表示;然后提取图像分块SIFT特征,用词袋进行描述,以获取图像的局部特征;最后设计了结合视觉语义和局部特征的相似性度量准则.在ImageCLEFmed上的实验结果表明,该算法能够有效地表达图像的视觉语义,检索效率优于单一底层特征检索.

哈希图半监督学习方法及其在图像分割中的应用

图半监督学习(Graph based semi-supervised learning,GSL)方法需要花费大量时间构造一个近邻图,速度比较慢.本文提出了一种哈希图半监督学习(Hash graph based semi-supervised learning,HGSL)方法,该方法通过局部敏感的哈希函数进行近邻搜索,可以有效降低图半监督学习方法所需的构图时间.图像分割实验表明,该方法一方面可以达到更好的分割效果,使分割准确率提高0.47%左右;另一方面可以大幅度减小分割时间,以一幅大小为300像素×800像素的图像为例,分割时间可减少为图半监督学习所需时间的28.5%左右.

一种基于非负低秩稀疏图的半监督学习改进算法

该文针对基于非负低秩稀疏图的半监督学习算法不能准确地描述数据结构的问题,提出一种融合平滑低秩表示和加权稀疏约束的改进算法。该算法分别对经典算法的低秩项和稀疏项进行改进,准确地捕获了数据的全局子空间结构和局部线性结构。在构建目标函数时,使用对数行列式函数代替核范数平滑地估计秩函数,同时利用形状交互信息和有标签样本的类别信息构造加权稀疏约束正则项。然后通过带有自适应惩罚的线性交替方向方法求解目标函数并采用有效的后处理方法重构数据的图结构,最后利用基于局部和全局一致性的半监督分类框架完成学习任务。在ORL库,Extended Yale B库和USPS库上的实验结果表明,该改进算法提高了半监督学习的准确率。

基于改进图半监督学习的个人信用评估方法

针对个人信用评估中未标号数据获取容易而已标号数据获取相对困难,以及普遍存在的数据不对称问题,提出了基于改进图半监督学习技术的个人信用评估模型。该模型采用了半监督学习技术,一方面能从大量的未标号数据中学习,避免了个人信用评估中已标号数据相对缺乏造成的泛化能力下降问题;另一方面,通过改进图半监督学习技术,对图半监督迭代结果进行归一化及修改决策边界,有效减小了数据不对称的影响。在UCI的三个信用审核数据集上的评测结果表明,该模型具有明显优于支持向量机和改进前方法的评估效果。

基于连续预测的半监督学习图像语义标注

为了在图像底层特征与高层语义之间建立关系,提高图像自动标注的精确度,结合基于图学习的方法和基于分类的标注算法,提出了基于连续预测的半监督学习图像语义标注的方法,并对该方法的复杂度进行分析。该方法利用标签数据提供的信息和标签事例与无标签事例之间的关系,根据邻接点(事例)属于同一个类的事实,构建K邻近图。用一个基于图的分类器,通过核函数有效地计算邻接信息。在建立图的基础上,把经过划分后的样本节点集通过基于连续预测的多标签半监督学习方法进行标签传递。实验表明,提出的算法在图像标注中的标注词的平均查准率、平均查全率方面有显著的提高。

基于图的半监督学习的遮挡边界检测方法

提出了一种基于图的半监督学习检测深度图像中遮挡边界的方法。该方法首先获取已标记的像素点和待检测深度图像中的像素点作为顶点构建连通无向图，其次提取无向图中各像素点的最大深度差特征和八邻域有效深度差之和特征组成特征向量，根据像素点的特征向量计算无向图中顶点之间的相似性并将该相似性作为无向图中对应边的权值，然后根据图的半监督学习思想判断无向图中待检测像素点是否为遮挡边界点，最后可视化遮挡边界点得到深度图像中的遮挡边界。实验结果表明，所提方法尽管只需少量的标记样本，但在准确性上却同已有基于监督学习的方法相当。

基于标签进行度量学习的图半监督学习算法

大多基于图的半监督学习方法,在样本间相似性度量时没有用到已有的和标签传播过程中得到的标签信息,同时,其度量方式相对固定,不能有效度量出分布结构复杂多样的数据样本间的相似性。针对上述问题,提出了基于标签进行度量学习的图半监督学习算法。首先,给定样本间相似性的度量方式,从而构建相似度矩阵。然后,基于相似度矩阵进行标签传播,筛选出k个低熵样本作为新确定的标签信息。最后,充分利用所有标签信息更新相似性度量方式,重复迭代优化直至学出所有标签信息。所提算法不仅利用标签信息改进了样本间相似性的度量方式,而且充分利用中间结果降低了半监督学习对标签数据的需求量。在6个真实数据集上的实验结果表明,该算法在超过95%的情况下相较三种传统的基于图的半监督学习算法取得了更高的分类准确率。

异构信息网络中基于图的半监督学习

现有异构信息网络分类方法在稀疏标记数据中不能够获得较好的分类结果,为此,提出一种新的基于图的异构信息网络半监督学习算法HeteMine.该算法首先选取关联路径集,利用HeteSim算法获得关联路径相关性矩阵,然后依据标记数据,构建标签关系矩阵,利用关联路径权重分配模型为每条关联路径分配相应的权重,并且将端点类型相同的关联路径相关性矩阵进行加权相加,得到最终的关系相关性矩阵,最后利用正则化框架对未标记数据进行分类.应用于DBLP数据集时,相对于GNetMine和Hcc,HeteMine的分类精度能够提高0.8%-23.74%;参数变化时,HeteMine的分类精度变化范围在1.5%以内.实验结果表明,HeteMine算法相比于传统的异构信息网络分类方法,分类精度显著地提高了,并且受参数变化的影响较小.