基于全局对抗负样本的图对比学习方法

图对比学习在无监督节点表示方面取得了巨大成功。该类模型旨在通过拉近同一节点对应的不同增强节点的表示(正样本),推远不同节点的表示(负样本)的方式为每个节点学习表示。其中负样本的选择是图对比学习的一个关键。现有的方法通过随机采样或者根据一些启发式的重要性度量标准为每个节点选择对应的负样本。然而上述方法并不能准确地找到对模型关键的负样本。同时,由于需要为每一个节点选取其对应的负样本,导致高昂的时间开销。为了解决上述问题,该文提出通过对抗学习的方式,为所有节点学习一个全局共享的关键的负样本。在多个基准数据集上的实验结果证明了该方法的效率和有效性。

基于环境因子优化TSES法选择负样本及其在滑坡易发性评价中的应用

滑坡易发性评价是滑坡灾害防治的重要手段之一,而不合理的滑坡负样本会影响滑坡易发性评价,从而影响到滑坡灾害的防治,因此提供一种合理的负样本选取方法变得尤为关键。以西藏米林市的古滑坡为例,选择高程、坡度、坡向、坡位、距道路距离、距断层距离、距水系距离、地形起伏度、地层岩性、土地利用类型10类环境因子,使用Relief算法计算环境因子的贡献值并依据贡献值优化选择环境因子;基于环境因子优化的目标空间外向化采样法(target space exteriorization sampling,简称TSES)选择负样本,作为性能优异的随机森林模型的输入变量;之后结合优化的环境因子和正或负样本预测米林市的滑坡易发性,并用混淆矩阵和ROC曲线评价构建模型的性能。为检验环境因子优化的TSES法的有效性和先进性,采用耦合信息量法和TSES法选择滑坡负样本并构建随机森林模型,与环境因子优化的TSES法构建的随机森林模型进行对比研究。结果表明,环境因子优化的TSES法构建的随机森林模型的评价效果较好,其ACC为93.7%、AUC为0.987,均高于耦合信息量、TSES法构成的模型。环境因子优化的TSES法能够提高模型的精度,解决多因子作为约束条件取样中因子选取的问题,为滑坡易发性评价采集负样本提供了新的思路。

推荐系统中混合难负样本的生成模型

负样本对协同过滤推荐任务影响巨大,高质量的负样本能帮助模型精准描述用户画像。针对现存的假负样本及计算量大的问题,基于难负样本的思想提出一种混合动态负采样模型。首先,通过动态负采样方法和服务推荐模型确定每个用户的负样本范围与序列;其次为每个用户快速采样到大量的难负样本候选项;再次,使用混合思想将采样到的负样本集合装配成一个难负样本,扩大感知域和融入的信息量;最后,引入一种注意力机制指导负样本的融合,以此提升系统稳定性。在Alibaba、Yelp2018和Amazon公开数据集上与基线模型进行的比较实验表明,所提模型在多个评价指标下均优于现有基线模型,证明了模型的有效性。

环境因子组合和负样本选取策略对花岗岩区崩岗易发性评价的影响

不同环境因子组合和负样本选取策略对崩岗易发性评价结果存在较多不确定性。为探究其对评价结果的影响,该研究以江西省兴国县花岗岩区为例,利用地理探测器探测17个环境因子的统计量q值,根据累计q值百分比大小依次选择4、7、10和17个环境因子进行组合;利用单随机欠采样、频率比法及改进频率比法等负样本选取策略构建与正样本等量的负样本数据集;采用随机森林模型进行易发性评价,并对评价结果进行对比分析。结果表明:1)3种负样本选取策略下的模型精度随着因子数量的增加先下降再上升,考虑4个环境因子的模型AUC(area under curve)值分别为0.729、0.909和0.909,较最优环境因子组合仅相差0.020~0.038,说明考虑主控环境因子,即可得到较为理想的精度;2)通过频率比法选取的负样本数据集更具合理性;3)研究区内高和极高易发区主要分布在兴国县西南部,而极低易发区主要分布在兴国县北部及东部,这与实际情况较吻合。该研究通过探究不同环境因子组合和负样本选取策略对崩岗易发性评价的影响,可为花岗岩区崩岗的防灾减灾提供科学依据。

基于地理信息相似度的负样本采样策略在泥石流易发性评价中的应用

本文以吉林省永吉县为研究区,结合历史资料与现场实际情况,研究了基于地理信息相似度的负样本采样策略在泥石流易发性评价中的应用,并探索了不同取值范围下选取的负样本对最终易发性评价结果的影响。本次研究选取了高程、坡度、坡向、平面曲率、剖面曲率、年平均降水量、归一化植被指数、地形湿度指数、断层密度、道路密度、水系密度、人口密度、土地利用类型、岩土体类型等14个因子,依离散型与连续型两种分类采用不同方法计算单因子相似度,综合获得全区地理信息相似度后按其不同阈值进行负样本采样,并以支持向量机模型为基础模型,采用受试者工作特征曲线、正样本准确率和预报效率曲线3种评价方法进行了评价。结果显示:当负样本的地理信息相似度值逐渐增大时,模型精度和正样本准确率逐步降低,预报效率先增后降,易发程度由高估向低估变化;在地理信息相似度取值范围0~0.5内选取的负样本兼顾了模型准确性与土地利用价值,并具有最高的预测效率,是一种优秀的负样本取样策略。本次研究结果与实际较为相近,基于地理信息相似度的负样本采样策略有效提升了负样本质量,提高了预测效率,合理平衡了易发区划分与土地利用的矛盾,可为研究区防灾政策的制订、区域防灾的土地规划提供依据,也为区域泥石流易发性评价提供了一种新的思路。

面向开放意图检测的负样本生成方法

开放意图检测是对话系统中极具挑战和关键的任务,目标是将用户输入的话语根据涉及领域不同分入几个类别并检测出不属于任何一个类别的开放样本。然而,由于训练过程缺乏未知意图样本的监督,使得当前算法具有局限性。为了解决这个问题,提出一种新的面向开放意图检测的负样本生成方法。首先,通过字符级和特征级两种方式生成负样本集;其次,将负样本集添加到预训练过程优化特征学习;最后,结合不同的检测方法实现开放意图检测。在两个公开数据集的实验结果表明,提出的方法不仅可以得到更好的检测的效果,并且泛化性强,可应用于多种检测方法。

路径语义和特征提取相结合的负样本推荐方法

随着大数据领域的飞速发展,数据成了当今各行各业宝贵的财富.从海量数据中筛选出合适的内容推送给不同用户,提高用户体验度是推荐系统的主要研究内容.但由于当前的负样本采样方式不足以产生优质的负样本,从而导致系统不能反映用户的真实需求.本文提出一种基于知识图谱的负样本采样算法:首先将TransR与SDAE(堆栈去噪自编码器)结合,从知识图谱的关系中获取编码以充分利用图谱中的信息.再将负采样算法找到的负样本排序,修剪掉得分低的负样本.为了提高搜索性能,在采样器中增加了通道注意力机制.本模型在Amazon-book,Last-FM,Yelp2018共3个数据集上与其它算法进行了比较.实验结果表明:1)在召回率方面,3个数据集上的负样本采样有效性比目前表现最好的DNS高出1.12%,2.12%,2.13%.2)与其它知识图谱推荐算法相比,本文提出的模型NSEP(Negative Sample Extraction combining Path semantics and feature extraction)提高了2.40%、3.41%和3.25%.3)通过对NSEP提出的模块进行消融性实验,发现各模块对算法都有积极贡献.

滑坡危险度评价对BCS负样本采样的敏感性

滑坡负样本在基于统计方法的滑坡危险度制图中具有重要作用,能够抑制统计方法对滑坡危险度的高估。缓冲区控制采样（Buffer controlled sampling,BCS）是一种广泛使用的负样本采样方法,其原理是认为滑坡点附近一定范围内的地理环境与滑坡点所在的地理环境相似,易发生滑坡,因而应当在灾害点一定缓冲区以外的区域采集负样本。目前缓冲区大小主要是根据专家对研究区的经验知识确定,具有主观性。缓冲区大小对基于统计方法的滑坡危险度制图的影响研究较少。因此,有必要分析缓冲区大小与滑坡危险度制图精度之间的关系,探究适宜的缓冲区大小。以陇南山区的油坊沟流域为研究区,基于BCS负样本采样方法,探究不同缓冲区大小对基于支持向量机（Support vector machine,SVM）的滑坡危险度制图结果的影响。结果表明：缓冲区过小会导致与滑坡点地理环境相似的假的负样本的存在,从而导致滑坡危险度的低估;缓冲区过大会导致负样本在环境特征空间中太局限,负样本集的全局代表性差,从而导致滑坡危险度的高估。在本研究区基于SVM的滑坡危险度制图中,200~500m是使用BCS采集负样本的较理想的缓冲区大小。

滑坡危险度制图中一种新型的负样本采样方法

滑坡负样本在基于统计模型的滑坡危险度制图中具有重要作用,能够抑制模型的高估,以合理区划滑坡危险区与非危险区。目标空间外向化采样法(Target Space Exteriorization Sampling,TSES)是一种代表性的基于环境特征空间的负样本采样方法,以往研究表明,TSES在基于广义加性模型的滑坡危险度制图中的应用效果较好,但是其采集的负样本是"虚拟"的样本,只存在于环境特征空间中,无法映射到地理空间,因而无法通过野外检核验证所采集负样本的可靠性。针对这一问题,该文提出一种改进TSES方法,不仅可以在环境特征空间中进行负样本采样,而且使得采集的负样本可以映射到地理空间中。以甘肃省油房沟流域为研究区,在TSES与改进TSES两种负样本采样方法下分别对油房沟流域构建基于支持向量机(Support Vector Machine,SVM)的滑坡危险度推测模型,对比并分析两种负样本采样方法下的滑坡危险度制图精度。结果发现,改进TSES方法采集的负样本在基于SVM的滑坡危险度制图中应用效果比TSES好,表明改进的TSES是一种有效的负样本采样方法。

基于独立负样本集和SVM的人脸确认算法

在许多人脸确认应用领域,例如人脸计算机安全登录系统中,没有用于SVM训练的人脸数据库可以提供,在现有基于SVM的人脸确认算法的基础上,根据实际应用的需求,提出了一种新的基于独立负样本集和SVM的人脸确认算法,该方法对注册的用户图像通过眼睛抖动的方法生成足够多的正样本,利用FLD技术进行特征提取,并利用基于Rank的一对多的识别方法去除同类项,解决了训练样本与负样本类别冲突问题·正负样本送SVM进行训练可以得到相应的SVM模型,对于待确认的人脸图像就可以采用SVM进行验证了·对SCUT人脸数据库的测试表明:足够数量的负样本能够保证较低的FAR,且支持向量的数量不会随着负样本集的数量增长而增长·应用这个算法,实现了一个计算机安全登录系统·

基于难负样本挖掘的改进Faster RCNN训练方法

目标检测方法甚高速卷积神经网络(Faster Region-based Convolutional Neural Network,Faster RCNN)在训练过程中存在负样本远多于正样本的问题,即数据集不平衡问题。针对该问题,提出了一个综合定位误差和分类误差的判别函数用于判别难正样本,基于该函数和难负样本挖掘提出了改进的自助采样法,并提出了基于该自助采样的"五步训练法"用于训练Faster RCNN。与传统的Faster RCNN训练方法相比,五步法加强了对难样本的学习,提高了网络泛化能力,减少了误判;训练出的模型在Pascal VOC 2007数据集上测试的平均正确率均值(mean Average Precision,mAP)提高了2.4%,在FDDB(Face Detection Data Set and Benchmark)相同检出率下误检率降低了3.2%,且边框拟合度更高。

基于耦合信息量法选择负样本的区域滑坡易发性预测

在利用机器学习(machine learning,ML)模型预测滑坡易发性时,选择合理的负样本对预测结果具有重要影响。现有研究大多从整个研究区或低坡度等特定属性区内随机选择负样本,往往不够准确或以偏概全,降低了易发性制图的可靠性。为解决这一问题,提出基于耦合信息量法(information value,IV)的ML模型开展易发性建模。以江西省瑞金市为例,采用IV法将环境因子的属性值转化为对滑坡贡献的信息量值,划定极低和低易发区,并从中随机选择出ML模型训练验证用的负样本数据,构建全新的信息量–支持向量机(IV–SVM)、信息量–随机森林(IV–RF)耦合模型,并预测瑞金滑坡易发性。进一步地,与从全区随机选择负样本的单独SVM和RF模型,以及从坡度小于2°的特定属性区内随机选择负样本的低坡度SVM和RF模型开展对比研究。最后,采用Kappa系数和ROC曲线等指标验证和比较建模结果,IV–SVM和IV–RF模型的Kappa系数分别为0.828和0.876,且对应的ROC曲线的AUC值分别为0.920和0.988,均高于单独SVM、RF和低坡度SVM、RF模型;同时,IV–SVM和IV–RF模型易发性概率分布的平均值较小而标准差较大。结果表明:1)IV–SVM和IV–RF模型具有比单独SVM和RF模型,以及低坡度SVM和RF模型更高的滑坡易发性预测精度,且更有效地反映了瑞金滑坡易发性分布规律;2)RF模型相较于SVM模型具有更高的预测精度;3)IV–RF等耦合模型能够解决单独模型存在的负样本采样不准确和低坡度模型存在的坡度因子对模型贡献度有误差的问题,其滑坡易发性预测精度更高,更加合适区域滑坡易发性预测建模。本文研究为机器学习预测滑坡易发性的负样本采样方法提供了新思路。

负样本信息继承的矩阵式瀑布分类器高效学习算法

针对矩阵式瀑布分类器学习算法在负样本自举过程中无法快速自举出训练所需的高质量样本,自举过程严重影响整体学习效率及最终检测器性能等问题,提出了一种高效学习算法——负样本信息继承的矩阵式瀑布分类器高效学习算法。其自举负样本过程为样本继承与层次自举相结合,首先从训练上一层强分类器所用的负样本集中继承有效负样本,样本集不足部分再从负图像集中自举。样本继承压缩了有效样本的自举范围,可以快速自举出训练所需样本;并且自举负样时对样本进行预筛选,增加了样本复杂度,提升了最终分类器性能。实验结果表明:训练完成方面,本算法比矩阵式瀑布分类器算法节省20 h;检测性能方面,比矩阵式瀑布型分类器高出1个百分点;与其他17种人体检测算法性能相比也有很好的性能表现。所提算法较矩阵式瀑布分类器学习算法在训练效率及检测性能上都有很大提升。

基于线性分配的难负样本挖掘度量学习

科学家依靠鲸鱼尾巴的形状及其独特的标记来识别鲸鱼的种类,但靠人眼识别和手工标注的过程非常繁琐。而且鲸鱼尾巴照片数据集存在数据分布不均衡的特点,其中个别种类样本数量极少,甚至仅有一份;同时样本个体差异较小,并且包含未知类别,导致以图像分类的方式完成鲸鱼身份的自动标注存在困难。为解决度量学习在该任务下难以分类的问题,在孪生神经网络(SNN)的基础上,利用线性分配问题(LAP)算法进行难负样本挖掘训练过程从而动态地构筑训练批次。首先对训练样本提取图像特征向量,并计算特征向量的相似性度量;然后通过LAP为模型分配样本对,根据度量分数矩阵动态地构筑训练样本批次,针对性地训练困难样本对。在一个数据分布不平衡的鲸鱼尾巴图像数据集和CUB-200-2001数据集上得到的实验结果表明,所提算法在少数类学习和细粒度图像分类上能取得良好的效果。

一种负样本改进的LDA主题模型推荐算法

LDA主题模型是文本挖掘领域的重要算法,同时在推荐系统当中也有不错的表现.通过LDA主题模型挖掘用户感兴趣的主题,是目前最常用的用户兴趣主题挖掘方法之一.为了提高LDA主题模型应用在推荐系统时的推荐质量,我们提出了一种基于负样本进行学习的方法 negLDA.通过创造出负样本来学习用户对物品的负面预测评分,同时结合正样本学习得到的正面预测评分,从正反两个方面进行综合评测,从而更加精确地衡量出用户对物品的预测评分.通过在MoviesLens-100k、MovieLens-1M、FilmTrust这三个数据集上的实验,表明所提出的算法在精确率、召回率、AUC三个指标上相比传统算法均有一定改进.

原核基因识别中的一种负样本生成算法

在基因识别的两类算法中,判别算法通常需要正负两类样本来训练参数.在原核生物的基因组中,由于可充当负样本的基因间序列太少,如何产生负样本便成为原核基因识别中的一个问题.本文提供了一种基于"自相似映射"的负样本生成算法,与通常使用的随机生成算法不同,该算法不需要生成随机数.本文给出了两种负样本生成算法的比较,并初步讨论了自相似性对于DNA序列分析的意义.

正负样本差异特征双径向融合的自监督缺陷检测方法

针对纹理图像表面划痕、裂纹等缺陷不规则、随机分布,导致缺陷检测准确率低的问题,研究一种基于正负样本差异特征双径向融合的自监督缺陷检测方法。首先,采用Otsu阈值分割提取图像前景信息,并以DTD数据集中的纹理图像或数据增强后的正样本叠加Perlin噪声,对正样本图像进行缺陷模拟以合成负样本;然后,利用正负样本经编码器输出的中间特征,计算均方误差进行特征匹配,结合坐标注意力(coordinate attention, CA)和双径向路径聚合网络(path aggregation network, PANet)加强匹配特征的信息融合;最后,将融合特征与编码器输出的低层和高层特征一同输入解码器,优化调整Focal、L1和Dice损失函数权重,实现对缺陷掩码更精准地预测。实验显示,所提模型在MVTec AD数据集纹理类别上的平均图像级、像素级AUROC分别达到了0.995、0.968,相较于其他缺陷检测模型,分类和分割准确率均有提升,表明所提方法在纹理缺陷检测方面的有效性。

TransE-KCB:一种改进负样本采样的知识图谱表示方法

为了解决翻译模型中的随机生成负样本的不足,以生成高质量的负样本,提高模型的训练效果,提出一种改进的负样本采样的知识表示学习模型TransE-KCB。该模型引入K-Means++聚类算法,形成不同种类的相似性实体簇;在簇中随机挑选5个实体与被替换实体计算它们之间的相似度,选出排名最高的实体,与被替换的实体进行替换;在此基础上,为了解决“假负例”问题,引入布隆过滤器,对“假负例”进行过滤。实验结果表明,与TransE等模型相比较,TransE-KCB模型具有更好的模型表达能力,知识表示的能力得到较大提升。

基于负样本挖掘与特征融合的高速跟踪算法

随着目标跟踪技术在多种视觉任务中的广泛应用,跟踪算法的实时性变得越来越重要.全卷积孪生网络跟踪算法(SiamFC)虽然在跟踪速度方面较为理想,但在复杂的跟踪环境下很容易出现跟踪漂移.为了能在提高算法精度的同时保证实时性,提出一种基于负样本挖掘与特征融合的高速跟踪算法.首先,为了学到更深层次特征,又不过多增加额外参数运算,使用增加了剪裁层的轻量级网络ShuffleNetV2进行特征提取,提升跟踪速度;其次,在离线训练阶段引入不同种类的负样本对,加强对语义信息的学习,从而提升模型的特征判别能力;最后,为了得到更高质量的响应图,提出一种多尺度特征融合策略,充分利用浅层与深层特征,提高跟踪精度.在OTB100和VOT2018两个数据集上与其他跟踪算法进行对比实验,结果表明:所提出算法较基准算法SiamFC在各项指标上有大幅度提升,在两个数据集下分别收获8.3%和7.9%的增益;同时在NIVIDA GTX l070下的速度可达114 FPS.

一种基于地理环境相似度的滑坡负样本可信度度量方法

滑坡负样本在统计型滑坡危险度制图中具有重要作用,能抑制统计模型对滑坡危险度的高估。当前滑坡负样本采样方法采集的负样本可信度未知,在负样本采样过程中,极有可能将那些潜在滑坡点错选为负样本,这些假的负样本会降低负样本集的质量和训练样本集的质量,进而影响统计模型的精度。本文基于"地理环境越相似、地理特征越相似"的地理学常识,认为与正样本有着相似地理环境的点极有可能是未来发生滑坡的点;与正样本的地理环境越不相似的点,则越有可能是负样本。基于此假设提出一种基于地理环境相似度的负样本可信度度量方法,将该方法应用于滑坡灾害频发的陇南山区油房沟流域,对油房沟进行滑坡负样本可信度评价制图;使用油房沟流域的滑坡发生初始面来验证该方法的有效性。结果发现:滑坡发生初始面上所有栅格点的负样本可信度平均值为0.26,超过95%的栅格点的负样本可信度都小于0.5,说明本文提出的负样本可信度度量方法合理。