基于CART决策树的分布式数据离群点检测算法

在分布式计算环境中,离群点通常表示数据中的异常情况,例如故障、欺诈、攻击等。通过检测分布式数据的离群点,可以对这些异常数据进行集中处理,保护系统和数据的安全。而进行离群点检测时,不仅要考虑数据的规模和复杂性,还要在分布式环境下高效地发现离群点。因此,提出一种基于CART决策树的分布式数据离群点检测算法。在构建CART决策树时,使用类间中心距离作为分裂准则,根据分离类别对训练数据进行分类,从而确定数据的类型。在上述基础上,考虑到离群点的分布模式与其周围数据对象不同,使用空间局部偏离因子(SLDF)对空间内各个数据对象之间的离群程度展开度量,同时在高维空间内展开网格划分,引入SLDF算法检测剩余离群点集,最终实现分布式数据离群点检测。实验结果表明,所提方法的离散点检测错误率在0.010以内,可以更加精准地实现分布式数据离群点检测,具有良好的检测性能。

基于D-S证据理论的无监督异常检测算法

在实际应用中,当数据集缺少真实标签或正常点数据量不足时,可能导致一分类支持向量机处于无监督情况。此外,当训练集中包含异常数据时,一分类支持向量机生成的决策边界将偏斜至异常数据区域。上述问题降低了异常数据的检测率,并导致分类器的性能变差。为了解决上述问题,基于K近邻算法将数据集分为可疑正常点数据集与可疑离群点数据集。其中,可疑正常点数据集用于一分类支持向量机训练与建模,对于可疑离群点数据集则采用D-S证据理论来识别其中的正常数据。实验结果表明:基于D-S理论的无监督异常检测算法可以有效地分离正常点与异常点,该算法在整体数据集上A_(uc)均值达到了0.83,且在可疑离群点数据集上A_(uc)均值达到了0.883。

基于节点评估与最大类间方差的孤立森林异常值检测

针对孤立森林(isolation forest, iForest)无法有效检测局部异常值且异常值分数阈值难以精确设定的问题,提出一种基于节点评估(node evaluation, NE)与最大类间方差(Otsu)的iForest异常值检测方法。首先,在样本评估过程中将节点深度与相对质量同时引入评分机制,使算法对全局和局部异常值敏感;然后,为了准确设定分数阈值,采用Otsu自适应设定异常值分数阈值;最后,在不同数据集上验证所提方法的有效性。实验结果表明,该方法可以有效兼顾全局和局部异常值的检测,提高iForest检测异常值的准确性。

基于One-class SVM的噪声图像分割方法

为解决现有无监督图像分割模型对强噪声环境鲁棒性差、无法适应复杂混合噪声的问题,提出了一种基于One-class SVM方法的改进后的噪声鲁棒图像分割模型。首先,基于One-class SVM构建一种数据离群程度检测机制;然后,将离群程度值引入能量泛函,令分割模型可以在多种噪声强度下获得较为准确的图像信息,同时避免现有方法在强噪声环境下,降权机制失效的问题;最后,通过最小化能量函数,驱动分割轮廓向目标边缘演化。在噪声图像分割实验中,当选取不同类型和强度的噪声时,该模型均能得到较为理想的分割结果。在F_1-score评估标准下,该模型比基于局部相关熵的K-means(LCK)模型高0.2～0.3,在强噪声环境下具有更高的稳定性,且在分割收敛时间上仅略大于LCK模型0.1 s左右。实验结果表明,所提模型在未显著增加分割耗时的前提下,对于概率、极值及混合噪声均有着更强的鲁棒性,并且可以分割带有噪声的自然图像。

融合连续域蚁群算法One-Class SVM的电力离群用户检测

连续域蚁群优化算法是蚁群优化算法的主要研究方向。通过分析蚁群觅食过程中的位置分布与食物来源之间的关系,提出了蚁群一类支持向量机(One-Class SVM)算法。在此算法的基础上,设计了一种电力离群用户检测算法,给出了算法的求解形式,根据高维用电负荷数据的特点,提出了一种基于改进One-Class SVM算法的电力离群用户检测方法,同时采用蚁群算法对支持向量机的训练参数进行优化,可以在样本分布不均匀、样本分布未知的环境下有效识别电力离群用户,并对其他算法的测试结果进行了比较和分析,以验证所提出算法的正确性和有效性。

基于半监督学习的无线传感网离群值检测算法

在无线传感器网络中,如何短时间内消除离群值并获得干净的数据集是一项重大挑战。当收集的数据集没有标签时,离群值检测算法中的参数应该是自适应调整的,而不是提前设定。为了解决这个问题,提出了半监督一分类支持向量机算法(SOCM),该算法将最近邻算法(KNN)与OCSVM算法相结合,并根据最近邻的数量自适应地计算参数。由于SOCM算法可能会消耗大量的计算资源,进一步引入XGBoost算法替代OCSVM算法来形成SXBT算法。XGBoost用于形成弱分类器并自适应地调整权重以构建强分类器,从而实现离群数据的分离。仿真实验表明:SOCM算法的准确率接近96%,SXBT算法具有与SOCM算法接近的性能,但运行时间低于SOCM算法。

基于孤立森林算法的高拱坝施工期变形异常值检测模型

【目的】高拱坝建设过程中的倒悬变形是导致施工期裂缝的原因之一,采用连续测斜设备开展施工期变形监测时,因分层浇筑等施工过程造成的监测异常值需进行检测和判断。【方法】结合工程实际所需精度,设计了变形监测试验以模拟拱坝工作状态和“突变”过程。针对试验结果,提出了一种基于孤立森林算法的异常值检测模型,通过小波变换预处理数据,降噪后的数据采用改进孤立森林算法检测异常值,将结果通过窗函数回归分析,并和实际调节数据进行对比。【结果】结果表明,对比传统孤立森林算法,改进孤立森林算法在各个调节值下的识别率均达到95%。当调节值为0.1 mm时,本模型的预测变形为0.105 mm,误差为5.0%;当调节值为0.6 mm时,本模型的预测变形为0.610 mm,误差为5.0%;当调节值为1.0 mm时,本模型的预测变形为1.010 mm,误差为1%;当调节值为1.4 mm时,本模型的预测变形为1.424 mm,误差为1.7%。【结论】根据模型预测结果和实际调节值对比,本模型的异常值识别率在各加载位移下均大于96%,误差率在各加载位移下均小于5%,能有效识别测斜仪在高拱坝施工期位移监测中的“突变”异常值。

基于峭度的分类样本优化

在机器学习领域,分类数据中的离群点与类簇主体在某些特征上有着显著不同的表现,从而干扰特征的类间区分性,使得分类效果不佳。目前很多研究工作集中于提高离群点识别精度,忽视离群点在模糊不同类簇特性的负面作用。文中提出剔除分类样本中离群点以提高分类准确率的策略,根据类内实例离群程度与实例之间相似度的统计分布关系,利用峭度对偏差敏感的统计学性质,构建峭度离群因子(KOF)指标衡量样本离群度。通过计算数据集中每个实例的KOF值,根据KOF梯度变化寻找离群突变点,结合3σ原则识别、剔除离群实例,优化分类数据集。采用K近邻、支持向量机、随机森林等3个经典分类器,在经典UCI数据集、电力负荷数据集和点云数据集等15个数据集上进行优化前后的对比实验,实验结果表明所提策略能够有效地改进分类效果,同时也减少了计算量。

一种基于自适应支持向量机的异常点检测方法

为了从海量的移动目标轨迹数据中识别异常轨迹点数据,提出了一种基于自适应单类支持向量机的轨迹异常点检测方法。首先,提取轨迹点的运动特征构造特征向量作为模型输入;其次,基于粒子群算法构造最优单类支持向量机模型;最后,利用最优单类支持向量机模型识别异常轨迹点。实验结果表明,新提出的方法能够自适应地构造最优单类支持向量机模型,并有效识别轨迹数据中的异常点,具有很好的自适应性与准确性。

一种改进Fisher准则的线性鉴别分析方法

目前线性鉴别分析以Fisher准则或是逐对类加权Fisher准则为依据,但前者不能限制离群类,后者计算量大,鉴于此,提出一种改进Fisher准则用于线性鉴别分析。回顾了Fisher准则和逐对类加权Fisher准则,指出其中问题产生的根本原因。提出类距离和类离群程度的定义,以类距离为依据判定各类离群程度,以类离群程度为参数赋予各类权值,重新计算总体类均值和类间离散度矩阵,以得到限制离群类、突出常规类的改进Fisher准则。这种改进Fisher准则计算简单,能有效限制离群类。

基于一类分类的时间序列异常值检测

论文结合相空间重构理论与一类分类方法提出一种时间序列中的异常值检测方法。该方法首先将时间序列映射到相空间,然后对相空间中的点实行一类分类,最后,根据KKT条件进行异常值检测。仿真实验结果表明了所给方法的可行性和有效性。

一种改进的支持向量数据描述在故障诊断中的应用

机械设备正常运行的振动信号很容易获得,而有故障时的振动信号一般很难获得。在没有故障信号时可以仅仅依靠正常运行时的信号,利用支持向量数据描述方法(support vector data description,SVDD)建立单值分类器,从而对设备运行状态进行监测诊断。当具有一定的故障样本(非目标样本)时,既可以建立传统的二值分类器,也可以建立SVDD单值分类器。但当非目标样本较少时,传统的二分类器就很难有好的分类能力,而SVDD方法只利用了一类样本信息,对信息没有充分利用,也同样不利于提高监测诊断的准确性。文中研究一种改进的SVDD——加入非目标样本的SVDD分类方法,及其在故障诊断中的应用,该方法将实际生产中难以得到的故障信息加以利用,使信息利用更加充分,提高设备故障分类的准确性。通过对滚动轴承实验数据的分析,证明该方法可以有效提高故障诊断的准确度。

分类异常点检测算法及在IDS模型中的应用

在分析了各种异常点检测算法的基础上,提出了一种分类异常点检测算法,该方法能够对数据在各个方面表现出的异常情况进行全面检测,精确度高、时间消耗少。提出了一个入侵检测系统模型,包括异常检测层和误用检测层,在异常检测中应用了分类异常点检测方法,该模型可以明显减少系统的漏报率。

使用聚类稳定性分析方法增强单类学习算法

针对传统单类学习模型对多模态或多密度分布数据描述能力不足的问题,将集成聚类和聚类稳定性分析引入单类学习.首先将确定聚类簇个数与确定聚类簇分布统一到同一个增强单类学习框架中,之后各聚类簇互为正负类分别建起立多个单类分类模型,最后采用最大融合体积方法融合其决策边界.以经典的支持向量数据描述(SVDD)为例,设计了基于集成聚类的稳定支持向量数据描述算法——ECS-SVDD.在标准UCI数据集和一个真实恶意程序行为数据集上的实验结果表明,ECS-SVDD的性能较单个支持向量数据描述及同类单类学习方法更优.该方法可直接推广到其他最小包含体积集合类型的单类学习算法上,以增强单类学习算法处理多模态和多密度分布数据的能力.

一种基于混合策略的孤立点检测方法

孤立点检测面临数据不平衡和代价敏感两个问题。利用改进的一类支持向量机对数据集进行重构,并结合代价敏感支持向量机提出了一种混合策略检测方法。首先在传统的一类支持向量机优化过程中设定不同权重,通过刻画超平面消除部分正常样本进而平衡数据集;重构过程保留了孤立点信息,同时能克服数据混叠现象。通过代价敏感支持向量机对样本进行训练,利用受试者工作特征分析作为评判依据搜索最优参数,进而调节阈值获得孤立点检测模型。仿真实验结果表明,本文方法能提高检测精度,同时有效降低总的误分类代价。

基于多特征选取和类完全加权的入侵检测

为提升入侵检测系统的整体性能,文中提出一种新的算法。首先使用孤立点滤除算法进行数据前期处理,通过特征选取算法筛选出各分类器中最佳的特征空间,以增强各分类算法的训练模型。再进一步运用十倍交叉验证法对分类模型实施性能评估,把具有最佳捕捉率的分类模型作为预测测试样本类别时的加权分类模型,最后得出整体推论结果。仿真实验表明该算法整体分类准确率提高到96%,成本值减低为0.198 3,能够成功地改善网络异常入侵检测的分类性能。

利用一类支持向量机探测GPS载波相位的周跳

为解决差分法不能探测小周跳的问题,基于一类支持向量机的异常数据检测的原理和算法,结合相空间重构理论,提出利用一类支持向量机探测GPS载波相位差分序列中的小周跳。实际观测数据探测试验结果表明,利用一类支持向量机方法能准确地探测出GPS载波相位中0.5周大小的小周跳,该方法在静态与低动态情况下都是有效的,并且适用于单频接收机。

利用标准化LDA进行人脸识别

线性判别分析 (LDA)是一种较为普遍的用于特征提取的线性分类方法 提出一种基于LDA的人脸识别方法———标准化LDA ,该方法克服了传统LDA方法的缺点 ,重新定义了样本类间离散度矩阵 ,在原始定义的基础上增加一个由类间距离决定的可变权函数 ,使得在选择投影方向时 ,能够更好地分开各个类的样本 ;同时 ,它采用一种合理而有效的方法解决矩阵奇异的问题 ,即保留样本类内离散度矩阵的零空间 ,因为这个空间包含了最具有判别能力的信息 在这个零空间里 ,寻找对应于样本类间离散度矩阵的较大特征值的特征向量作为最后降维的转换矩阵 实验结果显示 ,在人脸识别中 ,与传统LDA方法相比 ,该方法有更好的识别率

用于多类别分类的一种加权超球支持向量机算法

在One-Class基础上发展起来的超球支持向量机算法能有效地解决多类别分类问题.但是原始的超球支持向量机算法仍有很多需要改进的地方.经过推导和实验,得到如下结论,即超球支持向量机算法过度依赖于每个训练样本,即使该训练样本为噪音数据或是离群异常数据.因此提出在训练之前加入预处理算法,通过相似度计算删除噪音点和异常点.在训练过程中,根据公式计算每个样本的权值,区别对待每个训练样本,确保SMO求解过程迅速收敛.在测试阶段,根据测试点的位置合理选择分类规则进行正确分类.实验结果表明提出的算法可以有效减少噪音数据和异常数据对分类结果的影响,同时提高了分类精度.

最小方差支撑向量数据域描述

支撑向量数据域描述(SVDD)是一种已经得到了广泛应用的核方法,但是其在构建超球时没有充分考虑数据分布信息。针对此问题,首先等价改写了SVDD算法优化问题,然后重新定义了该优化问题中的距离定义形式,进而提出了最小方差支撑向量数据域描述(MVSVDD)算法。该算法充分考虑数据的分布信息。实验结果表明,相对于传统SVDD算法,MVSVDD在泛化能力上得到了较为明显的提高,体现出了更好的描述数据域的能力。