超球体单类支持向量机的SMO训练算法

由于One-class支持向量机能用于无监督学习,被广泛用于信息安全、图像识别等领域中。而超球体One-class支持向量机能生成一个合适的球体,将训练样本包含其中,故更适合于呈球形分布的样本学习。但由于超球体One-class支持向量机没有一种快速训练算法,使其在应用中受到限制。SMO算法成功地训练了标准SVM,其训练思想也可用于超球体One-class支持向量机的训练。本文提出了超球体One-class支持向量机的SMO训练算法,并对其空间和时间复杂度进行了分析。实验表明,这种算法能迅速、有效地训练超球体One-class支持向量机。

基于单类支持向量机的组合导航容错算法

提出了一种基于单类支持向量机(OCSVM)的组合导航容错算法。针对组合导航系统中子系统出现故障会影响整个导航系统精度的问题,采用基于单类支持向量机的方法,对故障进行检测和隔离,并对容错性能进行分析。仿真结果表明:在应用基于单类支持向量机的容错算法后,系统的故障检测模块可以有效地隔离故障数据,降低了多源组合导航系统的位置误差,其可靠性和稳定性也得到了提高。

基于单类支持向量机OCSVM的流量异常检测技术研究与应用

目前,网络攻击已成为新型武器,敌对势力利用网络攻击成功破坏电力等国家关键基础设施已成为现实。电网智能终端攻击一般针对电力特有的协议和特定的业务逻辑,具有攻击目标明确、操作隐蔽、潜伏时间长等特点,且一般通过集团式甚至是国家级实施攻击。目前电网智能终端系统在攻击检测方面主要是借鉴传统IT系统已较成熟技术,检测网络侧的安全事件,但无法检测到如伪造控制指令等针对系统业务指令级的异常安全事件。针对电网网络侧流量检测,本研究提出了基于单类支持向量机OCSVM的流量异常检测技术,其基本思想就是通过机器学习的方法对数据进行二分类,并且只需要一类样本就可以训练检测模型,对噪声样本数据具有鲁棒性,很好地满足了工控系统的数据不平衡特点。

超球体支持向量机的不完全二叉树多类分类算法

针对现有的支持向量机多类分类方法的不足之处,提出了一种基于超球体支持向量机的不完全二叉树多类分类算法。该算法首先采用超球体SVM算法,计算各类样本群的分布范围。再利用距离公式,计算各类样本间的距离,基于将最容易分离出来的类最先分割出来的原则,设计二叉树结构,从而提高分类精度。通过仿真实验,分析比较各种方法的性能,从而验证了该算法的有效性。

超球体多类支持向量机理论

目前的多类分类器大多是经二分类器组合而成的,存在训练速度较慢的问题,在分类类别多的时候,会遇到很大困难,超球体多类支持向量机将超球体单类支持向量机扩展到多类问题,由于每类样本只参与一个超球体支持向量机的训练,因此,这是一种直接多类分类器,训练效率明显提高.为了有效训练超球体多类支持向量机,利用SMO算法思想,提出了超球体支持向量机的快速训练算法.同时对超球体多类支持向量机的推广能力进行了理论上的估计.数值实验表明,在分类类别较多的情况,这种分类器的训练速度有很大提高,非常适合解决类别数较多的分类问题.超球体多类支持向量机为研究快速直接多类分类器提供了新的思路.

基于单类支持向量机与KNN的两阶段不平衡数据分类

针对单类支持向量机算法无法对不平衡数据集中的边界和离群样本进行准确分类的问题,将单类支持向量机与K近邻算法结合在一起,提出一种基于单类支持向量机与K近邻的两阶段不平衡数据分类算法TSC-OSK。TSC-OSK首先对训练集中的多数类样本与少数类样本分别进行拟合构建出两个单类支持向量机分类器,利用这两个分类器分别对测试样本进行第1阶段的分类,并将分类结果相互组合验证,将所有样本被划分成多数类、少数类、边界和离群这四种类型;再引入K近邻算法对边界和离群样本进行第2阶段分类,从而避免单类支持向量机算法在这些样本上的预测偏差。在多个不平衡数据集上的实验表明,相对于现有的不平衡数据处理方法,TSC-OSK能够取得更好的分类性能。

基于ν-最大间隔超球体支持向量机的非平衡数据分类

针对传统超球体支持向量机在处理非平衡数据集时出现的少数类查全率较低的问题,通过引入最大间隔和参数ν,提出了ν-最大间隔超球体支持向量机。该算法以最大间隔为优化目标建立分类模型,大幅度提高了少数类查全率。通过UCI数据集的分类仿真实验,比较了该算法与传统超球体支持向量机的分类精度。结果表明,该算法能有效提高对非均衡分布数据的分类准确率。

单类支持向量机的研究进展

单类支持向量机是一种用途广泛的分类器,它能够应用于负类样本难以收集的领域中,如入侵检测、故障检测与诊断和遥感数据分类等领域。因此无论在理论研究还是实际应用方面,单类支持向量机受到越来越多的关注。回顾单类支持向量机的两种主要方法,阐述各种关于单类支持向量机的改进,包括使用未标号数据、选择样本点以及修改优化目标。对单类支持向量机做了总结。

基于超球球心间距多类支持向量机的滚动轴承故障分类

为了降低滚动轴承故障智能分类的训练时间并提高分类精度,提出了一种滚动轴承正常、内、外环故障及不同故障严重程度的多状态分类方法。该方法首先采用峭度值结合相关系数法确定集合经验模态分解结果中包含主要状态信息的固有模态函数;再将其组成特征矩阵,利用奇异值分解所得奇异值作为特征向量;最后在采用改进分类规则的超球多类支持向量机分类时,提出由各状态超球球心间距中的最值来确定多类分类器核参数的选取范围,缩小选取区间,最终实现滚动轴承的多状态分类。实验结果表明,提出的滚动轴承多状态分类方法可以减少分类器的训练时间,提高分类精度。

单类支持向量机在工业控制系统入侵检测中的应用研究综述

通信行为的异常检测是工业控制系统入侵检测的难点问题。在现有研究工作基础上,阐述了工业控制系统入侵检测技术的国内外研究现状,归纳和总结了现存的问题,指出单类支持向量机(OCSVM)算法在工业控制系统入侵检测中的优越性。结合工业控制系统的专有协议特点,介绍了单类支持向量机在工业控制系统入侵检测中的应用原理及其现有工作;最后指出了单类支持向量机在工业控制系统入侵检测中存在的问题及发展方向。

基于多类超球支持向量机的铣削颤振预测方法

为了预测薄壁件铣削过程颤振的发生,提出了一种应用小波系数特征和多类超球支持向量机进行铣削颤振预报的方法。首先基于连续小波变换分别提取高、低频段铣削振动信号的特征,然后利用多类超球支持向量机进行稳定铣削状态、铣削颤振孕育状态、铣削颤振状态识别。为了简化支持向量机进行多类分类时所带来的计算复杂性,该算法使每一类样本都获得一个超球支持向量机,在特征空间中以测试样本与超球中心距离、超球半径作为决策函数来进行识别。实验表明,在铣削颤振识别系统中多类双核超球支持向量机与连续小波系数特征向量相结合具有良好的识别效果,颤振孕育预报正确率达98.0%。

增强型单类支持向量机

现有基于超平面的单类分类器,包括one-class SVM(OCSVM)和马氏one-class SVM(MOCSVM),由于未考虑数据的结构信息或粒度较粗,寻找的超平面很可能是次优解.为此,增强型单类支持向量机(enhanced OCSVM,EnOCSVM)通过在现有SVM算法中加入数据先验信息以克服其不足.首先,EnOCSVM通过聚类得到数据的内在分布簇,而后将各簇结构信息嵌入到OCSVM框架中,最大化间隔的同时,优化输出空间中各簇数据的紧性.由于保留了SVM框架不变,EnOCSVM仍具备原算法的全部优点,并因结合了数据的簇结构信息而具有更好的推广性.标准数据集上的实验表明,EnOCSVM的推广性能较OCSVM和MOCSVM均有显著提高.

利用单类支持向量机分割血细胞图像

为了提高白细胞自动识别算法的性能,提出了基于均值移动和单类支持向量机的血细胞图像分割新方法.该方法的原理是将图像中颜色相对稳定的背景和红细胞部分像素作为正训练样本,将颜色复杂多样的白细胞像素作为异常数据检测.均值移动过程用来在红、绿、兰(RGB)颜色空间寻找正训练样本集,通过均匀抽样和颜色量化措施,实现单类支持向量机(SVM)在线实时训练,最终图像像素经过单类SVM分类来实现分割.实验表明,新方法对涂片制备和光照变化导致的图像颜色改变有很好的适应性,图像分割精度优于常用流域算法,而耗时只是后者的1/4.

基于单类支持向量机的冷水机组温度传感器故障检测

冷水机组系统中,温度传感器出现故障会严重影响机组工作效率及使用寿命。针对冷水机组温度传感器偏差故障,本文提出一种基于单类支持向量机(one-class support vector machine,OC-SVM)的故障检测方法,采用冷水机组正常数据建立OC-SVM模型,通过十折交叉验证法获得模型优化参数。分别采用工程实测数据和实验数据(共4组)对该方法进行了验证,结果表明:基于OC-SVM的方法能有效检测出4组冷水机组的温度传感器偏差故障。其中对于螺杆式冷水机组(数据集Ⅰ)的故障检测效果明显,当冷冻水侧温度传感器偏差故障幅值绝对值大于1℃时,检测效率达到100%。

基于超球支持向量机的类增量学习算法研究

提出了一种超球支持向量机类增量学习算法。对每一类样本,利用超球支持向量机在特征空间中求得包围该类尽可能多样本的最小超球,使各类样本之间通过超球隔开。类增量学习过程中,只对新增类样本进行训练,使得该算法在很小的样本集、很小的空间代价下实现了类增量学习,大大降低了训练时间,同时保留了历史训练结果。分类过程中,通过计算待分类样本到各超球球心的距离判定其所属类别,分类简单快捷。实验结果证明,该算法不仅具有较高的训练速度,而且具有较高的分类速度和分类精度。

基于改进单类支持向量机的工业控制网络入侵检测方法

针对单类支持向量机(OCSVM)入侵检测方法无法检测内部异常点和离群点导致决策函数偏离训练样本的问题,提出了一种结合具有噪声的密度聚类(DBSCAN)方法和K-means方法的OCSVM异常入侵检测算法。首先通过DBSCAN算法,剔除训练数据中的离群点,消除离群点的影响;然后利用K-means划分数据类簇的方法筛选出内部异常点;最后利用OCSVM算法为每一个类簇建立单分类器用于检测异常数据。工控网络数据集上的实验结果表明,该组合分类器能够利用无异常数据样本检测出工控网络入侵,并且提高了OCSVM方法的检测效果。在气体管道网络数据集入侵检测实验中,所提方法的总体检测率为91.81%;而原始OCSVM算法则为80.77%。

嵌入数据结构信息的单类支持向量机及其线性规划算法

针对现有基于超平面的单类分类器未同时考虑目标数据全局与局部信息的不足,通过在单类支持向量机One-C lass SVM(OCSVM)算法中加入类内散度以反应目标数据的全局信息,提出了结构化单类支持向量机Structured OCSVM(SOCSVM),不仅使之具有全局与局部化学习的特点,同时也为诸多的SVM算法嵌入数据内在结构这类先验信息提供了统一框架。为进一步提高运算效率,在SOCSVM二次规划求解基础上,通过最小化目标数据均值到超平面的函数距离,提出了线性规划算法,同时也避免了SOCSVM必须以原点作为负类代表的不足。人工和真实数据集上的实验结果验证了嵌入目标数据结构信息的SOCSVM及其线性规划算法的有效性。

不等距超球体支持向量机

针对现实中经常遇到的各类样本分布范围相差很多、将各类样本误判的危害程度不同、或者各类样本数量差异悬殊等情况,提出了一种基于不等距超球体的SVM(NMS-SVM)算法。该算法以最大间隔为优化目标建立分类模型,同时引入距离比例参数λ,调整最优分类面到两类之间的距离。通过UCI数据库中数据集的分类仿真实验,比较了该算法与普通超球体算法以及最大间隔超球体算法的分类精度,证明了该算法的有效性。

单类支持向量机在涡轮泵试车数据分析中的应用

针对在火箭发动机涡轮泵的故障检测过程中缺乏故障样本的问题,应用单类支持向量机,为高速涡轮泵试车数据分析建立了一种新异类检测超球模型。该模型在仅对正常数据进行训练的基础上便可以进行分类工作,且为了提高训练效率,提出了一种分层式的快速训练方法。对火箭发动机涡轮泵试车数据分析的应用结果表明,该算法具有很高的训练效率,检测结果良好。

涡轮泵试车数据单类支持向量机检测算法

为了在缺乏故障样本的情况下检测某型液体火箭发动机涡轮泵故障,实现基于不完整信息的状态决策,建立了基于v-支持向量分类器的单类支持向量机新异类检测模型。在分析了模型决策边界、支持向量和约束条件之间关系的基础上,为单类支持向量机引入并改进了序贯最小优化算法,提高了训练效率,解决了大样本训练问题。通过对某型液体火箭发动机涡轮泵历史试车数据的分析,结果表明,所建模型的训练速度得到了很大提高,对涡轮泵状态的检测效果良好。