基于改进的K最近邻分类器的风机故障诊断

为提高风机故障的预警诊断准确度,提出了一种基于改进的K最近邻分类器的故障诊断方法。通过引入核函数主元分析,计算各特征向量的贡献度,对欧式距离进行加权,弥补传统K最近邻分类器同贡献权重分配的缺陷。样本训练时,依据各特征向量的贡献数值分配权重。该方法被用于风机故障诊断。实验结果表明该方法增强了诊断准确度,便于工程应用。

基于K最近邻的L_(2,1)范数稀疏回归分类器

在模式分类中,基于旋转不变范数的回归分类器(RRC)最近得到广泛的应用.然而RRC的稀疏重构是建立在全体训练样本之上,当训练样本的数量很大时,计算的时耗比较大.同时,对稀疏程度的过度追求也在一定程度上影响了分类性能.基于K最近邻分类器提出了一类局部的基于K最近邻的L2,1范数稀疏回归分类器(KNN-SRC),该分类器比全局的RRC计算速度快,同时,利用K最近邻点代替全体训练样本,在一定程上避免了非同类的相似样本对测试样本的过度稀疏表示,从而提高分类性能.KNN-SRC的分类性能在UCI的Wine数据集和Yale人脸数据库上作了检测,测试结果表明KNN-SRC分类性能优于RRC.

少样本条件下基于K⁃最近邻及多分类器协同的样本扩增分类

针对少样本条件下的分类问题,提出一种基于K⁃最近邻及多分类器协同的训练样本扩增分类框架。首先利用少量标记样本对多个分类器进行初步训练,并在整个样本空间中搜索出每个标记样本的K个最近邻;然后利用初步训练好的分类器,对每个标记样本的K个最近邻进行分类,若某个最近邻被多数或全体分类器判为具有与其标记样本相同的类,则将该最近邻判别为与其标记样本同类,并将其添加至该标记样本所属类的扩展训练样本集,利用扩展训练样本集再次对各分类器进行训练;最后利用再次训练过的多个分类器对剩余未标记样本进行基于投票的分类判决。在多个基准测试数据库上的对比实验结果表明,在少标记样本条件下,所提算法能显著提升分类器的分类精度。

流形上的k最近邻分类方法

针对分类数据中存在噪声样本和维数问题,提出了流形上的k最近邻方法。首先,利用贝叶斯公式对经典k最近邻方法进行扩展,并采用核概率密度方法估计样本的局部联合概率密度;其次,建立噪声样本点对模型,并构建改进的边际本征图和相应的权值矩阵,通过定义目标函数寻找最优降维映射矩阵;最后,提出一个完整的流形上k最近邻算法。与6种经典方法在12个常用数据集上的实验比较表明,在大多数情况下所提方法的分类性能要优于其他方法。

基于模糊K近邻决策的柔性SVM分类算法

当海量样本之间相互混迭时,支持向量数目急剧增加,导致训练难度增大的同时SVM分类器性能明显下降。针对该问题,在此构造模糊KNN决策与支持向量机相结合的新的柔性SVM分类器。它先建立所有训练样本的类间最近邻距离,根据各个训练数据的类间最近邻距离进行升序排列;然后根据模糊k近邻分析结果对训练样本集进行修剪,在剩余空间中选择合适规模的样本子空间进行SVM训练。在分类阶段,首先计算待识别样本和SVM超平面的距离,如果距离大于某一设定门限,直接利用SVM进行分类,否则带入到所有支持向量与修剪样本合成的模糊KNN分类器中进行分类判决。对比实验结果表明,提出的算法无论是训练速度还是分类精度都远远好于单独的SVM分类器。

基于KNN分类器的分层图像特征提取

给出一种基于k最近邻分类器(KNN)的分层图像特征提取方法.该方法能有效地获得有代表性和判别性的模板集合,并以较低计算复杂度来获取更高的识别精度.

基于后验概率制导的B-KNN文本分类方法

针对K最近邻(KNN)方法分类准确率高但分类效率较低的特点,提出基于后验概率制导的贝叶斯K最近邻(B-KNN)方法。利用测试文本的后验概率信息对训练集多路静态搜索树进行剪枝,在被压缩的候选类型空间内查找样本的K个最近邻,从而在保证分类准确率的同时提高KNN方法的效率。实验结果表明,与KNN相比,B-KNN的性能有较大提升,更适用于具有较深层次类型空间的文本分类应用。

线性回归分类器在模式识别中的应用

线性回归分类器(LRC)在人脸识别上呈现出了优越的性能,然而,随着每类的训练样本数量增大,LRC的分类速度变得很慢.除此之外,LRC还有一致命的弱点:对大样本问题束手无策,即当每类用于训练的样本数量大于样本的维数时,LRC无法工作.解决以上问题的一个行而有效办法是对LRC作局部化处理.可以对LRC作了两类局部拓展:一是基于K最近邻的线性回归分类器(KNN-LRC).KNN-LRC借助KNN算法对每类训练的样本作了筛选,从而避免了大样本问题的出现,但却受到近邻参数选择的困扰.二是在此基础上进一步提出了基于L1范数的自适应局部线性回归分类器(LI-LRC).L1-LRC具有自适应的近邻选择机制,同时能取得比KNN-LRC更好的分类性能.在两个数据库上,比较各种相关分类器的性能.从分类的结果来看,KNN-LRC和L1-LRC较其它相关分类器的性能好.

不同缺失数据处理方法对D-vine Copula分类器的影响

数据缺失是较为常见的影响数据质量的因素,会降低分析结果的可靠性。采用不同方法填补缺失数据,再用D-vine copula分类器对填补后的数据做分类,通过预测准确率来分析不同缺失数据处理方法对D-vine copula分类器的影响。首先,介绍了5种常用的缺失数据处理方法和D-vine copula分类器的相关知识;其次,结合实际数据,模拟不同的缺失比例,用这5种方法对数据进行填补;最后,用D-vine copula分类器对填补后的数据做分类,对分类准确率进行比较分析。研究发现,填补后的数据在D-vine copula分类器上表现得较为稳定,当数据缺失比例在5%~10%时,用随机插补法处理缺失数据效果较好,当数据缺失比例较大时,可以优先考虑用K最近邻插补法处理缺失数据。

基于中心向量的多级分类KNN算法研究

针对KNN算法在中文文本分类时的两个不足:训练样本分布不均,分类时计算开销大的问题,在已有改进算法的基础上进行了更深入的研究,提出多级分类KNN算法。算法首先引入基于密度的思想对训练样本进行调整,通过样本裁减技术使样本分布更趋于理想的均匀状态,同时计算各类别的类中心向量。在保证类中心向量准确性的前提条件下,使分类阶段的复杂计算提前到分类器的训练过程中。最后一级选用合适的m值(预选类别个数),根据最近邻思想对待分类文本进行所属类别判定。实验结果表明,该算法在不损失分类精度的情况下,不仅降低了计算复杂度,而且显著提高了分类速度。

基于IKNN和LOF的变压器回复电压数据清洗方法研究

基于回复电压极化谱提取特征参量是目前广泛应用的变压器油纸绝缘状态评估方法,但极化谱易受工况干扰、人工失误等因素影响而出现特征数据异常的情况,严重降低评估准确性。针对上述问题,该文提出了一种基于局部离群因子(LOF)和改进K最近邻(IKNN)的回复电压数据清洗方法。首先,选取回复电压极化谱的回复电压极大值Urmax、初始斜率Sr与主时间常数tcdom作为老化特征参量,并基于LOF算法对非标准极化谱中的异常特征量数据进行识别与筛除。其次,利用模糊C均值(FCM)聚类算法减小噪声点对KNN算法的干扰,并通过加权欧氏距离标度突出各特征量间的关联性,进而构建出基于IKNN的数据填补模型架构以实现特征缺失数据的填补。最后,代入多组实测数据验证所提数据清洗方法的实效性。结果表明,数据清洗后的状态评估准确率相较于原有数据上升了50%左右,有效提高了变压器回复电压数据质量,为准确感知变压器运行状况奠定坚实的基础。

一种用于非平衡数据分类的集成学习模型

针对非平衡数据分类问题,提出了一种改进的SVM-KNN分类算法,在此基础上设计了一种集成学习模型。该模型采用限数采样方法对多数类样本进行分割,将分割后的多数类子簇与少数类样本重新组合,利用改进的SVM-KNN分别训练,得到多个基本分类器,对各个基本分类器进行组合。采用该模型对UCI数据集进行实验,结果显示该模型对于非平衡数据分类有较好的效果。

基于中智KNN的齿轮箱故障诊断方法

齿轮箱在旋转机械设备中应用广泛,研究齿轮箱的故障诊断方法意义重大。为提高齿轮箱故障的预警诊断准确度,提出了基于中智KNN(Neutrosophic K-Nearest Neighbor,NKNN)的齿轮箱故障诊断方法。该方法利用小波包对信号特征进行提取,并构建出故障样本集,借助中智理论对样本的特征权重进行重新分配,建立起基于中智KNN决策规则下的故障诊断模型,并提出了中智划分的概念。实验表明,该方法有效地提升了分类精度和鲁棒性,弥补了传统KNN同贡献权重分配的缺陷,其中智划分的结果可以作为分析齿轮箱混合故障诊断的参考依据。

基于改进的DAEN在TE过程故障诊断中的应用研究

现代化工生产过程中故障情况十分复杂,具有非线性、多种类、少标签问题,传统方法很难建立准确的诊断模型。基于深度自编码网络(DAEN),提出了一种新型智能故障诊断方法,并且添加Softmax分类器,构建了深度自编码网络诊断模型。该模型采取稀疏理论进行了改进,解决故障数据少,与正常数据不平衡问题。并且所提方法采取大量无标签样本作为训练集,进行预训练,优化模型参数,并以少量有标签样本作为测试集,进行微调。通过田纳西-伊斯曼(TE)过程仿真数据实验结果表明,相比较支持向量机(SVM)、K最近邻(KNN)等学习方法,DAEN与Softmax回归结合,得到更高的故障诊断正确率;而相比传统的DAEN诊断方法、以及基于反向传播神经网络(BPNN)的传统机器学习故障诊断方法,本文改进的DAEN诊断方法诊断精度得到明显提高。

基于敏感特征选择与流形学习维数约简的故障诊断

针对故障诊断中特征集包含非敏感特征和维数过高的问题,提出基于特征选择(Feature Selection,FS)与流形学习维数约简的故障诊断方法。提出一种改进的核空间距离测度特征选择方法(Improved Kernel Distance Measurement Feature Selection,IKDM-FS),在核空间中计算样本类间距离和类内散度,优选出使样本类间距大、类内散度小的特征,并根据特征的敏感程度对特征进行加权。通过线性局部切空间排列算法(Linear Local Tangent Space Alignment,LLTSA)对由敏感特征组成的特征子集进行特征融合,提取出对故障分类更加敏感的融合特征,并输入加权k最近邻分类器(Weighted k Nearest Neighbor Classifier,WKNNC)进行故障识别。WKNNC具有比k最近邻分类器(k Nearest Neighbor Classifier,KNNC)更加稳定的识别精度。最后,通过滚动轴承故障模拟实验验证了该方法的有效性。

基于正交半监督局部Fisher判别分析的故障诊断

针对有标记故障样本不足和故障特征集维数过高的问题,提出基于正交半监督局部Fisher判别分析(Orthogonal semi-supervised local Fisher discriminant analysis,OSELF)的故障诊断方法。所提出的OSELF能够充分地利用蕴含于无标记故障样本中的故障信息,避免了因有标记故障样本不足引起的过学习问题,同时采用正交迭代方式求解最优正交映射矩阵,克服现有方法无法得到正交映射矩阵的不足。正交映射矩阵的基矢量统计不相关,可有效地提高所得低维特征矢量的可辨识性。通过正交映射矩阵对故障样本集和新增样本进行维数约简,并将维数约简的结果输入粗糙优化k最近邻分类器(Coarse to fine k nearest neighbor classifier,CFKNNC)进行学习训练和故障识别。所提方法集成了OSELF在维数约简和CFKNNC在模式识别的优势,有效地提高了故障诊断的精度。通过齿轮箱故障模拟试验验证了该方法的有效性。

基于行走时脚摆角的步态识别方法

提出一种利用脚摆动特征进行步态识别的方法。对步态序列图像进行背景提取、图像差分、阈值分割、形态学后处理后,提取行走时的脚摆角作为特征参数,再分别采用BP神经网络、最近邻分类器和K近邻分类器法对这些特征数据进行识别分类与比较分析。实验结果表明,与同类方法相比,该方法可以更快速地进行步态识别,且识别性能较好。

基于蜂群优化投影寻踪的高光谱小目标检测

为了进一步提高高光谱遥感图像小目标无监督检测方法的运算速度,并降低其虚警率,提出了一种基于改进蜂群优化投影寻踪与K最近邻的检测方法。首先,采用核主成分分析法对原始高光谱遥感图像进行降维;然后,提出以邻域像元联合定义峰度与偏度的方法,并将两者结合作为投影指标,再以改进后的蜂群算法作为寻优方法,使用投影寻踪从高光谱图像中逐层获取投影图像,再根据其直方图提取小目标;最后,利用线性判别分析进一步提取像元特征,并结合加权K最近邻方法对小目标的检测结果进行提纯。大量实验结果表明,与RX方法、独立分量分析法、混沌粒子群优化投影寻踪法相比,本文方法不但可以更精确地检测出高光谱遥感图像中的小目标,而且具有更快的运算速度。

基于联合两种特征的手写体维文字符识别

提出一种联合两种特征的手写体维文字符识别算法。该算法对手写体维文字符图像进行实值Gabor能量特征和方向线素网格特征的提取,将实值Gabor滤波器的128维能量特征和方向线素的128维网格特征结合起来,使用KNN分类器对两种特征进行联合分类。对手写体维文字符数据库中的样本分别进行手写体维文字符特征识别和维文字符笔迹特征识别。实验结果表明,和采用一种特征的识别算法比较,进一步提高了手写体维文字符的识别率。该算法也可用于手写体阿拉伯文字符的识别。

带有特征选取电站锅炉燃烧效率建模

针对电站锅炉效率难以准确测定问题,依据机器学习理论,采用数据驱动建模方法建立锅炉效率预测模型。分类回归树(CART)算法通过数据分析选取对锅炉效率影响显著的相关变量。然后,K最近邻(KNN)分类器对相关变量的样本进行分类,区分不同工况生产数据。根据不同工况数据,设计了一种基于差分进化算法(DE)的最小二乘支持向量机(LSSVM)建立数据驱动模型(DDMMF),DE动态优化LSSVM的参数以提高模型精度。最后,对预测模型进行动态修正进一步提高预测精度。基于实际生产数据的实验结果表明,该模型能够准确预测锅炉燃烧效率,满足锅炉燃烧过程控制和优化的需求。