SMwKnn:基于类别子空间距离加权的互k近邻算法

互k最近邻算法(mKnnc)是k最近邻分类算法(Knn)的一种改进算法,该算法用互k最近邻原则对训练样本以及k最近邻进行噪声消除,从而提高算法的分类效果。然而在利用互k最近邻原则进行噪声消除时,并没有将类别属性考虑进去,因此有可能把真实有效的数据当成噪声消除掉,从而影响分类效果。基于类别子空间距离加权的互k最近邻算法考虑到近邻的距离权重,既能消除冗余或无用属性对最近邻分类算法依赖的相似性度量的影响,又能较好地消除邻居中的噪声点。最后在UCI公共数据集上的实验结果验证了该算法的有效性。

局部k最近邻加权线性回归的光谱反射率重建

现实中很多场景都需要精确的颜色表示,如纺织、印刷、艺术品扫描存档、在线商品展示等。光谱反射率是决定物体颜色的本质属性,如果知道了光谱反射率,就可以重现物体在任何光照和观测条件下的颜色。采用专业仪器测量光谱反射率有成本高、分辨率低、测量时间慢等问题。随着数码成像设备的普及,基于相机RGB响应值的光谱反射率重建算法具有重要现实意义。光谱反射率重建的目的是建立低维RGB响应值到高维光谱反射率向量的映射关系,回归方法在这一领域已取得广泛应用。由于光谱反射率向量所处的空间是嵌在高维欧氏空间中的一个低维子流形,在训练样本有限的条件下,传统的全局回归方法不能有效地学习该流形结构,往往导致过拟合,使得学习出来的模型泛化能力较差。局部线性回归方法虽然可以改善全局回归过拟合的问题,但是局部学习方法易受例外点的影响,导致拟合不足。针对这一问题,提出一种基于局部加权线性回归的光谱反射率重建方法,这种方法在一个k最近邻范围约束内,给每个局部训练样本赋予不同的权重,从而有所侧重地利用局部训练样本来估计光谱反射率。实验结果表明,基于局部k最近邻加权线性回归的方法能更有效地利用局部信息,缓解过拟合和拟合不足,更准确地重建光谱反射率。

基于特征加权K最近邻的无人机武器发射过程参数预测

针对K最近邻算法难以建立高精度的非线性模型问题,提出了一种基于特征加权的K最近邻预测方法。为提高模型的预测精度,该方法从特征重要程度的角度出发,采用Bootstrap特征加权方法对K最近邻算法进行特征加权。为了验证该方法的有效性,对无人机武器发射过程参数进行了预测。实验结果表明,与其它算法相比,该算法不仅体现了样本数据在模型中的作用,而且具有较高的预测精度。

变精度粗糙集的加权KNN文本分类算法

针对训练样本较大时KNN算法(K最近邻算法)的分类效率较低和训练样本不均衡时算法的分类性能受到影响这两个问题,提出变精度粗糙集的加权KNN文本分类算法。利用变精度粗糙集上下近似的概念,将各个类别的训练集分为β正区域和β边界域。分类过程中根据测试样本与样本中心的相似度,得到样本的归属区域。其中属于β正区域的样本可以直接判断其类别,其它区域的样本用基于数量加权的KNN算法判断其类别。实验结果表明,该算法能有效提高分类的性能和效率。

基于特征加权与最近邻法的P2P协议识别算法

针对新的P2P协议以及加密P2P协议无法使用传统方法进行识别的问题,提出一种新的基于流量统计特征的识别方法。首先定义了网络协议特征矢量的概念,并在此基础上使用类内、类间距离与遗传算法定量地对特征子集进行选择,同时由于不同属性所起的作用不同,提出了网络协议特征加权的概念,并使用粒子群优化算法计算特征权值。为了提高识别率,针对TCP协议与UDP协议分别建立了相应的特征空间。实验结果表明该方法能够有效地从多种属性特征中选择出最能够体现P2P协议之间以及P2P协议与非P2P协议之间区别的特征子集,且通过粒子群优化算法计算出的特征权值使识别率得到提高。实验证明通过该算法,对常见的P2P协议平均识别率达到了96%。

通过确定邻近区域改进KNN文本分类

文本分类技术已经成为处理和组织文本信息的关键技术之一。KNN算法是文本分类中一种实用的方法。它在每次分类的过程中都要计算测试集中未标记文本与训练集合中所有样本的相似度(距离),然后通过排序来找到K个最近邻样本,耗时较长,不利于Web上实时在线分类等应用。提出了一种确定邻近区域来加快搜寻K个最近邻的方法。试验证明,改进后的KNN算法较经典KNN算法在分类过程中速度有所提升,并且当训练文本数量增加时,在分类时间上表现相对更稳定。

基于特征加权的KNNFP改进算法及在故障诊断中的应用

针对传统K最近邻特征投影(KNNFP)算法中假设各维特征对分类的贡献相同而导致分类性能下降的问题,提出一种基于特征加权的KNNFP改进算法(WKNNFP)。改进算法利用ReliefF算法确定特征的权值,使样本的分类效果更好,同时还可以分析各特征对分类的贡献程度,并利用改进算法对轴承故障进行诊断。结果表明,改进算法的诊断率优于传统的KNN和KNNFP算法。

一种基于特征加权的KNN文本分类算法

KNN文本分类算法是一种简单、有效、非参数的分类方法。针对传统的KNN文本分类算法的不足,出现了很多改进的KNN算法。但改进的KNN分类算法大多数是建立在样本选择的基础上。即以损失分类精度换取分类速度。针对传统的KNN文本分类算法的不足,提出一种基于特征加权的KNN文本分类算法(KNNFW),该算法考虑各维特征对模式分类贡献的不同,给不同的特征赋予不同的权值,提高重要特征的作用,从而提高了算法的分类精度。最后给出实验结果并对实验数据进行分析得出结论。

障碍空间中基于Voronoi图的k最近邻查询

为了提升障碍空间中k最近邻查询的效率,研究了障碍空间中基于Voronoi图的k最近邻查询方法,提出了在障碍空间基于Voronoi图的kNN-Obs算法。该算法采用了两个过程:过滤过程和精炼过程。过滤过程主要是利用Voronoi图的过滤功能,较大程度地减少了被查询点的个数。精炼过程主要根据障碍距离和邻接生成点对候选集内对象进行第二次筛选。进一步给出了处理新增加点的ADDkNN-Obs算法和处理删除点的DENkNN-Obs算法。实验表明该算法在处理障碍空间中的k最近邻问题时具有优势。

K最近邻算法理论与应用综述

k最近邻算法(kNN)是一个十分简单的分类算法,该算法包括两个步骤:(1)在给定的搜索训练集上按一定距离度量,寻找一个k的值。(2)在这个kNN算法当中,根据大多数分为一致的类来进行分类。kNN算法具有的非参数性质使其非常易于实现,并且它的分类误差受到贝叶斯误差的两倍的限制,因此,kNN算法仍然是模式分类的最受欢迎的选择。通过总结多篇使用了基于kNN算法的文献,详细阐述了每篇文献所使用的改进方法,并对其实验结果进行了分析;通过分析kNN算法在人脸识别、文字识别、医学图像处理等应用中取得的良好分类效果,对kNN算法的发展前景无比期待。

结合半监督聚类和加权KNN的协同训练方法

针对协同训练方法在迭代时选择加入的无标记样本所隐含的有用信息不够,以及协同训练方法多个分类器标记不一致带来错误标记无标记样本的问题,提出了一种结合半监督聚类和加权K最近邻的协同训练方法。该方法在每次迭代过程中,先对训练集进行半监督聚类,选择隶属度高的无标记样本给朴素贝叶斯分类,再用加权K最近邻算法对多个分类器分类不一致的无标记样本重新分类。利用半监督聚类能够选择出较好表现数据空间结构的样本,而采用加权K最近邻算法为标记不一致的无标记样本重新标记能够解决标记不一致带来的分类精度降低问题。在UCI数据集上的对比实验验证了该算法的有效性。

基于改进K最近邻算法的中文文本分类

针对文本分类存在的高维文本问题,提出文档频率(DF)-卡方统计量特征提取方式,对特征项进行有效约减,降低文本维度,提高分类精度.在K最近邻(KNN)算法的基础上,针对待分类文本需要和大量训练集样本进行相似度计算的问题,提出一种基于分组中心向量的KNN算法,对类别内的样本集分组求出各组中心向量,使其重新代表训练库计算相似度,降低计算复杂度,提升算法的分类性能.通过实验表明:相较传统KNN算法,改进的算法在准确率、召回率及F值方面都有提升,与其他分类算法相比,具有一定的优势.

基于加权局部线性KNN的文本分类算法

针对基于稀疏表示的分类算法存在分类限制和计算复杂性等问题进行了研究。首先,改进了加权局部线性KNN文本特征表示方法和分类算法,通过对表示系数加权使其更加稀疏,引入非负约束以规避表示系数出现负的噪声干扰;其次,给出了分类器设计和算法的收敛性证明;最后,通过实验对比得出模型中各参数的优势值域。实验结果表明,改进后的算法与基础模型相比,查准率和查全率平均分别提升了2.49%和0.85%,相比于其他主流分类算法在性能上也均有明显提高。通过分析,该算法在文本分类上具有准确率高、收敛性强等优势,适用于对高维数据的文本分类。

一种改进的K值最近邻自动分类方法

K值最近邻法是常用的一种自动分类算法。当待分类文本与样本集中多个决策样本的距离相等的时候,固定的K值取法不能充分利用样本集,给分类结果带来一定的随机性,影响了自动分类的准确性。本文通过对K值最近邻算法的原理进行深入分析,提出了一种K值动态选取的方案,使得K值最近邻算法的分类准确性有了显著的提高。

基于卡尔曼平滑的AWKNN室内定位方法

基于接收信号强度指示的WIFI室内定位方案存在采集信息跳变现象,进而影响定位精度的问题,提出一种基于卡尔曼滤波的改进自适应加权K最近邻(AWKNN)定位方法。对比分析多种平滑RSSI算法可行性,验证基于卡尔曼滤波对RSSI值进行平滑处理的优势,结合AWKNN算法并采用均方差计算匹配度,通过实时监控相匹配的无线接入点个数后自动调整均方差分母大小,以此实现定位误差的有效控制。实验结果表明,该基于卡尔曼的AWKNN算法在稳定性和定位精度方面较传统WIFI指纹算法有较大幅度提高。

基于Voronoi划分的位置数据KNN查询处理方法

K最近邻(KNN)查询是空间数据查询研究的重要内容。目前的KNN查询方法在处理大规模的位置数据时,存在着更新和查找失衡的问题,导致查询效率较低。因此,提出基于Voronoi划分的位置数据KNN查询处理方法。首先,创建了一个二级空间索引结构VRI,包含VHash和VR树两部分。一级索引结构VHash表示Voronoi图的直邻;二级索引结构VR树,按照各Voronoi单元所在的最小矩形区域的重叠面积,自下而上地生成对应的R树。其次,基于VRI索引结构提出了位置数据的KNN查询算法及动态维护算法,在KNN查询方法中,采用VR树进行定位,VHash查找K近邻,能够有效地对查询点定位,查找速度快。再次,针对数据更新的情况,索引结构也能够及时更新,在更新的时间段内,对于位置数据随时间变化的KNN查询,提出了利用记录表进行有效查询的方法。最后,实验表明,提出的基于Voronoi划分的空间索引结构和其对应的KNN查询算法均具有较好的性能和适应性。

基于KPC-kNN方法的批次过程故障诊断

为克服FD-kNN算法的计算量和存储量特别大,PC-kNN主元仅仅能体现过程中线性信息的不足,提出一种基于KPC-kNN的故障诊断方法.在KPCA提取非线性信息后,在核主元空间里应用kNN算法,计算k个最近样本的距离平方和作为统计指标,使用核密度估计方法计算训练空间的控制限.半导体工业实例的实验结果验证了所提方法的有效性.

P2P网络下的KNN查询

K最近邻(KNN)查询是相似性查询的一种,已有大部分KNN查询算法都是针对集中式计算环境的,因此很容易形成性能瓶颈。P2P这种新的分布式计算技术能够有效克服集中式计算环境中的性能瓶颈问题。提出了一种分组式P2P网络结构下基于iDisdance索引的KNN查询方法,其主要思想是通过分布式簇索引裁剪搜索空间,降低网络通信开销,从而在P2P环境下执行KNN查询。最后通过仿真测试了该方法的有效性以及分组数量与数据分布对查询开销的影响。

基于K-means的室内定位加权优化k-NN算法

室内定位已广泛应用于众多领域,目前已存在多种室内定位算法,然而多数算法的定位精度不能满足用户需求,针对基于k最近邻（k-NN）算法的室内定位精度较低的问题,提出了一种基于K-means的加权改进算法。首先通过K均方（K-means）算法处理指纹数据库,可大幅度减小测量数据的起伏波动。然后在K-NN定位算法中引入加权因子对目标节点与指纹数据库进行匹配,可有效提高匹配准确度。实验测试表明,该改进算法能有效提高定位精度40%左右,解决了基于K-NN算法的室内定位精度低的问题。

基于归一化RSS和约束WKNN的WiFi指纹定位算法

针对基于加权K最近邻(WKNN)的WiFi指纹定位算法精度低的问题,提出了基于归一化接收信号强度(RSS)和约束WKNN的WiFi指纹定位算法。采用高斯滤波对离线阶段和在线阶段采集的RSS值去噪,降低信号的随机误差,并建立位置指纹库(radio map);采用基于4—域系统的WKNN算法匹配定位,防止离待测点较远的参考点参与匹配造成的误差。实验结果表明:改进后的WiFi指纹定位算法可以更好地估计用户的实际位置,平均定位误差降低了19.4%。