流形学习中基于局部线性结构的自适应邻域选择

近年来,流形学习成为包括机器学习、模式识别和计算机视觉等相关领域的研究热点.流形学习算法中,邻域选择直接关系到算法的性能,而传统的邻域选择算法如k近邻和ε邻域算法存在参数难以确定,所构建邻域不能反映流形学习算法对邻域要求等缺点.提出了一种基于流形局部线性结构的自适应邻域选择算法(ANSLL).首先通过分析现有流形学习算法,总结出构建邻域的两个基本原则:1)同一邻域的所有点都近似地位于某一d维线性子空间内(d为流形维数);2)每个邻域包含尽可能多的点.基于这两个基本原则,ANSLL算法采用主成分分析技术(PCA)度量有限点集的线性程度,通过邻域压缩或扩张方式自适应地构建邻域.针对邻域线性结构的特点,还提出了一种改进的邻域图构建方法,以提高等度映射(Isomap)算法中测地线距离估计的准确性.最后大量系统的实验表明,ANSLL算法能够依据流形的局部曲率自适应地构建邻域,从而提高大多数流形学习算法(如Isomap和LLE)的性能.

基于流形结构邻域选择的局部投影近邻传播算法

近邻传播算法是一种快速有效的聚类方法.针对近邻传播算法在无先验知识条件下偏向参数选择的问题,使用Silhouette聚类有效性指标确定偏向参数.针对近邻传播算法在处理结构复杂或高维数据时,存在数据信息重叠的问题,提出将局部保持投影方法与近邻传播算法相结合的方法,在有效保留数据内部非线性结构的前提下,有效删除数据空间中的冗余信息.仿真结果验证了提出的算法优于传统的近邻传播算法.

基于自适应邻域选择的正交局部敏感判别分析

维数灾难是机器学习算法在高维数据上学习经常遇到的难题,基于局部敏感判别分析(locality sensitive discrimi-nant analysis,LSDA),可以很好地解决维数灾难问题。且LSDA构建邻域时不能充分反映流形学习对邻域要求和克服测度扭曲问题,利用自适应邻域选择方法来度量邻域,同时,引入施密特正交化获得正交投影矩阵,提出一种自适应邻域选择的正交局部敏感判别分析算法。在ORL和YALE人脸数据库上进行实验,实验结果表明了该算法的有效性。

基于邻域选择策略的图卷积网络模型

邻域的组成对于基于空间域的图卷积网络(GCN)模型有至关重要的作用。针对模型中节点邻域排序未考虑结构影响力的问题,提出了一种新的邻域选择策略,从而得到改进的GCN模型。首先,为每个节点收集结构重要的邻域并进行层级选择得到核心邻域;然后,将节点及其核心邻域的特征组成有序的矩阵形式;最后,送入深度卷积神经网络(CNN)进行半监督学习。节点分类任务的实验结果表明,该模型在Cora、Citeseer和Pubmed引文网络数据集中的节点分类准确性均优于基于经典图嵌入的节点分类模型以及四种先进的GCN模型。作为一种基于空间域的GCN,该模型能有效运用于大规模网络的学习任务。

一种自适应邻域选择半监督判别分析算法

为克服边界Fisher判别分析(MFA)只利用少量有标记样本和构建邻域不能充分反映流形学习对邻域要求的缺点,提出一种基于局部线性结构的自适应邻域选择半监督判别分析的算法。采用自适应算法扩大或者缩小近邻系数k来构建邻域以保持局部线性结构。MFA通过少量有类别标签样本进行降维的同时UDP对大量无标签样本进行学习,以半监督的方法对高维人脸数据进行维数约减。最后,在ORL和YALE人脸数据库通过实验结果验证了该算法的有效性。

基于自适应邻域选择的局部判别投影算法

在多模数据分类中,使用局部Fisher判别分析和边界Fisher分析方法构建邻域不能充分反映流形学习对邻域的要求。为此,提出一种基于自适应邻域选择的局部判别投影算法。采用自适应方法扩大或者缩小近邻系数k,以构建邻域,从而保持局部线性结构,揭示流形的内在几何结构,利用局部化方法使得投影空间中同类近邻样本尽量紧凑、异类近邻样本尽量分开。在ORL和YALE人脸数据库中进行实验,结果表明,在不同训练样本个数下,该算法均能获得较高的识别率。

基于自适应邻域选择的局部线性嵌入算法

为了提高高维数据维数约简的计算效率,基于局部邻域相关的权重与稀疏矩阵,提出了1种改进的局部线性嵌入算法。对于高维数据维数约简的信息量估计,采用了相关维数估计方法来计算一致流形信息量的上界。采用Swiss、Broken swiss、Helix、Twinpeaks和Intersect 5种经典数据集进行实验评估。实验结果显示,与局部线性嵌入算法相比,针对5种经典数据集,该文算法速度分别提高了27.60%、27.51%、27.18%、28.31%和45.28%。

基于隐马尔科夫随机场邻域选择的细节保护图像分割

由于马尔科夫随机场(Markov Random Fields,MRF)区域标识模型的滤波效应,在合成孔径雷达(SAR)图像处理过程中,细节结构会被部分保留或者完全丢失。本文提出一种基于散射描述子的自适应邻域系统隐MRF(Hidden MRF,HMRF)图像分割方法,以实现更好地保留图像细节特征和边缘区域,从而改善图像的分割效果。为了提高可靠性和自适应性,将模糊c均值(Fuzzy c-means,FCM)聚类算法与散射变换相结合,实现邻域形状的自适应选择。从不同的邻域形状中,选择具有最高模糊隶属度的邻域形状进行HMRF区域标识过程。实验结果表明,相比较于一般HMRF使用固定形状的邻域系统,本文所提出的算法改善了分割效果,特别是图像细节结构信息得到了很好的保护。

并行节约算法的自适应邻域选择策略

为了提高并行节约算法的运算效率,需要运用合理的邻域选择策略和数据结构来降低算法的空间和时间复杂度。以车辆路径问题(vehicle routing problem,VRP)的数据规模和客户点的分布情况为切入点,综合考虑客户点的邻域范围与距离、规模、分布情况的关系,提出一种基于自适应思想的邻域选择策略,提高邻域选择的合理性,通过进一步优化数据存储结构降低存储空间。多组仿真测试证实,与其他邻域选择策略相比,自适应策略可以在保证运算质量的前提下,大幅度提高节约算法的运算速度,降低存储空间,且针对客户点较为集中的VRP具有明显的优势,其中rl5915表现最为突出,运算时间只需要其他邻域选择策略的50%左右。理论研究和实验结果证实自适应邻域选择策略可以有效提高节约算法的运算速率。

基于改进变邻域搜索算法的多批次协同任务规划

目的对多批次协同任务进行分析与建模,并研究任务规划的求解算法。方法以车载装备多批次协同执行任务为例,综合考虑时间协同、任务区域协同和补给区域协同约束,以暴露时间最短为目标函数建立模型,并提出一种改进变邻域搜索算法进行求解,该方法根据邻域的优化能力自动调整迭代时选择该邻域的概率。结果仿真结果表明,改进策略在不降低最优解质量的情况下,能够避免标准变邻域搜索算法后期易出现某些邻域长时间无法寻找到最优解的情况,有效提高了算法的效率。结论变邻域搜索算法可以解决多批次任务规划问题,改进后的算法减少了后期对优化能力不强的邻域的搜索次数,有效提升了算法效率。

流形学习中邻域大小的选择算法

流形学习是将高维空间的非线性数据映射到低维空间。已有的流形学习方法都是在合适的邻域上进行的,因此,邻域大小的选择是流形学习成功的关键。本文提出了一种邻域选择算法,该方法在保证邻域图连通的情况下,根据流形结构的局部线性特性,对不同结构的流形选择合适的邻域大小,特别是当数据点具有聚类的特性时,能很好的重构流形。用几种拟合数据进行测试,并对算法复杂度进行了分析,结果表明算法稳定,简便,有效可行。

融合自适应最优邻域和卷积神经网络的三维点云分类

针对点云分类中提取单个点自身特征所需的邻域尺寸选择,以及低层次特征设计烦琐且表达地物属性能力较弱等问题,本文提出了一种自适应选择单点最优邻域尺寸及学习泛化能力更强的深层次特征的三维点云分类方法。首先基于自适应最优邻域尺寸选择获得每个点的最优局部邻域信息,继而基于局部邻域信息提取点云低层次特征;然后设计一种以待分类点低层次特征为输入的卷积神经网络模型,学习能反映目标地物内在属性的深层次特征并实现分类;最后采用拓普康公司三维点云数据集进行试验,该数据集通过一个配备TOPCON GLS-2200三维激光扫描仪的移动平台获得。试验结果表明,本文方法分类的总体精度达90.48%,优于文中其他点云分类方法。

基于邻域-克隆选择学习算法的分馏装置负荷优化

在免疫克隆选择和人工免疫网络算法基础上,采用了Agent的思想,提出了一种邻域-克隆选择学习全局优化算法(N-Clonalg)。不同于其他人工免疫算法,N-Clonalg定义了网格化的邻域操作环境,其主要搜索算子有N-克隆选择、N-竞争和自学习算子,能有机结合全局与局部搜索,多峰测试函数表明能较好地克服克隆选择算法(Clonalg)的早熟及人工免疫网络算法(Opt-aiNet)收敛速度慢问题。分馏装置负荷优化实例应用表明,算法具有较好的最优解搜索性能,能较好地实现化工中的寻优问题。

自适应最优邻域尺寸选择的三维激光点云分类研究

针对三维激光点云分类中点特征提取邻域大小选择困难问题,本文基于自适应最优邻域尺寸选择实现三维激光点云精细分类。首先使用局部邻域协方差矩阵特征值得到的线性特征、平面性特征和散射性特征构造局部邻域熵函数,通过局部邻域熵函数取最小值时的最佳邻域尺寸计算点云特征描述参数;基于特征描述参数提取点云特征;最后根据递归特征消除法(RFE)筛选出最优特征子集,采用随机森林算法对特征子集进行分类。利用公开标记的Oakland三维激光点云数据集进行实验,结果表明本文点云分类方法的总体分类精度达94.1%,平均F_(1)分数达到76.8%。

自适应邻域选取的邻域嵌入超分辨率重建算法

在邻域嵌入超分辨率重建算法中,训练和重建过程均在特征空间进行的,因此,特征选择对算法的性能具有较大的影响。另外,大多数基于邻域嵌入算法对训练得到的样本库未经测试直接使用,使得邻域选择具有"盲目"性。考虑到特征选择的重要性以及避免邻域选择的盲目性,本文提出了一种新的邻域嵌入超分辨率重建算法。第一步:利用专家矢量场模型估计出输入图像的全局图像;第二步:利用邻域嵌入算法重建残差图像。在重建残差图像的过程中,首先将图像分成若干子块并利用线性滤波器提取特征;然后,将训练图像分成两组,第一组训练得到高、低分辨率重建样本库,第二组对重建样本库测试,得到邻域选择库;最后,自适应的选择输入图像子块的邻域数目,并利用重建样本库重建。仿真实验结果表明,相比其他基于邻域嵌入算法,提出算法可以重建更多的细节信息和锐利的边缘,重建得到的高分辨率图像具有较高的主客观质量。

基于邻域投票和Harris-SIFT特征的低空遥感影像匹配

文中提出一种基于邻域投票和改进的Harris-SIFT特征的低空遥感影像匹配方法。首先用NMS算法提取多尺度的Harris-SIFT特征并对其进行方向描述,然后根据最近邻与次近邻特征点距离之比确定初始匹配点对,最后通过近邻域选择投票的方法剔除候选点中的虚假匹配点,进而实现低空遥感影像的配准。实验表明该算法在获得充足匹配点且保证匹配精度的同时,明显提高影像匹配的效率。

局部时差约束邻域保持嵌入算法在故障检测中的应用

传统的邻域保持嵌入(neighborhood preserving embedding,NPE)算法通过k近邻(k-nearest neighbors,k-NN)方法选择邻域进行重构来实现降维。但在实际工业过程中采集的样本具有时序相关性,仅仅通过欧氏距离选择近邻样本不能充分反映数据中包含的信息,从而影响检测效果。因此,提出一种局部时差约束邻域保持嵌入(local time difference constrained neighborhood preserving embedding,LTDCNPE)算法,充分考虑样本间的时间和空间关系,从而建立准确的故障检测模型。首先,该算法在固定尺度的时间窗内,根据样本的时序关系和空间特征挑选出邻域。其次,利用样本间的时间差异为邻域样本进行加权,使数据特征保留了高维空间的局部结构。然后,对降维后得到的主元空间和残差空间构建T和SPE统计量并确定控制限。最后,通过数值例子和Tennessee Eastman(TE)过程仿真验证LTDCNPE算法的有效性。

一种可变邻域Markov随机场图像分割模型

在图像分割中,传统Markov随机场(MRF)模型基于固定形状邻域,不能完全描述边缘结构等细节信息。为此,提出一种新的MRF线型可变邻域结构,采用部分加权的先验能量模型,对图像上下文信息进行建模,将邻域的选择和图像标记相结合,通过迭代优化得到图像分割。实验结果证明,与传统模型相比,该模型能更完整地保持目标的边缘形状,在细节描述方面具有较好的结果。

基于邻域引力学习的生物地理学优化算法

针对生物地理学优化算法(Biogeography-Based Optimization,BBO)易发生早熟收敛、陷入局部最优的问题,提出一种基于邻域引力学习的生物地理学优化算法(Neighbor Force Learning Biogeography-Based Optimization,NFBBO)。该算法采用邻域选择的方法确定迁出栖息地,以充分利用栖息地的邻域信息,增加算法的种群多样性。同时采用引力学习策略对栖息地进行更新,拓展搜索空间,提高算法的搜索能力,避免早熟收敛问题。为使种群能够自适应地跳出局部最优,引入一种自适应高斯变异机制。基于高维标准测试函数的对比实验表明,NFBBO算法具有更快的收敛速度和更高的收敛精度。

基于加权距离邻域选取策略的多模态过程故障检测

针对多模态过程数据密度不规则性提出的一类基于密度的方法,大多是以欧式距离为基础来比较彼此间的相似性,从而检测过程是否发生故障。然而多模态数据密度在较小范围内变化较大,采用欧式距离很难获得全面的数据信息。本文提出了一种新的基于加权距离选择邻居的策略,该策略首先对距离进行合理的加权,再根据新的加权距离重新选择样本点的邻居,能有效地避免数据信息不全面的问题。在仿真实验中,首先通过比较基于传统的欧式距离和基于本文加权距离选取的邻居,说明本文策略的优越性;进而将该策略与局部离群因子(Local Outlier Factor,LOF)结合用于TE过程,对TE过程的仿真结果表明该策略在应用于基于密度的检测方法上获得了的良好效果。