基于遗传算法的线性判别分析方法

由于线性判别分析(Linear discriminant analysis,LDA)算法并不直接以训练误差作为目标函数,所以在Fisher准则不能代表最小训练误差情况下,LDA算法无法找到最优的分类子空间。本文针对这种情况,首先通过分析数据样本分布与LDA投影向量之间的关系,揭示了LDA投影向量与类间散布矩阵和类内散布矩阵特征值之间存在的关联,并以此提出一种基于遗传算法的LDA算法。该算法以子空间上的训练误差最小为目标,通过遗传算法调整LDA算法中类间矩阵特征值的大小,达到搜索最佳特征子空间的效果。通过模拟数据和真实数据的实验,表明这种方法的分类正确率比现有的线性子空间方法有明显提高。

基于线性判别分析的数据集可分性判定算法

训练数据集的可分性判别是机器学习领域的一个重要研究内容。本文针对该问题,提出了一种基于线性判别分析的数据集可分性判别算法。该算法首先对待判断的训练数据集进行线性判别分析,求得最佳投影直线,然后将原始样本投影到最佳投影直线上,根据投影点的位置关系判断训练数据集的可分性。在人造数据集实例上的检测结果,充分证明了本文判定算法的正确性。

基于子簇融合和线性判别分析的密度峰值聚类算法

密度峰值聚类(DPC)算法有能够发现非球形簇等优点。但在算法中,局部密度和最近邻距离计算易忽略样本间相关性,并且算法在高维数据集上聚类效果较差。针对上述问题,提出一种基于子簇融合和线性判别分析的DPC算法(SCF-LDA-DPC)。首先,引入样本间Pearson相关系数构造加权高斯核密度估计函数计算局部密度。其次,设计一种子簇融合策略,避免数据错误分配,优化算法容错性差缺陷。最后,引入LDA算法对高维数据降维,提高DPC算法鲁棒性和准确性。多个数据集实验结果表明:SCF-LDA-DPC算法在聚类精度和聚类性能方面明显优于其他优秀算法。

主成分分析和线性判别分析应用于心电信号特征提取和诊断算法研究

针对心脏疾病发病率高且不易自主检测的问题,提出了一种心电信号特征提取和分类诊断算法。首先对心电信号进行提升小波变换和改进半软阈值相结合的预处理变换,在去除心电信号的噪声后,利用主成分分析(principal component analysis,PCA)对心电信号进行降维,并利用核独立成分提取心电信号的非线性特征;同时离散小波变换提取去噪后心电信号的频域特征,基于线性判别分析(linear discriminant analysis,LDA)对频域统计特征进行降维处理。将两种不同的特征向量组成多域特征空间,最后利用支持向量机对多域特征空间分类,遗传算法对其参数进行寻优,从而实现心电信号特征的分类。实验结果表明,所提出的算法能够对5类心电节拍进行准确分类,分类效率达99.11%。

基于近似梯度算法的Fisher线性判别分析问题的求解研究

Fisher线性判别分析(FLDA,Fisher linear discriminant analysis)是一种经典的线性降维方法,可归结为广义特征值问题的求解,但广义特征值问题的求解的复杂度较高.为了更好地求解FLDA问题,引入了近似梯度下降(PGD,proximal gradient descent)算法,并分析了该算法的收敛性.实验结果表明,相较于求解广义特征值等方法,PGD算法能更高效地求解FLDA问题.

利用线性判别分析的LDA-SIFT影像匹配算法

针对SIFT算法特征向量维数较高,匹配实时性较差的问题,提出一种利用线性判别分析的LDA-SIFT算法。该算法首先利用SIFT算法提取特征点并生成特征向量矩阵;然后将特征向量矩阵转换为种子点向量矩阵并为数据设置标签;接着利用线性判别分析对种子点向量进行降维;最后在低维特征空间将种子点向量矩阵转换为特征向量矩阵并在欧式空间匹配,运用RANSAC算法剔除误匹配。采用多组图像验证该算法匹配的性能,实验结果表明,LDA-SIFT算法能够有效降低特征向量维度,缩短特征匹配时间,匹配精度与降维前相近。

基于核化原理的非线性典型相关判别分析

典型相关判别分析是将传统的典型相关分析应用于判别问题 ,它是一类重要的特征提取算法 ,但其本质上只能提取数据的线性特征 .应用统计学习理论中的核化原理可以将这样的线性特征提取算法推广至非线性特征提取算法 .该文研究了如何将这一原理应用于典型相关判别分析 ,提出了基于核化原理的非线性典型相关判别分析 ,并且给出了求解该问题的一个自适应学习算法 .数值实验表明 ,基于核化原理所导出的非线性典型相关判别分析比传统的典型相关判别分析更有效 .另外 ,该文从理论上证明 ,所提出的新方法与Fisher核判别分析等价 .

二维合并双向可调拉普拉斯逆线性判别分析算法

两维的水平可调拉普拉斯逆线性判别分析算法是在两维的水平拉普拉斯逆线性判别分析算法的基础上在类间的拉普拉斯散度矩阵上增加了一个参数来调节得到的,同理得到两维的垂直可调拉普拉斯逆线性判别分析算法。两维合并双向可调拉普拉斯逆线性判别分析算法(2DCBMLIF)是合并水平和垂直两个方向的两维可调拉普拉斯逆线性判别分析算法得到的。在FERET和CMU PIE两个人脸库中,2DCBMLIF同四个算法进行了对比试验,测试结果显示该算法是有效和可行的,2DCBMLIF提高了人脸识别率。

基于谱回归核判别分析的候机楼室内快速定位算法

针对机场候机楼客流量大、室内环境复杂多变的特点,提出了一种基于谱回归核判别分析(SRKDA)的室内定位算法。在离线阶段,采集已知位置的接收信号强度(RSS)数据,使用SRKDA算法提取原始位置指纹(OLF)的非线性特征生成新的特征指纹库;在线阶段,先使用SRKDA对待定位点的RSS数据进行处理,进而使用加权K最近邻(WKNN)算法进行位置估计。定位仿真实验中,在两个不同的定位场景中,所提算法在1. 5 m定位精度下的误差累积分布函数(CDF)和定位准确率分别达到91. 2%和88. 25%,相对于核主成分分析法(KPCA)+WKNN模型分别提高了16. 7个百分点和18. 64个百分点,相对于KDA+WKNN模型分别提高了3. 5个百分点和9. 07个百分点;在大量离线样本(大于1 100条)的情况下,该算法数据处理时间远小于KPCA和KDA。实验结果表明,所提算法能够提高室内定位精度,同时节省了数据处理时间,提高了定位效率。

分类树中C&RT算法与判别分析的比较及其医学应用

目的:探讨分类树中C&RT算法和判别分析在数据分析应用中的区别。方法:首先介绍模型的基本原理,据此对方法间的优缺点进行比较,然后采用实例进行分析介绍,并报告模型的树型图,10折交叉验证的预测准确率。结果:C&RT算法是非参数、非线性的,对变量不同属性的适应是非常灵活地;C&RT在构造树模型时是单变量拆分和递归的,故能够明显细分危险因素。结论:C&RT算法和判别分析模型各有优势,根据数据特点及专业背景合理分析与解释,将能保证分析的正确性和完善性。

基于残差自然幂法的增量线性判别分析方法

提出了将增量线性判别分析问题(LDA)转化为两个增量主元分析(PCA)问题的算法框架.为加速算法的收敛速度,推导了增量LDA中训练样本的类内离散度矩阵和协方差矩阵的无损实时更新公式,并在此基础上提出了一种基于残差协方差矩阵的自然幂增量PCA算法.将该增量PCA方法与基于双PCA结构的增量LDA算法框架相结合,实现了数据流的实时LDA处理.仿真结果表明,与已有的增量LDA方法相比,该方法在收敛速度、计算复杂度和可操作性上具有更优的性能.

采用增量式线性判别分析的行人再识别

针对当前行人再识别在度量学习算法中使用的主成分分析法容易丢失分类信息的问题,提出一种基于增量式线性判别分析的行人再识别算法.算法采用线性判别分析的映射方法使样本在投影子空间中能够保持最大化的分类信息,并利用增量学习的方法使度量学习模型能够根据新标记的训练样本进行更新.方法不仅考虑了映射子空间保留样本分类信息的问题,而且考虑了度量矩阵对新样本的更新性.仿真结果表明,该方法不仅能增强算法的准确性,具有较高的行人再识别率,而且对新样本还具有可扩展性.

模糊线性判别QR分析的茶叶近红外光谱鉴别分析

不同品种茶叶因其所含的有机化学成分不同,其效果也会有差别。所以,寻找出一种能准确迅速的鉴别茶叶品种的技术方法是非常重要的。近红外光谱(NIR)分析是一种无损检测技术,能很好的鉴别茶叶品种。使用NIR光谱仪采集茶叶的NIR数据。为了对包含噪声信号的茶叶近红外光谱进行准确鉴别,提出了一种模糊线性判别QR分析的新方法,可以对茶叶近红外光谱进行准确分类。通过使用模糊线性判别分析(FLDA)将由主成分分析(PCA)压缩的茶叶近红外光谱数据进行降维,由模糊线性判别分析得出的特征向量构建鉴别向量矩阵,对鉴别向量矩阵进行矩阵的QR分解,得到新的鉴别向量矩阵。经过模糊线性判别QR分析后使用K近邻算法进行分类,具有准确率高等优点。以岳西翠兰、六安瓜片、施集毛峰和黄山毛峰四种茶叶为研究样本,每类65个,茶叶样本总数为260个。采集茶叶近红外光谱数据的仪器为AntarisⅡ型傅里叶近红外光谱仪对光谱数据进行预处理,采用多元散射校正,由于采集到的茶叶光谱数据存在散射干扰。以此得到的近红外光谱数据的维数为1557维,通过主成分分析压缩数据集的维数,使得光谱数据集的维数达到7维。经压缩过后的光谱数据集中的鉴别信息再通过模糊线性判别QR分析进行提取,使得光谱数据的维数降低到3维。利用K近邻算法对茶叶样本进行分类,实现对茶叶品种的准确分类。最后进行三种算法分析结果的比较,分别是主成分分析结合K近邻算法、主成分分析和线性判别分析结合K近邻算法、主成分分析和模糊线性判别QR分析结合K近邻算法。在权重指数m=2,K=1条件下,最后的分类准确率分别为83.89%, 87.78%和98.33%。实验结果显示:模糊线性判别QR分析可以实现茶叶近红外光谱的准确鉴别分析,其展现出来的效果比主成分分析和线性判别分析表现的效果更好。

基于面向对象的非线性瞬态电磁场快速算法

针对求解非线性瞬态电磁场问题数据量大、速度慢的缺点,以及商业软件对研究的自主性、深入程度的制约,基于数据结构的基本原理,采用面向对象(OOP)和组件(COM)技术,提出了一种非线性瞬态电磁场问题求解的快速算法,将ICCG法、N—R法求解等过程和稀疏矩阵的构建紧密耦合,大大提高了计算速度,并易嵌入到其他软件中。仿真计算表明,该方法是有效的,且适合于工程及科研应用。

基于最优控制的新型非线性预测控制算法

在电站过程控制中定值调节占很大比例,控制系统的抗阶跃干扰性能非常重要。另外,基于机理模型的电站仿真机,能够模拟真实机组对运行人员进行培训。这种机理模型有很高的动、静态特性,完全可以用来作为预测模型,实现对未来时刻输出的预测。作者根据最优控制的设计思想,设计出了将模型预测控制和常规控制相结合的控制方案。此算法改善了对象特性,具有较强的抗干扰能力和鲁棒性,适用于大惯性、有自平衡能力的大多数热工控制对象,为非线性系统模型预测控制提供了一条新思路、新方法。

显著对象的非监督粗糙认知算法

提出了一种显著对象非监督粗糙认知算法.算法首先定义了一种粒计算模型,然后按双概念拓扑划分论域,依据尺度过滤掉过小拓扑等价类;用拓扑连通强度、拓扑分布密度等计算出拓扑等价类的拓扑显著度;借改进Fisher线性判别算法找到最大跃变点,裁掉拓扑显著度过小的拓扑等价类,得到候选区;以维扫梯度等捕捉拓扑等价类间的渐变模式,完成局部粗糙分割,得到候选对象,更新候选对象的拓扑显著度;再次调用Fisher线性判别算法裁减,如果还剩多个对象,用位权选择最终显著对象.最后,以实验分步验证了算法的执行过程,并与同类3种算法的提取结果作了比较分析,证实了新算法有着较优的语义逼近能力和快捷的速度.

基于混合智能技术的非线性对象优化控制模型

提出了一种工业过程优化建模的系统化方法 ,即利用模式识别优化技术 ,对生产过程数据进行优劣分区 ,选取其优区和可控区数据 ,利用结合遗传算法的人工神经网络建立对象的数据驱动模型。实验结果表明 ,该模型有较好的适应能力 ,能很好地解决复杂系统的优化控制问题。

基于手机传感器识别行人步态的PSO-ELM算法

针对因手机携带位置不同对传感器产生干扰而导致行人步态识别准确率降低的问题,提出了一种粒子群优化极限学习机(PSO-ELM)识别算法。首先,基于极限学习机(ELM)分类方法,借助分层ELM多层降维的特点,利用粒子群优化算法对ELM算法参数进行寻优,设计有效识别行人手机携带位置的分层PSO-ELM分类方法。然后,通过线性判别分析的降维算法和PSO-ELM完成对行人步态的有效识别。实验使用Android手机对五种携带位置四种步态下的加速度和角速度数据进行采集,结果表明:在识别手机携带位置层面,训练集与测试集的识别准确率分别达到99.54%、99.47%;在识别行人步态层面,两种准确率分别达到95.74%、95.31%,证明所提算法具有较高的步态识别准确率。

基于非线性回归的自适应特征提取算法

分析了针对相似图像的几种特征提取方法的特点及局限性,提出了一种新的基于非线性回归原理的印章自适应特征提取算法.针对一组相似印章样本,通过相关分析和显著性检验,确定特征的优化选取,并给出了相应的算法。

基于线性投影分析和FCM动态聚类的人脸识别

依据主成分分析方法(PCA)对图像具有很好的表达能力,即能很好地重构原图像,而线性鉴别分析(LDA)可使图像样本具有较高可分性的特点,提出对图像先进行PCA处理,再进行LDA处理,从而降低人脸特征维数并对人脸图像进行了特征提取;并提出用FCM动态聚类算法作为识别分类器,对人脸进行识别。实验和分析结果表明,在人脸识别中,这种融合PCA和LDA的分类方法能够更好地对特征进行提取,且FCM动态聚类分类器比K近邻判别分类器更具有灵活的分类能力。