Stabilityanalysis of tactical missile autopilots based on vector margin

A novel stability computation approach for tactical missile autopilots is detailed. The limi- tations of traditional stability margins are exhibited. Then the vector margin is introduced and com- pared with sensitivity function to show their essential relationship. The longitudinal three-loop auto- pilot for tactical missiles is presented and used as the baseline for all the available linear autopilots. Ten linear autopilot topologies using all the measurable feedback components are given with the iden- tical closed-loop characteristic equation and time-domain step response. However, the stability of the ten autopilots differs when considering the actuator dynamics, which limits their application. Then vector margin method is adopted to compute and evaluate the stability of all available autopi- lots. The analysis and computation results show that the vector margin method could better evaluate autopilot stability.

集成数据挖掘知识的可解释最优超球体支持向量机

最优超球体支持向量机(SSLM)是一种典型的黑箱模型,其运行模式不需要考察被研究对象的内部结构和机理,仅利用对象的输入输出数据即能达到认识其功能和作用机制,因此具有响应快、实时性强等优点,但也因此缺乏可解释性和透明性.鉴于此,本文研究从SSLM黑箱模型的输入端加入先验知识的方法,增强其可解释性.本文开发了基于数据的非线性圆形知识挖掘算法以及知识的离散化算法,离散后的数据点不仅包含产生知识的原始数据点,还增加了新的数据点.通过将所挖掘的圆形知识以不等式约束的形式集成至SSLM模型,构造了可解释的SSLM模型(i-SSLM).该模型在训练时要确保知识约束的数据点分类正确,因此对模型结果有一定程度的预知,表明模型具有可解释性;同时,又由于知识的离散化增加了新的数据信息,因此,模型能具有更高的精度.i-SSLM模型的有效性在10组公共样本集和2组实际高炉数据集上得到了验证.

基于不同Margin的人脸特征选择及识别方法

Margin在机器学习中具有很重要的意义,基于margin的特征选择方法就是从分类的角度对特征集各特征的权重进行分析。该文对不同的margin进行了分析,提出将sample-margin和hypothesis-margin分别作为特征选择标准对SBS特征选择方法进行改进,然后设计具有最佳超参数的SVM多项式分类器进行人脸识别。实验在FRERT人脸图像库上进行并与Relief特征选择方法进行了比较,对SVM和NN分类器的实验结果也进行了分析。实验结果显示:该文提出的人脸识别特征选择及识别方法是有效、适用的。

具有间隔分布优化的最小二乘支持向量机

最小二乘支持向量机(Least Squares Support Vector Machine,LSSVM)通过求解一个线性等式方程组来提高支持向量机(Support Vector Machine,SVM)的运算速度。但是,LSSVM没有考虑间隔分布对于LSSVM模型的影响,导致其精度较低。为了增强LSSVM模型的泛化性能,提高其分类能力,提出一种具有间隔分布优化的最小二乘支持向量机(LSSVM with margin distribution optimization,MLSSVM)。首先,重新定义间隔均值和间隔方差,深入挖掘数据的间隔分布信息,增强模型的泛化性能;其次,引入权重线性损失,进一步优化了间隔均值,提升模型的分类精度;然后,分析目标函数,剔除冗余项,进一步优化间隔方差;最后,保留LSSVM的求解机制,保障模型的计算效率。实验表明,新提出的分类模型具有良好的泛化性能和运行时间。

鲁棒的模糊最小二乘双参数间隔支持向量机算法

针对最小二乘双参数间隔支持向量机(LSTPMSVM)对噪声敏感且在分类过程中易受异常值影响的问题,提出了一种鲁棒的模糊最小二乘双参数间隔支持向量机算法(RFLSTPMSVM).该算法利用松弛变量的2范数使得优化问题具有强凸性,再根据隶属度为每个样本分配相应的权重,有效降低异常值带来的影响.同时,在目标函数中引入K-近邻加权,考虑样本之间的局部信息,提高模型的分类准确率.此外,通过求解简单的线性方程组来优化该算法,而不是求解二次规划问题,使模型具有较快的计算速度.在UCI(university of California irvine)数据集上对该算法进行性能评估,并与TWSVM、LSTSVM、LSTPMSVM和ULSTPMSVM 4种算法进行比较.数值实验结果表明,该算法具有更好的泛化性能.

基于最大间隔和流形假设的半监督学习算法

半监督学习是一种介于监督学习和无监督学习之间的弱监督学习模式,其在学习过程中将少量标记示例和大量未标记示例结合起来构建模型,以期取得比监督学习仅使用标记示例更高的学习精度。在该学习模式下,文中提出了一种将最大间隔准则和示例空间的流形假设思想相结合的半监督学习算法。该算法在利用示例流形结构估计未标记示例标记置信度的同时利用最大间隔准则构建分类模型,并采用交叉优化方法以迭代的方式交替地求解分类模型参数和标记置信度。在12个UCI数据集和4个由MNIST手写数字集生成的数据集上的实验结果表明,采用半监督直推学习方式,该算法的性能优于其他对比算法的情况为60.5%;采用半监督归纳学习方式,该算法的性能优于其他对比算法的情况为42.6%。

加权线性损失孪生大间隔分布机

加权线性损失孪生支持向量机(weighted linear loss twin support vector machine,WLTSVM)是针对大规模问题而构建的支持向量机(support vector machine,SVM)模型,其表现出较好的泛化性能。与SVM类似,WLTSVM中并未考虑样本集整体的间隔分布,而间隔分布已经被证明对泛化性能起着至关重要的作用。因此,为了取得更优性能,提出了一个加权线性损失孪生大间隔分布机(weighted linear loss twin large margin distribution machine,WLTLDM)。WLTLDM以一对非平行超平面模型为基础,构建了其对应的间隔均值和方差来优化间隔分布,并采用加权线性损失函数来度量类内样本的损失,使用平方损失函数来度量类间样本的损失。在真实数据集上的实验结果表明,WLTLDM是一个有效的间隔分布模型,其性能显著优于其他基准模型。

Dynamic Spatial Discrimination Maps of Discriminative Activation between Different Tasks Based on Support Vector Machines

As a set of supervised pattern recognition methods, support vector machines (SVMs) have been successfully applied to functional magnetic resonance imaging (fMRI) field, but few studies have focused on visualizing discriminative regions of whole brain between different cognitive tasks dynamically. This paper presents a SVM-based method for visualizing dynamically discriminative activation of whole-brain voxels between two kinds of tasks without any contrast. Our method provides a series of dynamic spatial discrimination maps (DSDMs), representing the temporal evolution of discriminative brain activation during a duty cycle and describing how the discriminating information changes over the duty cycle. The proposed method was applied to investigate discriminative brain functional activations of whole brain voxels dynamically based on a hand-motor task experiment. A set of DSDMs between left hand movement and right hand movement were reached. Our results demonstrated not only where but also when the discriminative activations of whole brain voxels occurred between left hand movement and right hand movement during one duty cycle.

不平衡数据分类问题的基于间隔放大损失的支持向量机

针对不平衡数据分类问题,提出了一种带有间隔感知标签分布损失函数的支持向量机,称为基于间隔放大损失的支持向量机(support vector machine with margin magnification loss,MM-SVM)。考虑各类样本的分布情况以及数据不平衡比,设计了一种间隔放大损失函数,最小化基于间隔的泛化误差界;将间隔放大损失函数应用于SVM模型中,增强了少数类样本对分类超平面的影响,实现对少数类样本的准确分类。在Keel和UCI数据库上的实验表明,MM-SVM在不平衡数据分类精度和时间效率上均优于其他5种对比方法,实现了对不平衡数据的有效分类。

一分类最优间隔分布机

现有的一分类支持向量机算法基于优化最小间隔的思想,只考虑了样本靠近空间原点一侧的噪声,对噪声信息较为敏感。针对该问题,通过优化间隔分布思想,同时考虑样本靠近空间原点和远离空间原点两侧的噪声,提高一分类支持向量机算法的抗噪声能力。为此,提出了一种基于最优间隔分布的一分类学习方法(one-class optimal margin distribution machine,OCODM),该方法通过最大化间隔的均值和最小化间隔方差的方式来优化间隔分布。实验结果表明,相比于现有的一分类支持向量机算法,该方法具有更好的鲁棒性,是现有一分类支持向量机方法的有益补充,能够增强现有方法的抗噪声能力。

具有间隔分布的抗噪声非平行支持向量机

针对非平行支持向量机(NonParallel Support Vector Machine,NPSVM)对噪声敏感和忽略了数据分布结构的问题,提出了一种具有间隔分布的抗噪声非平行支持向量机(Anti-Noise NPSVM with Margin Distribution, MDANPSVM)分类模型.在MD-ANPSVM模型中,每个优化问题同时最小化两类样本的基于L1范数的绝对损失和改进的铰链损失,这可以保证模型的稳定性,减小噪声和异常值的影响.此外,在MD-ANPSVM模型中,采用一阶和二阶统计量来描述训练数据的间隔分布信息,并试图同时最大化间隔均值和最小化间隔方差,这进一步提高了模型的泛化性能.最终,我们在不同的数据集上进行了对比实验.实验结果显示,MD-ANPSVM模型具有较强的泛化能力和强鲁棒性.

一种SVM增量学习淘汰算法

基于SVM寻优问题的KKT条件和样本之间的关系,分析了样本增加后支持向量集的变化情况,支持向量在增量学习中的活动规律,提出了一种新的支持向量机增量学习遗忘机制——计数器淘汰算法。该算法只需设定一个参数,即可对训练数据进行有效的遗忘淘汰。通过对标准数据集的实验结果表明,使用该方法进行增量学习在保证训练精度的同时,能有效地提高训练速度并降低存储空间的占用。

一种基于距离比值的支持向量机增量训练算法

由于支持向量机具有较好地学习性能和泛化能力,目前已经得到了广泛的应用。如何使支持向量机进行有效的增量学习是目前支持向量机应用中需要解决的问题。深入研究了支持向量分布特点,提出了一种新的支持向量机增量训练淘汰机制——距离比值算法。该算法根据遗忘规则,设定一个合适的参数,按距离比值法中的定义计算各个样本中心距离与其到最优分类面距离的比值,舍弃对后续训练影响不大的样本,即可对训练数据进行有效的淘汰。对标准数据集的实验结果表明,使用该方法进行增量训练在保证分类精度的同时,能有效地提高训练速度。

一种SVM增量训练淘汰算法

基于KKT条件分析了样本增加后支持向量集的变化情况,深入研究了支持向量分布特点,提出了一种新的支持向量机增量训练淘汰机制——挖心淘汰算法。该算法只需设定一个参数,即可对训练数据进行有效的遗忘淘汰。通过对标准数据集的实验结果表明,使用该方法进行增量训练在保证训练精度的同时,能有效地提高训练速度并降低存储空间的占用。

数字图像处理技术在膜图像处理中的应用

为了在膜分离过程的数值模拟中建立准确的几何模型,利用数字图像处理技术,通过灰度变换、中值滤波、图像分割、边缘检测和矢量化等方法,处理了膜的SEM(扫描电镜)图像,得到了膜的边界矢量图和膜的孔隙率等结构参数.结果表明,处理后的膜断面图像准确地呈现出了膜内部的结构信息.

预抽取支持向量机的支持向量

训练支持向量机，可以归结为求解二次规划问题，而求解二次规划时的复杂度随着样本数量的增加而显著增长，这样就大大延长了支持向量机的训练时间。为了提高支持向量机的训练速度，根据支持向量机的基本原理，该文提出了一种从给定训练样本中预抽取支持向量的新方法，即两凸包相对边界向量方法(FFMVM)，此方法大幅度减小了训练支持向量机的训练样本的数量，从而大大提高了支持向量的训练速度，而支持向量机的分类能力不受任何影响。

支撑矢量预选取的双色Voronoi图方法

支撑矢量机是在统计学习理论的基础上发展出来的一种新的模式识别方法,在解决小样本、非线性及高维模式识别问题中表现出许多特有的优势,在支撑矢量机中,支撑矢量的选取相当困难,成为其应用的瓶颈问题。该文利用 Voronoi图在特征空间特有的构造特性,提出了一种预先选取支撑矢量的新方法——双色Voronoi图方法。该方法针对数据在空间的分布特性,在训练支撑矢量机以前,利用样本数据的双色Voronoi图确定候选的支撑矢量,然后在这些预选的矢量上进行学习。试验证明了该方法的有效性及可行性。

基于几何分析的支持向量机快速训练与分类算法

当支持向量机中存在相互混叠的海量训练样本时,不但支持向量求取困难,且支持向量数目巨大,这两个问题已成为限制其应用的瓶颈问题。该文通过对支持向量几何意义的分析,首先研究了支持向量的分布特性,并提出了基于几何分析的支持向量机快速算法,该算法首先从训练样本中选择出部分近邻向量,然后在进行混叠度分析的基础上,选择真实的边界向量样本子空间用来代替全部训练集,这样既大大减少了训练样本数目,同时去除了混叠严重的奇异样本的影响,并大大减少了支持向量的数目。实验结果表明:该算法在不影响分类性能的条件下,可以加快支持向量机的训练速度和分类速度。

基于分类间隔的特征选择算法

对于二类目标特征选择问题,首先讨论了特征空间的线性可分性问题,并给出了其判别条件;其次,通过借鉴支撑矢量机原理,分析了特征可分性判据的基本性质;最后,依据各特征对分类间隔的贡献大小定义了特征有效率,并以此进行特征选择和特征空间降维.实测数据与网络公开UCI(University of california,Irvine)数据库的实验结果表明,与经典的Relief特征选择算法相比,该算法在识别性能和推广能力上明显有所提高.

预抽取相对较近边界向量的选块算法

利用支持向量机中支持向量的稀疏性和支持向量分布于分划超平面周围的性质,该文提出了一种预抽取相对较近边界向量的选块算法的新算法,该算法减少了普通选块算法的迭代次数和提高了仅依靠相对较近边界向量的准确率,从而大大加快了支持向量机的训练速度,且支持向量机的分类能力不受任何影响。