基于Gram-Schmidt正交化和HSIC的核函数选择方法

核方法是一种解决非线性、异构数据的有效方法,核函数的选择问题是核方法中的一个重要课题,对于不同的应用问题,如何选择合适的核函数还没有足够的理论基础,不适当的核函数选取会降低核方法的性能。由此,提出了一种基于Gram-Schmidt正交化(GSO)和Hilbert-Schmidt独立准则的核选择方法(HSIC-GSO),该方法考虑了核函数选择过程中存在的不相关冗余信息。首先,利用GSO消除核函数之间的冗余信息;然后,使用HSIC度量核函数与理想核之间的相似性;最后,得到一组判别能力强、多样性大的基核函数。实验结果表明,HSIC-GSO方法选择的核函数泛化性好,并且提高了MKL的分类性能,验证了所提方法的有效性。

基于HHT和核函数选择的情绪特征提取与识别

脑⁃机接口是一种变革传统人机交互的技术,其中情绪脑⁃机接口是一类重要的脑⁃机交互,可望为情绪的调节、监测或评估提供定量方法,有潜在的重要应用价值,然而情绪相关的脑信号特征提取与识别尚未彻底解决,面临许多挑战.为了探索有效的情绪相关脑电(Electroencephalogram,EEG)特征提取和分类方法,采用国际情绪图片系统(International Affective Picture System,IAPS)提供的情绪图片诱发情绪,在情绪诱发期间采集13个被试的脑电EEG信号;采用独立成分分析(Independent Component Analysis,ICA)等方法预处理EEG后,分别采用在时域、频域同时具有较高分辨率的希尔伯特⁃黄变换(Hilbert⁃Huang Transform,HHT)和对不同状态反应敏感的自回归(Auto Regressive,AR)模型提取情绪相关的EEG特征;采用支持向量机(Support Vector Machine,SVM)对其可用的四种核函数进行选择,也利用K⁃近邻(K⁃Nearest Neighbor,KNN)对两类情绪进行识别.结果显示,采用HHT提取特征并利用高斯径向基函数(Radial Basis Function,RBF)核的SVM取得的平均、最高和最低分类精度分别为90.57%±4.13%,96%和88%;采用AR模型提取特征并利用高斯RBF核的SVM取得的平均、最高和最低分类精度分别为88.43%±2.98%,92%和86%.表明HHT能有效地提取情绪相关EEG特征,采用高斯RBF核的SVM可以获得较好的识别结果,可望为基于EEG利用HHT和高斯RBF核的SVM在线识别情绪提供思路.

支持向量机中核函数及其参数选择研究

将SVM应用于解决实际问题中时,选择核函数及其参数是一个关键,核函数及其参数选择的好坏直接影响SVM分类器性能的优劣,因此如何选择核函数及其参数就成为研究SVM的一个重要分支。本文分析了常用核函数性质,为核函数选择提供指导。对近年来新的核参数选择算法进行了归纳,并分析了它们的优缺点,最后对其进行总结与展望。

SVM核函数与选择算法

本文简单介绍了SVM理论基础以及为什么在SVM中需要核函数,详细介绍了常见的各种核函数及其选择问题。

应用统计方法综合评估核函数分类能力的研究

应用统计方法对支持向量机方法中核函数选择问题进行了研究.文中将"纠正重复取样t测试"引入到核函数选择中,通过其与k-折交叉验证、配对t测试等多种统计方法的综合应用,对9个常用核函数的分类能力进行了定量研究.同时,文中还提出了基于信息增益的评估核函数模式识别能力的定量评估准则,证明了该准则是传统评估准则的非线性函数.数值实验表明,不同模型评估准则之间存在差异,但应用统计方法可以从这些差异中发现一些规律.同时,不同统计方法之间也存在显著差异,且这种差异对模型评估的影响要大于由于评估准则的不同而产生的影响.因此,只有应用综合的评估方法和准则才能对不同核函数的分类能力进行客观评估.

短期负荷预测的支持向量机参数选择方法

支持向量机SVM(support vector machine)方法的合理参数选择对提高回归结果的准确性有重要作用。该文采用基于支持向量机短期负荷预测的参数选择方法,用遗传算法对参数种群进行编码、交叉、复制和变异,求得最优参数和最优核函数。将该算法应用于电力系统短期负荷预测中,应用了筛选和不筛选特征值两种方案对历史数据进行了预测。算例证明,无论是应用筛选特征值方案还是不筛选特征值方案,参数选择对预测精度提高都具有重要作用。

工业系统故障诊断中类均值核主元分析法的应用

类均值核主元分析法通过计算映射数据的类均值矢量,再由类均值矢量张成的子空间进行核主元分析,使之包含原始数据的全部信息,实现无信息损失的数据降维。然而,不同核函数的选取对故障诊断结果有所影响。文章以工业系统故障诊断为背景,就高斯径向基核函数、多项式核函数以及两者的混合核函数,结合粒子群算法优化核参数,通过BP神经网络进行故障识别分类,利用T^2和SPE统计量检验及时性,有效验证不同核函数的效果。

基于SVM遥感图像矿化信息提取试验

在讨论核函数的选择算法及优化的基础上,提出了一种将支持向量机(SVM)算法应用于遥感矿化信息提取的方法。并以TM遥感数据为试验样本,进行假彩色合成,将合成图像的RGB值作为训练样本的特征向量,应用核函数选择算法和人为选择核函数方法,采用SVM算法对样本进行分类。试验表明选用径向基核函数所得的分类效果最好。认为对遥感影像作预处理后采用RGB值作为特征向量,应用支持向量机算法进行遥感矿化信息提取的方法能够获得较好的识别效果;应用LOO估算选择的核函数模型能够较好地逼近最佳值。

面向质量设计的Kriging组合建模技术

Kriging代理模型广泛用于替代计算昂贵的工程仿真模型。而现有单个核函数Kriging建模技术的预测性能依赖于具体问题,往往在不同情况下表现差异较大,缺乏普适性和稳健性。针对该问题,研究了具有多个核函数的Kriging组合建模,提出同时考虑核函数选择和多组权重因子。首先基于随机搜索变量选择法选择显著核函数组合,其次借助K均值聚类法获得多组权重因子,最后结合选择的显著核函数和多组权重因子构建Kriging组合模型。仿真算例和工业实例的比较结果表明,所提方法不仅产生更为精确和稳健的预测,而且能为质量设计提供可靠的优化参数组合。

基于PSO-LSSVM的网络流量预测

流量预测是计算机网络管理的一项关键技术,以提高网络流量预测的准确性为目标,本文提出一种粒子群优化算法和最小二乘支持向量机的网络流量预测模型。首先对网络流量历史数据进行混沌分析,重构网络流量样本集,然后采用粒子群算法优化最小二乘支持向量机对网络流量数据进行建模,最后采用仿真模拟实验对网络流量的预测结果分析。实验结果表明,其模型可以描述网络流量的变化趋势,获得高精度的网络流量预测结果,提供了一种新网络流量预测工具。

基于SVM新闻文本分类的研究

网络新闻自动分类已经成为当下的热点问题,SVM分类算法是文本分类中应用较为成熟的一种方法。文章针对SVM文本分类中特征选择和核函数选择的两个重要问题,在新闻文本实验环境下进行了探讨,结果表明使用互信息特征选择法且特征数在4000左右,使用SIGMOID核函数的情况下准确率与召回率均可达到97%的分类效果。