一种改进的基于支持向量机的概率密度估计方法

统计学习理论是针对小样本数据而提出的一套理论,支持向量机方法可用于解决有限样本情况下的概率密度估计问题,该种方法与Parzen窗的精度等级类似,同时又具有Parzen窗方法所不具备的稀疏解,但应用过程中耗时较多。本文提出了一种基于支持向量机的改进密度估计方法,分析了其原理,通过仿真实验的对比,改进后的密度估计方法与改进前相比,估计精度的水平保持不变,训练后的支持向量数目不变,对训练样本的训练时间大幅缩短。由仿真结果可知,本文提出的对支持向量机法估计概率密度的改进是可行的。

基于概率密度距离的无监督特征选择方法

在模式识别和数据分析中,经常会遇到数据特征的高维问题。为了有效地进行数据分析,特征维数的削减或特征降维就显得异常重要。针对特征选择这一问题,依据概率密度距离准则,提出一个新的无监督特征排序方法。基于交叉验证的实验结果表明,该方法与现有的方法相比更为有效。

基于概率密度逼近的无监督特征排序

依据概率密度逼近提出了一种新的无监督特征排序,应用于特征选择降维。实验证明,这种方法与一些现有的方法相比,更为有效。

基于概率密度距离的监督特征选择

为了降低特征维数,提高分类效率,提出了一种新的基于概率密度距离的有监督的特征排序方法。首先依次对所有样本的某一维特征进行加权变换,然后对变换后的各类别样本进行概率密度估计,计算由该特征加权变换后所引起的各类别样本的类间概率密度距离,距离越大,则该特征对于区分各类别样本的作用越大,以此来对特征进行排序。实验结果表明,该方法是有效的,而且表现出了比经典的Relief-F特征排序方法更好的性能。

基于余弦核函数在Solve-the-Equation方法下的核密度估计

核概率密度函数估计是对未知的概率密度函数进行估计的一种方法,其中关键是对核函数的选取以及窗口宽度的确定.利用Solve-the-Equation方法对窗宽中存在的二阶导数进行推导,设计迭代算法得出在Solve-the-Equation方法下的最优窗口宽度.在核方法确定的情况下,利用余弦核函数对未知的概率密度函数进行估计,并对改进核函数进行估计,找到最优的余弦核函数,通过验证得出改进后的核函数其估计精度和平滑度都有所提高.

一种改进的可适应变宽核密度估计器

可适应变宽核密度估计器(kernel density estimator with adaptive varying bandwidth,KDE-AVB)是一种基于单个数据点的概率密度估计方法,它以单个数据点为处理对象,利用置信区间交叉法则确定核密度估计器的最优窗口宽度.为加快可适应变宽核密度估计器对最优窗口宽度的寻找,通过引入一种可变的标准差项因子去确定置信区间的上下边界,提出一种改进的可适应变宽核密度估计器(improved kernel density estimator with adaptive varying bandwidth,IKDE-AVB).可变标准差项因子的引入不仅加快了可适应变宽核密度估计器搜索最优窗口宽度的速度,且在一定程度上降低了“过平滑”概率密度估计现象发生的风险.对KDE-AVB和IKDE-AVB的仿真结果表明,IKDE-AVB不仅获得了更快的训练速度(最高降低64%),同时提升了概率密度的估计精度(估计误差最高降低63%).

一种非参数估计的活动围道图像分割方法

该文采用Parzen窗非参数估计的活动围道方法进行图像分割,不必假定图像区域符合特定的概率分布,大大增加了该算法的应用范围。通过动态调整Parzen窗口参数,更好地利用了图像灰度区域一致的信息,使之更好地适应图像分割的任务。通过合成图像和真实图像的实验证明此方法具有很好的合理性,具有很好的分割精度和抗噪性能。

基于无放回抽样的帕尔森窗口集成方法

为解决大规模数据集的概率密度函数估计问题,提出一种基于无放回抽样的帕尔森窗口集成(sampling without replacement-based Parzen window ensemble,SR-PWE)方法,该方法在不需要利用全部数据的前提下,能够以较低的计算复杂度获得令人满意的概率密度函数估计表现.基于无放回抽样得到的若干原数据集的数据子集,利用帕尔森窗口法在数据子集上进行基概率密度函数估计,并将抽样上估计的基概率密度函数集成得到原始数据集的概率密度函数.通过在柯西分布和正态分布上对比帕尔森窗口法和SRPWE方法的概率密度函数估计表现,证实SR-PWE方法可行且有效.

基于粒子群优化算法的窗口参数确定

本文在概率密度函数估计的框架下对5种粒子群优化(Particle swarm optimization-PSO)算法的性能进行了验证,它们分别是标准粒子群优化(Standard PSO-SPSO),带约束因子的粒子群优化(PSO with a constriction factor-PSOCF),高斯粒子群优化(Gaussian PSO-GPSO),带高斯跳跃的高斯粒子群优化(Gaussian PSO with Gaussian jump-GPSOGJ),以及带柯西跳跃的高斯粒子群优化(Gaussian PSO with Cauchy jump-GPSOCJ).基于3种不同的窗口参数(Bandwidth parameter)表达式确定方法,即Bootstrap方法,Least-squares cross-validation(LSCV)方法,以及biased cross-validation(BCV)方法,本文分别使用这5种PSO算法来寻找最优的窗口参数,并在4种常用的概率分布上对它们的优化性能进行了比较,实验的结果表明,带有跳跃的高斯粒子群优化,即GPSOGJ和GPSOCJ,获得了最佳的求解效果.

三峡水库水文气象预报不确定性及误差分布分析

准确、及时的水文气象预报信息是水库实时预报调度的基础和技术支撑。基于长江水利委员会水文局发布的三峡水库历年短中期入库流量预报成果,综合评定了预报精度和水平,分析了降雨量级、落区及入库流量级别等因素对预报误差的影响,比较了正态分布和非参数估计两种方法用于估计预报相对误差概率密度函数的效果。结果显示,采用非参数估计推求的概率密度函数与样本拟合程度高,可应用于三峡水库水文气象预报定量风险管理。

基于互信息的多光谱图像配准

研究了多模态医学图像配准的一种 ,即多光谱图像的配准 ,分析了该配准存在的困难 :运算量巨大 ,速度较慢 ,占用内存多 ,提出了用parzen窗口函数来估计概率密度 ,以及用样本平均来估计熵 ;在搜索策略上采用了快速有效的模拟退火算法。实验证明 ,本文的方法很好地解决了多模态配准中存在的问题 。