连续属性完全贝叶斯分类器的学习与优化

针对连续属性朴素贝叶斯分类器不能有效利用属性之间的条件依赖信息,而依赖扩展又很难实现属性条件联合密度估计和结构学习协同优化的问题,文中在使用多元高斯核函数估计属性条件联合密度的基础上,建立了具有多平滑参数的连续属性完全贝叶斯分类器,并给出将分类准确性标准与区间异步长划分完全搜索相结合的平滑参数优化方法,再通过时序扩展构建了动态完全贝叶斯分类器.我们使用UCI机器学习数据仓库中连续属性分类数据和宏观经济数据进行实验,结果显示,经过优化的两种分类器均具有良好的分类准确性.

随机傅里叶特征空间中高斯核支持向量机模型选择

模型选择是支持向量机(support vector machines,SVMs)学习的关键问题.标准支持向量机学习本质上是求解一个凸二次优化问题,求解的时间复杂度为数据规模的立方级,而经典的模型选择方法往往需要多次训练支持向量机,这种模型选择方法对于中等规模的支持向量机学习计算代价已较高,更难以扩展到大规模支持向量机学习.基于高斯核函数的随机傅里叶特征近似,提出一种新的、高效的核支持向量机模型选择方法.首先,利用随机傅里叶特征映射,将无限维隐式特征空间嵌入到一个相对低维的显式随机特征空间,并推导在2个不同的特征空间中分别训练支持向量机所得到的模型的误差上界;然后,以模型误差上界为理论保证,提出随机特征空间中核支持向量机的模型选择方法,应用随机特征空间中的线性支持向量机来逼近核支持向量机,计算模型选择准则的近似值,从而评价所对应的核支持向量机的相对优劣;最后,在标杆数据集上验证所提出方法的可行性和高效性.实验结果表明,所提出的模型选择方法与标准交叉验证方法的测试精度基本相当,但可显著地提高核支持向量机模型选择效率.

基于B样条概率密度估计的纹理图像分类

提出一种基于B样条概率密度函数(PDF,probability density function)估计的复杂纹理图像分类识别方法,主要包括图像纹理PDF特征学习、表征以及纹理类型识别3个步骤。在图像纹理PDF特征学习和表征中,引入各向异性高斯导数方向滤波器获得纹理图像多尺度和多方向空间结构;然后基于预先固定的B样条基函数,将图像空间结构PDF估计转化为与基函数相对应的权值向量估计;之后采用最远邻聚类方法,获得图像空间纹理结构的PDF特征字典库;最后采用最近邻方法,获得各类纹理在特征字典库上的直方图分布表示。在纹理类型识别阶段,基于直方图距离测量结果实现纹理图像分类识别。在不同纹理图像数据库上进行了大量的验证性和对比性实验,实验结果表明所提方法的有效性和优越性。