非线性弱分类器的存在性

S.Mannor和R.Meir将分形几何中的几何差异性引入了弱分类器存在性的研究,最终将线性弱分类器的存在性归结为样本集上的某些几何性质,从而仅凭样本集的信息,就可以判断弱分类器是否存在.在S.Mannor和R.Meir对线性弱分类器研究结果的基础上,利用核方法将输入空间上的非线性分类器与特征空间上的线性分类器联系在一起,得到非线性弱分类器的判定条件.

基于弱分类器集成的车联网虚假交通信息检测

车联网中车辆以自组织的方式相互报告交通信息,开放的网络环境需要甄别消息,然而,要快速移动的车辆在短时间内检测出大量的交通警报信息是非常困难的。针对这一问题,提出一种基于弱分类器集成的虚假交通信息检测方法。首先,扩充交通警报信息的有效特征,并设计分割规则,将信息的特征集划分为多个特征子集;然后,根据子集特征的不同特性,使用对应的弱分类器分别进行处理。仿真实验和性能分析表明,选用弱分类器集成方法检测车联网中的虚假交通信息减少了检测时间,且由于综合特征的应用,检测率优于仅使用部分特征的检测结果。

虚警率约束的联合弱分类器集成学习算法

提出一种联合弱分类器集成学习算法。借鉴Adaboost方法采用弱分类器构建强分类器的思想,联合多个弱分类器构建特征分类的得分函数,生成一个集成分类器。在分类器训练时,采用ROC曲线围成的AUC面积值构建目标函数,加入虚警率上下限约束条件,采用列生成算法学习弱分类器,采用割平面法学习弱分类器的系数。在PASCAL VOC-2007数据集上进行目标检测实验,实验结果表明,与常用的支持向量机、Adaboost、随机森林和卷积神经网络分类方法相比,该方法的假正率指标低,真正率指标高。

新的软间隔AdaBoost弱分类器权重调整算法

为避免硬间隔算法过分强调较难分类样本而导致泛化性能下降的问题,提出一种新的基于软间隔的AdaBoost-QP算法。在样本硬间隔中加入松弛项,得到软间隔的概念,以优化样本间隔分布、调整弱分类器的权重。实验结果表明,该算法能降低泛化误差,提高AdaBoost算法的泛化性能。

一种新的改进AdaBooat弱分类器训练算法

AdaBoost是机器学习中比较流行的分类算法。通过研究弱分类器的特性,提出了两种新的弱分类器的阈值和偏置计算方法,二者可以使弱分类器识别率大于50%,从而保证在弱分类器达到一定数目的情况下,AdaBoost训练收敛。对两种阈值和偏置计算方法的仿真实验结果表明,在错分率降可接受的范围内,二者均使用较少的弱分类器便可获得高识别率的强分类器。

基于拟合型弱分类器的AdaBoost算法

针对AdaBoost算法通过最小化训练错误率来选择弱分类器造成的精度不佳问题以及单阈值作为弱分类器训练过程较慢难以收敛问题,提出了一种基于拟合型弱分类器的Ada Boost算法。首先针对每个特征,在特征值与标记值之间建立映射关系,引入最小二乘法求解拟合多项式函数,并转换成离散分类值,从而获得弱分类器。其次从获得的众多弱分类器中,选择分类误差最小的弱分类器作为本轮迭代的最佳弱分类器,构成新的Ada Boost强分类器。与传统训练算法相比,极大地减少了待选弱分类器的个数。选取UCI数据集和MIT人脸图像数据库进行实验验证,相较于传统Discrete-AdaBoost算法,改进算法的训练速度提升了一个数量级,人脸检测率可达96.59%。

基于模糊弱分类器的AdaBoost算法

本文引入模糊推理的思路,提出了一种新的模糊弱分类器,为增强AdaBoost强分类器的噪声抵抗能力提供有效手段。把每个特征分布分解成多个模糊规则的叠加,模糊规则对应的隶属度函数采用高斯函数。样本具体的特征值经过模糊化后得到的隶属度函数与模糊规则进行适配,设定适配度阈值来判定样本的类别。在训练流程中,通过枚举搜索寻找最佳的模糊规则构成最佳模糊弱分类器,按AdaBoost算法组合到强分类器中。经UCI数据库、MIT-CBCL人脸数据库等仿真试验测试表明,由模糊弱分类器构成的改进Adaboost强分类器具有更好的噪声抵抗能力,且弱分类器个数更少。

基于多模式弱分类器的AdaBoost-Bagging车辆检测算法

针对现有车辆检测算法在实际复杂道路情况下对车辆有效检测率不高的问题,提出了融合多模式弱分类器,并以AdaBoost-Bagging集成为强分类器的车辆检测算法。结合判别式模型善于利用较多的特征形成较好决策边界和生成式模型善于利用较少的特征排除大量负样本的优点,以Haar特征训练判别式弱分类器,以HOG特征训练生成式弱分类器,以AdaBoost算法为桥梁,采用泛化能力强的Bagging学习器集成算法得到AdaBoost-Bagging强分类器,利用Caltech1999数据库和实际道路图像对检测算法进行了验证。验证结果表明:相比于单模式弱分类器,AdaBoostBagging强分类器在分类能力和处理时间上均具有优越性,表现为较高的检测率与较低的误检率,分别为95.7%、0.000 27%,每帧图像的检测时间较少,为25ms;与传统级联AdaBoost分类器相比,AdaBoost-Bagging强分类器虽然增加了12%的检测时间和30%的训练时间,但检测率提升了1.8%,误检率降低了0.000 06%;本文算法的检测性能显著优于基于Haar特征的AdaBoost分类器算法、基于HOG特征的SVM分类器算法、基于HOG特征的DPM分类器算法,具有较佳的车辆检测效果。

一种基于多分类器耦合的非侵入式负荷辨识方法

新一代智能电表实现了电压、电流数据高频采样,使得用户电力负荷的辨识特征具有更多的可选性,同时多类别的负荷特征输入对于增强负荷辨识算法性能提出了更高的要求。为此,提出一种基于弱分类器耦合的非侵入式负荷辨识方法。首先,提取家用电器的电量和非电量等多种负荷特征,并将这些特征作为弱分类器的输入;然后,将各个弱分类器的输出进行耦合,采用经典的Adaboost架构提高分类器的性能,实现非侵入式电力负荷辨识。最后,在AMPds公用数据集上进行测试,结果表明所提方法能够达到较高的负荷辨识准确率。

改进的AdaBoost分类器在视频中的体育场景检测

提出了一种使用改进的AdaBoost分类器来检测体育场景的方法。将电视新闻中的体育场景分为三类:草地运动,冰雪运动和人造场地运动。针对这几种不同的体育场景,提取颜色直方图、边缘方向直方图和共生矩阵纹理等3种低层视觉特征,然后用改进的可自动选择特征的boosting方法为每一类体育场景分别建立AdaBoost分类器。该文提出的方法应用在国际视频处理评测TRECVID2003中的“体育场景”语义特征抽取任务上,取得了很好的效果。

Adaboost算法分类器设计及其应用

Adaboost算法可以将分类效果一般的弱分类器提升为分类效果理想的强分类器,而且不需要预先知道弱分类器的错误率上限,这样就可以应用很多分类效果不稳定的算法来作为Adaboost算法的弱分类器。由于BP神经网络算法自身存在的局限性和对训练样本进行选择的主观性,其分类精度以及扩展性有待提高。将Adaboost算法与BP神经网络相结合,使用神经网络分类模型作为Adaboost算法的弱分类器。算法在matlab中实现。对2个UCI的分类实验数据集进行实验,结果表明Adaboost能有效改善BP神经网络的不足,提高分类正确率和泛化率。

基于双层分类器入侵检测算法

入侵检测实质上是分类问题,即将正常数据同入侵行为分开。在本文中,提出一种双层入侵检测算法,算法的一层是基于Boosting的入侵检测算法,二层是SVM算法。KDDCUP99数据集用于实验中,结果表明,基于这种结构的双层入侵检测算法分类精度和泛化能力都好于单个神经网络和常用神经网络集成方法。

基于遗传寻优的双阈值型AdaBoost分类器

针对双阈值型AdaBoost分类器存在搜索弱分类器过程复杂和训练耗时长的问题,结合遗传算法的思想,提出了一种基于遗传寻优的双阈值型AdaBoost分类器。该方法通过对特征和两个阈值的编码来寻找弱分类器,利用遗传算法的全局寻优性,能够快速寻找到最佳弱分类器,减少训练时间。另外,在此基础上提出设置两阈值之间最小间距的方法,增强其抗干扰能力,具有更好的鲁棒性。为验证实验效果,对MIT-CBCL人脸库提取局部二值模式(Local Binary Pattern,LBP)特征进行验证。实验结果显示,改进后的双阈值型AdaBoost分类器比经典AdaBoost分类器在训练时间上提升了5倍,比双阈值型AdaBoost分类器提升了18倍,具有更快的收敛速度。与此同时,因为增加了两阈值之间的最小间距,改进后的算法具有更强的抗噪性能。

基于Bagging-SVM集成分类器的网页作弊检测

网页作弊不仅造成信息检索质量下降,而且给互联网的安全也带来了极大的挑战。提出了一种基于Bagging-SVM集成分类器的网页作弊检测方法。在预处理阶段,首先采用K-means方法解决数据集的不平衡问题,然后采用CFS特征选择方法筛选出最优特征子集,最后对特征子集进行信息熵离散化处理。在分类器训练阶段,通过Bagging方法构建多个训练集并分别对每个训练集进行SVM学习来产生弱分类器。在检测阶段,通过多个弱分类器投票决定测试样本所属类别。在数据集WEBSPAM-UK2006上的实验结果表明,在使用特征数量较少的情况下,本检测方法可以获得非常好的检测效果。

一种基于AdaBoost-SVM的流量分类方法

针对传统分类方法的缺陷,提出了一种基于AdaBoost-SVM的流量方法。该方法利用K-L变换从大量冗余流量特征中遴选出少量本征特征,有效降低了算法的处理复杂度;应用AdaBoost机制将一次分类过程等分成若干层基于支持向量机的弱分类器,使得分类方法简单、易于实现;通过分层组合和迭代权重的方法聚焦在困难分类的数据样本上,提高了分类器的准确性能。理论分析和实验结果表明:在降低计算复杂度的同时,Ada-Boost-SVM算法的准确性能够达到95%。

自适应增强方法在光谱自动分类中的应用

针对活动星系核(AGN)光谱中发射线的不同特征,在恢复到静止系状态后的光谱上截取具有有效特征的波段范围,采用自适应增强(Adaboost)的方法,对宽线和窄线AGNs进行特征融合的分类实验,经分析,确定了以Hα和[NⅡ]发射线为主的波段为宽线和窄线AGNs光谱的主要区别特征。再单独对Hα和[NⅡ]发射线为主的波段,用自适应增强的方法对其进行光谱分类。自适应增强方法在训练过程中不断地加入"弱分类器",直到达到某个预定的足够小的误差率或一定的循环次数,最后构成的总体分类器的分类判决由这些"弱分类器"各自的判决结果的投票来决定。此方法不需要事先调节参数,且"弱分类器"的分类结果只需好于随机猜测,算法简单。实验证明,对于单独采用以Hα和[NⅡ]发射线为主的波段,自适应增强方法能达到较好的分类效果,从而可有效地应用于大型光谱巡天所产生的活动星系核光谱的自动分类中。

一种基于Adaboost.M1的车型分类算法

神经网络分类器存在容易出现过学习、欠学习、陷入维数灾以及局部最小等问题,支持向量机分类器也存在运算比较复杂,模型选择和核函数的构造比较困难的问题,而贝叶斯分类器只有在训练样本数趋于无穷时,训练结果才趋于真实的模型,因此,提出了一种基于Adaboost.M1理论的车型分类算法,该算法简单易用,只需要寻找一个精度比随机预测略高的弱分类器,不需要调节任何参数,不需要先验知识,而且有足够的理论支持.最后通过实验验证了该算法进行车型分类的有效性.

基于多阈值弱学习的Adaboost检测器

近年来基于Adaboost的人脸检测算法因其快速和可接受的检测率得到了成功的应用。但采用单阈值作弱分类器显得太弱难于适应复杂的统计分布,且训练过程较慢收敛。为克服这些困难,采用分类树作弱学习器,该学习器以贪婪的的方法用误差测度减少最大化的划分准则划分节点,并由此生成弱分类器,然后采用RAB或GAB方法在给定数据和标签的训练集上将这些弱分类器提升为强分类器。实践结果表明采用多阈值作弱分类器能显著提高分类器性能。

基于AdaBoost算法的新能源汽车电机异常故障检测

新能源汽车的电机系统包含许多复杂的部件和子系统,部件之间的相互作用使得异常故障的检测变得复杂,而电机异常故障检测主要采用人工检测方式,即通过耳朵听声音,用眼睛观察,用手触摸找出故障位置,导致故障检测精度较低。因此,提出AdaBoost算法下新能源汽车电机异常故障检测方法。通过传感器采集电机信号,采用距离相似度、模糊隶属度函数提取信号特征,借助遗传算法的编码操作、交叉操作及其变异操作获取关键信号特征,运用自适应增强(Adaptive Boosting,AdaBoost)算法将信号特征分成正常信号和异常故障,以此实现对新能源汽车电机异常故障检测。实验结果表明,所提算法电机异常故障检测精度高,且耗时短。

AdaBoost分类算法的数学分析

本文对AdaBoost算法进行了介绍,并从整个数学推导过程中分析怎样挑选分类器并设置权值,最终通过一组弱分类器组合构成强分类器。