最小均方(Least Mean Square,LMS)算法的更新方向是对最速下降方向的估计,其收敛速度也受到最速下降法的约束。为了摆脱该约束,该文在对LMS算法分析的基础上,提出一种针对LMS算法的分块方向优化方法。该方法通过分析误差信号来选择更新...最小均方(Least Mean Square,LMS)算法的更新方向是对最速下降方向的估计,其收敛速度也受到最速下降法的约束。为了摆脱该约束,该文在对LMS算法分析的基础上,提出一种针对LMS算法的分块方向优化方法。该方法通过分析误差信号来选择更新向量,使得算法的更新方向尽可能接近Newton方向。基于此方法,给出一种方向优化LMS(Direction Optimization LMS,DOLMS)算法,并推广到变步长DOLMS算法。理论分析与仿真结果表明,该方法与传统分块LMS算法相比,有更快的收敛速度和更小的计算复杂度。展开更多
针对传统支持向量数据描述(support vector data description,SVDD)训练中存在的训练速度慢、存储核矩阵需要的空间开销大、计算量大、算法效率低等问题,提出一种基于改进序贯最小优化(SMO)算法的SVDD快速训练方法。该算法针对原有SMO...针对传统支持向量数据描述(support vector data description,SVDD)训练中存在的训练速度慢、存储核矩阵需要的空间开销大、计算量大、算法效率低等问题,提出一种基于改进序贯最小优化(SMO)算法的SVDD快速训练方法。该算法针对原有SMO算法仅能处理单类样本的缺陷,提出一种可以处理负样本的改进方法,给出详细的计算推导过程,并针对KKT判定条件、工作集选择等关键问题进行改进。试验证明:与传统的SVDD训练算法相比,基于改进SMO算法的SVDD快速训练方法训练时间短,计算量小,分类准确度高,空间开销小,更适合于大规模数据的快速训练,具有较高的工程应用价值。展开更多
文摘最小均方(Least Mean Square,LMS)算法的更新方向是对最速下降方向的估计,其收敛速度也受到最速下降法的约束。为了摆脱该约束,该文在对LMS算法分析的基础上,提出一种针对LMS算法的分块方向优化方法。该方法通过分析误差信号来选择更新向量,使得算法的更新方向尽可能接近Newton方向。基于此方法,给出一种方向优化LMS(Direction Optimization LMS,DOLMS)算法,并推广到变步长DOLMS算法。理论分析与仿真结果表明,该方法与传统分块LMS算法相比,有更快的收敛速度和更小的计算复杂度。
基金国家自然科学基金(the National Natural Science Foundation of China under Grant No.10471045 No.60433020)+8 种基金广东省自然科学基金(the Natural Science Foundation of Guangdong Province of China under Grant No.970472 No.000463 No.04020079)广东科技公关计划(the Key Technologies R&D Program of Guangdong Province China under Grant No.2005B10101010)霍英东基金( No.91005)教育部人文社科基金(No.2005-241)广州市天河区科技攻关项目(No.051G041)华南理工大学自然科学基金(No.B13-E5050190)
文摘针对传统支持向量数据描述(support vector data description,SVDD)训练中存在的训练速度慢、存储核矩阵需要的空间开销大、计算量大、算法效率低等问题,提出一种基于改进序贯最小优化(SMO)算法的SVDD快速训练方法。该算法针对原有SMO算法仅能处理单类样本的缺陷,提出一种可以处理负样本的改进方法,给出详细的计算推导过程,并针对KKT判定条件、工作集选择等关键问题进行改进。试验证明:与传统的SVDD训练算法相比,基于改进SMO算法的SVDD快速训练方法训练时间短,计算量小,分类准确度高,空间开销小,更适合于大规模数据的快速训练,具有较高的工程应用价值。