最小二乘双支持向量回归机

提出了一个最小二乘双支持向量回归机,它是在双支持向量回归机基础之上建立的,打破了标准支持向量回归机利用两条平行超平面构造ε带的思想。事实上,它是利用两条不一定平行的超平面构造ε带,每条超平面确定一个半ε-带,从而得到最终的回归函数,这使该回归函数更符合数据本身的分布情况,回归算法有更好的推广能力。另外,最小二乘双支持向量机只需求解两个较小规模的线性方程组就能得到最后的回归函数,其计算复杂度相对较低。数值实验也表明该回归算法在推广能力和计算效率上有一定的优势。

基于双支持向量回归机的增量学习算法

提出了一种基于双支持向量回归机的增量学习算法。将获取到的新样本加入训练数据集后,该算法无需在整个新的数据集上重新训练双支持向量回归机,而是充分利用增量前的计算信息,从而大大减少了模型更新中逆矩阵的计算量,提高了算法的执行效率。在人工数据集、时间序列预测和UCI数据集上的数值实验表明,该算法快速有效。

双支持向量回归的牛顿算法

为提高支持向量回归的运算速度,提出一种双支持向量回归的牛顿算法。求解2个只带一组约束的支持向量问题,以减少运算量,将2个约束优化问题转化为无约束最优化问题,并采用牛顿迭代算法求解。实验结果表明,在保证与支持向量回归和双支持向量回归拟合能力相当的同时,该算法能减少训练时间。

无线传感器网络中基于双支持向量回归的分布式定位算法

针对无线传感器网络中节点定位误差问题,提出一种基于双支持向量回归的分布式定位算法。在保持锚节点连通性的基础上,以锚节点跳数和位置信息为训练样本。结合拉格朗日法和KKT(Karush-Kuhn-Tuchker)条件,把原问题的优化转化为对偶形式,使用双支持向量回归技术确定跳数信息到节点间距离的映射函数。最后,采用最小二乘法估计待定位节点的位置,在不同锚节点和通信半径的情况下对传感器目标节点进行定位实验测试。实验结果表明:该方法减小了测量误差,能有效提高节点自身定位精度。

应用双支持向量回归机的风速预测模型

风速对风电场功率输出起着十分重要的作用,但由于风速具有很强的随机性,使得对其预测的精度不高。针对上述问题,以双支持向量回归机为主要工具,结合风电场的实测风速数据建立了风速预测模型;给出了模型的特征以及相关参数的,并与标准支持向量回归机的预测结果进行了比较。实验结果表明:双支持向量回归机在预测精度上优于标准支持向量回归机,为风电场的风速预测提供了参考。

稀疏结构化最小二乘双支持向量回归机

最小二乘双支持向量回归机(LSTSVR)通过引入最小二乘损失将双支持向量回归机(TSVR)中的二次规划问题简化为两个线性方程组的求解,从而大大减少了训练时间。然而,LSTSVR最小化基于最小二乘损失的经验风险易导致以下不足:(1)"过学习"问题;(2)模型的解缺乏稀疏性,难以训练大规模数据。针对(1),提出结构化最小二乘双支持向量回归机(S-LSTSVR)以提升模型的泛化能力;针对(2),进一步利用不完全Choesky分解对核矩阵进行低秩近似,给出求解S-LSTSVR的稀疏算法SS-LSTSVR,使模型能有效地训练大规模数据。人工数据和UCI数据集中的实验证明SS-LSTSVR不但可以避免"过学习",而且能够高效地解决大规模训练问题。

基于竞争ISPO双胞支持向量回归短期负荷预测

双胞支持向量回归TSVR(twin support vector regression)参数的合理选择严重影响回归结果的准确性。该文采用竞争型智能单粒子算法CISPO(competitive intelligent single particle optimizer)优化参数。CISPO针对智能单粒子算法中各因子值难以确定的问题,在每次迭代中根据待优化参数的变化情况自动选择最佳的因子值,同时引入迭代竞争因子,避免算法前期陷入混乱,而后期又能更好地找到全局最优值。将基于CISPO优化的TSVR模型应用到电力系统短期负荷预测中,结果表明,该方法能有效提高负荷预测的速度和精度。

基于集成经验模态分解和最小二乘双支持向量回归机的风速预测算法研究

为有效解决风电大规模并网过程中面临的并网难和弃风等问题,实现可再生能源大规模平滑并网并保证大电网的安全稳定运行,采用集成经验模态分解(ensemble empirical mode decomposition,EEMD)和最小二乘双支持向量回归机(least square twin support vector regression,LSTSVR)算法进行风电场风速预测。分别介绍了LSTSVR、EEMD及自适应变异粒子群算法原理。给出基于EEMD和LSTSVR的风速预测流程,以安徽女儿岭风电场测风声雷达30、70 m处风速采样数据为例,开展基于EEMD和LSTSVR的风速预测算法验证,预测结果误差分析表明:基于EEMD+LSTSVR+自适应变异粒子群算法可以实现风电场风速的高精度预测。

双支持向量顺序回归机

针对顺序回归问题的深入研究,基于支持向量顺序回归机提出了双支持向量顺序回归机。由于双支持向量顺序回归机所对应的2个优化问题是对称的,则只需求解其中的一个问题,进而得出一个分划超平面。又因其对应的优化问题的规模只是支持向量顺序回归机规模的一半,故其运算速度会快于支持向量顺序回归机。数值实验的结果表明:双支持向量顺序回归机在一些数据分析中具有较高的正确率。

非平行ε-带支持向量回归机

提出了一个非平行ε-带支持向量回归机,它通过一对凸二次规划问题确定一个ε-不敏感的上界超平面和一个ε-不敏感的下界超平面,从而得到最终的回归函数。每个凸二次规划问题的规模是传统的支持向量回归机的一半。与双支持向量机相比,虽然它们都是寻找两个不一定平行的超平面来构造最终的回归函数,但是非平行ε-带支持向量回归机的几何意义更接近传统的支持向量回归机。数据实验结果也表明,非平行ε-带支持向量回归机不仅具有良好的泛化性能,而且速度快。

最小二乘双胞支持向量回归机的研究

利用最小二乘方法和临近支持向量机(PSVM)算法,并结合双胞支持向量机(TSVR),提出了最小二乘双胞支持向量回归机(LSTSVR).作为对照,TSVR需要求解2个二次规划问题,而LSTSVR仅需求解2个线性方程组.最后利用不同的实例验证了所提算法的可行性和有效性.

基于LSTSVR模型的边缘计算预测变压器平均油温及绕组热点温度

变压器绕组的热点温度过高,会导致变压器绝缘脆解、裂化甚至击穿短路。因此及时、准确地预测出变压器绕组的热点温度,对提高变压器运行的安全可靠性至关重要。利用最小二乘双支持向量回归机(LSTSVR)作为边缘计算模型,将变压器油中气体色谱分析数据信息与变压器负载电流、环境温度、顶层油温、上死角温度等变压器运行信息结合,构建监测系统架构,预测变压器的平均油温,并计算出绕组热点温度。将所提方法得到的数据与实测数据进行对比,结果利用LSTSVR模型实现了变压器平均油温及绕组热点温度的准确预测,且该模型的预测精度优于最小二乘支持向量回归机模型,有效地提高了绕组热点温度测量的精度。现场实例也证明了所提方法的有效性和可靠性。

基于LSTSVR模型预测STATCOM晶闸管阀组本体温度

STATCOM晶闸管阀组本体温度过高,会导致其失效。因此及时、准确地预测出STATCOM晶闸管阀组本体温度对提高STATCOM运行的可靠性至关重要。本文利用最小二乘双支持向量回归机(least square twin support vector regression,LSTSVR)算法,将STATCOM进水温度、回水温度、进水流量、IGBT模块散热材料的导热系数、STATCOM输出电压、STATCOM输出电流、晶闸管阀组的集电极电流共7个量作为输入量,构建了STATCOM晶闸管阀组本体温度预测模型。与现场实测数据对比的结果表明,利用LSTSVR模型实现了STATCOM晶闸管阀组本体温度的高精度预测,且模型的预测精度优于最小二乘支持向量回归机(least square support vector regression,LSSVR)模型。应用实例也验证了该方法的准确性和有效性。

基于LSTSVR的路基沉降组合预测模型

鉴于路基沉降各种单相预测模型均有其适用范围,总体预测波动性较大,精度较低,提出基于最小二乘双支持向量回归机(LSTSVR,least square twin support vector regression)的路基沉降组合预测模型。该模型的核心是根据路基沉降的发展规律及其沉降曲线的特点,选择具有S型特点的成长曲线特征的单相预测模型;以各单项预测模型预测结果作为最小二乘双支持向量回归机的输入向量,构建路基沉降组合预测模型。对比试验表明:提出方法具有更好的预测精度和稳定性。

基于HLS-SVDR和SPPCS的CEEMD的滚动轴承微故障特征提取

针对互补集总经验模态分解(complementary ensemble empirical mode decomposition,简称CEEMD)在处理非平稳随机信号时能够有效地消除模态混叠,却仍然存在包络拟合过冲/欠冲和端点效应问题,提出了同伦-最小二乘支持向量双回归(homotopy least squares-support vector double regression,简称HLS-SVDR)的保形分段三次样条(shape-preserving piecewise cubic spline,简称SPPCS)的完备CEEMD改进方法。首先,使用SPPCS插值法消除在构造上、下包络曲线过程中产生的拟合过冲/欠冲问题,获得有效的包络线;其次,使用HLS-SVDR对各层信号极值点的包络均值曲线两端进行左、右预测覆盖以抑制端点效应;最后,将该方法用于滚动轴承的微故障特征提取的实例分析中。实验结果表明,该方法能够更有效地提取滚动轴承微故障特征,实现了一种既保持CEEMD原有特性,同时又能够抑制过冲/欠冲和端点效应的完备CEEMD算法。