基于轻量级梯度提升机优化的工业互联网入侵检测方法

入侵检测作为一种积极主动的安全防护技术,对于确保工业互联网安全起着至关重要的作用。为了满足工业互联网高准确率和高实时性的入侵检测需求,提出基于轻量级梯度提升机优化的工业互联网入侵检测方法。针对工业互联网业务数据中难分类样本导致检测准确率低的问题,改进轻量级梯度提升机原有的损失函数为焦点损失函数,该损失函数可自适应动态调节不同类别数据样本的损失值和权重,支持模型在训练过程中降低易分类样本的权重,进而提高难分类样本的检测准确率;针对轻量级梯度提升机参数较多并且对模型的检测准确率、检测时间和拟合程度等影响较大的问题,利用果蝇优化算法选择模型的最优参数组合;在密西西比州立大学提供的天然气管道数据集上得到模型的最优参数组合并进行验证,并在储水罐数据集上进一步验证所提模型的有效性。实验结果表明,采用所提方法改进的模型在天然气管道数据集上的检测准确率较对比模型最少提高了3.14%,检测时间较对比模型中的随机森林和支持向量机分别降低了0.35 s和19.53 s,较决策树和极端梯度提升机分别增加了0.06 s和0.02 s,同时在储水罐数据集上取得了良好的检测结果。因此证明所提方法可以很好地识别工业互联网业务数据中的攻击数据样本,提升了在工业互联网入侵检测中的实用性。

基于轻量级梯度提升机和生成对抗网络的含风电电力系统频率稳定评估

针对目前电力系统频率稳定评估研究未考虑新能源和系统拓扑变化的问题,提出一种考虑风速特征的基于轻量级梯度提升机(light gradient boosting machine,lightGBM)和生成对抗网络(generative adversarial network,GAN)的含风电电力系统频率稳定评估方法。首先分析风电对频率稳定的影响,其次采用lightGBM对频率变化率,暂态频率极值和准稳态频率3个指标建立预测模型,引入注意力机制对输入特征排序降维,通过预测指标综合判断系统频率稳定性。系统拓扑发生改变时,采用GAN产生大量相似样本对模型进行更新。在含风电新英格兰10机39节点系统和含风电IEEE118节点系统上的仿真结果表明,所提方法比传统机器学习方法精度更高,速度更快,泛化性能更好。且考虑风速特征后不同算法的模型精度均大大提高。

一种轻量级梯度提升机的交通模式识别

为研究居民出行轨迹的不同交通方式,基于已知出行交通方式的GPS轨迹信息,构建基于轻量级梯度提升机(LightGBM)的分类模型,对居民出行GPS轨迹进行交通方式分类.首先提取轨迹的各种基础特征,并进一步结合公交网络地理信息引入Fréchet距离进行特征提取,之后对特征进行归一化处理并基于决策树模型对特征进行筛选,最后对筛选后的特征进行模型训练与预测,并通过五折交叉验证方式获取了稳定的预测结果.结果表明:公交网络地理特征能够对模型预测精度进行有效提高,提出的GPS轨迹交通方式识别方法可达90%左右的精确度,优于各种机器学习分类模型.

一种基于轻量级梯度提升机的意图识别方法

运动意图识别作为帮助穿戴者主动控制下肢外骨骼的关键技术,近年来受到广泛重视.下肢表面肌电信号是目前最常用的识别信号源,但是表面肌电信号具有不稳定性,同时传统机器学习算法也难以快速处理大规模高维度数据.本文基于轻量级梯度提升机,提出了结合表面肌电信号和关节角度信号的下肢多源意图识别算法.实验通过巴特沃斯滤波器对采集到的表面肌电以及关节角度信号进行预处理,然后提取时域频域特征,使用训练后的模型对五种常见的下肢动作进行识别,识别准确率达到98.4%,相比于其它算法,有较高的准确率,运行速度也有较大的提升,证明了该方法的优越性.

基于轻量级梯度提升机的非对称风险注塑成形产品尺寸预测模型

受温度、气压等环境不稳定因素的影响,注塑成形加工过程中工艺参数发生变化,从而导致产品精度下降,产品降级或报废。针对类似环境不稳定因素影响问题,利用加工过程中的数据进行注塑成形尺寸预测,有助于不合格产品的及时发现,减少不合格品的产生。基于轻量级梯度提升机(LightGBM)框架设计了基于加工过程数据及参数的注塑成形产品尺寸预测模型,通过特征提取、异常数据处理、数据集划分、模型训练、模型验证等步骤,建立了具有非对称风险特征的产品尺寸预测模型。针对产品尺寸超规的非对称风险问题,在模型训练过程中引入了基于尺寸范围的加权修正方法,以提高预测模型对超规尺寸的预测精度。最后利用富士康注塑成形尺寸预测数据集进行了验证,结果表明,该模型对超规尺寸具有更高的预测精度,尺寸预测结果平均误差为0.015 mm,考虑非对称风险的加权平均误差为5×10^(-6) mm。

基于改进GWO-LightGBM的磨煤机故障预警方法研究

为提高燃煤电厂磨煤机运维效率、降低运维成本,对磨煤机故障预警进行了研究。创新性地提出一种基于改进灰狼优化(GWO)算法的轻量级梯度提升机(LightGBM)故障预警方法。通过建立LightGBM轴承温度预测模型获取磨煤机轴承温度阈值,并引入改进GWO算法优化模型超参数,以提高算法效率和性能。试验结果表明,改进GWO-LightGBM算法相比支持向量机(SVM)等传统算法具有更高的精度和更优的泛化能力。通过实际故障案例证明,该方法能够提前2 h对磨煤机进行早期故障预警。该方法对燃煤电厂磨煤机安全运维具有指导意义。

基于轻量级梯度提升机的南京大气臭氧浓度预测

采用南京地区2015年1月至2016年12月期间的空气质量数据和常规气象资料数据,分析了南京地区O_(3)浓度变化特征,建立基于轻量级梯度提升机(LightGBM)的O_(3)浓度预测模型,并将该模型与支持向量机、循环神经网络和随机森林等3种在空气质量预测方向上常用的机器学习方法进行了对比,验证模型的有效性和可行性.结果表明,南京地区O_(3)浓度变化具有显著的季节性差异,浓度变化受前期浓度、气象因子和其他空气污染物浓度的共同影响.LightGBM模型较为准确地预测了南京地区地面O_(3)浓度(R^(2)=0.92),且该模型的预测精度和计算效率等性能优于其他模型.尤其是在容易出现臭氧污染的高温天气,该模型预测准确性明显高于其他模型,模型稳定性较好.LightGBM具有预测准确度高、稳定性好、有良好的泛化能力和运算时间短等特点,在O_(3)浓度预测方面具有显著的优势.

基于LightGBM模型的甘肃省临夏县滑坡易发性评价

甘肃省临夏县地质环境复杂,滑坡灾害发育,对当地居民生产生活造成严重威胁,亦对工程建设的开展造成一定阻碍,因此,选取高效准确的机器学习方法对临夏县进行滑坡易发性评价具有重大意义。首先依据遥感影像和野外勘察资料,选取了1718处滑坡样本,遴选了滑坡灾变的16种影响因子并建立滑坡影响因子评价体系;再结合预测精度和运行时间等指标对比了轻量级梯度提升机(LightGBM)模型与主流机器学习模型的性能;最后利用混淆矩阵分级方法进行了基于LightGBM模型的临夏县滑坡易发性评价。结果表明:临夏县重要滑坡影响因子为地表植被和地形地貌因子,其中土地覆盖为最主要影响因子;LightGBM模型预测精度高达0.931,且运行速度仅为11.7 s,既能保证高精度又极大提升了运行效率;在抽稀后的数据集上,LightGBM模型的预测表现、校准程度和分级结果均优于随机森林(RF)模型;混淆矩阵分级法的较高和高易发区内滑坡分布更为集中,在14.94%的区域内分布着86.86%的滑坡灾害点。滑坡易发性评价结果较好地反映了研究区内滑坡分布发育情况,可为当地工程建设及防灾减灾工作提供一定指导。

基于注意力机制和LSTM-LightGBM的特高压直流输电线路可听噪声无效数据清洗方法

特高压直流输电线路可听噪声试验过程中,外界环境的突发性干扰会使实验数据中掺杂较多的无效数据,严重影响后续的数据分析。提出了一种基于注意力机制(attention mechanism,AM)和长短时记忆网络-轻量级梯度提升机(long short-term memory network-light gradient boosting machine,LSTM-LightGBM)的输电线路可听噪声无效数据清洗方法。首先,针对可听噪声数据的非线性、高维时序冗余特征等特点,以LSTM神经网络为基础进行特征提取;同时,引入特征维度注意力机制,自适应地分配权重来刻画关键特征信息的表达能力;进而,利用LightGBM对提取到的特征进行分类,检测出无效数据;然后,以某特高压直流输电线路实测可听噪声数据试验分析,结果表明该方法的检测精准率为95.55%,召回率为97.73%,F1分数为0.9663,均优于对比实验模型;最后,将无效数据删除并使用均值插补法填补,无效数据清洗后数据的50%值和95%值基本不变,仅降低无效数据的最大值和5%值。该算法对提高输电线路可听噪声数据的可靠性具有一定参考意义。

基于DGA与TPE-LightGBM的变压器故障诊断

油中溶解气体分析(dissolved gas analysis,DGA)对变压器故障的早期预警及诊断具有重要意义。为了提升变压器故障诊断的准确性及可靠性,提出一种基于树结构概率密度估计(tree-structured parzen estimator,TPE)算法优化轻量级梯度提升机(light gradient boosting machine,LightGBM)的变压器故障诊断方法。首先,建立包含油中气体比值、编码等16维DGA特征集合,采用最小绝对收缩和选择(least absolute shrinkage and selection opera-tor,LASSO)算法选择用于变压器故障诊断的有效特征量;其次,构建基于LightGBM的变压器故障诊断方法,并引入TPE算法对LightGBM诊断模型参数进行优化,形成最优故障诊断模型;最后,选用精确度、召回率和F1分数等评价指标对所提诊断模型性能进行评估。研究结果表明,TPE-LightGBM的平均准确率为90.23%,其诊断精度及鲁棒性均优于RF和XGBoost等算法。同时,与现场常用的三比值法进行对比,所提方法的准确性和可靠性均有显著提升。该方法可有效提升电力变压器的智能运维水平。

基于Bayesian-LightGBM模型的粮食产量预测研究

目前用于粮食产量预测模型如灰色关联模型普遍存在训练速度较慢、预测精度较低等问题。为解决该问题,以轻量级梯度提升机(LightGBM)模型为基础,将其损失函数修正为Huber损失函数,同时引入贝叶斯优化算法确定出最优超参数组合并输入该模型。以广西的早、晚水稻产量及16个粮食产量影响因素为数据集进行仿真试验,结果表明:基于线性回归的预测模型的平均绝对值误差为1.255,基于决策树的预测模型的平均绝对值误差为0.426,基于随机森林的预测模型的平均值误差为0.315,基于Bayesian-LightGBM的预测模型的平均绝对值误差为0.049。相比其他预测模型,Bayesian-LightGBM粮食产量预测模型能够更有效地实现粮食产量预测,预测精度更高。

基于LightGBM算法和出行链理论的电动汽车充电负荷多时间尺度预测模型

为提高电动汽车充电负荷预测的准确性,设计了一种基于轻量级梯度提升机(LightGBM)算法和出行链理论的电动汽车充电负荷多时间尺度预测模型。利用出行链描述用户出行过程,采用蒙特卡洛法抽取时空数据,计算不同区域出行和停留时间的概率密度函数,采用牛顿法划分多时间尺度充电概率,明确驾驶时空分布与充电状况,并运用模糊数学定理与LightGBM分类充电负荷数据,构建了多季节多时段预测模型。采用LightGBM高效并行计算模式,明确充电负荷变化规律,实现了多时间尺度预测。试验结果表明:所建立的模型在不同季节和电动汽车数量条件下,预测误差低于100 kW,预测空报率低于3%,可准确展现充电负荷的变化规律。

基于改进LightGBM的出港航班滑行时间预测

为提高机场场面运行效率,需要准确高效预测出港航班的滑行时间。分析出港航班滑行时间的影响因素并定义相应的参数,分析数值型特征的相关性。针对标准轻量级梯度提升机(light gradient boosting machine, LightGBM)算法超参数众多,使人为设定超参数可能会降低模型预测精度的问题,构建一种使用贝叶斯优化(Bayesian optimization, BO)获取LightGBM算法最优超参数组合的方法。为验证所提出模型的有效性,根据中国中部某大型枢纽机场的实际运行数据进行仿真验证,并与支持向量回归(SVR)模型和BP神经网络的预测结果进行比较,其结果表明,经贝叶斯优化调参的LightGBM(BO-LightGBM)算法的预测准确率和模型评估指标均优于其它方法。

基于IPSO-LightGBM模型的锂离子电池荷电状态预测

为有效提升锂离子电池的荷电状态(State of Charge,SOC)预测精度,提出一种基于改进粒子群优化算法(Improved Particle Swarm Optimization,IPSO)和轻量级梯度提升机(Light Gradient Boosting Machine,LightGBM)的锂离子电池SOC预测模型,LightGBM模型用于构建锂离子电池SOC的预测,IPSO用于优化LightGBM模型的超参数。首先,对公开数据集进行预处理,并使用多种策略改进基本粒子群优化算法;其次,建立基于IPSO-LightGBM、LightGBM和反向传播(Back Propagation,BP)神经网络的锂离子电池SOC预测模型;最后,使用马里兰大学提供的电池数据集对三种模型进行实验仿真。结果表明,IPSO-LightGBM模型的预测准确率优于未优化的LightGBM模型和BP神经网络模型。

基于IGOA-LightGBM模型的锂电池荷电状态预测

针对锂电池荷电状态(SOC)无法直接测量的问题,提出一种使用改进蝗虫优化算法(IGOA)优化轻量级梯度提升机器学习(LightGBM)的SOC预测模型。首先,引入非线性递减系数、自适应权重系数和位置更新策略改进标准GOA算法,获取最优种群个体。其次,利用IGOA寻找LightGBM算法中的最优超参数组合,建立IGOA-LightGBM预测模型;最后,在马里兰大学提供的电池数据集上,将IGOA-LightGBM、LightGBM和BP神经网络模型的预测结果进行对比。实验结果表明,IGOA-LightGBM模型表现最优,平均绝对误差、平均绝对值百分比误差和均方根误差分别为0.013%、0.022%、0.018%,具备良好的预测精度及工程研究意义。

一种无创预测血压的改进LightGBM学习方法

为提高无创血压预测模型的准确率,减小个人身体差异对准确率的影响,提出一种基于鲸鱼优化算法(WOA)与轻量级梯度提升机(LightGBM)的无创血压检测模型WOA-LightGBM。该模型首先提取预处理后的光电容积脉搏波、心电信号特征,并结合人体特征组成输入特征矩阵;然后通过核主成分分析法对输入特征矩阵进行降维,减少冗余;最后运用WOA优化LightGBM模型参数。实验结果表明,WOA-LightGBM模型预测的收缩压和舒张压的平均绝对误差均满足美国医疗仪器促进协会制定的标准(±5mmHg),与传统模型相比具有一定优势,且与传统水银血压计测量结果有高度一致性。

基于TVF-EMD、GRA和LightGBM的日径流预测组合模型

针对径流过程的非线性和非平稳性特点及预报精度低的问题,提出了结合时变滤波器的经验模态分解(TVF-EMD)、灰色关联度分析(GRA)和轻量级梯度提升机(LightGBM)的日径流预测组合模型。以黄河利津站和珠江高要站实测日径流序列为例,建立TVF-EMD-GRA-LightGBM(TGL)组合模型,并将其预测结果与多种单一或组合预测模型的预测结果进行了对比分析。结果表明:TGL组合模型高效且预测性能最佳,利津站和高要站日径流预测结果的纳什效率系数分别为0.949和0.966,相关系数分别为0.974和0.984,峰值流量预测误差分别小于0.078和0.073。TGL组合模型具有预测精度高、运行效率快、适用性强等优势,可用于日径流预测。

基于VAE-GWO-LightGBM的信用卡欺诈检测方法

针对信用卡欺诈检测中样本数据规模大、计算复杂程度高、数据分布极度不平衡等问题,提出一种结合变分自编码器(VAE)、灰狼算法(GWO)和轻量级梯度提升机(LightGBM)的信用卡欺诈检测(VAE-GWO-LightGBM)方法.对原始数据进行预处理,考虑到数据的不平衡性,采用VAE处理训练样本的数据不平衡问题.在扩充后的平衡数据集上,利用LightGBM作为分类器,并通过智能优化算法(GWO算法)对分类器参数进行寻优,进而获得最优分类器,提高欺诈检测性能.最后在信用卡欺诈数据和其他不平衡数据集上进行对比实验验证.结果表明,基于VAE-GWO-LightGBM的融合模型从整体上大大提高了信用卡欺诈检测的识别率.

基于改进Inception网络及LightGBM的弓网电弧识别方法

针对弓网电弧识别方法对数据识别的单一性问题,提出一种基于改进多尺度卷积网络(GInception)结合LightGBM的弓网电弧识别方法。运用完整集合经验模态分解(CEEMDAN)和小波软阈值相结合的方法对原始信号进行降噪重构,将重构信号进行广播机制(Broadcasting)处理,变成多维信号后输入到GInception网络中进行特征提取,再将GInception网络提取的特征导入到轻量级梯度提升机中进行识别。研究结果表明:该识别方法在5组工况下弓网电弧识别的准确率达到96.3%。研究结论可为电车弓网电弧识别提供参考。

基于高斯混合聚类和LightGBM算法的印度洋次表层温度反演研究

海洋次表层的热力结构对于海洋环流和全球气候变化具有重要的意义。提出一种新的融合高斯混合模型(gaussion mixture model, GMM)和轻量级梯度提升机(light gradient boosting machine, LightGBM)算法的海洋次表层温度(ocean subsurface temperature, OST)反演模型,利用海表温度(sea surface temperature, SST)、海表盐度(sea surface salinity, SSS)、海表高度(sea surface height, SSH)、海表风场(sea surface wind, SSW)的水平分量(USSW)和垂直分量(VSSW)等多源海表参数对印度洋海域的次表层热力结构进行反演,并采用均方根误差和决定系数对模型进行验证。结果表明:所提出的模型可以准确反演印度洋海域的OST分布特征和季节变化规律。在此基础上,设计了不同海表参数输入组合的3种对比实验来定量分析不同海表参数对LightGBM模型的影响。结果表明:所有海表参数对模型都有积极作用,但5个输入参数(SST、SSS、SSH、USSW和VSSW)的LightGBM模型反演效果最好,3个输入参数(SST、SSS和SSH)和2个输入参数(SST和SSH)的LightGBM模型次之。另外,与已有的极限梯度增强(extreme gradient boosting, XGBoost)反演模型相比,5个输入参数的LightGBM模型具有更好的模拟能力。