基于极端梯度提升树模型的工程项目安全管理研究

工程项目安全管理是建筑工程项目核心内容,部分建筑企业对效益的过分追求,导致工程项目经常出现事故。深入研究工程项目安全管理,有利于提高工程质量降低事故发生的概率。如何对项目安全进行管理,如何掌握项目实施过程中出现的各种风险因素,成为每一个项目管理者目前亟待解决的问题。该文通过运用极端梯度提升树模型对工程项目安全管理进行研究,建立安全管理模型并确立安全等级,为工程管理者对安全管理的决策提供依据。

极端梯度提升与随机森林融合的天然气露点预测方法

目的解决目前水露点数据多为人工采用测量仪器测得,时效性低且成本高昂的问题。方法建立一种基于极端梯度提升(XGBoost)和随机森林(RF)的天然气水露点预测方法。采用XGBoost方法对所有监测工艺参数进行分析,筛选出主要影响水露点的关键工艺特征参数,以排除无关特征参数对预测的干扰。建立RF预测模型,输入关键特征集参数,实现对水露点的实时预测。以重庆气矿某脱水监测系统监测数据与生产数据为例,对所提预测方法进行对比分析验证。结果相较于XGBoost、SVM等预测方法,RF模型具有最佳的预测性能,且经过XGBoost特征选择后,RF预测结果的MAE值降低了0.0169℃,RMSE值降低了0.0146℃。结论基于极端梯度提升与随机森林融合的水露点预测方法具有更优的预测精度与鲁棒性,对指导脱水现场生产具有积极作用。

一种基于梯度提升树算法的DGA域名检测方法

勒索病毒、僵尸网络等恶意软件在互联网日益泛滥,已成为威胁网络安全运行的重要因素。域名作为恶意软件与命令和控制(Command and Control,C&C)服务器的主要通信方式,是检测和防范的重要途径。但域名生成算法(Domain Generation Algorithm,DGA)的不断改进发展,给传统的基于威胁情报的检测方式带来了巨大挑战,而机器学习技术逐渐成为应对DGA域名的主要途径。梯度提升树算法作为机器学习中重要的分类算法,能够适应DGA域名检测场景。基于XGBoost框架,采用开放域名数据作为样本集,研究了基于梯度提升树算法的DGA域名检测方法,并通过域名向量转换、检测模型训练、参数调优,实现了一个高效的DGA域名检测模型。

基于CFS特征选取与极限梯度提升树的短期风电功率预测

在风力发电工程的实际应用中,气候是影响风电输出功率的主要因素。为从众多气候因素中筛选重要的特征建立精准的预测模型,本文首先利用基于相关性的CFS特征选择算法对原始特征集进行精简。然后,以精简后的特征集作为模型输入,建立基于极限梯度提升树的短期风功率预测模型。最后,对测试集进行短期风功率预测,验证模型的准确性。实例分析结果表明,CFS特征选取算法能够对特征集进行有效精简,而极限梯度提升树相对传统的机器学习模型而言具备更佳的预测效果。

采用极限梯度提升算法的电力系统电压稳定裕度预测

将极限梯度提升树(XGBoost)算法应用于电力系统电压稳定评估问题.根据电压稳定问题特点,提出能够反映电力系统运行状态的特征集;把电压稳定裕度绝对值作为映射目标,并介绍生成样本集的方法.在介绍XGBoost算法基本原理的基础上,研究该算法的技术细节.在IEEE-39节点系统上进行验证,结果表明,XGBoost算法在R方值和平均绝对百分误差2项回归指标上均优于其他几类机器学习算法,且模型的计算速度最快,可以满足在线应用要求.同时,XGBoost算法具有良好的数值错误和数值缺失容错性,并可以针对预测偏差较大的样本进行数据补充,实现模型的更新,使得模型表现趋于稳定.

基于最大信息系数-双层置信极端梯度提升树的电网虚假数据注入攻击定位检测

面向高维复杂的电力量测数据,现有攻击定位检测方法存在定位精度差的问题。为此该文提出一种基于最大信息系数-双层置信极端梯度提升树的电网虚假数据注入攻击定位检测方法。所提方法引入最大信息系数对量测数据进行特征选择,能够非线性地衡量数据特征之间的关联性,且公平地根据一个特征变量中包含另一个特征变量的信息量来去除冗余特征,有效解决虚假数据注入攻击定位检测方法普遍面临的量测数据高维冗余问题;同时提出一种具有正反馈信息传递作用的双层置信极端梯度提升树来对各节点状态进行分类,通过结合电网拓扑关系学习标签相关性,从而有选择性地利用前序标签有效预测信息,来减少后续分类器学习到的前序标签预测信息中包含的错误,最终实现对受攻击位置的精确定位。在IEEE-14、IEEE-57节点系统上进行大量仿真,算例结果验证了所提方法的有效性,且相较于其他方法具有更高的准确率、精度、召回率、F1值和AUC(area under curve)值。

基于STL-XGBoost-NBEATSx的小时天然气负荷预测

小时天然气负荷预测受外部特征因素与预测方法的影响,为提高其预测精度并解决其他深度学习类模型或组合模型可解释性差、训练时间过长的问题,在引入“小时影响度”这一新特征因素的同时提出一种基于极端梯度提升树(extreme gradient boosting tress,XGBoost)模型与可解释性神经网络模型NBEATSx组合预测的方法;以XGBoost模型作为特征筛选器对特征集数据进行筛选,再将筛选降维后的数据集输入到NBEATSx中训练,提高NBEATSx的训练速度与预测精度;将负荷数据与特征数据经STL(seasonal and trend decomposition using Loess)算法分解为趋势分量、季节分量与残差分量,再分别输入到XGBoost中进行预测,减弱原始数据中的噪音影响;将优化后的NBEATSx与XGBoost模型通过方差倒数法进行组合,得出STL-XGBoost-NBEATSx组合模型的预测结果。结果表明:“小时影响度”这一新特征是小时负荷预测的重要影响因素,STL-XGBoost-NBEATSx模型训练速度有所提高,具有良好的可解释性与更高的预测准确性,模型预测结果的平均绝对百分比误差、均方误差、平均绝对误差分别比其余单一模型平均降低54.20%、63.97%、49.72%,比其余组合模型平均降低24.85%、34.39%、23.41%,模型的决定系数为0.935,能够很好地拟合观测数据。

基于WOA-XGBoost的膜下滴灌棉花蒸散量预测模型

为了科学准确地预测膜下滴灌棉花蒸散量,基于鲸鱼优化算法(whale optimization algorithm,WOA)和极端梯度提升树(XGBoost),提出了WOA-XGBoost棉花蒸散量预测模型.采用最大互信息系数(maximal information coefficient,MIC)筛选影响棉花蒸散量的关键因素,依据相关系数排序构建输入组合,代入WOA-XGBoost模型进行模拟.并与XGBoost,SVM,WOA-SVM和PSO-XGBoost预测结果进行对比验证.结果表明:太阳辐射、最低气温、最高气温、相对湿度、风速和土壤温度与棉花蒸散量相关性较大,其MIC值分别为0.722,0.546,0.496,0.475,0.379和0.219,基于上述6个因素构建的WOA-XGBoost模型综合性能最优,R^(2),MAE,RMSE和MAPE分别为0.922,0.038 mm/h,0.064 mm/h和0.221,预测精度均优于相同输入参数下的其他4种模型.因此,推荐使用WOA-XGBoost模型模拟相关因素与膜下滴灌棉花蒸散量之间的非线性关系.研究可为精确计算膜下滴灌棉花蒸散量提供科学依据,为灌溉决策优化提供参考.

基于DE-XGBoost的短期风电功率预测

风电功率预测可为电力系统安全稳定运行提供重要的决策参考,因此研究如何提高风电功率预测精度具有重要意义。针对短期风电功率预测精度的问题,提出一种基于差分进化算法(DE)优化极端梯度提升树的组合预测模型(DE-XGBoost)。利用收敛速度快、优化效果好、复杂性低的差分进化算法对XGBoost的模型参数进行优化,实现对风电功率的准确预测。仿真结果证明,与其他预测模型相比,DE-XGBoost模型预测精度更高,泛化能力更强,可为风电调度运行提供详实的数据。

基于IDBO-XGBoost的铁路隧道岩爆烈度等级预测方法与应用

为减少铁路隧道施工过程中岩爆事故的发生,在施工前做好岩爆烈度等级预测,提出了改进蜣螂优化算法(Improved Dung Beetle Optimizer,IDBO)与极限梯度提升树(Extreme Gradient Boosting,XGBoost)相结合的铁路隧道岩爆烈度等级预测模型。首先,依据岩爆成因及特点,综合选取围岩切向应力(σθ)等四个特征因素作为预测岩爆烈度等级的主控因素,建立岩爆烈度等级预测数据集;其次,引入Sine混沌映射、黄金正弦策略(Golden Sine Strategy,SA)、自适应高斯-柯西变异扰动策略以及贪婪选择策略并进行改进,以提高其全局搜索能力和稳定性;而后利用IDBO优化XGBoost中的超参数提升其预测精度,同时避免XGBoost出现“过拟合”现象;最后,将其结果与DBO-XGBoost、粒子群算法优化反向传播神经网络模型(Particle Swarm-Optimization Back Propagation Neural Network,PSO-BPNN)和遗传算法优化支持向量机模型(Genetic Algorithm Support-Vector Machine,GA-SVM)的结果进行对比。结果表明:IDBO-XGBoost模型准确率最高,相较于其他三种模型在测试样本中的准确率分别提高了8.69%、17.39%、8.69%;IDBO-XGBoost模型在处理岩爆问题上能更好地捕捉岩爆等级与指标之间的联系,可为实际工程的岩爆预测提供科学依据。

基于STOA-XGBoost的风电机组滚动轴承故障诊断

为保证风电机组的正常运行,提高风电机组滚动轴承故障诊断的可靠性,提出了一种基于STOA-XGBoost的风电机组滚动轴承故障诊断方法,提取振动信号时域特征作为故障特征,使用乌燕鸥优化算法对极端梯度提升树的超参数进行优化,提高模型的泛化能力和预测精度,利用训练好的模型进行故障诊断。实例表明,此诊断模型可以更加高效地识别风电机组滚动轴承故障。

在线医药电商评论情感分析——基于XGBoost集成加权词向量和大语言模型的情感识别模型

消费者评论是考察消费者情感的重要数据源,对商品评论进行数据挖掘是帮助在线医药电商改善经营的重要途径。立足于在线医药电商的用户评论,基于SO-PMI(情感倾向点互信息)算法构建该领域情感词典,对评论词向量进行情感加权。利用XGBoost(极限梯度提升树)集成词向量和LLM(大语言模型)构建情感识别模型,最后得出评论情感指数,从多个维度展开,分析消费者评论中的情感趋势。实证分析表明,构建的情感识别模型的AUC(曲线下的面积)等验证指标较LLM模型相比有进一步提升,具有一定的应用价值。

集成改进AHP与XGBoost算法的食品安全风险预测模型:以大米为例

近年来,我国在食品质量安全管控方面已有较大提升,但伴随着食品产业规模的增大,检验需求量的增多,食品安全检测数据出现高维、复杂且非线性等特征,这些特征会导致定量分析数据利用率低,从而直接影响以数据为载体的风险预测模型的准确性。为提高风险预测模型的准确性,以食品安全检测数据为基础,提出了一种集成层次分析法与极端梯度提升树算法的食品安全风险预测模型,并通过食品安全限定指标对集成模型进行优化改进,从而实现更高效准确的食品安全风险评估。研究以除港澳台外的全国31个省大米危害物检测数据为例,详细阐述了模型的使用方法,检验结果表明,该风险预测模型具有较强的平稳性与较高的准确性。研究旨在为食品安全监管部门评估决策提供一定的理论依据及参考。

基于XGBoost的隧道掘进机操作参数智能决策系统设计

为了实现隧道施工的同质化,提出基于极端梯度提升算法(XGBoost)预测模型的隧道掘进机(TBM)操作参数的智能决策方法.定义场操作系数指数(FOI)作为替代传统场切深指数(FPI)的围岩级别特征参数,使用XGBoost算法建立预测模型以实现对FOI的预测,对围岩级别进行预测、判断.通过对优秀司机在特定FOI下TBM操作参数的选择,建立专家模型实现FOI与特定TBM操作参数的关联,实现TBM操作参数的智能决策.使用引松工程的现场数据进行对比实验,结果表明,设计的TBM操作参数的智能决策系统能够实现对优秀的TBM司机操作参数决策的复现,相比于以FPI为特征参数的传统智能决策系统,新系统的推进速度和刀盘转速两部分的平均相对误差分别下降8.84%和7.97%.

基于GRU和XGBoost的矿压显现规律预测

采用光纤传感器监测的光纤频移值对矿压显现规律进行表征的过程中,传感器采集的数据存在缺失现象,无法准确预测矿压显现规律。针对该问题,以千秋煤矿为工程背景,在假设光纤下半部分数据丢失的前提下,引入GRU(门控循环单元)和LSTM(长短期记忆网络)2种预测模型,对缺失的光纤频移值进行对比预测,得出GRU模型的收敛速度优于LSTM模型的收敛速度,说明基于GRU模型的缺失值处理方法较优。将原始完整的光纤频移值转换为可表征矿压显现位置的光纤平均频移变化度,引入XGBoost(极端梯度提升)模型和BP神经网络模型进行对比预测,XGBoost模型能准确预测出测试集中所有出现“尖峰”的位置,而BP神经网络模型只预测出2处“尖峰”位置,说明XGBoost模型的预测效果优于BP神经网络模型的预测效果。将预测出的光纤频移缺失值替换至缺失位置,形成“完整”光纤频移值数据,将该数据转换为光纤平均频移变化度后,采用XGBoost模型进行预测。验证结果表明:LSTM模型及GRU模型均可准确预测出光纤下半部分的数据,且GRU模型准确性较LSTM模型准确性高;使用XGBoost可准确预测出测试集中出现的周期来压;通过GRU模型预测出的缺失数据经整合至缺失位置后,使用XGBoost模型仍可进行有效的矿压预测。

基于极端梯度提升树算法的图像属性标注

提出基于极端梯度提升树(eXtreme gradient boosting, XGBoost)算法的图像属性标注模型,以改善标注性能:提取图像局部二值模式(local binary patterns, LBP)、灰度纹理空间包络特征(Gist)、尺度不变特征变换(scale invariant feature transform, SIFT)、视觉几何组(visual geometry group, VGG)等特征,以准确刻画图像视觉内容;基于图像特征,采用XGBoost算法集成弱分类器为强分类器,完成图像属性标注;深入挖掘图像属性蕴含的深层语义,构建全新的、层次化的属性表示体系,以贴近人类客观认知;设计迁移学习策略并合理组合分类模型,进一步改善标注性能。试验表明:Gist特征能真实刻画图像视觉内容;执行基础迁移学习后,标注精准度比迁移学习前最优指标提升8.69%;执行混合型迁移学习后,合理组合分类模型,标注精准度比基础迁移学习的最优指标提升17.55%。模型有效地改善图像属性标注精度。

基于XGBoost特征选取和迭加权相关权重矩阵的高分五号遥感影像变化检测

提出一种基于迭加权相关权重矩阵(IR-CWM),使用XGBoost机器学习模型训练选取特征变化波段,训练预测变化检测结果的方法(IR-CWM-XGB).以国产高分五号(GF-5)高光谱遥感影像为数据源,经过预处理后,通过迭代加权得到迭加权相关权重矩阵(IR-CWM),然后经过XGBoost算法选取特征波段,选取随机样本进行模型训练,使用最终模型生成变化的结果.实验结果表明:本研究方法与变化矢量分析(CVA)变化检测方法、主成分变化矢量分析(PCA-CVA)变化检测方法、迭加权多元(IR-MAD)方法、卷积神经网络(CNN)等方法进行对比,本研究方法变化检测结果的Kappa系数和总体精度较高,误检率较低.

群智能算法优化XGBoost的信贷风险预测

为改善极端梯度提升(extreme gradient boosting,XGBoost)集成算法的信贷风险预测准确率,提出了一种改进的麻雀算法(improved sparrow search algorithm based on golden sine search,Cauchy mutation and oppositionbased learning,GCOSSA)来优化XGBoost参数。采用黄金正弦搜索策略来更新发现者位置,既增强全局搜索能力又增强局部搜索能力;在算法中引入反向学习策略和柯西变异进行扰动来扩大搜索领域改善陷入局部最优,同时使用贪婪规则确定最优解;将改进的算法用6个基准函数进行测试,并对SSA和GCOSSA进行对比,评估GCOSSA寻优性能;用GCOSSA优化XGBoost参数。在数据集上测试,并与网格搜索寻优、SSA及其混合正余弦改进算法(improved sparrow search algorithm based on sine and cosine,ISSA)方法进行对比。结果表明改进后的GCOSSA优化XGBoost参数,在信贷风险预测中准确率更高。

金融市场极端风险状态预测模型及其应用

随着经济全球化发展和国内金融市场的逐步开放,中国金融市场也遭受着来自国外金融风险的威胁与挑战。充分考量中国金融市场部分特征化事实,结合中国的现实情况,以中国金融市场为研究对象,选取了13个代表性指标,利用2005年1月—2021年6月的数据构建了中国金融市场风险指数,并且通过事件匹配方法检验指数识别作用的有效性。进一步,运用XGBoost模型预测中国金融市场极端风险,采用多种评价指标将其与传统的SVM、GBRT、RF和MLP模型进行比较研究,并利用配对样本T检验和弗里德曼检验对各个模型预测效果的差异进行显著性检验。最后结合SHAP和LIME方法展示了不同特征指标对中国金融市场风险的贡献度。实证结果表明:(1)所构建的指数较好地符合了我国金融市场风险变化的实际情况;(2)XGBoost预测模型对于极端金融风险样本识别能力较强、准确性较高,与其余模型相比,其预测性能更加优异,而且具有明显的统计检验意义。(3)利用Shapley和LIME方法挖掘出了影响中国金融市场风险的主要因素及其时变特征,且阈值效应的发现有利于金融部门对金融市场风险进行针对性的审慎监管。

基于LSTM-XGBoost和多模型算法的短期负荷预测

针对负荷数据波动性强、特征存在冗余而导致使用单一模型预测短期负荷时精度较低的问题,提出一种融合梯度提升树(GBDT)、自适应噪声完备集合经验模态分解(CEEMDAN)、长短期记忆(LSTM)和极端梯度提升(XGBoost)的短期负荷预测组合方法。首先利用GBDT对负荷数据集进行特征选择,筛选出重要特征;然后使用CEEMDAN将负荷序列分解后合并为低频分量和高频分量;再将低频分量输入到LSTM中进行预测,将高频分量输入到XGBoost中进行预测;最后,短期负荷的最终预测结果由两个模型的预测结果进行叠加而成。与单一预测模型相比,所提方法在短期负荷方面具有更高的准确性。