基于极端梯度提升树模型的工程项目安全管理研究

工程项目安全管理是建筑工程项目核心内容,部分建筑企业对效益的过分追求,导致工程项目经常出现事故。深入研究工程项目安全管理,有利于提高工程质量降低事故发生的概率。如何对项目安全进行管理,如何掌握项目实施过程中出现的各种风险因素,成为每一个项目管理者目前亟待解决的问题。该文通过运用极端梯度提升树模型对工程项目安全管理进行研究,建立安全管理模型并确立安全等级,为工程管理者对安全管理的决策提供依据。

基于ANN和XGB算法的锈蚀钢筋混凝土高温粘结强度预测方法

为准确评估锈蚀钢筋混凝土(CRC)结构在突发火灾下的结构承载力,锈蚀钢筋混凝土高温粘结强度的统一预测方法研究亟待开展。然而,粘结退化机理复杂,粘结因素众多,实验方法不能考虑所有粘结因素的相关复杂关系的影响。在现有大量试验数据的基础上,采用机器学习方法可以有效地通过数据建立输入和输出特征之间的回归关系。该文利用ANN和XGB两种机器学习算法建立了一个统一的锈蚀钢筋混凝土高温粘结强度预测模型。基于612组高温锈蚀钢筋混凝土的试验研究数据,进行模型训练和测试。结果表明:ML模型的预测结果与实验结果十分吻合。此外,针对机器学习算法本身存在的黑盒子问题,使用SHAP方法来解决锈蚀钢筋混凝土高温粘结强度预测过程中的模型可解释性问题。同时,还将ML模型的计算结果与三种理论计算公式的结果进行了比较,结果表明:ML模型具有明显的优势。新构建的混合机器学习模型很有可能成为准确评估CRC结构经受高温后的损伤程度问题的新选择。

基于STL-XGBoost-NBEATSx的小时天然气负荷预测

小时天然气负荷预测受外部特征因素与预测方法的影响,为提高其预测精度并解决其他深度学习类模型或组合模型可解释性差、训练时间过长的问题,在引入“小时影响度”这一新特征因素的同时提出一种基于极端梯度提升树(extreme gradient boosting tress,XGBoost)模型与可解释性神经网络模型NBEATSx组合预测的方法;以XGBoost模型作为特征筛选器对特征集数据进行筛选,再将筛选降维后的数据集输入到NBEATSx中训练,提高NBEATSx的训练速度与预测精度;将负荷数据与特征数据经STL(seasonal and trend decomposition using Loess)算法分解为趋势分量、季节分量与残差分量,再分别输入到XGBoost中进行预测,减弱原始数据中的噪音影响;将优化后的NBEATSx与XGBoost模型通过方差倒数法进行组合,得出STL-XGBoost-NBEATSx组合模型的预测结果。结果表明:“小时影响度”这一新特征是小时负荷预测的重要影响因素,STL-XGBoost-NBEATSx模型训练速度有所提高,具有良好的可解释性与更高的预测准确性,模型预测结果的平均绝对百分比误差、均方误差、平均绝对误差分别比其余单一模型平均降低54.20%、63.97%、49.72%,比其余组合模型平均降低24.85%、34.39%、23.41%,模型的决定系数为0.935,能够很好地拟合观测数据。

基于DE-XGBoost的短期风电功率预测

风电功率预测可为电力系统安全稳定运行提供重要的决策参考,因此研究如何提高风电功率预测精度具有重要意义。针对短期风电功率预测精度的问题,提出一种基于差分进化算法(DE)优化极端梯度提升树的组合预测模型(DE-XGBoost)。利用收敛速度快、优化效果好、复杂性低的差分进化算法对XGBoost的模型参数进行优化,实现对风电功率的准确预测。仿真结果证明,与其他预测模型相比,DE-XGBoost模型预测精度更高,泛化能力更强,可为风电调度运行提供详实的数据。

基于STOA-XGBoost的风电机组滚动轴承故障诊断

为保证风电机组的正常运行,提高风电机组滚动轴承故障诊断的可靠性,提出了一种基于STOA-XGBoost的风电机组滚动轴承故障诊断方法,提取振动信号时域特征作为故障特征,使用乌燕鸥优化算法对极端梯度提升树的超参数进行优化,提高模型的泛化能力和预测精度,利用训练好的模型进行故障诊断。实例表明,此诊断模型可以更加高效地识别风电机组滚动轴承故障。

基于LSTM-XGBoost和多模型算法的短期负荷预测

针对负荷数据波动性强、特征存在冗余而导致使用单一模型预测短期负荷时精度较低的问题,提出一种融合梯度提升树(GBDT)、自适应噪声完备集合经验模态分解(CEEMDAN)、长短期记忆(LSTM)和极端梯度提升(XGBoost)的短期负荷预测组合方法。首先利用GBDT对负荷数据集进行特征选择,筛选出重要特征;然后使用CEEMDAN将负荷序列分解后合并为低频分量和高频分量;再将低频分量输入到LSTM中进行预测,将高频分量输入到XGBoost中进行预测;最后,短期负荷的最终预测结果由两个模型的预测结果进行叠加而成。与单一预测模型相比,所提方法在短期负荷方面具有更高的准确性。

基于SHAP-XGBoost混合模型的梯级水电站流量动态滞时研究

水流滞时是影响梯级电站短期优化调度的重要因素。如何构建流量动态滞时模型以精确描述梯级水电上下游水力联系,成为水电短期优化调度中亟需解决的问题。尝试引入极端梯度提升树算法(eXtreme gradient boosting,XGBoost)作为表现梯级水电站间流量动态滞时的工具。首先利用沙普利加性解释(Shapley addictive explanation,SHAP)评估各输入特征重要性,并从中选择最优特征集。其次建立了一种基于极端梯度提升树的动态滞时模型,利用网格搜索和交叉验证算法对模型参数进行选取。最后基于实际案例与人工神经网络、支持向量回归及固定滞时模型进行对比实验。结果表明,所构建的SHAP-XGBoost模型能更准确地模拟水电站间动态滞时关系,与传统模型相比平均预测精度至少提高了18%,且与实测序列的变化趋势匹配程度最佳。同时证明了输入特征筛选的加入能够使模型精度进一步提高。

基于SSA-XGBoost的爆破振动预测系统的构建与应用

爆破振动质点速度峰值(Peak particle velocity,PPV)是衡量爆破振动对周围环境和结构物造成的影响程度的重要指标。为提高爆破振动质点速度峰值预测的可靠性,提出了一种基于麻雀搜索算法(Sparrow search algorithm,SSA)优化极端梯度提升树(Extreme gradient boosting,XGBoost)的PPV预测模型,通过Matlab软件中的App Designer模块构建了相应的爆破振动预测系统。通过36组训练数据和5组测试数据,选取了最大单段炸药量、爆心距和测点至爆破工作面的高程差作为模型输入参数,对PPV进行了预测。结果表明,提出的SSA-XGBoost模型相较于GA-BPNN模型和BPNN模型具有更小的平均相对误差,泰勒图进一步证明了SSA-XGBoost具有更高的预测精度和更好的稳定性。

基于XGBoost算法的胶凝砂砾石劈拉强度预测分析

将水泥质量浓度、砂率、水胶比和粉煤灰质量浓度设为输入变量,28 d劈拉强度设为输出变量,用极端梯度提升树(XGBoost)算法对胶凝砂砾石(CSG)的劈拉强度进行预测,并与随机森林(RF)算法的预测结果进行对比,以决策系数(R^(2))、均方根误差(RMSE)、平均绝对误差(MAE)和平均百分比误差(MAPE)作为评估标准对2种算法进行对比分析.结果表明:XGBoost算法的R2为0.968 1,具有高度的预测准确性;相比表现良好的RF算法,XGBoost算法测试集的RMSE和MAE均降低了0.003, MAPE降低了0.32%,表明XGBoost算法能够对CSG劈拉强度进行更为精准的预测.

叠加泛化集成的烧结水分预测LGBM-RF-XGB混合模型

针对烧结混合料水分预测的问题,引入了基于叠加泛化集成的建模方法,提出了Robust Scaler-Rank Gauss(RS-RG)混合算法对输入叠加模型的数据进行处理,进而建立了基于叠加泛化集成的烧结混合料水分预测轻量梯度提升机-随机森林-极端梯度提升机(LGBM-RF-XGB)混合模型,可以在烧结料混合前预知水分值.LGBM-RF-XGB叠加模型的内部机制是先从LGBM和RF模型生成元数据,再使用XGB模型计算最终预测.结合烧结现场数据,将提出的叠加模型与多个基准模型进行了对比仿真实验.结果表明,所提出叠加模型的精度和误差均优于用于对比的基准模型,满足烧结工艺要求,可以用于实际生产中的烧结混合料水分提前预测,为加水量自动控制提供理论依据.

基于XGBoost的输电线路火灾风险等级评估方法

山林火灾是威胁输电线路安全运行的威胁之一。首先,回顾湖南省2018—2020年的历史山火事件发生规律,在此基础上构建山火事件样本库,引入独热编码技术对线路植被类型等文本类特征进行数值化处理;然后,利用XGBoost技术构建输电线路山火风险评估模型,针对山火样本和正常运行样本的不平衡问题,基于代价敏感机制提出加权目标函数,减小样本不平衡导致的山火漏判问题;最后,通过湖南省永州市2020—2021年的山火事件进行测试,验证本文所提出的输电线路山火风险评估模型的有效性。

基于XGBoost的管道防腐层裂纹损伤识别算法研究

埋地管道因为在长期服役后防腐层产生的裂纹易导致管道金属层受到损害,为了避免损伤造成管道泄漏,有必要建立管道防腐层裂纹损伤识别智能化平台;通过引入集合经验模态分解,提取管道防腐层结构在裂纹损伤状态下的频域特征值并构建裂纹损伤数据系统;依次利用孤立森林、缺失森林和核主成分分析对损伤数据进行异常检测、数据补全和特征降维优化,构建适于管道防腐层裂纹损伤识别的extreme gradient boosting(XGBoost)模型;研究表明:基于XGBoost的管道防腐层裂纹损伤识别模型可准确地对裂纹长度进行有效检测,与gradient boosting decision tree(GBDT)和随机森林算法相比,其决定系数最大且均方误差最小,裂纹长度识别误差保持在4.37厘米以内,为管道防腐层结构健康检测和安全运输提供了有效的识别方法。

基于多中心队列数据的机器学习预测重症感染患儿死亡风险和筛选临床特征的研究

背景科学、有效地预测重症感染患儿死亡关联因素对降低儿童病死率意义重大。既往重症患儿的病情与死亡关系多采用评分预测(如PCIS等),准确度欠佳。目的通过机器学习联合特征筛选的方法,挖掘对重症感染患儿死亡风险具有早期预警作用的敏感指标。设计队列研究。方法基于全国20个省级行政区域的54家PICU的儿童多中心感染性疾病协作网数据库,纳入年龄>28天至18岁、确诊感染和至少有1个器官发生功能障碍的患儿,统计122项临床特征信息,以出PICU时死亡/恶化或治愈/好转为结局,通过机器学习构建逻辑回归模型(LR)、随机森林模型(RF)、极端梯度提升树(XGB)和反向传播神经网络(BP),筛选重要的临床特征建立重症感染患儿死亡风险预测模型。主要结局指标模型接收者操作特征曲线下面积(AUROC)和模型筛选临床特征性能的优劣。结果2022年4月1日至2023年12月31日协作网数据库中入PICU时确诊重症感染且入PICU时、入PICU 24 h时和出PICU时临床特征记录均完整的(病例1738例,经过数据预处理包括异常值处理、缺失值填充、强制值区间范围检验、归一化处理)1738条信息进入机器学习构建模型。存活或好转患儿1396例,死亡或恶化患儿342例(19.6%)。队列数据按4∶1分为训练集(1390条)和验证集(348条),训练集中存活或好转1116条,死亡或恶化274条;验证集中存活或好转280条,死亡或恶化68条。在训练集中,共输入模型122个临床特征,经过机器模型学习以及特征筛选后,在50轮的5折分层交叉验证下,验证集LR、RF和XGB的AUROC为0.74~0.78。LR、RF和XGB选择重要性大于均值的临床特征构建最优临床特征,尚无比较好的衡量BP特征重要性的方法,LR模型较RF和XGB构建的最优临床特征较为接近临床预期。结论机器学习预测儿童重症感染性疾病死亡/恶化结局表现一般,预测模型筛选的临床特征与临床预期尚有距离。

集成改进AHP与XGBoost算法的食品安全风险预测模型:以大米为例

近年来,我国在食品质量安全管控方面已有较大提升,但伴随着食品产业规模的增大,检验需求量的增多,食品安全检测数据出现高维、复杂且非线性等特征,这些特征会导致定量分析数据利用率低,从而直接影响以数据为载体的风险预测模型的准确性。为提高风险预测模型的准确性,以食品安全检测数据为基础,提出了一种集成层次分析法与极端梯度提升树算法的食品安全风险预测模型,并通过食品安全限定指标对集成模型进行优化改进,从而实现更高效准确的食品安全风险评估。研究以除港澳台外的全国31个省大米危害物检测数据为例,详细阐述了模型的使用方法,检验结果表明,该风险预测模型具有较强的平稳性与较高的准确性。研究旨在为食品安全监管部门评估决策提供一定的理论依据及参考。

考虑换道博弈的驾驶风格在线识别方法

驾驶风格是驾驶行为的外在表达,激进风格的驾驶员容易进行更为频繁的危险驾驶操作,加剧车辆之间的交互作用,影响换道安全。在换道动作执行前识别驾驶员的驾驶风格,可以通过个性化预警信息有效约束驾驶员行为。文中提出了一种网联环境下考虑换道博弈的驾驶风格在线识别方法SHAP-XGBoost,以期在换道意图期间完成驾驶风格的识别。首先,将换道意图期间换道车辆及其周围车辆的个体行为和博弈行为的波动程度作为输入特征变量,通过相关性分析、主成分分析以及4种不同聚类方法对驾驶风格进行标记;然后,利用提出的SHAP-XGBoost模型选择关键特征,以训练驾驶风格识别模型,并通过滑动窗口完成在线识别;最后,采用HighD数据进行实验。结果表明:与基于质心距离、连通性、密度分布的聚类方法相比,基于图论原理的谱聚类可以更好地根据输入特征变量的形态标记驾驶风格;利用SHAP-XGBoost模型及14个关键特征进行驾驶风格识别,可以在不损失准确率的同时提高在线识别效率,驾驶风格识别准确率高达99%;同时将个体特征和博弈特征作为模型的输入时,可以提升驾驶风格标记和识别的准确率。此研究成果可为个性化换道决策和预警提供支持。

基于极端梯度提升树算法的图像属性标注

提出基于极端梯度提升树(eXtreme gradient boosting, XGBoost)算法的图像属性标注模型,以改善标注性能:提取图像局部二值模式(local binary patterns, LBP)、灰度纹理空间包络特征(Gist)、尺度不变特征变换(scale invariant feature transform, SIFT)、视觉几何组(visual geometry group, VGG)等特征,以准确刻画图像视觉内容;基于图像特征,采用XGBoost算法集成弱分类器为强分类器,完成图像属性标注;深入挖掘图像属性蕴含的深层语义,构建全新的、层次化的属性表示体系,以贴近人类客观认知;设计迁移学习策略并合理组合分类模型,进一步改善标注性能。试验表明:Gist特征能真实刻画图像视觉内容;执行基础迁移学习后,标注精准度比迁移学习前最优指标提升8.69%;执行混合型迁移学习后,合理组合分类模型,标注精准度比基础迁移学习的最优指标提升17.55%。模型有效地改善图像属性标注精度。

金融市场极端风险状态预测模型及其应用

随着经济全球化发展和国内金融市场的逐步开放,中国金融市场也遭受着来自国外金融风险的威胁与挑战。充分考量中国金融市场部分特征化事实,结合中国的现实情况,以中国金融市场为研究对象,选取了13个代表性指标,利用2005年1月—2021年6月的数据构建了中国金融市场风险指数,并且通过事件匹配方法检验指数识别作用的有效性。进一步,运用XGBoost模型预测中国金融市场极端风险,采用多种评价指标将其与传统的SVM、GBRT、RF和MLP模型进行比较研究,并利用配对样本T检验和弗里德曼检验对各个模型预测效果的差异进行显著性检验。最后结合SHAP和LIME方法展示了不同特征指标对中国金融市场风险的贡献度。实证结果表明:(1)所构建的指数较好地符合了我国金融市场风险变化的实际情况;(2)XGBoost预测模型对于极端金融风险样本识别能力较强、准确性较高,与其余模型相比,其预测性能更加优异,而且具有明显的统计检验意义。(3)利用Shapley和LIME方法挖掘出了影响中国金融市场风险的主要因素及其时变特征,且阈值效应的发现有利于金融部门对金融市场风险进行针对性的审慎监管。

基于特征选择策略和TCN的电力负荷预测方法

电力负荷由于受到多种外部因素影响,具有较大的波动性和随机性,使得高精度的负荷预测十分困难。为有效处理高维特征以提高模型预测精度,提出了一种基于特征选择策略和时间卷积神经网络的电力负荷预测方法。首先,采用基于极端梯度提升树的特征选择策略,深度挖掘与负荷关联性强的特征作为预测模型的输入;其次,构建基于时间卷积神经网络(TCN)的电力负荷预测模型,对特征选择后的负荷数据进行预测;最后,采用某市真实负荷数据进行仿真分析。结果表明,文中所提方法与传统预测方法相比,具有更高的预测精度。

基于集成学习的入侵检测模型

入侵检测系统通过对网络上的恶意行为检测,来保证网络安全和计算机系统的稳定,随着人工智能技术的发展,机器学习与深度学习算法被广泛应用在入侵检测系统中。以入侵检测模型为研究目标,针对网络异常行为检测中的不平衡数据多分类问题,对现有的网络异常行为检测多分类模型进行优化,提出了一种基于卷积神经网络、LSTM(Long Short-Term Memory)神经网络与XGBoost(eXtreme Gradient Boosting)算法集成的检测模型(CNN+LSTM-In-XGBoost)。该模型包括数据预处理、长短期神经网络模型训练、数据降维、采样后XGBoost模型训练3个部分,通过对UNSW-NB15数据集进行实验分析,发现其准确率和分类平均f1-score均高于基准算法,特别少数类样本的分类准确率相比基准机器学习算法与神经网络模型有较大提升。

基于XGBoost特征选取和迭加权相关权重矩阵的高分五号遥感影像变化检测

提出一种基于迭加权相关权重矩阵(IR-CWM),使用XGBoost机器学习模型训练选取特征变化波段,训练预测变化检测结果的方法(IR-CWM-XGB).以国产高分五号(GF-5)高光谱遥感影像为数据源,经过预处理后,通过迭代加权得到迭加权相关权重矩阵(IR-CWM),然后经过XGBoost算法选取特征波段,选取随机样本进行模型训练,使用最终模型生成变化的结果.实验结果表明:本研究方法与变化矢量分析(CVA)变化检测方法、主成分变化矢量分析(PCA-CVA)变化检测方法、迭加权多元(IR-MAD)方法、卷积神经网络(CNN)等方法进行对比,本研究方法变化检测结果的Kappa系数和总体精度较高,误检率较低.