基于极端梯度提升树模型的工程项目安全管理研究

工程项目安全管理是建筑工程项目核心内容,部分建筑企业对效益的过分追求,导致工程项目经常出现事故。深入研究工程项目安全管理,有利于提高工程质量降低事故发生的概率。如何对项目安全进行管理,如何掌握项目实施过程中出现的各种风险因素,成为每一个项目管理者目前亟待解决的问题。该文通过运用极端梯度提升树模型对工程项目安全管理进行研究,建立安全管理模型并确立安全等级,为工程管理者对安全管理的决策提供依据。

基于ANN和XGB算法的锈蚀钢筋混凝土高温粘结强度预测方法

为准确评估锈蚀钢筋混凝土(CRC)结构在突发火灾下的结构承载力,锈蚀钢筋混凝土高温粘结强度的统一预测方法研究亟待开展。然而,粘结退化机理复杂,粘结因素众多,实验方法不能考虑所有粘结因素的相关复杂关系的影响。在现有大量试验数据的基础上,采用机器学习方法可以有效地通过数据建立输入和输出特征之间的回归关系。该文利用ANN和XGB两种机器学习算法建立了一个统一的锈蚀钢筋混凝土高温粘结强度预测模型。基于612组高温锈蚀钢筋混凝土的试验研究数据,进行模型训练和测试。结果表明:ML模型的预测结果与实验结果十分吻合。此外,针对机器学习算法本身存在的黑盒子问题,使用SHAP方法来解决锈蚀钢筋混凝土高温粘结强度预测过程中的模型可解释性问题。同时,还将ML模型的计算结果与三种理论计算公式的结果进行了比较,结果表明:ML模型具有明显的优势。新构建的混合机器学习模型很有可能成为准确评估CRC结构经受高温后的损伤程度问题的新选择。

基于STL-XGBoost-NBEATSx的小时天然气负荷预测

小时天然气负荷预测受外部特征因素与预测方法的影响,为提高其预测精度并解决其他深度学习类模型或组合模型可解释性差、训练时间过长的问题,在引入“小时影响度”这一新特征因素的同时提出一种基于极端梯度提升树(extreme gradient boosting tress,XGBoost)模型与可解释性神经网络模型NBEATSx组合预测的方法;以XGBoost模型作为特征筛选器对特征集数据进行筛选,再将筛选降维后的数据集输入到NBEATSx中训练,提高NBEATSx的训练速度与预测精度;将负荷数据与特征数据经STL(seasonal and trend decomposition using Loess)算法分解为趋势分量、季节分量与残差分量,再分别输入到XGBoost中进行预测,减弱原始数据中的噪音影响;将优化后的NBEATSx与XGBoost模型通过方差倒数法进行组合,得出STL-XGBoost-NBEATSx组合模型的预测结果。结果表明:“小时影响度”这一新特征是小时负荷预测的重要影响因素,STL-XGBoost-NBEATSx模型训练速度有所提高,具有良好的可解释性与更高的预测准确性,模型预测结果的平均绝对百分比误差、均方误差、平均绝对误差分别比其余单一模型平均降低54.20%、63.97%、49.72%,比其余组合模型平均降低24.85%、34.39%、23.41%,模型的决定系数为0.935,能够很好地拟合观测数据。

钢纤维混凝土抗压强度预测方法研究

通过机器学习算法建立钢纤维混凝土抗压强度预测模型。采用集成机器学习算法,通过集成多个弱学习器来构造一个强学习器,从而找到钢纤维混凝土设计参数和其抗压强度之间的映射关系。预测误差较小的弱学习器权重较大,可提高机器学习模型的整体精度。从现有文献中收集钢纤维混凝土抗压强度实验数据,用来训练集成机器学习模型,其中以钢纤维混凝土成分(例如粗/细集料、水泥、水、钢纤维掺量等)作为输入数据,以抗压强度值作为输出数据。模型验证测试数据集的结果表明,所采用的集成机器学习模型对预测钢纤维混凝土抗压强度的预测精度很高(MAPE=1.16%),并且高于传统的单一机器学习预测模型(MAPE=1.76%)。

基于多中心队列数据的机器学习预测重症感染患儿死亡风险和筛选临床特征的研究

背景科学、有效地预测重症感染患儿死亡关联因素对降低儿童病死率意义重大。既往重症患儿的病情与死亡关系多采用评分预测(如PCIS等),准确度欠佳。目的通过机器学习联合特征筛选的方法,挖掘对重症感染患儿死亡风险具有早期预警作用的敏感指标。设计队列研究。方法基于全国20个省级行政区域的54家PICU的儿童多中心感染性疾病协作网数据库,纳入年龄>28天至18岁、确诊感染和至少有1个器官发生功能障碍的患儿,统计122项临床特征信息,以出PICU时死亡/恶化或治愈/好转为结局,通过机器学习构建逻辑回归模型(LR)、随机森林模型(RF)、极端梯度提升树(XGB)和反向传播神经网络(BP),筛选重要的临床特征建立重症感染患儿死亡风险预测模型。主要结局指标模型接收者操作特征曲线下面积(AUROC)和模型筛选临床特征性能的优劣。结果2022年4月1日至2023年12月31日协作网数据库中入PICU时确诊重症感染且入PICU时、入PICU 24 h时和出PICU时临床特征记录均完整的(病例1738例,经过数据预处理包括异常值处理、缺失值填充、强制值区间范围检验、归一化处理)1738条信息进入机器学习构建模型。存活或好转患儿1396例,死亡或恶化患儿342例(19.6%)。队列数据按4∶1分为训练集(1390条)和验证集(348条),训练集中存活或好转1116条,死亡或恶化274条;验证集中存活或好转280条,死亡或恶化68条。在训练集中,共输入模型122个临床特征,经过机器模型学习以及特征筛选后,在50轮的5折分层交叉验证下,验证集LR、RF和XGB的AUROC为0.74~0.78。LR、RF和XGB选择重要性大于均值的临床特征构建最优临床特征,尚无比较好的衡量BP特征重要性的方法,LR模型较RF和XGB构建的最优临床特征较为接近临床预期。结论机器学习预测儿童重症感染性疾病死亡/恶化结局表现一般,预测模型筛选的临床特征与临床预期尚有距离。

考虑换道博弈的驾驶风格在线识别方法

驾驶风格是驾驶行为的外在表达,激进风格的驾驶员容易进行更为频繁的危险驾驶操作,加剧车辆之间的交互作用,影响换道安全。在换道动作执行前识别驾驶员的驾驶风格,可以通过个性化预警信息有效约束驾驶员行为。文中提出了一种网联环境下考虑换道博弈的驾驶风格在线识别方法SHAP-XGBoost,以期在换道意图期间完成驾驶风格的识别。首先,将换道意图期间换道车辆及其周围车辆的个体行为和博弈行为的波动程度作为输入特征变量,通过相关性分析、主成分分析以及4种不同聚类方法对驾驶风格进行标记;然后,利用提出的SHAP-XGBoost模型选择关键特征,以训练驾驶风格识别模型,并通过滑动窗口完成在线识别;最后,采用HighD数据进行实验。结果表明:与基于质心距离、连通性、密度分布的聚类方法相比,基于图论原理的谱聚类可以更好地根据输入特征变量的形态标记驾驶风格;利用SHAP-XGBoost模型及14个关键特征进行驾驶风格识别,可以在不损失准确率的同时提高在线识别效率,驾驶风格识别准确率高达99%;同时将个体特征和博弈特征作为模型的输入时,可以提升驾驶风格标记和识别的准确率。此研究成果可为个性化换道决策和预警提供支持。

基于DE-XGBoost的短期风电功率预测

风电功率预测可为电力系统安全稳定运行提供重要的决策参考,因此研究如何提高风电功率预测精度具有重要意义。针对短期风电功率预测精度的问题,提出一种基于差分进化算法(DE)优化极端梯度提升树的组合预测模型(DE-XGBoost)。利用收敛速度快、优化效果好、复杂性低的差分进化算法对XGBoost的模型参数进行优化,实现对风电功率的准确预测。仿真结果证明,与其他预测模型相比,DE-XGBoost模型预测精度更高,泛化能力更强,可为风电调度运行提供详实的数据。

金融市场极端风险状态预测模型及其应用

随着经济全球化发展和国内金融市场的逐步开放,中国金融市场也遭受着来自国外金融风险的威胁与挑战。充分考量中国金融市场部分特征化事实,结合中国的现实情况,以中国金融市场为研究对象,选取了13个代表性指标,利用2005年1月—2021年6月的数据构建了中国金融市场风险指数,并且通过事件匹配方法检验指数识别作用的有效性。进一步,运用XGBoost模型预测中国金融市场极端风险,采用多种评价指标将其与传统的SVM、GBRT、RF和MLP模型进行比较研究,并利用配对样本T检验和弗里德曼检验对各个模型预测效果的差异进行显著性检验。最后结合SHAP和LIME方法展示了不同特征指标对中国金融市场风险的贡献度。实证结果表明:(1)所构建的指数较好地符合了我国金融市场风险变化的实际情况;(2)XGBoost预测模型对于极端金融风险样本识别能力较强、准确性较高,与其余模型相比,其预测性能更加优异,而且具有明显的统计检验意义。(3)利用Shapley和LIME方法挖掘出了影响中国金融市场风险的主要因素及其时变特征,且阈值效应的发现有利于金融部门对金融市场风险进行针对性的审慎监管。

基于特征选择策略和TCN的电力负荷预测方法

电力负荷由于受到多种外部因素影响,具有较大的波动性和随机性,使得高精度的负荷预测十分困难。为有效处理高维特征以提高模型预测精度,提出了一种基于特征选择策略和时间卷积神经网络的电力负荷预测方法。首先,采用基于极端梯度提升树的特征选择策略,深度挖掘与负荷关联性强的特征作为预测模型的输入;其次,构建基于时间卷积神经网络(TCN)的电力负荷预测模型,对特征选择后的负荷数据进行预测;最后,采用某市真实负荷数据进行仿真分析。结果表明,文中所提方法与传统预测方法相比,具有更高的预测精度。

基于集成学习的入侵检测模型

入侵检测系统通过对网络上的恶意行为检测,来保证网络安全和计算机系统的稳定,随着人工智能技术的发展,机器学习与深度学习算法被广泛应用在入侵检测系统中。以入侵检测模型为研究目标,针对网络异常行为检测中的不平衡数据多分类问题,对现有的网络异常行为检测多分类模型进行优化,提出了一种基于卷积神经网络、LSTM(Long Short-Term Memory)神经网络与XGBoost(eXtreme Gradient Boosting)算法集成的检测模型(CNN+LSTM-In-XGBoost)。该模型包括数据预处理、长短期神经网络模型训练、数据降维、采样后XGBoost模型训练3个部分,通过对UNSW-NB15数据集进行实验分析,发现其准确率和分类平均f1-score均高于基准算法,特别少数类样本的分类准确率相比基准机器学习算法与神经网络模型有较大提升。

基于Transformer-LSTM模型的多因素碳排放权交易价格预测

碳排放权交易作为一种重要的环境政策工具在全球范围内得到了广泛应用。如何运用深度学习等技术提高碳排放权价格预测能力是一个重要问题,基于此,提出一种Transformer-LSTM多因素碳排放权交易价格预测的深度学习模型,以湖北省碳排放权交易价格为例,旨在探索运用深度学习的方法,预测湖北省碳排放权交易价格的变动趋势。输入Transformer-LSTM模型进行预测,同时运用支持向量机回归(SVR)、多层感知机(MLP)、长短时记忆网络(LSTM)、Transformer模型进行预测与对比。通过在历史数据上进行训练,实验结果表明,Transformer-LSTM模型得到的预测价格与湖北省碳排放权交易价格(HBEA)的实际价格更为吻合,在平均绝对误差(MAE)、均方误差(MSE)、均方根误差(RMSE)和评估指标上也有更佳的表现。

大规模电力工程数据价值深度挖掘算法设计研究

针对传统电力工程数据处理方法中存在的不可追溯且不易统一管理等问题,文中基于数据挖掘的思想提出了一种电力工程数据价值分析预测模型。该模型采用Boosting算法将多个预测树结构组合形成极端梯度提升树模型,从而实现对非线性数据的深入分析,且经过多次迭代后,可以使训练准确度与学习效果得到显著提升。通过采用改进的双向长短时记忆网络,增强了模型处理时序性数据的能力。同时还使用误差倒数法将两个算法模型相结合,使其具有更高的预测精度。在实验测试中,所提算法的预测结果更贴近实际值,且其MAPE及RMSE测试指标分别为0.201%和0.039%,在所有对比算法中均为最优,可以对电力工程数据价值进行准确的分析和预测。

基于STOA-XGBoost的风电机组滚动轴承故障诊断

为保证风电机组的正常运行,提高风电机组滚动轴承故障诊断的可靠性,提出了一种基于STOA-XGBoost的风电机组滚动轴承故障诊断方法,提取振动信号时域特征作为故障特征,使用乌燕鸥优化算法对极端梯度提升树的超参数进行优化,提高模型的泛化能力和预测精度,利用训练好的模型进行故障诊断。实例表明,此诊断模型可以更加高效地识别风电机组滚动轴承故障。

基于树学习模型的烟草生丝水分影响因素分析

烟草制丝过程中烟丝的加水量对制丝质量起着重要的作用,而影响加水量的因素众多。为了定量研究各影响因素对生丝水分的影响程度,通过对绵阳卷烟厂生丝水分历史数据,运用多种机器学习树模型算法进行学习,并对结果进行对比分析。分析结果表明,不同模型所获得的预测精度存在差别,在现有数据上极端梯度提升树获得了最高的预测精度。通过极端梯度提升树模型计算了各影响因素对生丝水分的影响程度。

基于极端梯度提升树算法的图像属性标注

提出基于极端梯度提升树(eXtreme gradient boosting, XGBoost)算法的图像属性标注模型,以改善标注性能:提取图像局部二值模式(local binary patterns, LBP)、灰度纹理空间包络特征(Gist)、尺度不变特征变换(scale invariant feature transform, SIFT)、视觉几何组(visual geometry group, VGG)等特征,以准确刻画图像视觉内容;基于图像特征,采用XGBoost算法集成弱分类器为强分类器,完成图像属性标注;深入挖掘图像属性蕴含的深层语义,构建全新的、层次化的属性表示体系,以贴近人类客观认知;设计迁移学习策略并合理组合分类模型,进一步改善标注性能。试验表明:Gist特征能真实刻画图像视觉内容;执行基础迁移学习后,标注精准度比迁移学习前最优指标提升8.69%;执行混合型迁移学习后,合理组合分类模型,标注精准度比基础迁移学习的最优指标提升17.55%。模型有效地改善图像属性标注精度。

基于SHAP-XGBoost混合模型的梯级水电站流量动态滞时研究

水流滞时是影响梯级电站短期优化调度的重要因素。如何构建流量动态滞时模型以精确描述梯级水电上下游水力联系,成为水电短期优化调度中亟需解决的问题。尝试引入极端梯度提升树算法(eXtreme gradient boosting,XGBoost)作为表现梯级水电站间流量动态滞时的工具。首先利用沙普利加性解释(Shapley addictive explanation,SHAP)评估各输入特征重要性,并从中选择最优特征集。其次建立了一种基于极端梯度提升树的动态滞时模型,利用网格搜索和交叉验证算法对模型参数进行选取。最后基于实际案例与人工神经网络、支持向量回归及固定滞时模型进行对比实验。结果表明,所构建的SHAP-XGBoost模型能更准确地模拟水电站间动态滞时关系,与传统模型相比平均预测精度至少提高了18%,且与实测序列的变化趋势匹配程度最佳。同时证明了输入特征筛选的加入能够使模型精度进一步提高。

基于机器学习的多模型耦合径流预报研究

为具体考虑各水文模型适用条件、灵活利用模型预报特征对研究流域进行高精度耦合径流预报,将雅砻江流域雅江~吉居区间作为研究对象,以提升径流预报精度和稳定性为首要目的,构建涵盖新安江模型、水箱模型和TOPMODEL模型的多模型径流预报方法库,引入最小二乘法、岭回归法和极端梯度提升树法耦合各模型进行水文预报,并提出多评价指标体系对各耦合方法的预测性能进行对比分析。结论表明,极端梯度提升树法相较于其余两种方法有稳定的预测性能和强大的泛化能力,为该流域其他区间的预报工作提供了新的思路。

基于SSA-XGBoost的爆破振动预测系统的构建与应用

爆破振动质点速度峰值(Peak particle velocity,PPV)是衡量爆破振动对周围环境和结构物造成的影响程度的重要指标。为提高爆破振动质点速度峰值预测的可靠性,提出了一种基于麻雀搜索算法(Sparrow search algorithm,SSA)优化极端梯度提升树(Extreme gradient boosting,XGBoost)的PPV预测模型,通过Matlab软件中的App Designer模块构建了相应的爆破振动预测系统。通过36组训练数据和5组测试数据,选取了最大单段炸药量、爆心距和测点至爆破工作面的高程差作为模型输入参数,对PPV进行了预测。结果表明,提出的SSA-XGBoost模型相较于GA-BPNN模型和BPNN模型具有更小的平均相对误差,泰勒图进一步证明了SSA-XGBoost具有更高的预测精度和更好的稳定性。

建成环境与共享单车流率的非线性关系研究

共享单车流率的大小体现了城市空间环境内车辆盈缺的程度,理解其变化及其诱因对于城市单车的调度具有重要意义。由于出行目的和外界环境因素的复杂多变,共享单车流率和建成环境特征之间的关系很难通过具有线性假设的统计学模型来解析。基于此,本研究利用上海市中心城区的共享单车数据,基于极端梯度提升树模型(XG‐Boost)和机器学习的解释性方法部分依赖图(PDP)来探究建成环境对共享单车流率的贡献度和非线性影响,以及流率的非线性模式在工作日和周末的变化。结果显示,特征重要度和非线性机制在两个时段差异化显著。居住人口密度、教育设施密度和住宅设施密度对工作日单车流率的解释度较高,分别为 19.18%、13.16% 和 12.92%,并且具有明显的阈值效应。其中居住人口密度和教育设施密度对于单车净流出率具有正向影响,分别在 11 600 人/km^(2)和 8 个/km^(2)达到最大;住宅设施密度对单车净流出率具有负向影响,对应的阈值为 40 个/km^(2)。各变量对周末单车流率的解释度差异较小,但非线性关系仍不可忽视。具体来说,到市中心的距离和公交线数密度对周末单车净流入率正向影响显著,有效范围为 18~23 km和28~52 条/km^(2);容积率对周末单车净流出率正向影响范围在 0.89~1.41。上述发现表明 XGBoost 模型可以有效弥补传统回归模型(MLR)线性假设的偏见,建成环境特征贡献度和影响范围的揭示也为管理部门针对具有不同建成环境水平地区的单车调度提供决策建议。

基于XGBoost算法的胶凝砂砾石劈拉强度预测分析

将水泥质量浓度、砂率、水胶比和粉煤灰质量浓度设为输入变量,28 d劈拉强度设为输出变量,用极端梯度提升树(XGBoost)算法对胶凝砂砾石(CSG)的劈拉强度进行预测,并与随机森林(RF)算法的预测结果进行对比,以决策系数(R^(2))、均方根误差(RMSE)、平均绝对误差(MAE)和平均百分比误差(MAPE)作为评估标准对2种算法进行对比分析.结果表明:XGBoost算法的R2为0.968 1,具有高度的预测准确性;相比表现良好的RF算法,XGBoost算法测试集的RMSE和MAE均降低了0.003, MAPE降低了0.32%,表明XGBoost算法能够对CSG劈拉强度进行更为精准的预测.