基于XGBoost算法的可恢复耕地宜耕性评价——以湘阴县为例

为科学有序开展可恢复耕地资源的整治,本研究提出一种基于XGBoost算法的可恢复耕地的宜耕性评价方法。选取自然条件、区位条件、社会经济状况以及工程条件等4个方面的因素,涉及海拔高程、坡度级别、国家自然等、集块面积、国家经济等、地块形状等36项影响因素为自变量,以现状可恢复耕地和耕种耕地二分类为因变量,分析各项影响因素对耕地宜耕性评价的重要程度,并进一步结合皮尔逊共线性分析和指标关联性分析,最终得到21项影响因素及其权重P值,优化后影响因素的权重P值相对稳定,其中自然因素对可恢复耕地宜耕性的影响权重最大,区位因素和工程因素权重次之,社会经济因素的权重最小。经过验证发现,预测耕种情况与实际耕种情况的符合率高达91.87%,且具有良好的泛化能力和鲁棒性,预测效果良好。借助上述模型预测得到的湘阴县可恢复耕地地块的宜耕潜力,形成如下认识:全县中西部平原区可恢复耕地宜耕潜力明显优于东部丘陵山区;可恢复耕地中未耕种和即可恢复地块的宜耕潜力高于工程恢复类地块,这些地块均属于良好的整治地块,可优先整治恢复为耕地;从可恢复耕地具体地类来看,坑塘和养殖坑塘类可恢复耕地的宜耕潜力最大,其次为其他林地类可恢复耕地;在耕地整治过程中,应结合可恢复耕地的宜耕性评价,合理有序地开展可恢复耕地的整治;此外,应开展精细化的耕地“非粮化”监测,实施差异化补偿政策,以遏制耕地“非粮化”。

基于CNN-GRU-ISSA-XGBoost的短期光伏功率预测

针对光伏功率随机性及波动性大,单一预测模型往往难以准确分析历史数据波动规律,从而导致预测精度不高的问题,提出一种基于卷积神经网络-门控循环单元(CNN-GRU)和改进麻雀搜索算法(ISSA)优化的极限梯度提升(XGBoost)模型的短期光伏功率预测组合模型.首先去除历史数据中的异常值并对其进行归一化处理,利用主成分分析法(PCA)进行特征选取,以便更好地识别影响光伏功率的关键因素.然后采用CNN网络提取数据的空间特征,再经过GRU网络提取时间特征,针对XGBoost模型手动配置参数困难、随机性大的问题,利用ISSA对模型超参数寻优.最后对两种方法预测的结果用误差倒数法减小误差的同时对权重进行更新,得到新的预测值,从而完成对光伏功率的预测.实验结果表明,所提出的CNN-GRU-ISSA-XGBoost组合模型具有更强的适应性和更高的精度.

基于BiLSTM-XGBoost混合模型的储层岩性识别

储层岩性分类是地质研究基础,基于数据驱动的机器学习模型虽然能较好地识别储层岩性,但由于测井数据是特殊的序列数据,模型很难有效提取数据的空间相关性,造成模型对储层识别仍存在不足.针对此问题,本文结合双向长短期循环神经网络(bidirectional long short-term memory,BiLSTM)和极端梯度提升决策树(extreme gradient boosting decision tree,XGBoost),提出双向记忆极端梯度提升(BiLSTM-XGBoost,BiXGB)模型预测储层岩性.该模型在传统XGBoost基础上融入了BiLSTM,大大增强了模型对测井数据的特征提取能力.BiXGB模型使用BiLSTM对测井数据进行特征提取,将提取到的特征传递给XGBoost分类模型进行训练和预测.将BiXGB模型应用于储层岩性数据集时,模型预测的总体精度达到了91%.为了进一步验证模型的准确性和稳定性,将模型应用于UCI公开的Occupancy序列数据集,结果显示模型的预测总体精度也高达93%.相较于其他机器学习模型,BiXGB模型能准确地对序列数据进行分类,提高了储层岩性的识别精度,满足了油气勘探的实际需要,为储层岩性识别提供了新的方法.

智能算法优化XGBoost的聚能-爆破装药比冲量预测

为了探索聚能-爆破装药结构、爆破距离等参数与比冲量间的复杂关系,提出一种智能算法优化极端梯度提升(eXtreme Gradient Boosting,XGBoost)的聚能-爆破装药比冲量预测模型.采用相关性分析方法,探寻聚能-爆破装药结构参数、爆破距离参数与比冲量之间的关联程度.使用具有数据并行处理能力和集成学习思想的XGBoost算法,挖掘结构参数、爆破距离参数与比冲量间的潜在非线性关系.基于粒子群算法(Particle Swarm Optimization,PSO)良好的全局搜索能力和蚁群算法(Ant Colony Optimization,ACO)优良的局部搜索能力,设计双智能算法优化XGBoost的融合预测模型PSO-ACO-XGBoost,提高聚能-爆破装药比冲量预测精度.PSO和ACO分别用于搜索XGBoost超参数解空间的全局最优解与局部最优解.实验结果表明,PSO-ACO-XGBoost模型相较于BP、XGBoost、PSO-BP、ACO-XGBoost等其它8种预测模型,在预测精度、拟合程度、速度和稳定性等方面具有最佳性能.

Boruta-Optuna-XGBoost融合模型的聚驱油田产量智能预测方法研究

在聚驱油田开采时,存在向油层中加注水溶性高分子聚合物的过程,此过程包含大量参数,对油田产量具有较大影响。针对传统油田产量预测方法存在的人工计算量大、准确率低的问题。提出一种Boruta-Optuna-XGBoost融合模型对聚驱油田产量进行预测,解决传统方法存在的问题。通过Boruta特征筛选方法进行聚驱油田特征筛选,降低特征冗余,提高特征相关性,避免模型过拟合;使用Optuna超参数优化算法对XGBoost进行自适应超参数评价,提高模型精度;使用最优超参的XGBoost算法对聚驱油田产量进行回归预测,通过算法建立油田注入参数和油田月产量之间的逻辑关系模型,对聚驱油田的月产量进行预测。所提方法应用在大庆油田的实际有效数据的准确率达95%,证明了方法的有效性,能够对油田的生产效益、资源配置和可持续发展产生影响,也为数字化聚驱油田智能产量预测发展提供了新思路。

基于RUN-XGBoost算法的土石坝渗流预测模型

针对传统土石坝渗流预测模型存在局部最优、抗干扰性差和预测精度低等问题,通过RUN算法优化XGBoost算法得到RUN-XGBoost算法,构建了RUN-XGBoost模型以获得更优的土石坝渗流预测结果。该模型在种群初始化时采用RUN算法对XGBoost算法的3个主要参数进行改进,使预测结果有较高的有效性;通过自动寻找最优参数增进算法的整体收敛速度和预测精度,同时引入随机解,使算法能够排除局部最小值并继续搜索,从而获得全局最优结果。工程实例验证结果表明,RUN-XGBoost模型具有简洁、高效、预测精度高、鲁棒性强等优点。

基于贝叶斯优化XGBoost的石灰窑气预测

石灰窑是碳酸钙产业的关键生产设备,窑气中的CO_(2)是生产碳酸钙的原料,CO_(2)浓度直接影响碳酸钙产量,然而石灰窑气浓度依靠产品产出后采样化验得到,存在严重的滞后性,无法作为石灰窑在线工艺参数调整的依据。因此提出一种基于贝叶斯优化的eXtreme Gradient Boosting石灰窑气浓度预测模型BO-XGBoost,根据历史数据预测1 h后的窑气浓度,为生产工艺参数的调整提供依据。该方法首先对石灰窑传感器数据集中的缺失值、异常值进行剔除、插补,然后统一窑气浓度检测历史数据的时间尺度,构成石灰窑气监测数据集,在此基础上提出针对石灰窑气的BO-XGBoost模型。模型经训练后,采用实际生产数据进行测试,并与Light Gradient Boosting Machine(Light-GBM)模型、Category Boosting(Catboost)模型预测结果进行比较,结果表明,所提模型可以实现高维数据集的超参数快速优化,且预测模型有较好的精度,均方根误差(RMSE)达到0.70,平均绝对百分比误差(MAPE)达到2.03%。

一种基于XGBoost的用户行为异常检测方法

伴随企业业务的不断扩增和电子化发展,企业自身数据和负载数据都开始暴增。然而,作为企业核心资产之一的内部数据,却面临着日益严峻的安全威胁。越来越多以周期长、频率低、隐蔽强为典型特征的非明显攻击绕过传统安全检测方法,对大量数据造成损毁。对此,根据用户、实体、行为关联,提出整合可以反映用户行为基线的各类数据,提取几种最能反映用户异常的基础特征,利用XGBoost的特征选择策略与FCM聚类算法结合,通过异常打分,定位异常风险最大的一批用户。结果显示,新提出的异常检测算法有着82%以上的准确率,以及86%以上的召回率。

基于ISSA-XGBoost模型的多特征融合露天矿卡车行程时间预测

针对露天矿运输系统卡车行程时间预测问题,提出了一种基于特征选择及改进麻雀算法优化XGBoost的露天矿卡车行程时间预测模型。模型充分考虑了卡车特征、道路特征、气象特征以及时间特征对卡车行程时间的影响,并使用皮尔逊系数法深入分析影响因素的贡献度。针对麻雀算法中全局搜索能力薄弱的问题引入反向学习和螺旋搜索策略,以提高算法的收敛性能。最后,使用改进的麻雀算法对XGBoost的关键参数进行寻优,进而构建露天矿卡车行程时间预测模型。选取国内某大型露天矿卡车调度系统采集的数据进行仿真模拟,并将所提出模型与SVM、BP、RBF和RF等其他机器学习模型进行对比。结果表明:所提出模型的预测误差均低于其他模型,相关系数可达0.9819。开发的模型和分析结果可以极大地帮助决策者规划、运营和管理更高效的露天矿运输系统。

基于ISSA-XGBoost的电能质量扰动识别方法研究

针对传统电能质量扰动(power quality disturbances,PQDs)识别中特征提取有冗余,识别精度不高等问题,提出了一种基于改进麻雀搜索算法(improved sparrow search algorithm,ISSA)优化特征选择和极致梯度提升(eXtreme gradient boosting,XGBoost)的电能质量扰动识别方法。首先对电能质量扰动信号进行S变换,提取61种电能质量特征。再通过ISSA同时选择最优特征子集和XGBoost中最优参数,剔除冗余特征,提高识别精度。最后根据优化后的最优特征子集和XGBoost实现电能质量扰动的识别。仿真结果表明,所提出的方法能有效选择最优特征子集,对噪声环境下的19种电能质量扰动信号进行高效识别,并且具有较高的识别精度。

基于KPCA⁃XGBoost机器学习的大跨体育场风荷载预测

大跨空间结构风荷载的取值是该类结构抗风设计关注重点,通常借助风洞试验或数值风洞确定,但其费用高周期长等特点限制其广泛应用.机器学习方法近年受到关注,逐渐应用于结构的风荷载预测并取得了不错的效果.利用核主成分分析(Kernel Principal Component Analysis,KPCA)对数据进行降维处理,借助可以集成学习的XGBoost机器学习模型,采用十折交叉验证对超参数进行选择,编写了基于机器学习的大跨空间结构风荷载预测程序.通过对多个已有工程项目风洞试验结果的学习训练和预测结果比对,证明该方法具有处理数据能力较强、预测效率较高及泛化能力较强等特点.随机选取未参与模型训练的风向角下数据进行模型准确性验证,结果表明模型的R2值均达到0.9左右,预测值与试验值较为接近,体型系数在迎风区的预测精度略低于背风区,而极值风压则在背风区的预测精度好于迎风区.

利用改进XGBoost模型预测和分析湿地潜流带地下水中硝态氮含量

湿地潜流带是地下水中氮循环的重要场所,以洞庭湖湿地潜流带为研究对象,探讨地下水中氮素迁移转化影响因素与作用机制。在湘江入湖口湿地设置了4个剖面共16口监测孔,进行了为期一个水文年的地下水取样与测试分析。研究选定的特征参数包括氧化还原电位(Eh)、溶解氧(DO)、水温(T)、地下水位(H)及埋深、酸碱度(pH)以及溶解有机碳(DOC)等。利用XGBoost方法建立机器学习模型,用于预测硝态氮的相对浓度,并通过贝叶斯优化(BO)、麻雀搜索算法(SSA)、粒子群算法(PSO)分别对XGBoost预测模型进行超参数优化,得到最佳XGBoost预测模型(BO-XGBoost)。在此基础上,采用SHAP(SHapley Additive exPlanations)方法对BO-XGBoost模型进行可解释性分析。研究结果表明,BO-XGBoost模型的性能最好,在训练集与测试集的决定系数均超过0.90;可解释性分析结果和相关分析都揭示了Eh、DO、T、H、pH和DOC等影响因子对湿地潜流带地下水中硝态氮含量的影响是逐渐降低的规律。

结合SVM与XGBoost的链式多路径覆盖测试用例生成

机器学习方法可很好地与软件测试相结合,增强测试效果,但少有学者将其运用于测试数据生成方面.为进一步提高测试数据生成效率,提出一种结合SVM(support vector machine)和XGBoost(extreme gradient boosting)的链式模型,并基于此模型借助遗传算法实现多路径测试数据生成.首先,利用一定样本训练若干个用于预测路径节点状态的子模型(SVM和XGBoost),通过子模型的预测精度值筛选最优子模型,并根据路径节点顺序将其依次链接,形成一个链式模型C-SVMXGBoost(chained SVM and XGBoost).在利用遗传算法生成测试用例时,使用训练好的链式模型代替插桩法获取测试数据覆盖路径(预测路径),寻找预测路径与目标路径相似的路径集,对存在相似路径集的预测路径进行插桩验证,获取精确路径,计算适应度值.在交叉变异过程中引入样本集中路径层级深度较大的优秀测试用例进行重用,生成覆盖目标路径的测试数据.最后,保留进化生成中产生的适应度较高的个体,更新链式模型C-SVMXGBoost,进一步提高测试效率.实验表明,C-SVMXGBoost较其他各对比链式模型更适合解决路径预测问题,可提高测试效率.并且通过与已有经典方法相比,所提方法在覆盖率上提高可达15%,平均进化代数也有所降低,在较大规模程序上其降低百分比可达65%.

基于Nadam-TimeGAN和XGBoost的时序信号故障诊断方法

为了提高故障诊断模型在数据不平衡场景下的诊断性能和模型泛化能力,提出了一种基于Nadam-TimeGAN和XGBoost的时序信号故障诊断方法。首先对比基于LSTM和GRU的TimeGAN模型,选取性能更优的GRU网络作为TimeGAN模型的组成单元,然后采用Nadam优化算法对TimeGAN模型的各组件进行优化,即构建Nadam-TimeGAN模型用以数据扩充,最后构建一个平衡的数据集输入XGBoost集成学习模型进行分类训练。实验选取转辙机动作电流数据集进行验证性实验,选取MFPT轴承数据集和CWRU轴承数据集进行泛化性实验,并与8种方法进行对比,结果表明,所提方法在准确率、召回率以及F1-score这3种评价指标上均高于其他方法,从而验证了所提方法在不平衡数据故障诊断方面的有效性和泛化性。

基于XGBoost-WOA-BiLSTM-Attention的公共建筑暖通空调能耗预测研究

为在双碳目标下实现节能减排,降低能源成本,提出一种基于BiLSTM的公共建筑暖通空调能耗预测模型。在BiLSTM模型基础上,使用XGBoost算法对输入特征进行选择,剔除冗余特征,得到最佳模型输入特征;然后利用WOA优化算法对添加了Attention机制的BiLSTM模型中的6个超参数进行优化,将得到的最优参数代入BiLSTM-Attention神经网络中进行预测,并与BiLSTM模型、BiLSTM-Attention模型和WOA-BiLSTM-Attention模型进行对比。结果表明,所提出的XGBoost-WOA-BiLSTM-Attention模型的RMSE、MAE、R2分别为0.0106、0.006、0.9991,优于其他模型,且相对于持续模型在均方根误差RMSE上提升了98%,为降低公共建筑暖通空调能耗研究提供了参考。

基于XGBoost算法的人—虎共存区域风险等级划分

以2014—2019年珲春地区红外相机拍摄的东北虎数据为基础,基于XGBoost算法构建了虎出没区域风险等级划分模型。由模型检验可知:模型的准确率为93.51%,精确率为93.85%,召回率为93.08%,F1值为93.31%,Cohen s Kappa统计系数为90.2%。研究结果表明:基于XGBoost算法构建的人-虎共存区域风险等级划分模型分类效果好、预测准确度高,运用该模型对人-虎共存区域进行风险等级划分是可行的。

基于XGBoost算法的v_(P)/v_(S)预测及其在储层检测中的应用

鄂尔多斯盆地碳酸盐岩地层蕴含着丰富的油气资源。在勘探实践中发现,大牛地气田马家沟组断层发育、断距小,类型多样且成因复杂,给勘探、开发带来了较多挑战。为了应对这些挑战,提高储层预测的精度变得至关重要。在分析大牛地气田敏感弹性参数的基础上,建立地震属性与储层纵横波速度比(v_(P)/v_(S))的关系,提出一种基于XGBoost算法的地震多属性v_(P)/v_(S)预测方法。为了进一步提升XGBoost算法的预测精度和泛化能力,采用贝叶斯算法对XGBoost算法的超参数进行优化,从而找到最佳的超参数组合,以确保模型在训练集和测试集上的性能均能得到提升。将XGBoost算法应用于Marmousi 2模型进行横波速度预测,预测值与实际值相关系数超过0.88,而均方误差、平均绝对百分比误差分别低于6.55×10^(-7)和4%,验证了该方法的准确性和可靠性。在鄂尔多斯盆地大牛地气田,应用该方法获得的v_(P)/v_(S)成功识别出含气储层,结果与实际钻井数据一致。理论模型和实际数据应用结果表明,XGBoost作为一种强大的机器学习算法预测精度较高,为直接由叠后地震属性预测v_(P)/v_(S)提供了一种有效的途径。

适于GlobalAllomeTree国际数据平台的标准化中国主要树种树高-胸径方程研建

GlobalAllomeTree作为共享异速方程的国际网络平台,逐渐受到全球高度关注。当前,为促进该项国际合作,针对当前该平台缺乏中国主要树种生长异速方程的现状,系统性更新标准化中国主要树种树高-胸径方程。由于树冠和下部灌木及草丛遮挡,树高相对于胸径测量具有一定的难度,因此需要使用数学工具进行计算。选取了36个树种为材料构建树高-胸径关系方程,以全国主要树种的二元材积模型、各地区一元材积表为基础材料,以取样径阶为1 cm间隔所生成1692组树高-胸径数据作为建立方程样本,1238组外业调查数据为验证样本。建模结果表明:36个主要树种的1692组树高-胸径数据建立的全国通用性树高-胸径方程拟合相关系数(R2)为0.801,方程拟合结果较好,说明可以通过测定胸径,带入树高(H,m)-胸径(D,cm)方程(H=aDb)预估树高;对36个主要树种的树高-胸径方程进行拟合,决定系数R2值均大于0.916,平均误差(ME)、平均绝对误差(MAE)和均方根误差(RMSE)相对较小,方程整体精度较高,可广泛推广;将外业采集的1238组树高-胸径数据,根据36个主要树种树高-胸径方程拟合公式及参数估计值a、b进行方程精度验证,方程预测的平均相对误差为16.86%,在误差允许范围内,并且模型形式规范,可为GlobalAllomeTree平台用户提供科学参考。

基于XGBoost的中国上市公司违约风险预测模型

准确预测上市公司的违约风险,是企业信用风险评价的关键,也是金融机构信贷决策的重要依据。通过线性回归模型的信息量AIC遴选违约判别能力最大的指标组合,采用粒子群优化算法构建基于XGBoost的违约预测模型。选取中国A股3425家上市公司不同时间窗口的数据为样本进行违约预测,将所构建的PSO-XGBoost模型与逻辑回归、支持向量机等13种预测模型对比,验证所建模型的有效性。通过UCI数据库中的3个公开信用数据集,利用Friedman检验,验证所建模型的稳健性。研究表明:使用上市公司数据与13种模型对比,PSO-XGBoost模型提高了预测精度G-mean;使用3个公开信用数据集,在多个评价指标上,PSO-XGBoost模型的平均预测性能显著优于对比模型;通过指标对预测结果的贡献获得指标重要性得分,增强了预测模型的可解释性。研究发现:“资产负债率”“流动比率”“长期资本负债率”等财务指标对违约预测的影响最大,“行业景气指数”“社会消费品零售总额增长率”“流通中现金(M0)供应量同比增长率”等指标是影响违约预测的重要指标。本研究可以为提高违约风险预测的准确性提供有效的方法和实证证据,有助于加强上市公司违约风险的预警和防范,降低违约风险监管成本,为企业管理者、债权人及投资者提供良好的决策支持。

基于PCA-SSA-XGBoost算法的拱坝应力预测模型研究

由于大坝应力受水位、温度等众多因素共同作用,各影响因子间的相互关联会引起多重共线性问题,容易导致以此为输入的预测模型出现伪回归现象。此外,现有基于机器学习算法的应力预测模型由于训练特征过多、过度训练易产生过拟合现象,其预测精度还有待提高。针对上述问题,提出了基于主成分分析法(PCA)和麻雀搜索算法(SSA)改进的极限梯度提升算法(PCA-SSA-XGBoost)构建拱坝应力预测模型。该模型首先采用主成分分析法对参数进行降维,降低影响因子的多重共线性影响;进而通过SSA算法优化XGBoost的超参数,以避免传统算法过拟合,进一步提高模型预测性能。将该模型应用于我国西南某混凝土拱坝工程,对应力及应力相关监测数据进行处理、分析和预测,并与多元线性回归模型(MVLR)、神经网络模型(RBFNN)、极限梯度提升回归预测模型(XGBR)的预测结果进行对比分析。结果表明,基于PCA-SSA-XGBoost算法的应力预测模型可克服输入变量的多重共线性和过拟合问题,在预测精度方面具有优越性。