一种基于改进的XGBoosting算法对婴幼儿奶粉中的脂肪含量的预测模型

婴儿奶粉成分配比中,脂肪有着重要地位。脂肪不仅是婴儿生长发育中的重要成分,同时也为婴儿的生长提供必需的能量,对于婴儿脑发育及神经髓鞘的形成具有重要意义。化学的婴儿奶粉脂肪含量检测如乙醚提取法,方法检测灵敏,但存在破坏样本和检测周期较长的缺点,因此寻求一种为婴儿奶粉成分的无损检测方法,高光谱成像技术提供了一种可能的途径。以内蒙古地区不同阶段的婴儿奶粉为研究对象,采用多元散射校正(MSC)、标准正态变换(SNV)、平滑滤波算法(Savitzky-Golay)、鲁斯特算法(Roust)等对高光谱数据进行预处理,再利用竞争性自适应重加权算法(CARS)算法从125个特征波长中筛除光谱数据中冗余的波长保留有效波长66个。对极值梯度提升算法(XGBoosting)算法进行了贝叶斯优化(BO),最终构建了基于BO-XGBoosting对婴儿奶粉脂肪含量的预测模型。结果显示,该模型预测效果优于传统的偏最小二乘回归(PLSR)和支持向量回归(SVR)模型,且优于集成算法中Bagging、GrdientBoosting算法。贝叶斯优化极值梯度提升算法BO-XGBoosting模型在测试集实验,得到的决定系数(R^(2))和均方根误差(RMSEP)分别为0.9537和0.5773,比XGBoosting算法的R^(2)和RMSEP分别提高2.91%和降低19.2%。该研究为奶粉中脂肪含量的预测提供了基于BO-XGboosting集成算法的快速无损检测的算法支持和理论依据。

基于XGBoost算法的可恢复耕地宜耕性评价——以湘阴县为例

为科学有序开展可恢复耕地资源的整治,本研究提出一种基于XGBoost算法的可恢复耕地的宜耕性评价方法。选取自然条件、区位条件、社会经济状况以及工程条件等4个方面的因素,涉及海拔高程、坡度级别、国家自然等、集块面积、国家经济等、地块形状等36项影响因素为自变量,以现状可恢复耕地和耕种耕地二分类为因变量,分析各项影响因素对耕地宜耕性评价的重要程度,并进一步结合皮尔逊共线性分析和指标关联性分析,最终得到21项影响因素及其权重P值,优化后影响因素的权重P值相对稳定,其中自然因素对可恢复耕地宜耕性的影响权重最大,区位因素和工程因素权重次之,社会经济因素的权重最小。经过验证发现,预测耕种情况与实际耕种情况的符合率高达91.87%,且具有良好的泛化能力和鲁棒性,预测效果良好。借助上述模型预测得到的湘阴县可恢复耕地地块的宜耕潜力,形成如下认识:全县中西部平原区可恢复耕地宜耕潜力明显优于东部丘陵山区;可恢复耕地中未耕种和即可恢复地块的宜耕潜力高于工程恢复类地块,这些地块均属于良好的整治地块,可优先整治恢复为耕地;从可恢复耕地具体地类来看,坑塘和养殖坑塘类可恢复耕地的宜耕潜力最大,其次为其他林地类可恢复耕地;在耕地整治过程中,应结合可恢复耕地的宜耕性评价,合理有序地开展可恢复耕地的整治;此外,应开展精细化的耕地“非粮化”监测,实施差异化补偿政策,以遏制耕地“非粮化”。

Boruta-Optuna-XGBoost融合模型的聚驱油田产量智能预测方法研究

在聚驱油田开采时,存在向油层中加注水溶性高分子聚合物的过程,此过程包含大量参数,对油田产量具有较大影响。针对传统油田产量预测方法存在的人工计算量大、准确率低的问题。提出一种Boruta-Optuna-XGBoost融合模型对聚驱油田产量进行预测,解决传统方法存在的问题。通过Boruta特征筛选方法进行聚驱油田特征筛选,降低特征冗余,提高特征相关性,避免模型过拟合;使用Optuna超参数优化算法对XGBoost进行自适应超参数评价,提高模型精度;使用最优超参的XGBoost算法对聚驱油田产量进行回归预测,通过算法建立油田注入参数和油田月产量之间的逻辑关系模型,对聚驱油田的月产量进行预测。所提方法应用在大庆油田的实际有效数据的准确率达95%,证明了方法的有效性,能够对油田的生产效益、资源配置和可持续发展产生影响,也为数字化聚驱油田智能产量预测发展提供了新思路。

基于贝叶斯优化XGBoost的石灰窑气预测

石灰窑是碳酸钙产业的关键生产设备,窑气中的CO_(2)是生产碳酸钙的原料,CO_(2)浓度直接影响碳酸钙产量,然而石灰窑气浓度依靠产品产出后采样化验得到,存在严重的滞后性,无法作为石灰窑在线工艺参数调整的依据。因此提出一种基于贝叶斯优化的eXtreme Gradient Boosting石灰窑气浓度预测模型BO-XGBoost,根据历史数据预测1 h后的窑气浓度,为生产工艺参数的调整提供依据。该方法首先对石灰窑传感器数据集中的缺失值、异常值进行剔除、插补,然后统一窑气浓度检测历史数据的时间尺度,构成石灰窑气监测数据集,在此基础上提出针对石灰窑气的BO-XGBoost模型。模型经训练后,采用实际生产数据进行测试,并与Light Gradient Boosting Machine(Light-GBM)模型、Category Boosting(Catboost)模型预测结果进行比较,结果表明,所提模型可以实现高维数据集的超参数快速优化,且预测模型有较好的精度,均方根误差(RMSE)达到0.70,平均绝对百分比误差(MAPE)达到2.03%。

基于CNN-GRU-ISSA-XGBoost的短期光伏功率预测

针对光伏功率随机性及波动性大,单一预测模型往往难以准确分析历史数据波动规律,从而导致预测精度不高的问题,提出一种基于卷积神经网络-门控循环单元(CNN-GRU)和改进麻雀搜索算法(ISSA)优化的极限梯度提升(XGBoost)模型的短期光伏功率预测组合模型.首先去除历史数据中的异常值并对其进行归一化处理,利用主成分分析法(PCA)进行特征选取,以便更好地识别影响光伏功率的关键因素.然后采用CNN网络提取数据的空间特征,再经过GRU网络提取时间特征,针对XGBoost模型手动配置参数困难、随机性大的问题,利用ISSA对模型超参数寻优.最后对两种方法预测的结果用误差倒数法减小误差的同时对权重进行更新,得到新的预测值,从而完成对光伏功率的预测.实验结果表明,所提出的CNN-GRU-ISSA-XGBoost组合模型具有更强的适应性和更高的精度.

基于BiLSTM-XGBoost混合模型的储层岩性识别

储层岩性分类是地质研究基础,基于数据驱动的机器学习模型虽然能较好地识别储层岩性,但由于测井数据是特殊的序列数据,模型很难有效提取数据的空间相关性,造成模型对储层识别仍存在不足.针对此问题,本文结合双向长短期循环神经网络(bidirectional long short-term memory,BiLSTM)和极端梯度提升决策树(extreme gradient boosting decision tree,XGBoost),提出双向记忆极端梯度提升(BiLSTM-XGBoost,BiXGB)模型预测储层岩性.该模型在传统XGBoost基础上融入了BiLSTM,大大增强了模型对测井数据的特征提取能力.BiXGB模型使用BiLSTM对测井数据进行特征提取,将提取到的特征传递给XGBoost分类模型进行训练和预测.将BiXGB模型应用于储层岩性数据集时,模型预测的总体精度达到了91%.为了进一步验证模型的准确性和稳定性,将模型应用于UCI公开的Occupancy序列数据集,结果显示模型的预测总体精度也高达93%.相较于其他机器学习模型,BiXGB模型能准确地对序列数据进行分类,提高了储层岩性的识别精度,满足了油气勘探的实际需要,为储层岩性识别提供了新的方法.

一种基于XGBoost的用户行为异常检测方法

伴随企业业务的不断扩增和电子化发展,企业自身数据和负载数据都开始暴增。然而,作为企业核心资产之一的内部数据,却面临着日益严峻的安全威胁。越来越多以周期长、频率低、隐蔽强为典型特征的非明显攻击绕过传统安全检测方法,对大量数据造成损毁。对此,根据用户、实体、行为关联,提出整合可以反映用户行为基线的各类数据,提取几种最能反映用户异常的基础特征,利用XGBoost的特征选择策略与FCM聚类算法结合,通过异常打分,定位异常风险最大的一批用户。结果显示,新提出的异常检测算法有着82%以上的准确率,以及86%以上的召回率。

结合SVM与XGBoost的链式多路径覆盖测试用例生成

机器学习方法可很好地与软件测试相结合,增强测试效果,但少有学者将其运用于测试数据生成方面.为进一步提高测试数据生成效率,提出一种结合SVM(support vector machine)和XGBoost(extreme gradient boosting)的链式模型,并基于此模型借助遗传算法实现多路径测试数据生成.首先,利用一定样本训练若干个用于预测路径节点状态的子模型(SVM和XGBoost),通过子模型的预测精度值筛选最优子模型,并根据路径节点顺序将其依次链接,形成一个链式模型C-SVMXGBoost(chained SVM and XGBoost).在利用遗传算法生成测试用例时,使用训练好的链式模型代替插桩法获取测试数据覆盖路径(预测路径),寻找预测路径与目标路径相似的路径集,对存在相似路径集的预测路径进行插桩验证,获取精确路径,计算适应度值.在交叉变异过程中引入样本集中路径层级深度较大的优秀测试用例进行重用,生成覆盖目标路径的测试数据.最后,保留进化生成中产生的适应度较高的个体,更新链式模型C-SVMXGBoost,进一步提高测试效率.实验表明,C-SVMXGBoost较其他各对比链式模型更适合解决路径预测问题,可提高测试效率.并且通过与已有经典方法相比,所提方法在覆盖率上提高可达15%,平均进化代数也有所降低,在较大规模程序上其降低百分比可达65%.

基于ISSA-XGBoost模型的多特征融合露天矿卡车行程时间预测

针对露天矿运输系统卡车行程时间预测问题,提出了一种基于特征选择及改进麻雀算法优化XGBoost的露天矿卡车行程时间预测模型。模型充分考虑了卡车特征、道路特征、气象特征以及时间特征对卡车行程时间的影响,并使用皮尔逊系数法深入分析影响因素的贡献度。针对麻雀算法中全局搜索能力薄弱的问题引入反向学习和螺旋搜索策略,以提高算法的收敛性能。最后,使用改进的麻雀算法对XGBoost的关键参数进行寻优,进而构建露天矿卡车行程时间预测模型。选取国内某大型露天矿卡车调度系统采集的数据进行仿真模拟,并将所提出模型与SVM、BP、RBF和RF等其他机器学习模型进行对比。结果表明:所提出模型的预测误差均低于其他模型,相关系数可达0.9819。开发的模型和分析结果可以极大地帮助决策者规划、运营和管理更高效的露天矿运输系统。

基于ISSA-XGBoost的电能质量扰动识别方法研究

针对传统电能质量扰动(power quality disturbances,PQDs)识别中特征提取有冗余,识别精度不高等问题,提出了一种基于改进麻雀搜索算法(improved sparrow search algorithm,ISSA)优化特征选择和极致梯度提升(eXtreme gradient boosting,XGBoost)的电能质量扰动识别方法。首先对电能质量扰动信号进行S变换,提取61种电能质量特征。再通过ISSA同时选择最优特征子集和XGBoost中最优参数,剔除冗余特征,提高识别精度。最后根据优化后的最优特征子集和XGBoost实现电能质量扰动的识别。仿真结果表明,所提出的方法能有效选择最优特征子集,对噪声环境下的19种电能质量扰动信号进行高效识别,并且具有较高的识别精度。

利用改进XGBoost模型预测和分析湿地潜流带地下水中硝态氮含量

湿地潜流带是地下水中氮循环的重要场所,以洞庭湖湿地潜流带为研究对象,探讨地下水中氮素迁移转化影响因素与作用机制。在湘江入湖口湿地设置了4个剖面共16口监测孔,进行了为期一个水文年的地下水取样与测试分析。研究选定的特征参数包括氧化还原电位(Eh)、溶解氧(DO)、水温(T)、地下水位(H)及埋深、酸碱度(pH)以及溶解有机碳(DOC)等。利用XGBoost方法建立机器学习模型,用于预测硝态氮的相对浓度,并通过贝叶斯优化(BO)、麻雀搜索算法(SSA)、粒子群算法(PSO)分别对XGBoost预测模型进行超参数优化,得到最佳XGBoost预测模型(BO-XGBoost)。在此基础上,采用SHAP(SHapley Additive exPlanations)方法对BO-XGBoost模型进行可解释性分析。研究结果表明,BO-XGBoost模型的性能最好,在训练集与测试集的决定系数均超过0.90;可解释性分析结果和相关分析都揭示了Eh、DO、T、H、pH和DOC等影响因子对湿地潜流带地下水中硝态氮含量的影响是逐渐降低的规律。

基于Nadam-TimeGAN和XGBoost的时序信号故障诊断方法

为了提高故障诊断模型在数据不平衡场景下的诊断性能和模型泛化能力,提出了一种基于Nadam-TimeGAN和XGBoost的时序信号故障诊断方法。首先对比基于LSTM和GRU的TimeGAN模型,选取性能更优的GRU网络作为TimeGAN模型的组成单元,然后采用Nadam优化算法对TimeGAN模型的各组件进行优化,即构建Nadam-TimeGAN模型用以数据扩充,最后构建一个平衡的数据集输入XGBoost集成学习模型进行分类训练。实验选取转辙机动作电流数据集进行验证性实验,选取MFPT轴承数据集和CWRU轴承数据集进行泛化性实验,并与8种方法进行对比,结果表明,所提方法在准确率、召回率以及F1-score这3种评价指标上均高于其他方法,从而验证了所提方法在不平衡数据故障诊断方面的有效性和泛化性。

基于XGBoost算法的人—虎共存区域风险等级划分

以2014—2019年珲春地区红外相机拍摄的东北虎数据为基础,基于XGBoost算法构建了虎出没区域风险等级划分模型。由模型检验可知:模型的准确率为93.51%,精确率为93.85%,召回率为93.08%,F1值为93.31%,Cohen s Kappa统计系数为90.2%。研究结果表明:基于XGBoost算法构建的人-虎共存区域风险等级划分模型分类效果好、预测准确度高,运用该模型对人-虎共存区域进行风险等级划分是可行的。

基于XGBoost算法的v_(P)/v_(S)预测及其在储层检测中的应用

鄂尔多斯盆地碳酸盐岩地层蕴含着丰富的油气资源。在勘探实践中发现,大牛地气田马家沟组断层发育、断距小,类型多样且成因复杂,给勘探、开发带来了较多挑战。为了应对这些挑战,提高储层预测的精度变得至关重要。在分析大牛地气田敏感弹性参数的基础上,建立地震属性与储层纵横波速度比(v_(P)/v_(S))的关系,提出一种基于XGBoost算法的地震多属性v_(P)/v_(S)预测方法。为了进一步提升XGBoost算法的预测精度和泛化能力,采用贝叶斯算法对XGBoost算法的超参数进行优化,从而找到最佳的超参数组合,以确保模型在训练集和测试集上的性能均能得到提升。将XGBoost算法应用于Marmousi 2模型进行横波速度预测,预测值与实际值相关系数超过0.88,而均方误差、平均绝对百分比误差分别低于6.55×10^(-7)和4%,验证了该方法的准确性和可靠性。在鄂尔多斯盆地大牛地气田,应用该方法获得的v_(P)/v_(S)成功识别出含气储层,结果与实际钻井数据一致。理论模型和实际数据应用结果表明,XGBoost作为一种强大的机器学习算法预测精度较高,为直接由叠后地震属性预测v_(P)/v_(S)提供了一种有效的途径。

基于PCA-SSA-XGBoost算法的拱坝应力预测模型研究

由于大坝应力受水位、温度等众多因素共同作用,各影响因子间的相互关联会引起多重共线性问题,容易导致以此为输入的预测模型出现伪回归现象。此外,现有基于机器学习算法的应力预测模型由于训练特征过多、过度训练易产生过拟合现象,其预测精度还有待提高。针对上述问题,提出了基于主成分分析法(PCA)和麻雀搜索算法(SSA)改进的极限梯度提升算法(PCA-SSA-XGBoost)构建拱坝应力预测模型。该模型首先采用主成分分析法对参数进行降维,降低影响因子的多重共线性影响;进而通过SSA算法优化XGBoost的超参数,以避免传统算法过拟合,进一步提高模型预测性能。将该模型应用于我国西南某混凝土拱坝工程,对应力及应力相关监测数据进行处理、分析和预测,并与多元线性回归模型(MVLR)、神经网络模型(RBFNN)、极限梯度提升回归预测模型(XGBR)的预测结果进行对比分析。结果表明,基于PCA-SSA-XGBoost算法的应力预测模型可克服输入变量的多重共线性和过拟合问题,在预测精度方面具有优越性。

智能算法优化XGBoost的聚能-爆破装药比冲量预测

为了探索聚能-爆破装药结构、爆破距离等参数与比冲量间的复杂关系,提出一种智能算法优化极端梯度提升(eXtreme Gradient Boosting,XGBoost)的聚能-爆破装药比冲量预测模型.采用相关性分析方法,探寻聚能-爆破装药结构参数、爆破距离参数与比冲量之间的关联程度.使用具有数据并行处理能力和集成学习思想的XGBoost算法,挖掘结构参数、爆破距离参数与比冲量间的潜在非线性关系.基于粒子群算法(Particle Swarm Optimization,PSO)良好的全局搜索能力和蚁群算法(Ant Colony Optimization,ACO)优良的局部搜索能力,设计双智能算法优化XGBoost的融合预测模型PSO-ACO-XGBoost,提高聚能-爆破装药比冲量预测精度.PSO和ACO分别用于搜索XGBoost超参数解空间的全局最优解与局部最优解.实验结果表明,PSO-ACO-XGBoost模型相较于BP、XGBoost、PSO-BP、ACO-XGBoost等其它8种预测模型,在预测精度、拟合程度、速度和稳定性等方面具有最佳性能.

基于RUN-XGBoost算法的土石坝渗流预测模型

针对传统土石坝渗流预测模型存在局部最优、抗干扰性差和预测精度低等问题,通过RUN算法优化XGBoost算法得到RUN-XGBoost算法,构建了RUN-XGBoost模型以获得更优的土石坝渗流预测结果。该模型在种群初始化时采用RUN算法对XGBoost算法的3个主要参数进行改进,使预测结果有较高的有效性;通过自动寻找最优参数增进算法的整体收敛速度和预测精度,同时引入随机解,使算法能够排除局部最小值并继续搜索,从而获得全局最优结果。工程实例验证结果表明,RUN-XGBoost模型具有简洁、高效、预测精度高、鲁棒性强等优点。

基于XGBoost算法的跨境电商备货预测研究

文章针对跨境电商企业海外备货预测问题,以提高海外市场竞争力为目的,基于XGBoost算法构建预测模型,通过实验研究极端梯度提升算法对跨境电商备货预测的应用效果。测验表明,A类商品在确保存货安全的情况下,应该按照预计的存货数量,分批次、多批地存放,尽量减少总存货,以达到降低存货费用的目的。在初期的55天里,SKU_sales呈现了显著的起伏趋势,而在第56天以后的售出数量相较于前55天的数量稍有增长。结果表明,该方法的综合评估指数比A-XGBoost和C-XGBoost均有显著提高,表明该方法可以提高预报的精准度。XGBoost算法在分类和回归方面具有更高的预测精准度;并且在海外市场竞争日益激烈的背景下,跨境电商企业可以使用XGBoost算法提高海外市场竞争力。

基于Prophet-XGBoost组合模型的极端温度事件下负荷预测

气候变化对城市的影响日益加剧,频发的极端温度事件导致城市电力系统供需不平衡问题凸显,精确的需求侧电力负荷预测成为提升电力系统适应性从而支持城市功能稳定性的关键。本文开发了一种适用于极端温度事件下负荷预测的组合模型,结合时间序列模型Prophet和机器学习模型XGBoost,有效表征极端温度影响下的电力负荷波动趋势。实验结果表明,相比传统单一模型,组合模型显著提高了极端温度事件下的电力负荷预测精度,在增强城市电力系统对气候变化适应性方面具有较强的有效性,从而为电力调度等电力系统应急管理工作提供了更可靠的支持。

基于随机森林和XGBoost算法构建心脏骤停患者自主循环恢复后神经功能预后不良的风险预测模型

目的 利用机器学习算法构建预测心脏骤停(CA)患者自主循环恢复(ROSC)后神经功能预后不良的预测模型,探索结局相关因子。方法 回顾性收集2016年1月至2024年1月沧州市中心医院收治的CA行心肺复苏(CPR)后ROSC的患者481例为研究对象。收集患者临床资料,根据患者转出重症监护病房(ICU)时的格拉斯哥-匹兹堡脑功能表现分级(CPC)评分,将其分为预后良好组(GNO,n=158)和预后不良组(PNO,n=323)。481例患者按7∶3随机分为训练集(n=338)和测试集(n=143),训练集用于构建模型,测试集用评价模型效能。利用极端梯度提升(XGBoost)和随机森林(RF)两种机器学习算法构建患者神经功能预后不良的预测模型,分别得出影响患者神经功能预后的变量,应用SHAP进行XGBoost模型可解释性分析。将XGBoost和RF算法得出的变量取交集,再将交集变量进行多因素Logistic回归分析,得到差异有统计学意义的变量,进而构建决策树模型。在训练集和测试集上利用受试者工作特征(ROC)曲线和曲线下面积(AUC)评估决策树模型的预测性能。结果 通过XGBoost模型得到与神经功能预后不良相关的变量15个,RF模型得到与神经功能预后不良相关的变量14个,两种模型取交集得到11个与神经功能预后不良相关的交集变量[视神经鞘直径(ONSD)变化率、神经元特异性烯醇化酶(NSE)、入ICU第3天ONSD(ONSD day3)、心脏骤停至心肺复苏(CA-CPR)时间、ROSC时间、急性生理学与慢性健康状况评价Ⅱ(APACHEⅡ)评分、血肌酐、白蛋白、住ICU时间、血乳酸及年龄]。将这11个交集变量进行多因素Logistic回归分析,结果显示,PNO组与GNO组ONSD变化率、NSE、ONSD day3、ROSC时间及年龄这5个变量差异有统计学意义(P<0.05)。用这5个重要变量构建决策树模型,得出3个与患者神经功能预后不良最相关的变量(NSE、ROSC时间及ONSD变化率),在训练集上的决策树模型预测CA行CPR后ROSC患者神经功能预后不良的AUC为0.857(95%CI 0.809~0.903,P<0.001),在测试集上的AUC为0.834 (95%CI 0.761~0.906,P<0.001)。结论 基于XGBoost和RF这2种机器学习方法构建的决策树模型能够更准确地评估CA患者ROSC后神经功能的不良预后,且评价指标可能简化为NSE、ROSC时间及ONSD变化率。