基于极限梯度提升和探地雷达时频特征的水泥路面脱空识别

针对探地雷达(GPR)数据解译依赖于人工经验,存在费时费力和主观偏差的问题,提出了基于极限梯度提升(XGBoost)和GPR时频特征的水泥路面脱空识别方法。采用正演模拟、室内试验和现场试验获得了脱空病害数据源,建立含有标签的脱空GPR数据集;通过重采样方法统一GPR数据采样频率,并对预处理后的GPR数据进行时频域特征提取,建立了包含18个时域和12个频域特征的数据集。以时频域特征为输入,是否存在脱空病害为输出,采用XGBoost算法构建脱空识别模型,并与随机森林(RF)和人工神经网络(ANN)算法进行对比。结果表明,模型的识别准确率排序为XGBoost(98.10%)>ANN(95.10%)>RF(93.17%),XGBoost模型识别精度最高,并能在实际路面上准确定位脱空区域。

基于极限梯度提升的完美匹配单层智能算法实现航空瞬变电磁问题高效吸收

对于航空瞬变电磁的低频探地问题,除了精度和效率需要考虑,深地探测问题的复杂度也不容忽视,特别是对于低频复杂问题存在异常体与背景间的多尺度效应.为了模拟开域问题,有限厚度区域的完全匹配层被用于截断计算域,然而这也无形中增大了整个模型,造成计算复杂度增加.鉴于此,提出了一种新的基于极限梯度提升(extreme gradient boosting,XGB)的完美匹配单层模型,并将该模型集成到时域有限差分求解器中,以进一步提高时域有限差分仿真的性能.所提出的基于XGB的完美匹配单层模型通过特征注意力集成学习方法可以获得更高的精度,同时占用更少的内存、消耗更少的时间.此外,由于该模型依托于传统机器学习模型,因此它在模型训练的稳定性和轻量级方面具有显著的优势.最后,通过对航空瞬变电磁应用进行三维数值模拟,验证了该方法的有效性和稳定性.该模型不仅在精度、效率和问题复杂性方面具有优势,而且还可以成功地集成到时域有限差分求解器中,解决低频航空瞬变电磁问题.

基于极限梯度提升算法和特征筛选方法的羊角月牙藻(Selenastrum capricornutum)急性毒性定量构效关系(QSAR)模型的建立与应用

藻类是水生食物网中主要的初级生产者,对水生生态系统的可持续性起着重要作用。随着社会发展、工业进步和人类活动,大量化学品被释放到水生环境中,对藻类产生了极大的威胁。若藻类受到危害势必会影响其他水生生物,因此有必要开展藻类的毒性评估。藻类的毒性评估需要大量的毒性数据,通过实验的方法获得水生毒性数据成本较高且比较耗时,定量构效关系(QSAR)是解决这类问题的一种良好的替代方法。本研究基于Web of Science与中国知网数据库文献中的53条急性毒性数据,利用极限梯度提升(XGB)算法和特征筛选方法建立了羊角月牙藻(Selenastrum capricornutum)急性毒性的QSAR模型。最优模型的训练集决定系数(R^(2)_(TR))达到了0.97,验证集决定系数(Q^(2)_(EXT))达到了0.78,留一法交叉验证系数(Q^(2)_(LOO))也达到了0.51,表明建立的QSAR模型具有较好的拟合优度、稳健性和预测能力。机理解释结果表明,化合物的拓扑电荷数、总原子序数和电负性是影响羊角月牙藻急性毒性的关键因素。在此基础上,采用建立的QSAR模型和EPI Suite分别预测了16种典型多环芳烃(PAHs)对藻类的急性毒性,并对其进行了毒性分级。研究结果为藻类的急性毒性数据的获取提供了一个高效预测工具,有利于加快化学品的水环境风险评估工作。

基于改进极限梯度提升算法的配电网合环转供电影响因素评估

合环电流大小与母线电压幅值差、相角差、环路阻抗等因素有关,而各因素重要程度不清晰,合环电流调控缺乏针对性。为此,提出一种基于改进极限梯度提升(extreme gradient boosting,XGBoost)算法的配电网合环转供电影响因素评估方法,以得出各影响因素的权重大小并采取针对性措施。首先,结合实际配电网的特点,确定影响合环电流大小的特征因素集;然后,基于PSCAD/EMTDC仿真软件搭建配电网合环模型,改变参数取值以获取大量样本数据;最后,利用XGBoost算法对样本数据进行训练,得出合环电流影响因素的权重排序。研究结果表明,各因素优先级排序为:母线电压相角差>环路阻抗>综合负荷大小>母线电压幅值差>综合负荷分布,按此制定相应的合环电流调控策略,实现配电网精细化管理,对电网调度运行具有一定的借鉴价值。

采用极限梯度提升算法的电力系统电压稳定裕度预测

将极限梯度提升树(XGBoost)算法应用于电力系统电压稳定评估问题.根据电压稳定问题特点,提出能够反映电力系统运行状态的特征集;把电压稳定裕度绝对值作为映射目标,并介绍生成样本集的方法.在介绍XGBoost算法基本原理的基础上,研究该算法的技术细节.在IEEE-39节点系统上进行验证,结果表明,XGBoost算法在R方值和平均绝对百分误差2项回归指标上均优于其他几类机器学习算法,且模型的计算速度最快,可以满足在线应用要求.同时,XGBoost算法具有良好的数值错误和数值缺失容错性,并可以针对预测偏差较大的样本进行数据补充,实现模型的更新,使得模型表现趋于稳定.

贝叶斯极限梯度提升机结合粒子群算法的电阻点焊参数预测

电阻点焊是多种因素交互作用的复杂过程。该过程的复杂性加上数据规模小和工艺不稳定问题使得难以建立精确的数学模型来对电阻点焊参数进行预测。该文提出一种将贝叶斯极限梯度提升机(Bayes-XGBoost)与粒子群优化(PSO)算法结合的方法,对厚度为0.15 mm的镍片和0.4 mm的不锈钢电池正极帽选取合适的样本特征和样本组合;利用极限梯度提升机(XGBoost)的非线性切分能力和防控过拟合机制对点焊工艺参数进行正向训练,并引入贝叶斯优化为梯度提升机选取最佳超参数;利用粒子群优化算法的全局寻优能力,对可变目标值的工艺参数进行反向预测,从而得到最优工艺参数。电阻点焊实验表明该方法比文中其他对比算法具有较强的综合性能,能够有效辅助点焊工艺。

极限梯度提升和长短期记忆网络相融合的土壤温度预测

土壤温度是地球科学多个领域的重要变量。其时空变化受多种环境因素影响,这对土壤温度的准确预测带来巨大挑战。以机器学习为核心的数据驱动方法,在土壤温度预测中是重要研究领域,为基于物理过程模型提供重要补充。然而目前针对土壤温度影响因素量性研究较少,因此本文提出XGBoost-LSTM的数据驱动方法。基于极限梯度提升算法(XGBoost)分析土壤温度影响因素的重要性,然后根据影响因素重要性依次组合,并输入至长短期记忆网络(LSTM),得到最优预测模型并实现土壤温度预测。最后在长白山和海北两个气象站完成实验,本文方法的最优均方根误差为2.234、平均绝对误差为1.716、纳什效率系数为0.932、LMI系数为0.729和威尔莫特一致性指数为0.983。结果表明本文提出的XGBoost-LSTM预测模型与目前土壤温度中常用的数据驱动模型相比,均表现出更高的精确度。

变分模态分解与极限梯度提升树融合的高速轴向柱塞泵空化等级识别

针对高速轴向柱塞泵在不同空化程度下故障特征不明显导致识别准确率低的问题,提出了一种变分模态分解和极限梯度提升树融合的识别方法。在不同空化等级下进行高速轴向柱塞泵空化试验,采集壳体的振动加速度信号,对信号采用变分模态分解方法并从中提取故障特征以构造特征数据集,最后利用极限梯度提升树进行空化等级的识别。为证明所提方法的抗噪性能,在测试集中加入了随机高斯白噪声。结果表明,加入不同信噪比的噪声后,该识别模型仍能准确地识别出高速轴向柱塞泵的空化等级。

同步压缩小波与极限梯度提升树融合的柴油机失火故障诊断

针对柴油机失火故障诊断特征提取分辨率较低和分类评估容易出现过拟合的问题,提出了一种同步压缩小波变换和极限梯度提升树融合的诊断方法。在不同转速下进行柴油机失火性能试验,采集缸盖振动信号,对信号利用时域统计、同步压缩小波提取特征,再采用局部线性嵌入方法进行特征降维,最后利用极限梯度提升树进行失火评估分类。不同工况与评估方法下的对比实验结果表明,所提方法的分类准确率最高可达99.828%,相比小波包特征提取的评估方法提升至少10%。在低模型复杂度下,所提方法具有最小的模型预测均方根误差,证明了方法的鲁棒性和抑制模型过拟合的能力。

融合残差网络和极限梯度提升的音频隐写检测模型

针对目前音频隐写检测方法对基于校验网格编码(STC)的音频隐写检测准确较低的问题,考虑到卷积神经网络(CNN)在抽象特征提取上的优势,提出一种融合深度残差网络(DRN)和极限梯度提升(XGBoost)的音频隐写检测模型。首先,利用固定参数的高通滤波器(HPF)预处理输入的音频,并通过三个卷积层提取特征,其中第一个卷积层使用了截断线性单元(TLU)激活函数,使得模型适应低信噪比(SNR)下的隐写信号分布;其次,通过五个阶段的残差块和池化操作进一步提取抽象特征;最后,经过全连接层和Dropout层将提取的高维特征作为XGBoost模型的输入进行分类。分别对STC隐写和最低有效位匹配(LSBM)隐写进行检测,实验结果表明,所提出的模型在0.5 bps、0.2 bps、0.1 bps三种嵌入率下,即音频每个采样值平均修改的比特数分别为0.5、0.2、0.1时,对子校验矩阵高度为7的STC隐写的平均检测准确率分别为73.27%、70.16%、65.18%,对LSBM隐写的平均检测准确率分别为86.58%、76.08%、72.82%。相较于传统提取手工特征的隐写检测方法和深度学习隐写检测方法,所提模型对两种隐写算法的平均检测准确率均提高了10个百分点以上。

基于极限梯度提升和深度神经网络共同决策的心音分类方法

心音是诊断心血管疾病常用的医学信号之一。本文对心音正常/异常的二分类问题进行了研究,提出了一种基于极限梯度提升(XGBoost)和深度神经网络共同决策的心音分类算法,实现了对特征的选择和模型准确率的进一步提升。首先,本文对预处理后的心音信号进行心音分割,在此基础上提取了5个大类的特征,前4类特征采用递归特征消除法进行特征选择,作为XGBoost分类器的输入,最后一类为梅尔频率倒谱系数(MFCC),作为长短时记忆网络(LSTM)的输入。考虑到数据集的不平衡性,本文在两种分类器中皆使用了加权改进的方法。最后采用异质集成决策方法得到预测结果。将本文所提心音分类算法应用于PhysioNet网站在2016年发起的PhysioNet心脏病学挑战赛(CINC)所用公开心音数据库,以测试灵敏度、特异性、修正后的准确率以及F得分,结果分别为93%、89.4%、91.2%、91.3%,通过与其他研究者应用机器学习、卷积神经网络(CNN)等方法的结果比较,在准确率和灵敏度上有明显提高,证明了本文方法能有效地提高心音信号分类的准确性,在部分心血管疾病的临床辅助诊断应用中有很大的潜力。

基于PCA-SSA-XGBoost算法的拱坝应力预测模型研究

由于大坝应力受水位、温度等众多因素共同作用,各影响因子间的相互关联会引起多重共线性问题,容易导致以此为输入的预测模型出现伪回归现象。此外,现有基于机器学习算法的应力预测模型由于训练特征过多、过度训练易产生过拟合现象,其预测精度还有待提高。针对上述问题,提出了基于主成分分析法(PCA)和麻雀搜索算法(SSA)改进的极限梯度提升算法(PCA-SSA-XGBoost)构建拱坝应力预测模型。该模型首先采用主成分分析法对参数进行降维,降低影响因子的多重共线性影响;进而通过SSA算法优化XGBoost的超参数,以避免传统算法过拟合,进一步提高模型预测性能。将该模型应用于我国西南某混凝土拱坝工程,对应力及应力相关监测数据进行处理、分析和预测,并与多元线性回归模型(MVLR)、神经网络模型(RBFNN)、极限梯度提升回归预测模型(XGBR)的预测结果进行对比分析。结果表明,基于PCA-SSA-XGBoost算法的应力预测模型可克服输入变量的多重共线性和过拟合问题,在预测精度方面具有优越性。

基于概率建模的分层产液劈分方法

传统产液劈分方法无法考虑层间干扰及注水井和邻井的影响,难以准确判断井下实际状况。同时,海上油田产液剖面测试成本高,常规的机器学习方法面临样本数量少的问题。基于此,提出一种基于贝叶斯神经网络和极限梯度提升算法的多层合采产液劈分混合学习模型。概率方法可以识别预测中的不确定性,通过将神经网络与概率建模结合,进行分层产液数据分布特征挖掘,结合主控因素分析,混合学习算法可以实现小层产液量的准确预测,可以依据较少的数据获得更为稳健的模型。为验证所提方法的有效性,将其应用于实际油田某区块进行产液剖面预测。结果表明:相比KH劈分方法在计算中劈分系数固定,不会随着生产过程波动,所提出的方法可从历史数据中学习,预测精度达到87.9%,预测结果更加逼近真实单层产液量。

基于CNN和XgBoost的香蕉成熟度判别

目的:提高香蕉成熟度的判别准确率。方法:基于卷积神经网络和极限梯度提升算法建立香蕉成熟度的判别方法。先通过卷积神经网络提取香蕉图像特征,并采用全连接层网络和线性判别分析方法精简香蕉图像特征;通过贝叶斯优化算法优化极限梯度提升算法超参数;将简化后的香蕉图像特征输入极限梯度提升算法,通过极限梯度提升算法对香蕉成熟度进行判别。结果:所提方法对香蕉成熟度的判别准确度为91.25%;与已有方法相比,所提方法对小数据量香蕉的成熟度判别准确率明显提高。结论:该方法可实现被测香蕉成熟度的准确判别,有助于仓库经理、出口商实时监测香蕉的成熟度状况。

基于考虑误差修正的非线性自适应权重组合模型的光伏发电功率预测

为了提高光伏电站光伏发电功率预测精度,解决极限梯度提升模型、长短期记忆模型2种传统单一模型及传统组合模型极限梯度提升-长短期记忆模型的光伏发电功率预测结果滞后、预测效果易突变、预测误差较大、线性拟合性较差等不足,基于极限梯度提升算法、长短期记忆算法和线性自适应权重,提出一种考虑误差修正的非线性自适应权重极限梯度提升-长短期记忆模型进行光伏发电功率预测;分别使用极限梯度提升算法和长短期记忆算法训练得到2种单一模型,将2种单一模型的初步预测值和真实值组成新的训练数据集,利用神经网络算法训练所提出的模型,对2种单一模型的初步预测值分配自适应权重系数,并根据训练时所提出模型的预测值大小分段统计预测误差的分布,预测时根据所提出模型的预测值在预测结果的基础上累加误差均值从而进行误差修正,进一步提高所提出模型的预测精度;利用Python语言分别对所提出的模型、传统组合模型和2种传统单一模型在晴天、阴天和雨天的光伏发电功率预测性能进行仿真。结果表明:与极限梯度提升-长短期记忆模型、极限梯度提升模型、长短期记忆模型相比,所提出模型的均方根误差分别减小28.57%、 39.39%、 49.79%,平均绝对误差分别减小44.25%、 53.33%、 64.8%,决定系数分别增大1.43%、 2.38%、 3.34%,所提出的模型更有效地减小了传统单一模型的光伏发电功率预测误差,优化了传统组合模型的权重系数;3种天气条件下所提出模型的光伏发电功率预测误差相对最小且稳健性最强,验证了所提出模型的有效性。

华北落叶松林立地因子提取及立地指数遥感估测

根据2019年Landsat8 OLI光学遥感数据和塞罕坝机械林场地区2020年森林资源二类清查数据以及临时样地数据,编制塞罕坝机械林场华北落叶松林立地指数表,并得到华北落叶松林小班立地指数。在小班尺度上获取影像的光谱、纹理、植被指数、线性变换、地形等6个种类59个特征,利用极限梯度提升算法(XGBoost)提取华北落叶松林小班林分因子信息估测立地指数。结果表明:遥感-立地因子特征立地指数估测模型的精度更高,准确度为0.877376,召回率为0.894318,精确率为0.926923,F_(1)值为0.908221。因此,在立地指数估测中,将多光谱遥感特征与立地因子提取相结合具有应用潜力。

基于PCA-GA-XGBoost模型的吉林省水资源 承载力评价

为了提高水资源承载力评价的效率和准确性,提出了一种基于主成分分析(PCA)、遗传算法(GA)和极限梯度提升树(XGBoost)的指标评价模型。定义了以水资源、社会经济、生态环境为子系统的14项评价指标;采用主成分分析法对评价指标进行降维处理;基于梯度提升决策树对吉林省2011—2021年的水资源承载力进行评价分析,并利用遗传算法对极限梯度提升树中4个参数进行优化。结果表明:经主成分分析简化评价指标后,PCA-GA-XGBoost模型的相关系数等指标均优于GA-BP、GA-SVM、GA-XGBoost和XGBoost;2011—2021年吉林省水资源承载力位于0.192~0.724,为先上升后下降再上升趋势,承载力状况逐年改善;利用模型内置的特征值重要度排序功能,识别得出重要度最大的指标为每公顷化肥施用量(0.5307),是影响吉林省水资源承载力的关键因素。

基于天气二次分类的地表太阳辐射预测方法

为提高地表太阳辐射在复杂天气情况下的预报精确度并减小预报的时间成本,结合广州市白云区的历史气象数据,提出了一种以中国气象局的天气划分标准对历史天气进行分类的方法,并在各天气的子模型下使用支持向量回归(support vector regression, SVR)对地表辐照度进行预报。由于天气类型较多,因此对各子模型利用极限梯度提升(extreme gradient boosting, XGBoost)算法进行特征分析,并利用Mann-Whitney检验,合并了特征重要性类似的序列,实现了天气的二次分类,降低了模型的复杂度。结果显示,本文模型在连续12个月的预报中,相关系数、准确率和合格率均超过了评判指标的要求,具有较高的预测精度。且预报总计用时10.633 h,相比其余模型的13~34 h,预报速度更快,迎合了光伏电站中对太阳辐射预报的及时性的需求。

VMD-Stacking集成学习的多特征变量短期负荷预测模型

针对当前短期电力负荷预测结果准确度不够高的问题,提出一种由变分模态分解(variational modal decomposition, VMD)和Stacking集成学习框架组合的多特征变量短期负荷预测模型。在预测前使用VMD算法将负荷数据分解,然后加入对模型重要性较高的特征变量,再建立由轻量级梯度提升机(light gradient boosting machine, LightGBM)与极限梯度提升机(extreme gradient boosting, XGBoost)融合的Stacking集成学习预测模型,并比较不同天气情况下对预测模型准确度的影响。经实际算例对比验证表明:多特征的VMD-Stacking集成学习预测模型的误差较小。采用VMD算法分解历史负荷序列,分解后子模态分量的周期性体现了出来,让模型预测波动性较大的负荷时更容易;温度、天气、农历和节假日情况等影响负荷变化的关键因素有被考虑到,模型的准确度得以提高;Stacking集成学习模型对各算法取长补短,泛化能力增强,预测的准确度高于单一模型。

在线医药电商评论情感分析——基于XGBoost集成加权词向量和大语言模型的情感识别模型

消费者评论是考察消费者情感的重要数据源,对商品评论进行数据挖掘是帮助在线医药电商改善经营的重要途径。立足于在线医药电商的用户评论,基于SO-PMI(情感倾向点互信息)算法构建该领域情感词典,对评论词向量进行情感加权。利用XGBoost(极限梯度提升树)集成词向量和LLM(大语言模型)构建情感识别模型,最后得出评论情感指数,从多个维度展开,分析消费者评论中的情感趋势。实证分析表明,构建的情感识别模型的AUC(曲线下的面积)等验证指标较LLM模型相比有进一步提升,具有一定的应用价值。