改进灰狼算法优化GBDT在PM_(2.5)预测中的应用

针对灰狼算法易陷入局部最优解和全局搜索能力不足的问题,通过霍尔顿序列(Halton Sequence)搜索算法初始化狼群位置,避免灰狼算法陷入局部最优解和重复运算;引入莱维飞行和随机游动策略对灰狼算法的寻优过程进行优化,以增加算法的全局搜索能力;利用粒子群算法模拟灰狼种群得出的最佳适应度以用于惩罚项改进灰狼算法中的头狼更新策略。使用改进算法优化的梯度提升树(Gradient Boosting Decision Trees,GBDT)模型对北京市大气污染物监测数据中PM_(2.5)质量浓度进行预测,采用3种评估函数对各模型以及混合模型预测效果得分进行评估。结果显示,本文改进的灰狼算法对梯度提升树的优化效果优于其他算法,均方根误差E RMS为6.65μg/m^(3),平均绝对值误差E MA为3.20μg/m^(3),拟合优度(R^(2))为99%,比传统灰狼算法优化结果的均方根误差减少了19.19μg/m^(3),平均绝对值误差降低了10.03μg/m^(3),拟合优度增加了9百分点;与霍尔顿序列和莱维飞行改进的(Levy Flight-Halton Sequence,LHGWO)相比,改进的灰狼算法预测得分的均方根误差降低了10.39μg/m^(3),平均绝对值误差减小了6.71μg/m^(3),拟合优度提高了5百分点。研究表明了预测模型优化的有效性,为未来城市改善空气质量提供了科学依据和技术支持。

基于GBDT算法的弓网动态匹配特性预测模型

高速铁路通过弓网系统的滑动电接触获取电能驱动列车运行,弓网动态匹配特性是保障良好滑动电接触的基础。首先,建立了弓网动态匹配的有限元分析模型,并通过与文献结果对比验证了模型的正确性。采用拉丁超立方抽样方法,对接触网的关键结构参数和运行速度参数进行样本抽样,获得输入参数集;然后,利用有限元模型对输入参数集开展大量计算分析并进行结果的特征提取,获得弓网动态匹配关键特征参量的输出结果,结合输入和输出结果,构成了样本数据集;最后,采用梯度提升决策树(gradient lifting decision tree, GBDT)算法对数据集进行学习训练和验证测试,建立弓网动态匹配特性预测模型,并将其与基于决策树、随机森林、极端随机树和极端梯度提升树算法的4个模型进行对比分析。结果表明,基于GBDT算法的模型预测精度更高、稳定性更好,在测试集上的R~2达到了0.929,能够准确快速地评估弓网匹配特性。通过对GBDT模型进行参数重要性分析可知,运行速度对弓网匹配特性的影响程度最大,达61%,其次是接触线的张力、承力索张力和档距。该研究初步探索了采用机器学习方法建立预测模型来替代有限元模型的可能性,所建立的模型可用于弓网动态匹配特性的快速预测与评价。

Travel time prediction model of freeway based on gradient boosting decision tree

To investigate the travel time prediction method of the freeway, a model based on the gradient boosting decision tree (GBDT) is proposed. Eleven variables (namely, travel time in current period T i , traffic flow in current period Q i , speed in current period V i , density in current period K i , the number of vehicles in current period N i , occupancy in current period R i , traffic state parameter in current period X i , travel time in previous time period T i -1 , etc.) are selected to predict the travel time for 10 min ahead in the proposed model. Data obtained from VISSIM simulation is used to train and test the model. The results demonstrate that the prediction error of the GBDT model is smaller than those of the back propagation (BP) neural network model and the support vector machine (SVM) model. Travel time in current period T i is the most important variable among all variables in the GBDT model. The GBDT model can produce more accurate prediction results and mine the hidden nonlinear relationships deeply between variables and the predicted travel time.

基于GBDT的气液两相流相分布测量模型

双波长透射法是一种高精度的多相流相分布参数检测方法,为了进一步提高相分布测量的精度,本文提出用梯度提升决策树(GBDT)算法建立相分布测量模型。利用光学仿真,模拟气泡在不同相分布下波长为445nm和635nm的光线在气液两相流中的传播过程,采集检测平面的光强分布,分析不同相分布情况下气泡中心位置和气泡半径对光强分布曲线的影响;用GBDT建立测量模型,以光强缺失宽度和缺失偏移为特征参数,建立特征参数与气泡相分布之间的对应数据库,利用数据库对GBDT模型进行训练;用训练好的模型预测气泡的相分布。建立的测量模型对气泡相分布预测的均方误差小于0.0008mm,均方误差减小了33.33%,证明了测量模型更适用于相分布的测量。搭建了实验平台,对竖直上升气泡流相分布参数进行预测,实现了对气泡中心位置运动轨迹的追踪。

基于PCA-Adaboost-GBDT的短期风电功率预测

为解决单一预测模型难以准确预测风电功率的问题,提出了一种基于主成分分析(principal component analysis,PCA)-自适应增强(adaptive boosting,Adaboost)-梯度提升树(gradient boosting decision tree,GBDT)的风电功率短期预测方法。使用PCA方法对数据降维分析,使用Adaboost-GBDT组合模型对风电功率数据进行训练。结果表明,所提算法在准确性和效率方面都具有明显的优势。研究结果为风电功率准确预测提供参考与借鉴。

GBDT与感知机融合的充电桩故障诊断方案

为解决充电桩故障诊断中普遍存在的特征提取难题以及复杂的人工智能模型容易产生过拟合问题,该文提出一种基于GBDT与MLP融合的新方法。根据集成学习理论,建立多个独立的GBDT,组建多个全连接的GBDT层,最后连接一个MLP进行特征学习与分类。该融合方案避免了手动提取特征的困难,在降低对单个模型性能和复杂度依赖的同时,其融合性能得到提升而且更加稳定。在公开数据集上的实验结果表明,该文提出的方案优于典型的独立机器学习方案。

基于改进Smote-GBDT算法的岩爆预测模型

为准确预测岩爆等级,确保施工人员和设备安全,首先,从岩爆机制、数据和算法角度,分析埋深(D)、单轴抗压强度(UCS)、单轴抗拉强度(UTS)、岩石脆性指数(B_(1)、B_(2))、围岩最大切向应力(MTS)、应力集中系数(SCF)和弹性变形能指数(W_(et))8个指标,建立岩爆预测指标体系;其次,针对岩爆样本存在的数据不均衡问题,引进托梅克联系(Tomek Link)对欠采样方法,改进合成少数类过采样(Smote)算法,对岩爆训练样本进行混合过采样;最后,构建SmoteTomek-梯度提升树(GBDT)岩爆预测模型,以38组数据验证模型的有效性,并与其他模型进行对比。结果表明:SmoteTomek-GBDT的准确率为92.1%,较未采样提升5.3%,Smote采样提升10.5%,优于随机过采样模型,并且避免跨等级的岩爆误判。

基于GBDT算法的游戏销量预测模型研究

随着网络游戏的快速兴起,精确的游戏销量预测具有较高的商业价值,能够明确各方投资方向,提高收益,形成合作共赢。本文以影响游戏销量的特征数据为样本,建立基于梯度提升决策树(Gradient Boosting Decision Tree,GBDT)算法的游戏销量预测模型;并将GBDT模型预测结果与决策树、线性回归、极端随机树进行对比分析。分析表明,本文所建立的游戏销量预测模型较其它预测模型具有较高的拟合优度,预测效果更好,且在预测阶段的计算速度快,在分布稠密的数据集上,泛化能力和表达能力较好。

基于GBDT-LR和信息量模型耦合的滑坡易发性评价

[目的]探索准确、快速的滑坡易发性区划方法,为区域安全监测提供参考,为政府治理滑坡灾害提供科学依据。[方法]以安徽省池州市贵池区为研究区域,采用梯度提升决策树—逻辑回归(GBDT-LR)和信息量(I)模型耦合的方法,实现区域滑坡易发性评价。该方法通过对原样本地学习,组合产生新的模拟样本,从而增强易发性评价模型对滑坡的拟合能力;采用Borderline-Smote算法解决样本数据不对称的问题。选用r.slopeunits软件划分的斜坡单元作为最小评价单元,选取坡度、坡向、地形曲率、剖面曲率、平面曲率、地形湿度指数(TWI)、地形起伏度、归一化植被指数(NDVI)、距断裂距离和距水系距离总计10个评价因子。分别从频率比、滑坡灾害点及隐患点密度、ROC曲线3个方面对构建的滑坡易发性模型进行评价。[结果]试验结果表明:耦合模型I-GBDT-LR分别比I,LR,I-LR模型的高易发区频率比所占比例提升约10%,13%,7%,高易发区滑坡灾害点及隐患点密度分别提升约9,11,7,ROC精度提升约10%,9%,5%。[结论]从检验指标综合来看,耦合模型的精度均高于单一模型,所提出耦合模型精度又高于I-LR耦合模型,为滑坡易发性评价提供了一种有效的、新型的评价方法。

基于GBDT的沥青路面抗滑性能感知模型研究

为了克服接触式路面抗滑性能测试方法适用范围局限、稳定性与可重复性较差的缺陷,文章通过非接触式三维激光扫描技术建立沥青路面抗滑性能梯度提升决策树(GBDT)感知模型。研究选取巴通万高速公路上的12个测试站点,收集了216组原始数据,对路面三维纹理数据进行面积分层,并提取宏微观纹理指标。然后将不同面积占比下的宏微观纹理特征指标、测试温度及摩擦系数BPN分别代入模型中,并与决策树、随机森林、线性回归三个模型进行对比分析。研究表明,以40%为最佳切割面,GBDT路面抗滑性能感知模型准确度更高、稳定性更好,测试集R2达到0.8732,能够准确有效地评估沥青路面抗滑性能。GBDT感知模型参数重要性分析结果显示:温度对沥青路面抗滑性能具有显著性影响,针对不同的评价指标,其宏微观纹理特性对路面抗滑性能的影响差异性较大。研究验证通过非接触式路面纹理测试替代现有的接触式路面摩擦测试的可能性,所建立的指标体系和模型以期推动路面抗滑性能测试技术的进步。

激光诱导击穿光谱结合RFE-GBDT算法定量分析稀土矿石中的Fe和Y

稀土矿组成复杂,对选矿技术要求较高,寻找一种快速检测分析稀土矿石中元素的方法对稀土矿选矿具有重要意义。激光诱导击穿光谱(Laser-induced Breakdown Spectroscopy, LIBS)是检测稀土矿石中元素的一种重要手段,可以进行现场分析,无需制备复杂样品。建立了一种基于LIBS结合递归特征消除(Recursive Feature Elimination, RFE)和梯度提升树(Gradient Boosting Decision Tree, GBDT)算法的模型对稀土矿石中Fe元素和Y元素进行快速定量分析。采用激光诱导击穿光谱仪对25个样品进行光谱采集,将采集的光谱进行预处理后使用5折交叉验证对RFE阈值进行优化,再通过贝叶斯搜索对GBDT模型参数进行优化,构建了RFE-GBDT校正模型,对稀土矿石中的Fe和Y进行了定量分析并与真实值进行对比,结果表明,Fe和Y的预测决定系数(RP2)分别为0.957 1和0.930 7,预测均方根误差(RMSEP)分别为0.072 7和0.022 6,说明该模型具有良好的预测性能,可以实现稀土矿石中Fe和Y的快速定量分析。

基于朴素贝叶斯和GBDT的提前采购决策模型

电子元器件供应链服务中,传统流程无差别地对所有客户订单型号确认客户交易意愿,导致启动采购的时机存在滞后性,增加了交易失败的风险。为了对高可信的交易提前启动采购流程,分别使用朴素贝叶斯和梯度提升决策树(Gradient Boosting Decision Tree,GBDT)两种算法预测最终能进入采购流程的订单型号。结果表明,使用朴素贝叶斯算法的正样本召回率为74.65%,负样本召回率为63.51%,略低于业务负责人的预定目标;而使用GBDT算法的正样本召回率为84.99%,负样本召回率为76.07%,达到了业务负责人的预定目标。

高铁枢纽与城市轨道交通换乘流线仿真与优化

针对高铁枢纽与城市轨道交通换乘流线优化问题,以南京南站作为研究对象,建立全过程仿真模型,识别换乘瓶颈,采用梯度提升决策树法(Gradient Boosting Decision Tree,GBDT)确定参数重要度,提出改善方案.首先,分解换乘过程的行人与设施流线,分析高速铁路到达客流与城市轨道交通客流的分布特征.其次,使用AnyLogic软件建立高铁枢纽换乘城市轨道交通的全过程仿真模型,分析现状仿真结果,识别空间瓶颈.然后,设计不同优化类型下的措施参数及调整范围,形成不同参数组合方案.采取梯度提升决策树算法,识别不同措施参数的相对重要度,并据此确定改善措施的优先级.最后,依据措施的优先级,确定不同类型下的优化组合方案,选择机器学习全局可解释性方法对其进行优化效果分析,为不同场景下的服务改善提出建议.研究结果表明:换乘瓶颈主要集中于楼/扶梯通道设施以及闸机、售检票机等服务设施处;乘客换乘城轨的购票比例对平均换乘时间和单位时间最大换乘人数均起到重要影响,对于平均换乘时间,城轨自动售票机数量、购票时间、城轨进站服务时间、城轨进站闸机数量的影响相对较大,对于单位时间最大换乘人数,购票时间与城轨进站闸机服务时间的影响相对较大.为提高高铁枢纽换乘效率,建议推广电子客票和多种支付方式,优化购票及检票设施.

管理层讨论与分析能预示企业违约吗?——基于中国股市的实证分析

采用文本挖掘技术,对上市公司年报中的管理层讨论与分析(MD&A)内容进行文本分析,从文本相似度、文本可读性、文本语调以及管理层预期的角度构建了MD&A评价体系。通过构建代价敏感GBDT(csGBDT)模型,考察多维管理层讨论与分析指标对企业违约预测的影响,并进一步分析了对企业违约状态有重要影响的MD&A指标及其对违约状态作用的边际效应。研究表明:MD&A指标可以作为替代性数据源准确预测上市公司违约状态;MD&A指标相比传统违约预测变量的预测效果较差;MD&A指标在传统违约判别指标基础上提供了额外的信息含量;csGBDT模型显著提高了对企业(尤其是对违约企业)的判别能力,在违约预测的大数据方法中具有明显优势。在众多管理层讨论与分析指标中,对企业违约有重要影响的MD&A指标依次为:与前一年相比文本相似度、词汇总量、情感语调2、词汇总量/句子数量、情感语调1和管理层是否发出业绩预测。本文将企业违约预测的研究边界从结构化数据拓展到非结构化文本数据,有助于抑制信息不对称导致的企业违约风险。

基于多特征融合的细胞特异性lncRNA的亚细胞定位预测

长链非编码RNA(long non-coding RNA,lncRNA)在细胞生物学过程和疾病发展中扮演着关键性角色。由于lncRNA的亚细胞定位和其生物学功能密切相关,因此确定lncRNA的亚细胞定位具有重要意义。目前已有一些基于机器学习的方法来识别lncRNA的亚细胞位置,但在识别人类lncRNA的细胞特异性定位方面的相关工作仍然有限。该模型对人类细胞系lncRNA亚细胞定位问题进行了研究,提取了k-mer、CKSNAP、SRS和TSS特征信息,并对各类特征信息进行了融合,基于XGBoost和LightGBM结合的算法来预测人类细胞系lncRNA的亚细胞位置,并通过10倍交叉检验对模型进行了评估。结果表明,该模型预测人类细胞系lncRNA亚细胞定位的方法与现有的预测方法相比,预测成功率均有一定改进,其基准数据集的AUROC值最高达到92.26%。

基于优化负样本采样策略的梯度提升决策树与随机森林的汶川同震滑坡易发性评价

强震诱发的滑坡具有数量多、分布广、规模大等特点,严重威胁人民生命财产安全。滑坡易发性评价能够快速预测灾害空间分布,对于减轻震后灾害的危险性具有重要意义。在同震滑坡易发性评价研究中,如何选取滑坡负样本并通过耦合机器学习模型提高评价精度的对比研究仍需进一步研究。以山区汶川地震诱发的滑坡为研究区,首先选取地形地貌、地质环境、地震参数等10个滑坡评价因子,分析滑坡空间分布规律;其次因子共线性分析检验数据冗余,接下来采用频率比法(FR)选取极低、低易发区滑坡负样本点的采样策略;最后采用基于决策树演化改进的梯度提升决策树(GBDT)、随机森林(RF)和耦合模型(FR-GBD与FR-RF),开展了基于机器学习的同震滑坡易发性区划并进行精度评价。研究结果表明:①滑坡空间分布受到多层级因子控制;②模型预测精度为:FR-RF(AUC=0.943)>FR-GBDT(AUC=0.926)>RF(AUC=0.901)>GBDT(AUC=0.856);③在低易发区选择滑坡负样本可以明显提高易发性精度。研究成果可为滑坡易发性中负样本的选择和评价模型构建提供参考同时也为震后滑坡的防灾减灾提供理论支持。

基于GBDT算法的参考作物蒸散量模型在江苏省的预测

选取江苏省6个气象站点1997-2016年的逐日气象资料,建立了3种基于树型算法的参考作物蒸散量(ET 0)预测模型,包括梯度提升决策树(Gradient boosting decision tree,GBDT)、随机森林(Random forest,RF)和回归树(Regression tree)模型,以FAO-56 Penman-Monteith公式计算所得的ET 0值作为标准值,对GBDT、RF、Regresssion tree模型和3种经验模型(EI-Sebail、Irmak、Hargreaves-Samani模型)的预测结果进行比较分析。结果表明:在相同气象因子输入组合下,GBDT、RF模型能取得较高的模拟精度,且明显高于Regression tree模型和经验模型,其中,气象参数组合为最高气温、最低气温和辐射的GBDT模型具有最高的模拟精度[全局评价指标(GPI)排名第1];通过敏感性分析发现,辐射是对江苏省逐日ET 0影响最为显著的气象因子,其直接通径系数为0.512,对决定系数(R 2)的贡献度为0.740,显著高于其他气象因子;通过可移植性分析发现,气象因子组合为最高气温、最低气温和辐射的GBDT、RF模型在江苏省内6个站点相互交叉验证下仍具有较高的预测精度。因此,可以将GBDT、RF模型应用于江苏省气象资料缺乏时的ET 0预测,为农业灌溉提供可靠依据。

用梯度提升决策树实现电力负荷非线性影响因素分析

为了避免由因素冗余导致的预测精度下降,对比分析了6种集成机器学习模型的性能,发现梯度提升决策树回归模型性能最好。利用梯度提升决策树进行特征重要性排序,选出显著影响因素;然后通过计算偏依赖量来评估各影响因素与最大负荷之间的非线性关系;最后,运用长短期记忆预测模型对各个因素的组合进行验证。结果表明,利用梯度提升决策树可以有效捕捉最大负荷与各因素之间的非线性关系,且经过因素选择和考虑温度累积效应后,负荷预测准确度得到显著提高。

机器学习预测机械钻速及在工程上的应用

机械钻速是钻井工程中的关键指标,直接关系到钻井成本,准确判断机械钻速是钻井工程决策的关键。针对传统机械钻速预测方法误差大、时效低的问题,尝试通过机器学习的方法获取更准确、可靠的机械钻速预测模型。首先采用不同的机器学习算法初步建立机械钻速预测模型,然后通过性能比选优选出梯度提升树算法,最终通过优化参数建立机械钻速预测模型。将训练好的预测模型用于南海某盆地一口探井,预测结果符合实际。采用模型预测的结果可以用于机械钻速评价,识别机械钻速异常,为工程决策提供依据。

基于迭代决策树(GBDT)短期负荷预测研究

迭代决策树(GBDT)属于机器学习算法的一种,由多颗决策树组成,所有树的结论累加起来作为最终答案。该算法表达能力强,可用于大部分回归问题。本文以贵州省遵义市某县负荷及天气数据为基础,结合GBDT算法,对该地区未来8天的日最大负荷进行预测。同时与随机森林和支持向量机两种算法的预测结果对比,结果证明GBDT算法对于短期负荷预测有较好的效果。