基于梯度提升回归树的气井油管积液高度预测

气井油管积液高度预测是气藏开发的重要环节,更是排水采气不可或缺的一部分。气井开采后期,气井底部会出现积液聚集现象,积液过多会造成气井停产,为了避免停产问题,必须对气井油管积液高度进行预测,但传统石油工程模型预测气井油管积液高度,存在着具体计算需要大量经验参数等问题。提出一个基于梯度提升回归树模型预测气井油管积液高度的方法,以气井的套压、油压、油管下深、油层中深、日产气、日产水、井口温度7种生产数据为特征,采用集成学习方法,结合多个决策树的预测结果,以迭代逐步改进的方式来提高模型的整体性能,从而精确预测气井油管积液高度。通过与32口井仪器探测实测值、回归决策树和随机森林对比分析,梯度提升回归树模型预测值与实测值相符,预测效果也最好,平均相对误差仅3.87%,调整后的相关系数R2为0.85。梯度提升回归树模型与现有的油管内积液量和环空积液量预测模型相比较,平均相对误差降低了1.9%。

基于梯度提升回归树模型的上海市二手房均价分析

本文基于梯度提升回归树集成模型,利用采集的“链家”网站上海市近三年各住宅小区二手房的相关数据,分析影响上海市二手房均价的因素。对各影响因素运用Person相关系数矩阵及热力图进行初步分析,并将收集的数据分为训练集和测试集,训练并测试支持向量机模型、线性回归模型及集成模型。最终实验结果表明,基于梯度提升回归树的集成模型更能准确的预测上海市二手房的均价,且梯度提升回归树的MSE是其中最小,相关系数最大达到0.831,具有较好的拟合效果。

基于梯度提升回归树的城市道路行程时间预测

为了提高行程时间的预测精度,在考虑时间序列相关性的同时,分析相邻路段的空间相关性对于行程时间的影响,并提出基于梯度提升回归树模型的城市道路行程时间预测方法.对车牌识别设备获取的实际数据进行预处理,并提出相应的补全算法以解决数据缺失问题,建立完整的历史数据集.通过分析各影响因素与行程时间的相关性,构建特征向量.为了能更好地理解模型,通过梯度提升回归树模型输出各变量对于预测结果的重要度.利用实际数据对模型进行评估,预测行程时间的平均绝对误差百分比,约为10.0%.与SVM、ARIMA等方法相比,所提方法具有较高的精度.

基于GAM和BRT模型的不同渔汛期水温垂直结构对西北太平洋柔鱼CPUE的影响

为探究水温对西北太平洋柔鱼(Ommastrephes bartramii)单位捕捞努力量渔获量(CPUE)的影响,利用2015—2019年间5—11月西北太平洋柔鱼的生产统计数据,结合同时期海洋环境数据,对不同渔汛阶段分别采用广义加性模型(generalized addictive models,GAM)及提升回归树(boosting regression tree,BRT)模型,分析不同水层(0-300 m)温度及垂直温度梯度对CPUE的影响,并采用多次十折交叉验证评估了两种模型的稳定性和准确性。结果表明:渔汛初期(5—7月),GAM模型筛选的关键因子依据偏差解释率大小依次为纬度(Lat)和150 m水层温度(T_(150))、50-100 m水温梯度(G_(50-100))、经度(Lon)和100-150 m水温梯度(G_(100-150)),BRT模型筛选出的关键因子按贡献率大小依次为表层温度(T_(0))、0-50 m水温梯度(G_(0-50))、50 m水层温度(T50)、Lat和G_(50-100);渔汛旺期(8—11月),GAM模型筛选出的关键因子依据偏差解释率大小依次为Lat、Lon、T_(0)、G_(0-50)和G_(50-100),BRT模型筛选出的关键因子按贡献大小率依次为G_(0-50)、Lon、T_(0)、Lat和T50;两种模型比较显示,BRT模型在拟合优度方面优于GAM模型。研究表明,不同渔汛阶段西北太平洋柔鱼CPUE的关键影响因素有所不同,渔汛初期中上层水温对CPUE影响较大,而渔汛旺期浅水层水温对CPUE贡献较大。

贝叶斯优化梯度提升树的室内日光照度分布预测

透过窗户照射进室内的自然光随时间非线性变化,且在空间上的分布呈现不均匀性,导致照度模型预测误差大。在数据量有限的情况下,如何实现自然光下的室内光环境高精度建模是一项巨大的挑战。针对上述问题,提出一种主成分分析与贝叶斯优化梯度提升回归树的室内照度预测算法。该算法首先利用哑变量处理样本数据,通过主成分分析法充分考虑照度数据多特征之间的内在相关性并进行特征重塑;然后利用随机森林确定梯度提升回归树的初始参数,提高其收敛速度和稳定性;最后融合交叉验证和贝叶斯优化算法自适应确定梯度提升回归树的超参数组合,从而进一步提升该模型对室内照度分布的预测性能。实验结果表明,在不同气象、时间条件下,该算法对600个测试样本的照度的R2、MAE和RMSE分别为0.9912、18 lx和40 lx,均优于其他几种算法,且能够显著降低样本偏差值。

基于图像处理和GBRT模型的表土层土壤容重预测

针对传统的表土层土壤容重测量方法费时、耗力的问题,利用易获得的土壤物理参数实现农田大范围表土层土壤容重的快速、准确预测。通过分析表土层土壤容重与土壤表面粗糙度、土壤阻力的关系,构建了以土壤表面粗糙度和土壤阻力为输入的GBRT模型,土壤表面粗糙度利用图像处理技术获得,土壤阻力使用实验室车载式阻力测量系统获得。使用同态滤波技术对土壤表面图像进行预处理,提取图像灰度直方图的熵、平均值、方差、偏度和峰度表征图像的纹理特征参数,提取图像灰度共生矩阵的能量、熵、对比度和逆方差表征图像的区域特征参数。利用灰度关联分析,从9个表征土壤表面粗糙度的特征参数和土壤阻力中选取与表土层土壤容重关联度大于0.65的变量作为模型输入,将得到的GBRT模型预测结果与环刀法得到的结果进行相关性分析,R2达到0.8782,平均绝对误差达到0.021 g/cm^3。同时在相同的输入参数和运算环境下,与BPNN和SVR模型的预测精度和运算速度进行了对比,验证得到GBRT模型具有更高的预测精度和更短的运算时间。本文研究结果为科学指导农田表土层土壤容重的获取提供了思路。

认知行为计算模型结合DM的教学质量提升

为了根据认知及行为表现区分不同类别的学生以更好地提升教师教学质量,提出了基于认知行为计算模型的数据挖掘模型。基于各种重要的认知、行为输入参数,提出了认知、行为指数因子计算模型;依据所搜集的六个认知参数及三个行为参数,运用人工神经网络、灵敏度分析、数据挖掘及分类回归树算法对数据进行分类;将学生划分成三种不同的类别,从而更好地针对不同类别的学生实施不同的教学策略。实验结果表明,学生分类问题中,行为参数远比认知参数重要,分析结果表明了所提模型在教育系统教师工作支持领域的可行性。

泊松提升模型在中国车险索赔频率预测建模中的应用

为研究泊松提升模型在中国车险定价中的应用,将Boosting算法加入到SBS(Standardized binary split)回归树中,基于中国某公司2016年28个省份交强险保单数据,以样本内外损失函数的最小化为标准,对相关模型进行比较以选择相对较优的模型,应用得到的模型对各个变量进行单变量预测。研究结果表明:泊松提升模型优于SBS回归树模型,不存在过拟合的前提下,泊松提升模型的预测效果会随着树的深度或者迭代次数的增大而变得更优,确定了深度为3,迭代次数为15的泊松提升模型(即PBM3)为最优模型。

基于机器学习的多模型耦合径流预报研究

为具体考虑各水文模型适用条件、灵活利用模型预报特征对研究流域进行高精度耦合径流预报,将雅砻江流域雅江~吉居区间作为研究对象,以提升径流预报精度和稳定性为首要目的,构建涵盖新安江模型、水箱模型和TOPMODEL模型的多模型径流预报方法库,引入最小二乘法、岭回归法和极端梯度提升树法耦合各模型进行水文预报,并提出多评价指标体系对各耦合方法的预测性能进行对比分析。结论表明,极端梯度提升树法相较于其余两种方法有稳定的预测性能和强大的泛化能力,为该流域其他区间的预报工作提供了新的思路。

基于回归树集成学习方法的工业增长预测和分析

本文从众多变量中筛选出59个相关经济指标,分别考查疫情前后传统时间序列模型和几种回归树集成学习模型对中国工业增加值增速的预测效果,并结合Shapley additive explanations(SHAP)方法对相关预测变量的作用进行解释分析.研究发现,随着预测步长的增加和新冠疫情的暴发,传统时间序列模型的预测性能明显减弱,而集成学习模型的预测表现则相对较好,其中梯度提升树模型在较长预测步长中更加稳健和准确.基于SHAP方法的分析发现,作为预测变量的经济指标在不同时期的重要性有所不同,除生产、投资等指标外,金融类变量在高风险时期也具有一定的预测作用,需结合具体时间和预期目标来选择合适的经济指标进行工业增长预测.基于预测的视角可在一定程度上说明新冠疫情冲击可能不会改变工业增长未来走势的基本面.

WA-BT-ELM耦合模型在黄土滑坡位移预测中的应用

黄土滑坡的变形演化过程往往受到多种因素的影响,呈现出非线性特征。基于小波分析函数(Wavelet Analysis,WA)、提升回归树(Boosting Regression Tree,BT),以及极限训练机(Extreme Learning Machine,ELM)方法,提出一种名为WA-BT-ELM的黄土滑坡位移预测新方法。该方法将非线性位移数据作为一时间序列,运用小波分析函数将监测点累积位移曲线分解为若干子小波;随后使用提升回归树对所有子小波进行重要度分析,剔除相关性不高的子小波以去掉冗杂信息;最后运用极限训练机,结合筛选得到的子小波对滑坡位移进行预测分析。基于该模型对甘肃省永靖县黑方台滑坡区的滑坡位移监测数据进行预测,得到了优于ANN,BPNN,SVM,ELM,以及WAELM预测模型的结果,故认为WA-BT-ELM模型是一种有效的黄土滑坡位移预测方法。

基于特征选择算法的建筑能耗预测集成模型

为提高建筑能耗预测效果,提出一种基于随机森林特征选择算法的建筑能耗预测集成回归模型(RF-GBDT)。通过随机森林的特征选择算法处理原始数据集生成最优特征子集,使用梯度提升决策树算法将6种基础的机器学习算法建立集成回归模型,以最优特征子集作为集成模型的输入数据集。使用评价指标RMSE和R^2将集成模型预测结果与传统集成模型以及单一机器学习算法的预测结果进行对比,实验结果验证了集成后的RF-GBDT模型比单一算法的预测性能有了大幅度提升。

基于LightGBM的低压配电网台区线损率估算方法

针对低压配电网台区线损数据统计难度大、线损率计算结果准确度低的现状,提出一种低压配电网台区线损率计算方法。以平均电流法理论线损计算方法为基础,确定用于训练模型的特征,依托电网状态监测系统、数据统计平台,提取模型样本数据并建立数据集,通过以LightGBM为框架的梯度提升算法训练机器学习模型,并将训练得到的模型用于低压配电网台区线损率估算。采用某地区内台区线损率数据对模型进行验证,实验结果表明,运用LightGBM算法训练的模型可实现对低压配电网台区理论线损率的拟合估算,且模型具有较强的泛化能力,测试集平均绝对误差为0.78,均方误差为1.35,决定系数为0.52。与目前常用的回归算法模型相比,可有效提升计算结果准确度及拟合效果。

机场典型霾过程大气消光特性及能见度预测模型

大气能见度是机场运行的重要指标之一,探究机场低能见度天气形成机理、准确预测能见度变化趋势对保障航空交通安全高效运行至关重要。选取天津机场为研究对象,开展大气光学参数、污染物浓度及气象条件监测,研究了2020年12月08—23日一次典型霾天气过程中机场大气消光特性,并基于广义加性模型(generalized additive model,GAM)和梯度提升回归树模型(gradient boost regression tree,GBRT)分别构建机场能见度预测模型,对比并确定最优模型。结果表明,在天津机场冬季一次典型霾污染引起的低能见度过程中,大气总消光系数Bext为37.4~891.7Mm^(-1),平均值为346.0 Mm^(-1)。其中,B_(sp)、B_(ap)、B_(ag)、B_(sg)对B_(ext)的贡献占比分别为73.7%、11.7%、5.9%和8.7%,气溶胶污染是造成能见度降低的主要因素,GBRT分析显示1μm以下粒子对总消光的相对贡献最大。同时,大气黑碳(BC)和NO_(2)也会通过消光作用降低能见度。利用气象参数和污染物浓度数据,通过GAM和GBRT模型均可以对机场能见度进行较为准确的预测,其中GBRT模型的拟合效果优于GAM模型,表明GBRT模型可在多发的霾天气中提供准确可靠的机场能见度预测。

近30年中国主要农田土壤pH时空演变及其驱动因素

【目的】研究中国农田土壤pH时空变化特征及其主要的驱动因素,为土壤酸化阻控、土壤质量提升和土地可持续利用提供理论基础。【方法】基于农业农村部布置在全国主要农田区域的耕地质量监测点数据(950个),分析旱地、水旱轮作、水田等不同土地利用类型下土壤pH时空变化特征,并利用提升回归树模型探究影响土壤pH变化的主要驱动因素。【结果】就全国而言,土壤pH及其变异系数表现为旱地(6.74±1.19和17.63%)>水旱轮作(6.54±0.93和14.26%)>水田(5.80±0.81和13.95%),其中华南地区农田土壤pH表现为水田(5.74±0.79)大于水旱轮作(5.47±0.56)和旱地(5.45±0.91)。从监测初期(Ⅰ阶段,1988—2000)到监测中期(Ⅱ阶段,2001—2010),旱地和水田土壤pH整体上随时间呈降低趋势,下降速率分别为0.065和0.054/年(P<0.01),而水旱轮作土壤pH无显著变化;从Ⅱ到Ⅲ阶段(2001—2018),旱地和水旱轮作土壤pH整体上随时间呈上升趋势,上升速率分别为0.022和0.016/年(P<0.05),而水田土壤pH无显著变化。东北、华北、西南、长江中下游地区的旱地土壤pH随时间均呈线性下降趋势(P<0.05),而华南地区从Ⅱ到Ⅲ阶段呈线性上升趋势(P<0.01);西南、长江中游和华南地区水田土壤pH从Ⅰ到Ⅲ阶段呈线性下降趋势(P<0.01),而东北、西南和长江下游地区pH从Ⅱ到Ⅲ阶段呈上升趋势(P<0.01);西南地区水旱轮作土壤pH从Ⅰ到Ⅲ阶段呈线性下降趋势(P<0.01),而华北、长江下游和华南地区pH从Ⅱ到Ⅲ阶段呈上升趋势(P<0.05)。通过Pearson和提升回归树分析发现,年均降雨量是造成土壤pH空间尺度上差异的最主要因素,其次是土壤质地、容重和有机质含量。此外,在旱地土壤上长期的氮肥投入和在水田和水旱轮作土壤上钾肥的投入对pH变化的影响较大。【结论】整体而言,我国旱地和水田土壤pH从监测初期到中期呈快速下降趋势,而旱地和水旱轮作土壤pH从监测中期到2018年呈缓慢增加趋势。东北地区的旱地土壤pH呈持续下降趋势,需要引起重视。氮肥在旱地和钾肥在水田上的施用导致土壤pH的降低,今后应优化水肥运筹,通过改善土壤容重和有机质进而有效调控土壤pH。

基于数据分类重建的风电机组故障预警方法

为预警风电机组潜在故障、增强机组出力安全性,基于监控和数据采集(SCADA)系统,提出一种异常数据重建的风电机组故障预警方法。首先,充分利用同风场风机SCADA数据,分别重建输入类与输出类目标机组数据,克服了部分数据信息丢失、数据异常问题;其次,使用提取的代表性数据建立故障预警模型,所得预警模型更贴近机组运行动态特性;最后,采用改进的衰退指标预警潜在故障,直观展示机组阶段性衰退程度。案例研究中使用某风电场SCADA故障数据,并使用3种标准确定所提策略参数设定值,结果表明可至少提前3周预警风电机组齿轮箱潜在故障,验证了所提故障预警方法的时效性。

GAM模型和BRT模型在长江口鱼类群落多样性预测中的比较

长江口为西太平洋最大的河口,评估其鱼类群落多样性分布能够为长江口生态系统的修复和管理提供科学依据.本研究基于2012—2014年长江口渔业监测数据,分别使用GAM模型和BRT模型建立各站点水域鱼类群落多样性指数与环境和时空因子之间的关系.结合线性回归方程,采用交叉验证的方式对模型的预测能力和拟合效果进行评价,并绘制了2014年长江口鱼类群落多样性指数和丰富度指数的空间分布图.结果表明:盐度、p H和叶绿素a对多样性指数贡献最高,p H、溶解氧和叶绿素a是对丰富度指数贡献率最高的环境因子.BRT模型对于多样性指数和丰富度指数的拟合和预测结果均优于GAM模型.空间分布预测显示,相较于GAM模型,BRT模型能够对长江口小面积水域间的鱼类群落多样性作更好的区分,河口外侧水域的鱼类群落多样性明显高于河口内侧水域,而北支水域的多样性高于南支水域.

海州湾鹰爪虾栖息地适宜性研究

根据2011年及2013-2017年春季和秋季在海州湾进行的底拖网调查数据,结合同步测定的底层水温、底层盐度、水深和资源量等数据,开展鹰爪虾(Trachypenaeus curvirostris)栖息地适宜性的研究,先利用广义加性模型对环境因子进行筛选,再应用提升回归树模型确定各环境因子的权重,然后分别采用算术平均法和几何平均法建立栖息地适宜性指数模型,并通过交叉验证选择最优模型。结果表明:春季鹰爪虾的栖息地适宜性指数模型采用算术平均法构建,选择水深和底层盐度作为变量,具有最小的拟合;秋季鹰爪虾的栖息地适宜性指数模型采用几何平均法构建,选择底层水温和底层盐度作为变量,具有最小的拟合。对春季栖息地适宜性指数模型总偏差贡献率最大的是水深(76.23%),其次是底层盐度(23.77%);对秋季栖息地适宜性指数模型总偏差贡献率最大的是底层水温(82.56%),其次是底层盐度(17.44%)。海州湾春季鹰爪虾的最适栖息水深为24 m以内,底层盐度为29.7~31.8;秋季的最适栖息底层水温为18~24℃,底层盐度为29.2~31.5。本研究表明,环境因子的优化有助于改进栖息地适宜性指数模型,并提升其预测能力。

基于词嵌入与卷积神经网络的建筑能耗预测

在对建筑能耗进行回归预测时需要利用到时序特征与分类特征,而传统模型只能处理其中一种特征。针对该问题,文中提出了一种融合一维卷积与词嵌入的神经网络新构架,其中,一维卷积核能提取连续的时间序列特征,词嵌入模型能对离散的分类特征进行嵌入计算,从而建立能同时处理时序特征与分类特征的建筑能耗预测模型。通过与梯度提升决策回归树和长短时记忆网络的比较,证明所提出的模型在效率与准确率上都有良好的表现。在超参数调节上,采用基于贝叶斯优化的超参数自动优化算法,该算法能在树搜索空间上寻找最优超参数,相比于人工调参,超参数自动寻优算法能在较快的时间内提升模型本身的性能。最后进行了算例仿真,结果表明,文中提出的模型在性能上要优于集成学习模型与长短时记忆网络。

提升算法对传统车险索赔频率建模模型的改进——基于我国五省交强险保单数据

广义线性模型作为非寿险定价的经典模型,在非寿险定价中得到了广泛的应用。近年来,以提升算法为代表的机器学习算法在保险领域取得了很好的效果,为保险产品定价提供了一种新的选择。本文将提升算法思想分别融入到回归树模型和广义线性模型(GLM)中去,用得到的新模型对我国车险索赔频率进行预测建模分析,并与传统的回归树模型和GLM进行比较。结果表明,加入提升算法后传统车险索赔频率建模模型的效果得到了很大的改善,并且在不存在过拟合的前提下,随着模型深度和迭代次数的增加,模型的效果也在不断优化。