建立梯度提升机模型预测RICU机械通气并发呼吸机相关性肺炎患者的短期预后

目的构建梯度提升机(GBM)模型预测呼吸重症监护病房(RICU)机械通气患者并发呼吸机相关性肺炎(VAP)的短期预后情况。方法回顾性分析RICU收治的350例机械通气并发VAP患者的临床资料,根据随访结局将患者分为死亡组(n=110)和生存组(n=240),筛选影响其预后的危险因素。按8∶2比例将患者随机分为训练集280例和验证集70例,采用R语言4.2.1软件构建GBM预测RICU机械通气并发VAP患者的短期预后模型并评价模型的预测效能。结果年龄、机械通气时间、C反应蛋白(CRP)水平、血清降钙素原水平、急性生理学与慢性健康状况评分系统Ⅱ(APACHEⅡ)评分及序贯器官衰竭评估(SOFA)评分是RICU机械通气并发VAP患者预后的影响因素(P<0.05)。基于上述影响因素构建的GBM模型在训练集中的受试者工作特征曲线下的面积(AUC)为0.926(95%CI:0.894,0.958),敏感度为85.4%、特异度为86.2%,在验证集中的AUC为0.880(95%CI:0.779,0.980),敏感度为85.7%、特异度为86.4%;校准曲线显示,GBM模型的预测概率与实际发生率基本一致;决策曲线分析显示,训练集和验证集的阈概率分别在0.10~0.98、0.10~0.80。结论基于年龄、机械通气时间、CRP水平、血清降钙素原水平、APACHEⅡ评分及SOFA评分构建的GBM模型对RICU机械通气并发VAP患者的短期预后情况有较好的预测价值。

基于梯度提升机算法的弥漫大B细胞淋巴瘤患者并发间质性肺炎预测模型构建与验证

目的基于梯度提升机(GBM)算法构建弥漫大B细胞淋巴瘤(DLBCL)患者并发间质性肺炎(IP)的预测模型并验证模型效能。方法回顾性分析220例DLBCL患者的临床数据,将患者按7∶3比例分为训练集154例和测试集66例,其中51例患者发生IP(占23.18%),169例患者未发生IP。基于GBM算法构建预测模型,采用受试者工作特征(ROC)曲线评估模型的区分度,采用校准曲线评估模型的拟合情况。结果经过筛选,年龄、疾病分期、国际预后指数(IPI)评分、吸烟史、乳酸脱氢酶(LDH)这5个最优特征被纳入GBM模型,其相对重要性从高到低依次为年龄、疾病分期、LDH、IPI评分、吸烟史。ROC曲线显示,GBM模型在训练集和测试集中的曲线下面积(AUC)分别为0.872(95%CI:0.800~0.945)、0.891(95%CI:0.755~1.000)。校准曲线显示,GBM模型在训练集和测试集中的预测概率均与实际IP发生率具有较好的一致性。结论DLBCL患者治疗后的IP发生率为23.18%,主要与年龄、疾病分期、IPI评分、吸烟史、LDH水平有关,基于这些因素构建的GBM模型具有较高的准确度和区分度,可为DLBCL患者的临床治疗决策提供参考依据。

基于轻量级梯度提升机优化的工业互联网入侵检测方法

入侵检测作为一种积极主动的安全防护技术,对于确保工业互联网安全起着至关重要的作用。为了满足工业互联网高准确率和高实时性的入侵检测需求,提出基于轻量级梯度提升机优化的工业互联网入侵检测方法。针对工业互联网业务数据中难分类样本导致检测准确率低的问题,改进轻量级梯度提升机原有的损失函数为焦点损失函数,该损失函数可自适应动态调节不同类别数据样本的损失值和权重,支持模型在训练过程中降低易分类样本的权重,进而提高难分类样本的检测准确率;针对轻量级梯度提升机参数较多并且对模型的检测准确率、检测时间和拟合程度等影响较大的问题,利用果蝇优化算法选择模型的最优参数组合;在密西西比州立大学提供的天然气管道数据集上得到模型的最优参数组合并进行验证,并在储水罐数据集上进一步验证所提模型的有效性。实验结果表明,采用所提方法改进的模型在天然气管道数据集上的检测准确率较对比模型最少提高了3.14%,检测时间较对比模型中的随机森林和支持向量机分别降低了0.35 s和19.53 s,较决策树和极端梯度提升机分别增加了0.06 s和0.02 s,同时在储水罐数据集上取得了良好的检测结果。因此证明所提方法可以很好地识别工业互联网业务数据中的攻击数据样本,提升了在工业互联网入侵检测中的实用性。

嵌入轻量梯度提升机评估模型的暂态稳定预防-紧急协调控制

为了综合发挥运行方式控制和稳控切机控制对电网暂态稳定性的提升作用,提出一种嵌入轻量梯度提升机(light gradient boosting machine,LightGBM)评估模型的电力系统暂态稳定预防-紧急协调控制决策方法。为快速评估控制措施对稳定裕度的影响,首先利用混合控制样本生成方法和LightGBM算法构建预防-紧急控制对稳定裕度的评估模型,考虑到不合理的切机、切负荷控制可能破坏系统稳定性,利用LightGBM评估模型的数值灵敏度来辨识有效的控制地点、缩减决策空间。进一步将LightGBM模型嵌入暂态稳定双层优化控制模型、替代暂态稳定时域仿真校核,结合改进的非支配排序遗传算法(non-dominated sorting genetic algorithm-Ⅱ,NSGA-Ⅱ)实现协调控制策略的快速求解。通过IEEE 39节点测试算例,验证了所提方法能够实现不同严重程度的故障在发生前后的预防控制和紧急控制之间的协调配合,既提高了电网安全稳定性,又减小了优化调度成本。

梯度提升机模型在非静脉曲张上消化道出血后再出血中的预测价值

目的:探讨梯度提升机(GBM)模型在预测非静脉曲张上消化道出血(NVUDB)患者再出血中的临床价值。方法:回顾性分析2020年10月至2021年12月本院收治的258例NVUDB患者的临床资料,并按照7∶3比例将数据集随机分为训练集和验证集,分别用于构建GBM模型和验证模型的可靠性。采用受试者工作特征(ROC)曲线分析评价模型性能,校准曲线评估模型预测概率与样本概率之间的一致性,决策曲线评估该模型的临床实用性。结果:NVUDB患者再出血发生率为20.9%。GBM算法模型中重要特征得分前5项为Rockall评分、入院时休克、D-二聚体水平、白蛋白水平、红细胞分布宽度。训练集曲线下面积为0.985(95%CI:0.971~0.998),验证集为0.873(95%CI:0.785~0.960)。训练集的预测准确率为92.2%,验证集的预测准确率为83.3%。校准曲线显示GBM模型预测值与实际观测值之间具有良好的一致性,模型能够较好地预测实际概率。临床决策曲线分析结果展示了模型具有良好的临床表现能力。结论:基于GBM算法模型可以较好地预测NVUDB患者再出血的风险因素,且具有较高的临床有效性。

一种轻量级梯度提升机的交通模式识别

为研究居民出行轨迹的不同交通方式,基于已知出行交通方式的GPS轨迹信息,构建基于轻量级梯度提升机(LightGBM)的分类模型,对居民出行GPS轨迹进行交通方式分类.首先提取轨迹的各种基础特征,并进一步结合公交网络地理信息引入Fréchet距离进行特征提取,之后对特征进行归一化处理并基于决策树模型对特征进行筛选,最后对筛选后的特征进行模型训练与预测,并通过五折交叉验证方式获取了稳定的预测结果.结果表明:公交网络地理特征能够对模型预测精度进行有效提高,提出的GPS轨迹交通方式识别方法可达90%左右的精确度,优于各种机器学习分类模型.

基于轻量级梯度提升机和生成对抗网络的含风电电力系统频率稳定评估

针对目前电力系统频率稳定评估研究未考虑新能源和系统拓扑变化的问题,提出一种考虑风速特征的基于轻量级梯度提升机(light gradient boosting machine,lightGBM)和生成对抗网络(generative adversarial network,GAN)的含风电电力系统频率稳定评估方法。首先分析风电对频率稳定的影响,其次采用lightGBM对频率变化率,暂态频率极值和准稳态频率3个指标建立预测模型,引入注意力机制对输入特征排序降维,通过预测指标综合判断系统频率稳定性。系统拓扑发生改变时,采用GAN产生大量相似样本对模型进行更新。在含风电新英格兰10机39节点系统和含风电IEEE118节点系统上的仿真结果表明,所提方法比传统机器学习方法精度更高,速度更快,泛化性能更好。且考虑风速特征后不同算法的模型精度均大大提高。

贝叶斯极限梯度提升机结合粒子群算法的电阻点焊参数预测

电阻点焊是多种因素交互作用的复杂过程。该过程的复杂性加上数据规模小和工艺不稳定问题使得难以建立精确的数学模型来对电阻点焊参数进行预测。该文提出一种将贝叶斯极限梯度提升机(Bayes-XGBoost)与粒子群优化(PSO)算法结合的方法,对厚度为0.15 mm的镍片和0.4 mm的不锈钢电池正极帽选取合适的样本特征和样本组合;利用极限梯度提升机(XGBoost)的非线性切分能力和防控过拟合机制对点焊工艺参数进行正向训练,并引入贝叶斯优化为梯度提升机选取最佳超参数;利用粒子群优化算法的全局寻优能力,对可变目标值的工艺参数进行反向预测,从而得到最优工艺参数。电阻点焊实验表明该方法比文中其他对比算法具有较强的综合性能,能够有效辅助点焊工艺。

基于SVGD分类预测的梯度提升机与随机森林的性能比较

目的采用梯度提升机与随机森林法对在天津市胸科医院行CABG手术后出现复发缺血性症状的患者是否会发生SVGD进行预测,并评价两种模型的分类性能。方法将606例研究对象按7:3比例随机分为训练集和测试集进行模型训练和测试。用NRI和IDI评价两种集成算法对CART基分类器的提升程度,并采用诊断试验评价指标对模型的分类性能进行评价。结果以CART基分类器为参照,梯度提升机的NRI和IDI分别为0.31和0.15,而随机森林NRI和IDI分别为0.08和0.08。在测试集上GBM的AUC和ACC分别为0.89和0.83高于RF 0.80和0.73。二者筛选出的最重要的5个临床指标相同,依次为桥龄、左室舒张期径长、VLDL、隐静脉桥支数和心脏病类型。结论梯度提升机和随机森林法均能提升基分类器的分类性能,且前者优于后者。梯度提升机比随机森林有更好的泛化能力,更适合对外部数据的分类预测。

一种基于轻量级梯度提升机的意图识别方法

运动意图识别作为帮助穿戴者主动控制下肢外骨骼的关键技术,近年来受到广泛重视.下肢表面肌电信号是目前最常用的识别信号源,但是表面肌电信号具有不稳定性,同时传统机器学习算法也难以快速处理大规模高维度数据.本文基于轻量级梯度提升机,提出了结合表面肌电信号和关节角度信号的下肢多源意图识别算法.实验通过巴特沃斯滤波器对采集到的表面肌电以及关节角度信号进行预处理,然后提取时域频域特征,使用训练后的模型对五种常见的下肢动作进行识别,识别准确率达到98.4%,相比于其它算法,有较高的准确率,运行速度也有较大的提升,证明了该方法的优越性.

基于轻量级梯度提升机的非对称风险注塑成形产品尺寸预测模型

受温度、气压等环境不稳定因素的影响,注塑成形加工过程中工艺参数发生变化,从而导致产品精度下降,产品降级或报废。针对类似环境不稳定因素影响问题,利用加工过程中的数据进行注塑成形尺寸预测,有助于不合格产品的及时发现,减少不合格品的产生。基于轻量级梯度提升机(LightGBM)框架设计了基于加工过程数据及参数的注塑成形产品尺寸预测模型,通过特征提取、异常数据处理、数据集划分、模型训练、模型验证等步骤,建立了具有非对称风险特征的产品尺寸预测模型。针对产品尺寸超规的非对称风险问题,在模型训练过程中引入了基于尺寸范围的加权修正方法,以提高预测模型对超规尺寸的预测精度。最后利用富士康注塑成形尺寸预测数据集进行了验证,结果表明,该模型对超规尺寸具有更高的预测精度,尺寸预测结果平均误差为0.015 mm,考虑非对称风险的加权平均误差为5×10^(-6) mm。

基于轻量梯度提升机的广告转化率预估方法

互联网广告转化率对于搜索引擎服务供应商和广告商都是一个重要的量化指标,大数据平台下互联网广告转化率预估的实现具有很强的理论研究价值和实际应用价值。由于互联网广告的转化是一个大量数据下的小概率事件,因此为了提高广告转化率预估,提出了轻量梯度提升机的预估方法。通过对大规模广告转化日志的分析,提取数据特征并构造数据集,成功应用轻量梯度提升机算法实现广告转化率的预估。实验结果表明,与传统工业界常用的机器学习方法相比,在相同的特征处理和数据集下,轻量梯度提升机的预估结果优于其他方法。

基于长短期记忆网络与轻梯度提升机的航空发动机大修期内剩余寿命预测

针对航空发动机大修期内由性能主导的剩余使用寿命预测中复杂设备具有状态变量多、非线性特征严重的特点以及单一模型面临特征提取不充分、预测精度不足等问题,提出一种长短期记忆网络(LSTM)与轻梯度提升机(LightGBM)的组合新模型方法进行大修期内剩余使用寿命(RUL)预测。通过LSTM对原始数据进行特征提取,将LSTM的输出门中特征提取后的数据作为LightGBM模型的输入进行RUL预测。利用NASA提供的发动机实测数据集进行了仿真试验,实现了对单个发动机的RUL预测,并与其他6种模型预测结果进行对比,对其预测剩余使用寿命的有效性进行验证。结果表明:LSTM和LightGBM组合模型比其他模型的预测误差显著减小,其4组数据集均方根误差仅为12.45、20.23、12.58、21.75。

基于轻量级梯度提升机的南京大气臭氧浓度预测

采用南京地区2015年1月至2016年12月期间的空气质量数据和常规气象资料数据,分析了南京地区O_(3)浓度变化特征,建立基于轻量级梯度提升机(LightGBM)的O_(3)浓度预测模型,并将该模型与支持向量机、循环神经网络和随机森林等3种在空气质量预测方向上常用的机器学习方法进行了对比,验证模型的有效性和可行性.结果表明,南京地区O_(3)浓度变化具有显著的季节性差异,浓度变化受前期浓度、气象因子和其他空气污染物浓度的共同影响.LightGBM模型较为准确地预测了南京地区地面O_(3)浓度(R^(2)=0.92),且该模型的预测精度和计算效率等性能优于其他模型.尤其是在容易出现臭氧污染的高温天气,该模型预测准确性明显高于其他模型,模型稳定性较好.LightGBM具有预测准确度高、稳定性好、有良好的泛化能力和运算时间短等特点,在O_(3)浓度预测方面具有显著的优势.

随机邻近提升机

梯度提升机(GBM)是一种重要且被广泛应用的监督学习算法,它结合弱学习器迭代生成一个强大的预测模型,提高单一弱学习器的性能.随机梯度提升机(RGBM)通过随机选取弱学习器的子集以减少计算成本,但只可在损失函数可微时训练数据.文章基于邻近点算法提出一种新算法——随机邻近提升机,该算法既适用于可微损失函数,也适用于不可微损失函数,与随机梯度提升机相比更具普适性.在真实数据集上的数值实验表明新算法有效且具有明显的优势.

基于经验小波变换和梯度提升径向基的变压器油中溶解气体预测方法

电力变压器是电力系统的关键设备,其运行状态与电网稳定性密切相关。变压器油中溶解气体分析(dissolve gas analysis,DGA)是判断其运行状态的重要方法,预测变压器未来时刻的油中溶解气体含量,可以辅助运维人员判断变压器未来的运行趋势,提前掌握运行状态确保稳定运行。然而,由于油中溶解气体的产生机制复杂且受到变压器特殊运行工况、严苛运行环境、复杂电磁环境等因素的影响,油中溶解气体时间序列将呈现非线性和非平稳性的特征,传统的基于回归拟合模型的预测方法很难挖掘时间序列的这些特征,从而导致预测准确性较低,无法用于对变压器运行状态和故障的预测和诊断。为了解决上述问题,该文利用经验小波变换将具有非线性和非平稳的油中溶解气体时间序列分解为多个复杂度较低的分量,使得预测模型更易挖掘其变化特征,随后,以径向基函数神经网络作为基学习器构建了梯度提升径向基,将径向基函数神经网络的最佳逼近、避免局部最小等优点与梯度提升机强大的监督学习能力相结合,实现对油中溶解气体分解分量潜在规律的深度挖掘,并最终实现对油中溶解气体数据的精准预测。基于现场在运变压器对所提方法进行验证,结果表明:对于单台变压器预测准确率可达98.30%,对于某区域电网内的全体变压器准确率可提升9.01%,且可以实现对变压器故障的准确预测。

基于广域信息分析的智能配电网故障自愈技术研究

针对传统电网接地故障检测和自愈方法存在识别速度慢且精确度较低的问题,文中结合信号广域信息提出了一种配电网故障自愈方法。该方法构建了单相接地故障模型,并将零序电流作为分析的对象。将零序电流信号分解为时域、频域以及小波域分量来作为广域特征向量,并采用随机森林算法对其权重进行分类,利用LightGBM算法对分类后的广域特征向量加以训练,进而得到故障预测结果。在仿真测试中,所提算法能够抵抗过渡电阻与初始相位角变化对预测结果的影响,且其故障分析准确率的平均值为98.9%,在对比算法中为最优,表明该算法可为配电网故障自愈提供有效的技术支撑。

计及工况预测误差的主动配电网日前无功优化调度策略

为解决工况预测误差较大时,日前无功优化调度方案优化效果不佳的问题,提出了计及工况预测误差的主动配电网日前无功优化调度策略。首先,使用轻量级梯度提升机算法建立日前工况功率预测模型;其次,考虑大规模高比例分布式电源接入主动配电网,以调度时段内所有时间断面的多目标加权累加和为目标函数建立日前无功优化调度模型;最后,设计了一种变寻优粒子空间的改进引力搜索算法对日前无功优化调度模型进行求解,该算法根据历史工况预测误差评价指标调整寻优粒子空间各维度的上下限矩阵,从而抑制了当无功区域内工况预测误差较大时可控设备调度异常的缺陷。最后采用拓展的IEEE 33节点系统算例进行有效性验证。

VMD-Stacking集成学习的多特征变量短期负荷预测模型

针对当前短期电力负荷预测结果准确度不够高的问题,提出一种由变分模态分解(variational modal decomposition, VMD)和Stacking集成学习框架组合的多特征变量短期负荷预测模型。在预测前使用VMD算法将负荷数据分解,然后加入对模型重要性较高的特征变量,再建立由轻量级梯度提升机(light gradient boosting machine, LightGBM)与极限梯度提升机(extreme gradient boosting, XGBoost)融合的Stacking集成学习预测模型,并比较不同天气情况下对预测模型准确度的影响。经实际算例对比验证表明:多特征的VMD-Stacking集成学习预测模型的误差较小。采用VMD算法分解历史负荷序列,分解后子模态分量的周期性体现了出来,让模型预测波动性较大的负荷时更容易;温度、天气、农历和节假日情况等影响负荷变化的关键因素有被考虑到,模型的准确度得以提高;Stacking集成学习模型对各算法取长补短,泛化能力增强,预测的准确度高于单一模型。

电力系统两阶段紧急切负荷控制智能预决策

电力系统仿真分析是安全稳定控制领域重要技术,可以用于制定与校验紧急控制措施。传统的人工分析仿真数据以决策紧急控制措施的工作模式严重依赖专家经验,在应用于复杂大电网时显得耗时耗力。该文提出一种两阶段紧急切负荷控制智能预决策方法,第一阶段决策切负荷点,第二阶段决策切负荷量。首先基于仿真数据,区分3种电压失稳模式:纯电压失稳、耦合电压失稳和混合电压失稳,分别采用不同的负荷筛选方法;然后基于轻量级梯度提升机算法,根据仿真数据直接预估系统恢复稳定所需的切负荷总量,按负荷排序进行分配。结合暂稳仿真校验控制措施的有效性,调整决策量。以我国东北电网为例进行仿真研究,验证了在大电网紧急控制措施制定时,所提两阶段智能决策方法相比完全迭代试凑方法在有效性、快速性和准确性方面的优势。