Logistic回归模型和XGBoost模型对急性缺血性脑卒中患者发生吞咽障碍的预测价值

目的筛选危险因素构建急性缺血性脑卒中后吞咽障碍风险预测模型,对比XGBoost模型和Logistic回归模型的优劣性。方法选取2022年1-12月新疆医科大学第二附属医院神经内科573例急性缺血性脑卒中患者,按7∶3比例随机分为建模组(n=401)和验证组(n=172)。筛选发生吞咽障碍的危险因素,以单因素分析有统计学意义的变量分别建立Logistic回归模型和XGBoost模型。在验证组数据集上使用十折交叉验证法进行内部验证,采用校准曲线、受试者工作特征曲线(ROC曲线)和决策曲线评价两种模型的预测效能。结果多因素Logistic回归分析结果显示,年龄、NIHSS评分、GCS评分、BI指数、脑干病变、构音障碍、失语症、咽反射(正常)是急性缺血性脑卒中后吞咽障碍的影响因素。XGBoost模型特征重要性排序前8位分别为年龄、BI指数、NIHSS评分、咽反射、TOAST分型、白蛋白、文化程度、营养评分。对比两种模型结果显示,XGBoost模型的准确性、精确度、敏感度、F1分值分别为0.849、0.830、0.754、0.790,表现优于Logistic回归模型。Logistic回归、XGBoost模型预测吞咽障碍的AUC值分别是0.894、0.925,两者AUC值比较,差异无统计学意义(P>0.05)。模型的校准曲线和临床决策曲线均显示XGBoost模型准确度和临床实用价值优于Logistic回归模型。结论XGBoost模型和Logistic回归模型均能有效预测急性缺血性脑卒中后吞咽障碍风险,XGBoost模型表现更优,可为临床早期预防急性缺血性脑卒中吞咽障碍提供参考。

基于XGBoost中位数回归的老年人群高血压影响因素分析

我国心血管病患病率和死亡率上升,高血压患者达2.45亿。制定有效方法控制血压,改变生活习惯对此至关重要且具有较高效益。为筛选出对血压影响较为重要的因素,对比了传统中位数回归、XGBoost和XGBoost中位数回归。XGBoost中位数回归应用较传统方法更优,适用非线性复杂数据处理。通过构建XGBoost中位数回归模型得出对老年人群而言,适宜的参加社交活动和良好的睡眠都有助于高血压控制。而身体残疾如失明和肢体残障增加了高血压的治疗难度。为残疾患者制定个性化的计划可帮助控制血压,提高生活质量。

基于GA-XGBoost模型的水下螺旋盘管换热器换热量预测分析

提出了一种基于GA-XGBoost模型的水下螺旋盘管换热器换热量预测方法。首先,搭建了基于PLC和Wincc上位机的用于模拟水下螺旋盘管换热器和地表水源热泵联合运行过程的实验测试平台,由此获取到不同工况下的实验数据集。提出了一种基于遗传算法和XGBoost的复合模型对换热量进行预测,该模型采用遗传算法对XGBoost模型进行优化,同时引入一种新的复合适应度函数指导遗传算法的参数寻优过程;最后基于所采集的实验数据集进行验证,以换热器多个特征作为模型输入,以换热量作为输出,得到平均绝对百分比误差为3.21%,均方根误差为0.476,决定系数达到0.974,结果表明该方法在数据集上良好的预测性能和泛化能力,为水下换热器的设计和性能优化提供了参考依据。

XGBoost模型与Logistic回归模型预测儿童TBTB合并MPP的价值

目的比较XGBoost模型和Logistic回归模型在预测儿童气管支气管结核(TBTB)合并肺炎支原体肺炎(MPP)中的效能。方法收集2018年6月至2023年1月入院治疗的212例MPP患儿临床资料,根据是否合并TBTB将其分为合并组(n=42)与肺炎组(n=170)。通过XGBoost和Logistic回归构建儿童TBTB合并MPP的临床预测模型,采用受试者工作特征(ROC)曲线绘制两个模型在预测儿童TBTB合并MPP中的预测价值;采用Delong检验确定两个模型曲线下面积的差异。结果XGBoost模型筛选符合情况的相关变量为地区、咳嗽时间、发热史、咳嗽史、SIRI、WBC、湿罗音、SII,多因素Logistic回归分析发现,地区、发热史、咳嗽史、咳嗽时间、WBC是儿童TBTB合并MPP的独立危险因素(P<0.05),XGBoost曲线下面积为0.996,而Logistic回归模型曲线下面积仅为0.851。Delong检验发现,XGBoost模型预测效能高于Logistic回归模型,差异有统计学意义(P<0.01)。结论XGBoost模型优于Logistic回归模型,可作为诊断儿童TBTB合并MPP的有效工具。

基于XGBoost机器学习模型的信用评分卡与基于逻辑回归模型的对比

分别基于逻辑回归模型和XGBoost机器学习模型构建了信用评分卡,比较了两种模型在个人信用评分上的表现,指出XGBoost机器学习模型在“AUC、KS、F1和Accuracy值”上表现更加优秀.首先,从数据的包容性、可解释性以及模型的准确性方面对两个模型进行了对比;其次,使用住房贷款违约风险预测的竞赛数据,分别构建了基于逻辑回归模型和XGBoost机器学习模型的信用评分卡,并使用了AUC、KS、F1和Accuracy来评估这两个模型的分类效果和预测准确程度;最后,通过对比两个模型的评估结果,分析了XGBoost机器学习模型相较于逻辑回归模型更加优秀的原因.结论指出:XGBoost机器学习模型在测试集上的AUC、KS、F1和Accuracy值比逻辑回归模型分别提升了19.9%、17.5%、15.4%和11.9%,其原因在于XGBoost机器学习模型纳入了更多的维度信息、更加科学的缺失值处理方式以及考虑了正则化项的算法原理.

多因素Logistic回归模型和XGBoost模型对舌癌患者放疗期间发生口腔感染的预测价值

目的探讨多因素Logistic回归模型和XGBoost模型对舌癌患者放疗期间发生口腔感染的预测价值。方法选取2003年1月—2022年12月在新疆医科大学第一附属医院就诊的431例放疗的舌癌患者,随机分为训练组288例和预测组143例。比较多因素Logistic回归模型和XGBoost模型对舌癌患者放疗期间发生口腔感染的预测效能。结果多因素Logistic回归模型结果显示,年龄[O^R=3.250(95%CI:1.476,7.634)],肿瘤分期[O^R=2.941(95%CI:1.248,7.613)],口腔环境[O^R=0.210(95%CI:0.079,0.502)],是否手术[O^R=0.285(95%CI:0.113,0.663)],血红蛋白[O^R=0.323(95%CI:0.139,0.712)],血清白蛋白[O^R=0.353(95%CI:0.148,0.851)]是放疗期间发生口腔感染的独立预测因素。XGBoost模型结果显示,口腔环境、手术、肿瘤分期、血清白蛋白、年龄、同步化疗、红细胞计数、血红蛋白、中性粒细胞计数为重要性指标。多因素Logistic回归模型和XGBoost模型受试者工作特征曲线下面积分别为0.830、0.835,两者比较,差异无统计学意义(P>0.05);敏感性分别为88.24%(95%CI:0.729,1.000)、82.35%(95%CI:0.642,1.000);特异性分别为68.25%(95%CI:0.601,0.764)、69.84%(95%CI:0.627,0.786)。结论多因素Logistic回归模型和XGBoost模型对舌癌患者放疗期间发生口腔感染的预测均有意义,两者预测效能相当。建立模型有助于筛选出口腔感染的高危人群,及早采取预防措施,降低口腔感染发生风险。

基于贝叶斯优化XGBoost的石灰窑气预测

石灰窑是碳酸钙产业的关键生产设备,窑气中的CO_(2)是生产碳酸钙的原料,CO_(2)浓度直接影响碳酸钙产量,然而石灰窑气浓度依靠产品产出后采样化验得到,存在严重的滞后性,无法作为石灰窑在线工艺参数调整的依据。因此提出一种基于贝叶斯优化的eXtreme Gradient Boosting石灰窑气浓度预测模型BO-XGBoost,根据历史数据预测1 h后的窑气浓度,为生产工艺参数的调整提供依据。该方法首先对石灰窑传感器数据集中的缺失值、异常值进行剔除、插补,然后统一窑气浓度检测历史数据的时间尺度,构成石灰窑气监测数据集,在此基础上提出针对石灰窑气的BO-XGBoost模型。模型经训练后,采用实际生产数据进行测试,并与Light Gradient Boosting Machine(Light-GBM)模型、Category Boosting(Catboost)模型预测结果进行比较,结果表明,所提模型可以实现高维数据集的超参数快速优化,且预测模型有较好的精度,均方根误差(RMSE)达到0.70,平均绝对百分比误差(MAPE)达到2.03%。

基于贝叶斯优化和组合模型的XGBoost改进方法

回归预测中,模型和超参数对预测结果有着极大影响。合适的模型能够决定预测的效果,同时模型的超参数直接控制了训练的方式,采用合适的超参数能够进一步提升算法的精确度。为了提升回归预测精度和鲁棒性,提出了一种基于贝叶斯优化和组合模型的回归优化方法。首先利用贝叶斯优化快速的全局搜索能力,以交叉验证平均得分为目标函数值,对XGBoost算法和LightGBM算法进行调优,选择较好的超参数值建立BO_XGBoost和BO_LightGBM模型,接着利用序列最小规划算法确定BO_XGBoost和BO_LightGBM的模型权重并进行模型组合。在UCI公共数据集上进行的实验结果表明,该方法能够有效提高预测精度和鲁棒性。

基于GA-XGBoost模型对社会消费品零售总额的影响因素分析

随着我国经济转变为高质量发展,社会消费品零售总额作为体现我国当前内需的关键指标,研究其影响因素及未来趋势依旧是消费领域的关键问题。本文以社会消费品零售总额为因变量,从消费需求、商品供给、货币金融、消费环境和交通运输五大方面选取12个指标作为研究自变量,构建XGBoost回归与SHAP模型对因变量进行分析,以及GA-XGBoost回归模型进行预测。研究发现:(1)货币和准货币供应量期末值、国内生产总值、货币供应量期末值、固定资产投资额累计增长率、国家财政收入、国家财政支出等对社会消费品零售总额影响最大;(2)除了固定资产投资额累计增长率对社会消费品零售额是负向影响外,其他五个均对社会消费品零售额是正向影响。本文以机器学习、遗传算法、可解释方法等理论模型解释了影响社会消费品零售总额的几大因素,为研究经济领域影响因素拓展了新的模型研究方法,并根据实证分析为我国经济发展提供了相应的建议,以供参考。

基于WKPCA与IEDO-XGBoost的变压器故障诊断方法研究

针对变压器故障的特点,将加权核主成分分析技术与IEDO-XGBoost相结合,提出了一种新的变压器故障诊断模型。该方法主要将溶解气体分析技术与无编码比值法相结合,获取变压器的故障特征,利用WKPCA对其进行降维处理,并将归一化处理后的故障样本数据作为IEDO-XGBoost模型的输入,输出变压器故障诊断类型及其诊断准确率。选取20维变压器故障特征数据进行WKPCA降维处理,加快了模型的收敛速度;采用自适应正余弦策略和高斯变异策略对指数分布优化器算法进行改进,并用10个典型测试函数对改进后的指数分布优化算法性能进行了测试,结果表明改进后的指数分布优化算法具有更快的收敛速度和全局搜索能力。然后,利用改进的指数分布算法来确定XGBoost模型中的多个最优参数。仿真结果表明,该模型的诊断准确率为91.82%,分别比EDO-XGBoost、NGO-XGBoost、GJO-XGBoost、GWO-XGBoost和WOA-XGBoost故障诊断模型高2.73%、3.64%、5.46%、8.18%和10.91%,验证了本文所提方法能够有效提高变压器故障诊断性能。

基于XGBoost与LR融合模型的信用卡欺诈检测

随着银行卡业务的不断发展,各种各样的信用卡欺诈方式已经给金融机构带来严重的威胁,使得信用卡欺诈检测成为一个十分紧迫的任务。为解决此问题,提出一种XGBoost与LR融合模型。该模型首先运用XGBoost算法自动进行特征组合和离散化,然后将新构造的特征向量运用在逻辑回归LR模型上,通过XGBoost与LR融合模型进行分类预测。实验结果表明,与经典传统算法相比,提出的XGBoost与LR融合模型具有更好的欺诈检测性能,提高了信用卡欺诈检测的准确率。

基于GA-BP神经网络模型的抗乳腺癌候选药物活性预测

抗乳腺癌候选药物筛选对治疗乳腺癌意义重大.乳腺癌的抗激素治疗常用于ERα表达的乳腺癌患者,抗ERα活性值越高代表该药物对治疗乳腺癌越有效.因此,精准预测化合物的抗ERα活性值至关重要.本文首先对化合物的729个分子描述符特征使用梯度提升模型XGBoost和距离相关系数矩阵进行筛选,然后基于筛选的20个分子描述符及其活性值数据,引入遗传算法,建立GA-BP神经网络模型.该模型的均方误差MSE=0.105,拟合优度R2=0.946,是一个基于数据挖掘技术的筛选潜在药物的高精度模型.

基于多特征和XGBoost算法的煤矿瓦斯浓度预测

煤矿瓦斯事故的发生与瓦斯浓度变化密切相关,准确预测瓦斯浓度变化对于预防瓦斯事故具有重要意义。虽然研究人员对煤矿瓦斯浓度预测进行了广泛的研究,但由于煤矿井下瓦斯浓度变化受多种复杂因素影响,表现出不稳定性和非线性,给预测带来很大困难。近年来,基于深度学习的预测算法由于其良好性能而逐渐得到关注,一方面,随着数据量的增加,基于深度学习的预测方法需要更多训练时间,易导致过拟合现象的发生。另一方面,现有大多数深度学习模型通常只考虑历史瓦斯浓度,输入特征过于单一。为了解决上述问题,本文提出了一种基于多特征和XGBoost算法的瓦斯浓度预测模型,该模型可以同时将历史瓦斯浓度、温度、风速等特征作为模型的输入,并依据XGBoost模型内置的梯度提升算法和决策树提升模型的训练速度。实验结果显示,本文所提出的预测方法比现有深度学习模型的瓦斯浓度预测误差更小,训练速度更快。

基于XGBoost改进模型的高速公路事故多发点鉴别及预测

为准确、快速地预测高速公路事故多发路段,获得事故时空数据的特征样本,明确事故的时空演化规律及关联机制,根据时空热点分析结果鉴别事故多发点的位置和时空演变模式,构建了GA-XGBoost事故多发点预测组合模型。首先,依据样本数据分别构建年尺度、日尺度下的时空立方体,并进行热点分析,根据分析结果得到样本高速的事故多发点位置及其时空演化模式;经过比较分析和相关性检验,选取事故发生时间、里程、事件类型、处理时长、影响车道数、是否处于汇入口附近、是否节假日7项特征预测事故是否处于事故多发点。然后,分别使用CNN-LSTM、CNN-LSTM-ATT、随机森林、XGBoost模型4种算法对事故多发点进行预测,结果显示:相比其他3种,XGBoost模型的预测准确率最高。接着,采用遗传算法对XGBoost模型进行优化,构建了GA-XGBoost组合模型,使预测准确率提高0.06,F1分数提高0.07,精确率提高0.08。这表明,相比既有算法,GA-XGBoost模型能够较准确地预测出路段是否处于事故多发点,明确事故多发点事故的时空特征。最后,通过SHAP分析对预测结果进行解释,发现处于汇入口附近、事件类型为侧翻、故障、处于国庆假期和影响车道数为2的样本处于事故多发点的概率相比不处于汇入口附近和其他事故类型更大。据此,在交通安全和应急管理中可采取预防性措施,提升交通管理的效率和应急响应能力,营造安全、高效的交通环境。

基于XGBoost的协同过滤算法在民宿推荐系统中的应用

针对武汉市各区民宿房东定价预测问题,利用XGBoost回归模型训练价格预测模型,结合基于用户-物品混合的协同过滤算法为房东推荐相似民宿。在研究过程中,首先采集数据并进行数据预处理;其次使用多种模型和XGBoost模型进行训练,得出XGBoost回归模型最优;最后使用交叉验证和网格搜索等方法寻找最优参数,完成民宿价格预测模型的构建,预测精准度达到94.49%,为民宿房东提供指导定价、运营管理和决策支持等服务。

基于LSTM-XGBoost组合的脱硫效率模型预测

在石灰石-石膏湿法脱硫系统中影响脱硫效率的主要因素有浆液pH值、液气比(L/G)、钙硫比(Ca/S)、烟气流量和原烟气SO_(2)浓度等。基于电厂实际运行数据,利用LSTM-XGBoost组合预测算法来预测脱硫系统的脱硫效率,并采用平均绝对误差MAE、均方误差MSE、均方根误差RMSE和决定系数R^(2)等模型评价指标对其准确性进行验证。实验证明,基于LSTM-XGBoost组合预测的脱硫效率与电厂实际脱硫效率非常接近,精确度高,对火力发电具有指导意义。

基于GA和回归分析的奥运会成绩预测研究

针对传统以计量经济学原理建立的奥运会成绩预测多元回归分析模型中存在的问题,提出一种将GA、竞技体育实力评估和回归分析相结合的预测模型。利用GA对竞技体育实力进行动态有监督优化评估;在此基础上,结合回归分析和GA的全局优化能力,建立了奥运会参赛国成绩与影响因子之间复杂的非线性关系;计算得出了参赛国的竞技体育实力。结果表明,该方法预测精度高、稳定性好。

基于Logistic回归和XGBoost的钓鱼网站检测方法

为兼顾钓鱼网站检测的速度和准确率,提出一种基于Logistic回归和XGBoost的钓鱼网站检测方法.根据网页的URL提取HTML特征、URL特征和基于TF-IDF的文本向量特征,结合Logistic回归将高维和稀疏的文本特征转换为概率特征.基于以上融合特征,构建了XGBoost分类模型,给出了方法的时间复杂度分析,采集了真实数据作为实验数据集.实验结果表明,Logistic回归方法降低了融合特征的维度,检测速度优于直接融合方法;融合特征方法比单方面特征方法含有更多有效的信息,可供分类器进行学习,检测精度高于单方面特征方法,精确度达到96.67%,召回率为96.6%.

基于改进符号回归算法和XGBoost算法的剩余续驶里程预测

提高剩余续驶里程预测精度可以缓解驾驶人的“续航焦虑”,帮助车厂开发精细的电池管理系统,提高纯电动汽车的接受度。基于改进符号回归算法自动生成与标签字段高度相关的新数据特征字段,实现数据维度扩充。再将维度扩充后的数据传入经过超参数调优的XGBoost模型预测剩余续驶里程。对比仅使用经典特征字段的原始数据,维度扩充后的数据在预测精度上最大相对绝对误差下降4.9%,平均绝对误差和均方根误差下降超过20%,且随着时间的增加,使用维度扩充后的数据进行预测的误差下降更快。结果证明提出的方法可以优化数据集质量,提高预测结果的精确度并减小误差,为纯电动汽车剩余续驶里程预测提供了新的思路。

基于XGBoost算法的低渗透致密气井动静一体化分类模型

子米气田为典型的低渗透致密气田,不同气井储层物性及生产特征差异大,开发策略亟需改善。针对该问题,提出了一种基于XGBoost算法的致密气井分类方法。通过计算特征参数的皮尔逊相关系数,判断4个动态、5个静态特征参数与气井产能的相关程度,以此确定模型的输入特征。然后基于XGBoost算法,通过参数优化,完成模型训练并对子米气田进行气井分类。研究表明:影响气井分类的主要因素为生产配产、原始地层压力、有效厚度、孔隙度和无阻流量;子米气田1、2类气井产能主要受到储层厚度和基质渗透率的影响,3类气井产能主要影响因素为有效厚度和含气饱和度;与专家划分结果相比,模型分类结果准确率为92.3%。该研究提高了气井分类实效性,降低了人为主观性,分类结果切合矿场实际,对气井分类管理和开发策略的制订有一定的指导意义。