群智能算法优化XGBoost的信贷风险预测

为改善极端梯度提升(extreme gradient boosting,XGBoost)集成算法的信贷风险预测准确率,提出了一种改进的麻雀算法(improved sparrow search algorithm based on golden sine search,Cauchy mutation and oppositionbased learning,GCOSSA)来优化XGBoost参数。采用黄金正弦搜索策略来更新发现者位置,既增强全局搜索能力又增强局部搜索能力;在算法中引入反向学习策略和柯西变异进行扰动来扩大搜索领域改善陷入局部最优,同时使用贪婪规则确定最优解;将改进的算法用6个基准函数进行测试,并对SSA和GCOSSA进行对比,评估GCOSSA寻优性能;用GCOSSA优化XGBoost参数。在数据集上测试,并与网格搜索寻优、SSA及其混合正余弦改进算法(improved sparrow search algorithm based on sine and cosine,ISSA)方法进行对比。结果表明改进后的GCOSSA优化XGBoost参数,在信贷风险预测中准确率更高。

基于双层XGBoost和数据增强的空间负荷预测方法

为了解决空间负荷预测面临的特征变量众多和数据匮乏问题,文中提出一种基于双层极端梯度提升(extreme gradient boosting,XGBoost)和数据增强的空间负荷预测方法。该方法首先将待预测区域按馈线供电范围划分为若干子区域;其次构建基于双层XGBoost的特征选择模型,第一层XGBoost对特征进行评分及排序,将组合特征和负荷输入第二层XGBoost并进行子区域负荷预测,根据子区域负荷预测结果选择每个子区域的最佳特征变量;然后利用生成对抗网络(generative adversarial network,GAN)增强每个子区域的训练集样本,并通过极限学习机(extreme learning machine,ELM)实现子区域预测;最后将每个子区域的预测值相加得到待预测区域的预测值。以上海市局部区域为例,对文中方法进行仿真实验和对比分析。结果表明,文中方法可同时解决特征变量选择和数据匮乏问题,具有更高的预测精度。

基于机器学习及优化算法的振冲碎石桩优化设计

工程安全性和经济性是振冲碎石桩设计面临的难题,而同时兼顾安全和经济合理是振冲碎石桩设计的关键,为此文中提出了一种基于数字仿真、人工智能及运筹学的振冲碎石桩智能决策模型。该模型包含全面感知和智能决策两部分,全面感知单元采集分析各类施工环境、碎石桩参数及仿真计算数据,智能决策单元通过全局优化方法得到最优碎石桩参数。通过实际工程表明,提出的模型可实现振冲碎石桩参数的智能决策,在确保边坡安全的基础上满足工程经济合理。

基于XGBoost的隧道掘进机操作参数智能决策系统设计

为了实现隧道施工的同质化,提出基于极端梯度提升算法(XGBoost)预测模型的隧道掘进机(TBM)操作参数的智能决策方法.定义场操作系数指数(FOI)作为替代传统场切深指数(FPI)的围岩级别特征参数,使用XGBoost算法建立预测模型以实现对FOI的预测,对围岩级别进行预测、判断.通过对优秀司机在特定FOI下TBM操作参数的选择,建立专家模型实现FOI与特定TBM操作参数的关联,实现TBM操作参数的智能决策.使用引松工程的现场数据进行对比实验,结果表明,设计的TBM操作参数的智能决策系统能够实现对优秀的TBM司机操作参数决策的复现,相比于以FPI为特征参数的传统智能决策系统,新系统的推进速度和刀盘转速两部分的平均相对误差分别下降8.84%和7.97%.

基于GRU和XGBoost的矿压显现规律预测

采用光纤传感器监测的光纤频移值对矿压显现规律进行表征的过程中,传感器采集的数据存在缺失现象,无法准确预测矿压显现规律。针对该问题,以千秋煤矿为工程背景,在假设光纤下半部分数据丢失的前提下,引入GRU(门控循环单元)和LSTM(长短期记忆网络)2种预测模型,对缺失的光纤频移值进行对比预测,得出GRU模型的收敛速度优于LSTM模型的收敛速度,说明基于GRU模型的缺失值处理方法较优。将原始完整的光纤频移值转换为可表征矿压显现位置的光纤平均频移变化度,引入XGBoost(极端梯度提升)模型和BP神经网络模型进行对比预测,XGBoost模型能准确预测出测试集中所有出现“尖峰”的位置,而BP神经网络模型只预测出2处“尖峰”位置,说明XGBoost模型的预测效果优于BP神经网络模型的预测效果。将预测出的光纤频移缺失值替换至缺失位置,形成“完整”光纤频移值数据,将该数据转换为光纤平均频移变化度后,采用XGBoost模型进行预测。验证结果表明:LSTM模型及GRU模型均可准确预测出光纤下半部分的数据,且GRU模型准确性较LSTM模型准确性高;使用XGBoost可准确预测出测试集中出现的周期来压;通过GRU模型预测出的缺失数据经整合至缺失位置后,使用XGBoost模型仍可进行有效的矿压预测。

基于XGBoost的以太坊交易智能定价模型

以太坊采用交易收费的策略来保证计算资源的合理利用,而由于涉及智能合约的交易消耗计算资源差别较大,引入Gas机制。以太坊用户在发起交易时需自主设置Gas总量和Gas价格,而矿工基于利益最大化的原则,优先选择Gas价格高的交易。Gas价格设置高则打包时间短,反之则时间长。由于交易的价格由交易发起者自主确定,这使得需要打包的交易的Gas价格可能相差较大,因而交易共识时间难以掌握。因此,现有的交易机制并不能平衡交易Gas成本和共识时间之间的冲突。为了解决上述问题,对以太坊交易机制进行了研究,分析影响Gas价格的因子,通过网格搜索算法对极端梯度增强模型(extreme gradient boosting,XGBoost)进行参数优化,构建基于XGBoost的以太坊交易智能定价模型,将该模型用于交易Gas价格预测中。通过搭建节点接入以太坊网络获取交易数据作为实验数据,实验结果表明,ETH_XGB模型能够帮助用户平均节省约72.5%的交易成本,交易成功率在92%,相较于原机制提高17.1%。

基于XGBoost的电动汽车用异步电机全工况及高精度的电流预测方法研究

在工程中,使用李斯特(anstaltfur verbrennungskraftmaschinen list,AVL)测功机标定转矩-转速点对应电流值的精度往往过低。使用电驱系统查电流表时,表的精度也对控制结果产生影响。该文研究一种基于机器学习算法的电动汽车用异步电机全工况、高精度电流预测方法,以解决AVL标定电流表精度低的问题。首先,建立异步电机最大转矩的数学模型,分析励磁电流isd及转矩电流isq精度对电磁转矩输出的影响;然后,通过ANSYS模拟实验数据点的精度,提取电流、电压、磁链等数据,使用极端梯度增强算法(eX treme gradient boosting,XGBoost)分析变量重要性,优化模型结构,合理选择模型输入、输出;最后,搭建AVL实验平台,采集实验数据,使用XGBoost算法建模并预测电流,提高电流表精度后,代入系统验证,通过仿真和实验证明该方法的有效性。

基于CNN-XGBoost的短时交通流预测

为准确预测短时交通流,缓解交通拥堵提高交通运行效率,提出一种基于CNN-XGBoost的短时交通流预测方法。结合短时交通流数据的时间相关性和空间相关性,将本路段和邻近路段的历史数据一同作为输入进行预测。利用卷积神经网络(convolutional neural networks,CNN)实现特征提取以减少数据冗余性,提出一种参数经果蝇算法优化的XGBoost模型用于交通流量预测。实例验证结果表明,CNN可对时间和空间结合下的交通流数据进行有效特征提取;相比SVR、LSTM等模型,改进的XGBoost模型下的交通流量预测误差明显减小。

XGBoost在超短期负荷预测中的应用

随着智能电网、电力负荷数据呈指数级增长,传统模型在处理海量负荷预测数据时显现出疲态、无法达到高效的问题。提出采用正则项限制模型复杂度、进行二阶泰勒展开、可并行计算特征分裂增益的XGBoost模型来解决这类问题。选用第九届电工数学建模A题负荷预测竞赛的某地区真实电荷数据作为样本,对2015-01-10日每隔15分钟的电网负荷进行预测,并利用平均绝对误差(MAE)、均方误差(MSE)、均方根误差(RMSE)对XGBoost与现有的GBRT及RF分别预测的96个时刻的数据进行分析。结果表明XGBoost对电网超短期负荷预测具有更好的拟合度和更高的精准度,可运用到实际负荷预测当中。

自动化机器学习在预测重症监护病房感染患者死亡中的应用

目的探索自动化机器学习(AutoML)在预测重症监护病房(ICU)感染患者死亡中的应用。方法以2019~2020年四川省自贡市重症监护病房开源数据库中感染患者作为研究对象,基于H 2O平台建立AutoML死亡预测模型。算法包括梯度提升模型(GBM)、极端梯度增强算法(XGBoost)、广义线性模型(GLM)、深度学习(DL)、随机森林(RF)。数据集按照3∶1随机分为训练集和验证集,训练集用于模型的构建,验证集用于评价模型效果。模型表现指标为受试者工作特征(ROC)曲线下面积(AUC),此外通过变量重要性排序、Shapley加法解释图(SHAP)、部分依赖关系和独立模型局部解释(LIME)等方法来解释模型。结果共计1151和380例患者分别被纳入训练集和验证集来进行AutoML建模。在验证集中,基于XGBoost算法的AutoML模型表现最优,拥有最高的AUC(0.753)和最高的准确率(0.713),优于第2名GBM模型(AUC 0.748)、第3名GLM模型(AUC 0.745)。在XGBoost模型中,重要的变量包括诊断疾病、活化部分凝血活酶时间(APTT)、胱抑素C(CysC)、年龄、肌酸激酶同工酶(CK-MB)、脑利钠肽(BNP)、国际标准化比值(INR)、钾离子(K^(+))、白蛋白(ALB)、乳酸(Lac)。结论通过AutoML建模在预测ICU感染患者死亡结局应用中呈现较好表现。AutoML在临床研究中具有良好的应用前景,但该模型仍需要进行广泛的外部验证。

基于机器学习方法的非编码RNA-蛋白质相互作用的预测

目的非编码RNA-蛋白质的相互作用(noncoding RNA-protein interactions,ncRPI)具有重要的生物学意义,目前预测其相互作用已成为当下研究非编码RNA (noncoding RNA,ncRNA)和蛋白质功能的重要途径之一。方法本研究基于ncRNA和蛋白质的序列信息提取特征,运用卷积自编码器预处理原始数据,训练三个机器学习模型:LightGBM(LBM)、随机森林(random forest,RF)和极端梯度增强算法(extreme gradient boosting,XGB),预测ncRNA与蛋白质的相互作用。结果在RPI369和RPI488两个数据集做5倍交叉验证,LBM、RF与XGB三个模型在两个数据集均达到较高的预测准确率,在RPI369数据集三个模型的预测准确率分别为0.757(LBM)、0.791(RF)、0.791(XGB),在RPI488数据集三个模型的预测准确率分别为0.918(LBM)、0.908(RF)、0.918(XGB);三个模型在RPI1807、RPI2241、RPI13254大数据集也取得较高的AUC(area under curve)值,在RPI1807三个模型的AUC值均为0.99,在RPI2241三个模型最低AUC值为0.87,在RPI13254三个模型最低AUC值为0.81,都表现出较好的预测准确性。结论机器学习方法能够预测ncRNA与蛋白质是否存在相互作用。

基于迁移学习和GRU网络的新建小区负荷预测

针对新建小区没有任何历史负荷数据的难点,提出了基于相似小区特征进行数据迁移的门控循环单元负荷预测算法,实现对新建小区负荷的预测。首先,利用迁移学习的思想迁移出与新建小区特征高度相似的数据信息,及预测模型参数;其次,利用特征数据集作为训练集完成极端梯度增强算法回归模型的训练;然后,采用门控循环单元神经网络对训练样本集进行建模,当模型达到预测精度时,从而完成蕴含时序关系的新建设小区的中长期负荷预测。最后,以连云港某小区为例,得到了该小区在2020年1月-2022年11月时间段内的负荷预测结果,以验证所建立的蕴含时序关系的中长期负荷预测模型的有效性。