Dendritic Cell Algorithm with Bayesian Optimization Hyperband for Signal Fusion

The dendritic cell algorithm(DCA)is an excellent prototype for developing Machine Learning inspired by the function of the powerful natural immune system.Too many parameters increase complexity and lead to plenty of criticism in the signal fusion procedure of DCA.The loss function of DCA is ambiguous due to its complexity.To reduce the uncertainty,several researchers simplified the algorithm program;some introduced gradient descent to optimize parameters;some utilized searching methods to find the optimal parameter combination.However,these studies are either time-consuming or need to be revised in the case of non-convex functions.To overcome the problems,this study models the parameter optimization into a black-box optimization problem without knowing the information about its loss function.This study hybridizes bayesian optimization hyperband(BOHB)with DCA to propose a novel DCA version,BHDCA,for accomplishing parameter optimization in the signal fusion process.The BHDCA utilizes the bayesian optimization(BO)of BOHB to find promising parameter configurations and applies the hyperband of BOHB to allocate the suitable budget for each potential configuration.The experimental results show that the proposed algorithm has significant advantages over the otherDCAexpansion algorithms in terms of signal fusion.

Data-driven production optimization using particle swarm algorithm based on the ensemble-learning proxy model

Production optimization is of significance for carbonate reservoirs,directly affecting the sustainability and profitability of reservoir development.Traditional physics-based numerical simulations suffer from insufficient calculation accuracy and excessive time consumption when performing production optimization.We establish an ensemble proxy-model-assisted optimization framework combining the Bayesian random forest(BRF)with the particle swarm optimization algorithm(PSO).The BRF method is implemented to construct a proxy model of the injectioneproduction system that can accurately predict the dynamic parameters of producers based on injection data and production measures.With the help of proxy model,PSO is applied to search the optimal injection pattern integrating Pareto front analysis.After experimental testing,the proxy model not only boasts higher prediction accuracy compared to deep learning,but it also requires 8 times less time for training.In addition,the injection mode adjusted by the PSO algorithm can effectively reduce the gaseoil ratio and increase the oil production by more than 10% for carbonate reservoirs.The proposed proxy-model-assisted optimization protocol brings new perspectives on the multi-objective optimization problems in the petroleum industry,which can provide more options for the project decision-makers to balance the oil production and the gaseoil ratio considering physical and operational constraints.

Target distribution in cooperative combat based on Bayesian optimization algorithm

Target distribution in cooperative combat is a difficult and emphases. We build up the optimization model according to the rule of fire distribution. We have researched on the optimization model with BOA. The BOA can estimate the joint probability distribution of the variables with Bayesian network, and the new candidate solutions also can be generated by the joint distribution. The simulation example verified that the method could be used to solve the complex question, the operation was quickly and the solution was best.

Well production optimization using streamline features-based objective function and Bayesian adaptive direct search algorithm

Well production optimization is a complex and time-consuming task in the oilfield development.The combination of reservoir numerical simulator with optimization algorithms is usually used to optimize well production.This method spends most of computing time in objective function evaluation by reservoir numerical simulator which limits its optimization efficiency.To improve optimization efficiency,a well production optimization method using streamline features-based objective function and Bayesian adaptive direct search optimization(BADS)algorithm is established.This new objective function,which represents the water flooding potential,is extracted from streamline features.It only needs to call the streamline simulator to run one time step,instead of calling the simulator to calculate the target value at the end of development,which greatly reduces the running time of the simulator.Then the well production optimization model is established and solved by the BADS algorithm.The feasibility of the new objective function and the efficiency of this optimization method are verified by three examples.Results demonstrate that the new objective function is positively correlated with the cumulative oil production.And the BADS algorithm is superior to other common algorithms in convergence speed,solution stability and optimization accuracy.Besides,this method can significantly accelerate the speed of well production optimization process compared with the objective function calculated by other conventional methods.It can provide a more effective basis for determining the optimal well production for actual oilfield development.

基于注意力机制与XBOA-Bi-LSTM的离心式压缩机故障预警方法

由于离心式压缩机存在着运行工况复杂、维修成本昂贵和长输管道工作环境恶劣的问题,为此,提出了一种基于注意力机制(AM)和蝴蝶算法优化双向长短期记忆神经网络(XBOA-Bi-LSTM)的离心式压缩机故障预警方法。首先,针对传统蝴蝶算法的收敛速度慢、转换概率单一和容易陷入局部最优等问题,通过引入无限折叠迭代混叠映射以丰富蝴蝶算法的初始种群;同时,提出了一种基于种群离散度与迭代次数的自适应惯性转换概率,以提高蝴蝶算法的寻优能力;然后,采用了灰色关联度分析法对测点数据进行了特征提取,结合注意力机制对输入序列进行了灰色关联度系数赋权;最后,建立了双向长短期记忆神经网络故障预警模型,采用仿真实验完成了对离心式压缩机的故障预警;以某天然气长输管道机组的离心式压缩机作为仿真对象,对该离心式压缩机故障预警方法的可行性进行了验证。研究结果表明:采用基于注意力机制与XBOA-Bi-LSTM的离心式压缩机故障预警方法时,在离心式压缩机故障发生前2 h~3 h内就发出预警信号,实现了对于离心式压缩机进气过滤器压差异常与支撑轴承工作异常的故障预警目的。

基于ICEEMDAN和IMWPE-LDA-BOA-SVM的齿轮箱损伤识别模型

针对齿轮箱振动信号中的背景噪声过大影响故障特征质量,进而降低故障识别准确率的问题,提出了一种基于改进自适应噪声完备集成经验模态分解(ICEEMDAN)、改进多尺度加权排列熵(IMWPE)、利用线性判别分析(LDA)、蝴蝶优化算法(BOA)优化支持向量机(SVM)的齿轮箱故障诊断方法(ICEEMDAN-IMWPE-LDA-BOA-SVM)。首先,采用ICEEMDAN对齿轮箱振动信号进行了分解,生成了一系列从低频到高频分布的本征模态函数分量;接着,基于相关系数筛选出包含主要故障信息的本征模态函数分量,进行了信号重构,降低了信号的噪声;随后,提出了改进多尺度加权排列熵的非线性动力学指标,并利用其提取了重构信号的故障特征,以构建反映齿轮箱故障特性的故障特征;然后,利用线性判别分析(LDA)对原始故障特征进行了压缩,以构建低维的故障特征向量;最后,采用蝴蝶优化算法(BOA)对支持向量机(SVM)的惩罚系数和核函数参数进行了优化,以构建参数最优的故障分类器,对齿轮箱的故障进行了识别;基于齿轮箱复合故障数据集对ICEEMDAN-IMWPE-BOA-SVM方法进行了实验和对比分析。研究结果表明:该方法能够较为准确地识别齿轮箱的不同故障类型,准确率达到了99.33%,诊断时间只需5.31 s,在多个方面都优于其他对比方法,在齿轮箱的故障诊断中更具有应用潜力。

基于BOA-ELM的区域VOCs质量浓度空间插值方法研究

针对目前挥发性有机物(Volatile Organic Compounds,VOCs)质量浓度插值方法单一且插值精度不高的问题,为了提升区域内VOCs质量浓度空间插值的精度,构建BOA-ELM(Butterfly Optimization Algorithm-Extreme Learning Machine)空间插值模型,首次将神经网络模型应用于VOCs质量浓度空间插值。首先对研究区域进行网格划分,其次利用BOA-ELM进行插值研究,同时讨论气象特征对空间插值的重要性,最后将VOCs质量浓度空间插值结果可视化。以陕西省为例,对VOCs质量浓度进行插值,结果显示:加入气象特征变量能提高模型插值精度,且与原始极限学习机(Extreme Learning Machine,ELM)模型以及传统插值方法反向离权重法(Inverse Distance Weighted,IDW)对比,显示BOA-ELM模型的均方根误差(ZRMSE)、平均绝对误差(ZMAE)、平均绝对百分比误差(ZMAPE)均为最小值,分别为8.69μg/m^(3)、6.72μg/m^(3)、7.10%,优于IDW模型。结果表明BOA-ELM模型能很好地应用VOCs质量浓度空间插值,为大气污染物的空间插值提供了新的思路与方法。

Learning Bayesian network structure with immune algorithm

Finding out reasonable structures from bulky data is one of the difficulties in modeling of Bayesian network （BN）, which is also necessary in promoting the application of BN. This pa- per proposes an immune algorithm based method （BN-IA） for the learning of the BN structure with the idea of vaccination. Further- more, the methods on how to extract the effective vaccines from local optimal structure and root nodes are also described in details. Finally, the simulation studies are implemented with the helicopter convertor BN model and the car start BN model. The comparison results show that the proposed vaccines and the BN-IA can learn the BN structure effectively and efficiently.

Coordinated Bayesian optimal approach for the integrated decision between electronic countermeasure and firepower attack

The coordinated Bayesian optimization algorithm（CBOA） is proposed according to the characteristics of the function independence,conformity and supplementary between the electronic countermeasure（ECM） and the firepower attack systems.The selection criteria are combinations of probabilities of individual fitness and coordinated degree and can select choiceness individual to construct Bayesian network that manifest population evolution by producing the new chromosome.Thus the CBOA cannot only guarantee the effective pattern coordinated decision-making mechanism between the populations,but also maintain the population multiplicity,and enhance the algorithm performance.The simulation result confirms the algorithm validity.

基于BO-BiGRU-Attention短期电力负荷预测

电力系统的可靠供应对于工业、商业和居民的生活至关重要。为了满足电力需求并维持电力系统的稳定运行,提高短期电力负荷预测的准确性和可靠性尤为关键;针对负荷数据存在复杂的非线性特性,该文提出一种基于贝叶斯优化算法的双向门控循环单元和注意力机制(BO-BiGRU-Attention)的混合预测模型对短期电力负荷进行精准预测。首先,使用Min-Max Normalization方法对负荷数据进行归一化处理。其次,利用BiGRU网络捕获序列中的长期依赖关系和上下文信息,结合注意力机制,通过在输入序列的不同部分给予不同的权重,从而突出关键特征。最后,针对BiGRU-Attention模型的超参数难以选取最优解的问题,引入贝叶斯优化算法对BiGRU-Attention模型的超参数进行寻优,完成短期电力负荷的预测。采用印度北部某地区的电力负荷数据进行预测分析,仿真结果表明,BO-BiGRU-Attention网络表现优于其他模型,各误差评价指标最小,其中MAE、RMSE和MAPE分别为56.67,73.49和1.16%,预测精度达到了99.47%。

基于混合简化粒子群算法的贝叶斯网络结构学习研究

为改善当前贝叶斯网络结构学习算法易陷入局部最优、过早收敛和寻优效率低的问题,进行了混合简化粒子群算法优化贝叶斯网络结构学习的研究。该算法利用最大支撑树约束搜索空间,并提出V-结构与条件相对平均熵相结合的初始定向策略,然后利用爬山策略建立初始粒子群,再利用改进的粒子群优化算法和遗传算法对初始种群迭代优化,在迭代过程中提出条件交叉和变异策略避免粒子的随机发散更新,并结合副粒子增缓策略更新未优化粒子,避免算法陷入局部最优。该算法与其他算法在4种标准网络下进行了仿真实验。实验结果表明,所提算法在ASIA、CAR、CHILD、ALARM网络中相比于MMHC、GS、BNC-PSO、PC-PSO算法BIC评分分别平均高5.775%、5.8%、0.475%、2.75%;汉明距离HD更低,正确率ACC更高。

电动汽车IGBT剩余使用寿命预测

引入一种基于贝叶斯优化(BOA)的双向长短时记忆网络(Bi-LSTM),同时结合注意力机制,应用于绝缘栅双极型晶体管(IGBT)剩余使用寿命预测,所提方法可有效提高IGBT剩余使用寿命预测的准确性.通过IGBT加速老化试验收集V CE-on,验证了其作为失效特征参数的可行性,并将其作为实验数据集对所提方法进行仿真验证.实验分析结果表明,所提的混合预测模型与经典LSTM及其他预测模型相比,有更低的退化预测误差,具备较高的理论意义和实践价值.

基于超参数优化算法的随机森林模型预测奶牛呼吸频率

奶牛呼吸频率是评估环境造成的奶牛热应激程度的重要指标之一。该研究基于随机森林(random forest,RF)算法提出了适用于生产条件下的奶牛个体呼吸频率准确预测模型,为了平衡模型精度与计算效率问题,利用遗传算法(genetic algorithm,GA)、差分进化(differential evolution,DE)算法、粒子群优化(particle swarm optimization,PSO)算法、贝叶斯优化(Bayesian optimization,BO)算法对模型超参数进行优化,并与网格搜索(grid search,GS)下的人工神经网络(artificial neural network,ANN)和极限梯度提升机(extreme gradient boosting,XGBoost)模型进行了对比分析。研究结果表明,使用融合环境参数的修正温湿指数(adjusted temperature-humidity index,ATHI)、时间区域、奶牛产奶量、泌乳天数、身体姿势以及胎次作为输入特征时,基准RF模型的预测性能最佳。在此基础上,4种智能优化算法下的RF模型性能优于GS-ANN和GS-XGBoost,其中BO-RF的综合性能最优,其决定系数、平均绝对误差、平均绝对百分比误差以及均方根误差分别为0.614次/min、7.723次/min、14.4%、9.737次/min,超参数优化耗时约为DE-RF的1/220。特征重要性分析表明,输入因子对奶牛呼吸频率的影响程度不同,ATHI是影响力最高的因子,相对重要性(relative importance,RI)为0.73,其次是时间区域(RI=0.09)和奶牛产奶量(RI=0.07)。研究为奶牛生产、健康评价及牛舍环境精准调控提供了有效方法和基础。

基于实测数据的公路桥梁动态养修策略自适应优化模型

为了有效利用桥梁管养资源以确保桥梁在运营期的服役安全,本文构建了适用于公路桥梁的管养策略优化模型。基于1996—2020年间国内沿海地区208座及内陆地区176座存在历史养修工作的公路桥梁性能检测数据,建立了考虑养修时服役时长与养修频次的养修增益系数计算方法,并通过极大似然估计法计算出养修增益系数的取值范围。通过将改进逆高斯过程与贝叶斯更新方法结合建立了桥梁动态养修策略模型,并利用大量实测数据对模型性能进行评估,结果表明:模型预测平均相对误差为11.1%,可在一定程度上满足工程需要。采用改进后的灰狼算法对动态养修策略模型中的决策向量进行自适应优化,寻找使得剩余寿命累积成本最低的决策向量,并通过实际桥梁优化算例证实了决策向量最优解的存在以及自适应优化模型的有效性。

基于贝叶斯优化GBDT的转炉炼钢终点预测

为提高转炉炼钢终点碳含量和温度预报精度,提出基于贝叶斯优化梯度提升决策树(BOA_GBDT)的转炉炼钢终点碳含量和温度预测模型,将其与基础模型径向基函数(RBF)、支持向量机(SVM)、梯度提升决策树(GBDT)以及贝叶斯优化的径向基函数(BOA_RBF)、支持向量机(BOA_SVM)终点碳温预测模型对比分析。实验结果表明:BOA_GBDT各项误差指标最小,命中率最高,终点时刻碳含量在±0.01%误差区间内命中率为96.2%;终点温度在±10℃误差区间内命中率为92.1%。贝叶斯优化算法能够显著提升模型性能,更准确地判断转炉炼钢终点碳含量和温度,为吹炼出符合要求的钢水提供较为可靠的依据。

结合局部结构学习的Bayesian优化算法

在Bayesian优化算法中Bayesian网络的学习是算法应用的关键,而Bayesian网络学习是一个NP-hard问题,并且计算量大。为了能够快速获得较稳定的Bayesian网络,提出了一种新的学习策略,在学习Bayes-ian网络结构时采用对局部结构的贪婪算法,并结合局部搜索利用打分测度选取最优边。对所提算法进行了分析,在算法复杂度较小的情况下,所学习的Bayesian网络可靠性明显提高,算法收敛速度加快,并且避免陷入局部最优。仿真研究表明文章所提出算法寻优能力优于传统Bayesian优化算法。

基于LightGBM算法的海洋土压缩参数预测模型

近年来海洋工程项目不断增多,海洋岩土参数的确定对于保证工程安全性、提高经济效益有重要意义。目前主要通过室内与原位试验对土体参数进行研究,存在着成本高、效率低的问题。以某海上风电场项目勘察中所获取的海洋土压缩系数av和压缩模量Es为研究对象,选取样底深度、含水率、湿密度、土粒相对密度和液塑限等为基本变量,利用机器学习算法研究各类参数的相互关系和规律。构建一种基于LightGBM(Light gradient boosting machine)算法的土体压缩参数预测模型,通过k折交叉验证方法及贝叶斯优化改善预测性能。研究结果表明:笔者模型能够有效预测土体压缩参数,k折交叉验证方法及贝叶斯超参数优化能够提高预测准确度。此外,分析了k折次数、人工特征、数据集大小、预测量与输入特征相关性等因素对模型准确性的影响。

基于多策略改进蝴蝶优化算法的无线传感网络节点覆盖优化

针对无线传感网络(WSN)的节点覆盖存在着覆盖率低、节点分布不均匀的问题,提出一种基于多策略改进的蝴蝶优化算法(MIBOA)的节点覆盖优化策略。首先,将基础的蝴蝶优化算法(BOA)与麻雀搜索算法(SSA)结合改进搜索过程;其次,引入自适应权重系数提高寻优精度和收敛速度;最后,对当前最优个体进行柯西变异扰动,提高算法鲁棒性。基准测试函数的寻优实验结果说明,MIBOA基本可在3 s内求解测试函数最优值,且收敛平均值精度较BOA提高了97.96%。将MIBOA应用于WSN节点覆盖优化问题,与BOA和SSA相比,节点覆盖率至少提高了3.63个百分点;与改进灰狼优化算法(IGWO)相比,部署时间缩短了145.82 s;与改进鲸群优化算法(IWOA)相比,节点覆盖率提高了0.20个百分点且时间缩短了1112.61 s。综上,MIBOA可较好提高节点覆盖率并降低冗余覆盖率,有效延长WSN的生存时间。

基于最优传输理论的碳中和问题的模型构建研究

全球变暖已经成为当今社会所关注的焦点问题,导致全球变暖的主要原因是二氧化碳等温室气体的大量排放,我国碳达峰与碳中和目标的提出为进一步解决全球气候变暖现象提供了具体思路。如何实现碳排放量与碳吸收量之间源与汇的有效能量传输是碳中和相关理论研究的核心问题。最优传输理论是以最小成本找到源与汇的联合概率分布场的最优分布计算,此种研究模式为处理碳中和问题提供了一个全新的研究视角。首先基于贝叶斯分布的后验思想与指数分布族的先验形式,利用Lagrange函数得到碳排放量所满足的边缘概率分布,并根据数据实验得出碳吸收量的分布形式,然后基于最优传输理论建立相应的碳中和模型,并利用回归分析方法对所得到的传输系统进行检验与调节,最后基于数值模拟证明所提出方法的可行性。此种将碳中和作为约束的最优传输模型,能够得到合理有效的碳排放与碳吸收之间的传输计划,具有定量化分析相关问题的理论意义与应用价值。

传统机器学习模型的超参数优化技术评估

合理的超参数能够保证机器学习模型适应不同背景和不同任务。为了避免在模型超参数数量过多、搜索空间过大的情况下出现手动调节导致的效率低下问题,多种超参数优化技术已经被研发并运用到机器学习模型训练中。文中首先回顾了8种常见的超参数优化技术,即网格搜索、随机搜索、贝叶斯优化、Hyperband、BOHB、遗传算法、粒子群优化算法和协方差矩阵自适应进化策略,并从时间性能、最终结果、并行能力、可拓展性、稳健性和灵活性5个方面分析各类方法的优缺点。其次,将8种方法应用到LightGBM、XGBoost、随机森林和KNN这4种传统机器学习模型上,在4个基准数据集上完成了回归、二分类和多分类的实验,对各类方法进行了比较。最后总结了各类方法的优缺点,给出了不同方法的适用情景。