一个解大规模无约束优化问题的全局梯度法(英文)

本文提出一种新的解大规模无约束优化问题的全局收敛的梯度法.新算法沿着负梯度方向选择步长,而初始步长根据目标函数的海赛矩阵的近似数量矩阵来确定.理论上证明了新算法产生的点列的每个聚点都是稳定的,数值试验表明新算法是可靠且有效的.

一种解大规模无约束优化问题的梯度方法

提出一种新的解大规模无约束优化问题的梯度法。这种算法沿着负梯度方向选择步长,而初始步长根据目标函数的海赛矩阵的近似数量矩阵来确定。理论上证明了由算法产生的迭代点列具备全局收敛性。数值试验表明新算法可靠且有效。

面向大规模优化问题的精英贡献两阶段动态分组算法

协同进化框架是解决大规模全局优化问题的有效方法,设计合理的决策变量分组方法是提高协同进化算法性能的关键,而利用精英决策变量动态构建精英子组件可以有效提高进化效率,但在进行大规模优化时,其可能将无关的变量分配到同一子组件,从而无法充分利用分组提高协同进化效率。针对该问题,提出一种精英贡献两阶段动态分组算法(EC-TSDG)。在分组前阶段,对变量进行随机分组,评估变量的贡献程度,从众多变量中寻找精英贡献变量;在分组后阶段,利用变量的相关关系寻找与精英决策变量存在相互作用的剩余变量,并将其合并形成精英子组件,使得精英子组件内部的变量两两相关,以此提高变量分组的准确性以及算法的收敛速度,避免子组件之间的相关干扰。最后,采用具有外部存档的自适应差分进化算法作为优化器进化各个子组件。在CEC'2013测试集上与其他先进算法进行比较,实验结果表明,EC-TSDG收敛速度快于对比算法,Friedman检验值为1.43,平均排序较对比的动态分组算法DCC平均提升36.78%。

求解大规模优化问题的云差分进化算法

针对大规模优化问题求解难、差分进化算法运算时间长等问题,利用云计算MapReduce并行编程模型,结合差分进化算法隐含并行性,提出云差分进化算法。该算法利用Hadoop集群平台,采用多子群机制,并将子种群与Map任务形成一一对应关系;算法的各个子种群之间根据拓扑结构进行个体迁移,以增加其多样性,从而能搜索更大的范围,提高寻优的几率。仿真实验结果表明,云差分算法能有效地减少求解大规模优化问题的时间消耗,并且取得较好的精度。

进化算法在大规模优化问题中的应用综述

针对大规模问题的特点,对已有的大规模进化算法进行了简单的分析,主要介绍算法的初始化方法、不分组策略、静态分组策略、动态分组策略、自适应分组策略、大规模优化算法测试函数集以及算法结果的对比等方面;侧重描述优化算法的搜索策略、更新策略、突变策略和协同进化策略,并列出大规模优化算法测试函数集的特点及优化算法的评价方法;最后,给出了目前大规模优化问题的几个研究难点.

求解大规模优化问题的正交反向混合差分进化算法

差分进化算法简单高效,然而在求解大规模优化问题时,其求解性能迅速降低。针对该问题,提出一种正交反向差分进化算法。首先,该算法利用正交交叉算子,加强了算法的局部搜索能力。其次,为防止过强的局部搜索使算法陷入早熟收敛,利用反向学习策略调节种群多样性,从而有效地平衡算法的全局和局部搜索能力。利用11个标准测试函数进行实验,并和差分进化算法的四种优秀改进版本进行比较,实验结果表明提出的算法求解精度高、收敛速率快,是一种求解大规模优化问题的有效算法。

大规模界约束优化的子空间截断牛顿法

给出了大规模界约束优化的一个子空间截断牛顿法 .利用截断牛顿法修正非有效约束所对应的变量 ,用投影梯度法修正有效约束所对应的变量 ,文中证明了方法的整体收敛性 ,并对方法进行了数值试验 ,且与子空间有限内存拟牛顿法进行了数值比较 .

大规模含整变量优化问题的一种分解方法

大规模含整变量优化问题的一种分解方法吴清烈，徐南荣（东南大学经济管理学院，南京２１００１８）国内外学者对变量全为连续型的大规模优化问题研究较多［１］，但对大规模合整变量优化问题的研究甚少．文献［２，３］针对某些特殊大型整数规划问题分别提出了启发式解法...

改进多元宇宙算法求解大规模实值优化问题

针对多元宇宙优化(MVO)算法中虫洞存在机制、白洞选择机制等不足,该文提出一种改进多元宇宙优化算法(IMVO)。设计固定概率的虫洞存在机制和前期快速收敛后期平缓收敛的虫洞旅行距离率,加快算法全局探索能力和快速迭代能力;提出黑洞的随机白洞选择机制,设计黑洞围绕白洞恒星进行公转并模型化,解决代间宇宙信息沟通的问题,中低维度数值比较实验验证了改进算法的优良性能。选取大规模实值问题较难优化的3个基准测试函数进行对比实验,改进算法在大规模优化问题上的求解精度和成功率方面具有较好的适用性和鲁棒性。

大规模过程系统优化的序列界约束方法

基于非线性约束极小化的序列无约束方法,对大规模过程系统稳态优化的序列界约束方法进行了研究。该约束方法的罚函数只包含对等式和/或不等式约束的惩罚项,不包含对界约束的惩罚项,通过迭代求解一系列界约束极小化子问题而非无约束极小化子问题获得原问题的解;算法按2层结构实现,内层结构中主要求解界约束极小化子问题得到下一个迭代点,外层迭代主要修改乘子向量和罚向量以及检查收敛准则是否满足,重构下次迭代的界约束子问题,或在收敛准则满足时终止算法。此外,给出了求解界约束极小化子问题的修改截断Newton法,并用一类规模可变的约束优化问题和一类最优控制问题对所给方法进行了数值试验,试验结果表明,所给序列界约束方法是非常稳定和有效的。

基于自变量简约的大规模稀疏多目标优化

现有的大多数进化算法在求解大规模优化问题时性能会随决策变量维数的增长而下降。通常,多目标优化的Pareto有效解集是自变量空间的一个低维流形,该流形的维度远小于自变量空间的维度。鉴于此,提出一种基于自变量简约的多目标进化算法求解大规模稀疏多目标优化问题。该算法通过引入局部保持投影降维,保留原始自变量空间中的局部近邻关系,并设计一个归档集,将寻找到的非劣解存入其中进行训练,以提高投影的准确性。将该算法与四种流行的多目标进化算法在一系列测试问题和实际应用问题上进行了比较。实验结果表明,所提算法在解决稀疏多目标问题上具有较好的效果。因此,通过自变量简约能降低问题的求解难度,提高算法的搜索效率,在解决大规模稀疏多目标问题方面具有显著的优势。

自适应混合粒子群优化算法求解大规模旅行商问题

基于随机搜索策略的改进增强型自探索粒子群优化算法难于获得大规模旅行商问题的高质量近似解。为此,引入变异和利用进化过程信息缩减问题规模等机制,提出自适应混合粒子群优化算法。进化搜索分多批次自适应进行,每个批次包括两个阶段。第一阶段,多次搜索获得多个不同的局部最优解,并记录于周游边结构中。第二阶段,学习记录的信息,获得多个关键边序列段,每个段归约为一个整体,以此重新初始化种群,并在其基础上进行下个批次的进化搜索。上述过程反复进行,直到在某第一阶段多次进化中都收敛于同一解为止。实验结果对比分析表明该算法能够获得比同类算法更高质量的近似解。

大规模界约束极小化问题的有效集截断牛顿法

许多工业过程的模型可转化为一个大规模界约束极小化问题 .作者基于确定最优解处有效集的有效技巧和截断牛顿法 ,给出了一个求解该类问题的有效集截断牛顿法 .该方法在每次迭代中 ,先启用允许快速修改工作集的估计技巧来估计最优解处的有效约束 ,然后利用截断牛顿法确定搜索方向对应于自由变量的分量 ,最后利用Armijo非精确线搜索得可行点 ;证明了所给方法的整体收敛性 ,并利用一组大规模测试问题对所给方法进行了数值试验 ,同时与文献 [8]中的子空间有限内存拟牛顿法进行了数值比较 ,结果表明有效集截断牛顿法不仅稳定和有效 。

概率语言移情网络下的机会约束鲁棒大规模群体共识决策

本文旨在面向概率语言移情网络建立大规模群体共识决策方法,利用机会约束鲁棒优化方法处理单位调整成本的不确定性。首先,建立概率语言移情网络评估决策者间的移情关系。其次,利用模糊C-均值聚类对决策者分类,并基于聚类的规模、内聚度和总体移情度确定聚类权重。在反馈调整过程中,利用置信水平控制不确定参数的波动范围,建立机会约束鲁棒成本共识模型为决策者调整意见提供参考。最后,通过疫情防控方案选择的应用和对比分析,证明考虑移情关系能促进共识达成,且机会约束鲁棒共识模型能更好的平衡经济性和保守性。

求解大规模优化问题的改进正弦余弦算法

针对正弦余弦算法(sine cosine algorithm,SCA)在求解大规模优化问题时收敛精度低、收敛速度慢和易陷入“维数灾难”的不足,提出一种带Lévy飞行的正弦余弦算法(sine cosine algorithm with Lévy flight,SCAL).SCAL算法通过将Lévy飞行分布与正弦余弦种群个体位置向量进行对应元素相乘运算,使Lévy飞行分布的特征和信息融入正弦余弦种群个体信息中,使其拥有Lévy飞行随机游走的特性,增强了个体局部开发和逃离局部极值的能力;采用基于空间距离的非线性参数调整方法,平衡算法的局部开发和全局搜索,提高了算法的收敛速度.在14个经典测试函数上,维度分别为100、1 000和5 000维时,与SCA、花授粉算法(flower pollination algorithm,FPA)、粒子群优化(particle swarm optimization,PSO)算法、麻雀搜索算法(sparrow search algorithm,SSA)和鲸鱼优化算法(whale optimization algorithm,WOA)5种群体智能算法进行仿真对比实验.结果表明,SCAL算法在收敛精度、收敛速度和鲁棒性上较5种群体智能算法优势明显.与解决大规模优化问题的改进狼群算法(improved wolf pack algorithm,IWPA)、改进花授粉算法(improved flower pollination algorithm,IFPA)、鲸鱼算法的两种改进版本IWOA(improved whale optimization algorithm)和MWOA(modified whale optimization algorithm)进行比较,发现SCAL的整体寻优结果优于对比算法,在求解大规模优化问题上具有显著优势和竞争力.

解大规模无约束优化的自适应过滤信赖域法

提出一种解大规模无约束优化问题的自适应过滤信赖域法。用目标函数的梯度及迭代点的信息来构造目标函数海赛矩阵的近似数量矩阵,引进了过滤技术和自适应技术,大大提高了计算效率。从理论上证明了新算法的全局收敛性,数值试验结果也表明了新算法的有效性。

求解大规模优化问题的有限内存SR-1方法

给出了求解大规模优化问题的有限内存SR-1方法,与传统的有限内存BFGS方法相比较,该方法能进一步的节省计算机的内存,更适合用于大规模的优化问题。

基于协同进化策略的大规模昂贵优化算法

随着工程或者科学问题的复杂化,优化问题的维度日益增高,导致有些问题评价一次候选解的时间很长,而进化算法在获得最优解的过程中需要进行大量的目标函数评价,因此其无法直接应用于求解大规模昂贵优化问题。代理模型辅助的进化算法可以有效地解决昂贵优化问题,但是随着问题维度的增高,训练一个准确的代理模型需要的样本也会增多,这对于大规模问题显然是难以完成的。为此,利用随机分组将大规模优化问题分成若干个低维度的子问题,通过代理模型对每个子问题进行优化,以此不断迭代搜索得到最优解。为了验证算法的有效性,在CEC'2013的15个基准测试问题上进行了测试,实验结果表明,所提出的算法在求解大规模昂贵优化问题上效果十分显著。

基于决策变量分组的粒子群算法求解大规模优化问题

针对社会学习粒子群算法在求解大规模优化问题时存在的收敛速度慢以及种群多样性缺失等问题,提出一种基于决策变量分组的粒子群算法.根据决策变量间的相关性对决策变量分组,提高算法的收敛速度.采用反向学习策略,通过生成反向解,提高算法的全局寻优能力.采用CEC2010测试函数集对本文算法进行测试,仿真结果与已有典型算法进行对比,验证了本文算法的有效性.

大规模无约束优化的非单调有限内存BFGS算法

结合有限内存及非单调搜索技术提出了求解大规模无约束优化的非单调有限内存BFGS(NLBFGS)算法,在一定的条件下给出了算法收敛性结论.从标准试验函数库CUTE中选择标准函数,与线搜索满足强Wolfe条件的L-BFGS算法相对比进行了数值试验,结果表明算法是较为满意的.