基于GN-BFGS算法的RBF神经网络短期负荷预测

提出了应用混合 GN( Gauss- Newton) - BFGS( Broyden- Fletcher- Goldfarb- Shanno)法进行RBF(径向基函数 )神经网络学习的算法。这种方法结合 GN法与 BFGS法的特点 ,既尽可能地利用了问题本身的特殊结构 ,又能取得超线性甚至二次渐近收敛率 ,因此有效地提高了学习效率。在学习过程中 ,利用该方法能够区分零残量和非零残量 ,并利用这种特点进行隐层神经元数目的自动调整 ,从而可以保证神经网络的学习能力和推广能力。多个实际电网的负荷预测结果表明 ,该方法同神经网络的其他算法相比 ,具有训练时间短。

求解非线性方程组的BFGS差分进化算法

针对差分进化算法进化后期收敛缓慢和稳定性不强的缺陷,将BFGS算法插入差分进化算法当中,提出了一种BFGS差分进化算法,用来求解非线性方程组。通过5个非线性方程组和一个工程实例的实验,说明:算法收敛精度较高、收敛速度较快、鲁棒性强、收敛成功率高,是一种较好的解决非线性方程组的方法。

基于L-BFGS算法和同时激发震源的频率多尺度全波形反演

全波形反演可以利用叠前地震波场的运动学和动力学信息重建地下速度结构,具有揭示复杂地质背景下构造与岩性细节信息的潜力。然而,庞大的计算量和存储空间需求,限制了全波形反演的发展。在频率多尺度全波形反演中将L-BFGS数值优化算法与同时激发震源技术相结合的方法来改善这一现状。首先,对Marmousi模型进行了速度反演:在计算过程中明显发现对计算机内存的占用减少,最终反演结果与实际Marmousi模型的拟合误差为0.095 9,较小;采用10个频带单炮震源正演384炮所需时间约为32 640s,而采用同时激发震源(384炮)正演一次所需时间仅约为700s。然后,基于高速楔形体模型进行了抗噪能力研究:原始含噪地震记录信噪比为11.147 3dB;对反演得到的速度模型进行正演,其地震记录信噪比为22.251 8dB。最后,基于逆冲断层模型进行了反演速度扰动能力研究,反演得到的最终模型很清晰,与具有速度扰动特性的实际模型非常接近,拟合误差仅为0.036 0。数值模拟试验结果表明:此方法反演精度高,内存开销较小,能够显著提高计算效率,并且具有良好的抗噪能力,能够反演出具有速度扰动特性的介质。

最优化问题全局寻优的PSO-BFGS混合算法

针对利用粒子群优化算法进行多极值函数优化时存在早熟收敛和搜索效率低的问题,提出混合的PSO-BFGS算法,并增强了混合算法的变异能力使算法能逃出局部极值点。通过对三种Benchmark函数的测试结果表明,PSO-BFGS算法不仅具有有效的全局收敛性能,而且还具有较快的收敛速度,是求解最优化问题的一种有效算法。

基于BFGS拟牛顿法的压缩感知SL0重构算法

平滑l0范数(SL0)算法是一种基于近似l0范数的压缩感知信号重构算法,采用最速下降法和梯度投影原理,通过选择一个递减序列来逐步逼近最优解,具有匹配度高、计算量低、不需要已知信号稀疏度等优点。但是,其迭代方向为负梯度方向,使得在迭代过程中产生"锯齿现象",导致在最优解附近收敛速度较慢。牛顿法具有较快的收敛速度,但是对初值的要求较高,并且需要计算Hesse矩阵。拟牛顿法则克服了这个缺点,利用BFGS公式计算Hesse矩阵的近似矩阵,只需要计算1阶导数信息。该文在SL0算法的基础上,结合BFGS拟牛顿法,提出一种改进的压缩感知信号重构算法。首先采用最速下降法迭代得到信号的某个估计值,然后将此估计值作为拟牛顿法的初值继续迭代,直至得到最优解。计算机仿真结果表明,在相同的条件下,该算法在重构精度、峰值信噪比和重建匹配度等方面均有较大提高。

一个新的BFGS信赖域算法

给出能够保持校正矩阵是正定的新的 BFGS信赖域算法 ,以及该算法的全局收敛性和其二次收敛速度 .

非凸函数极小问题的BFGS算法

本文对于非凸函数的无约束优化问题,给出一类修正的BFGS算法。算法的思想是对非凸函数的近似Hesse矩阵进行修正,得到下降方向,并且保证拟牛顿条件成立,当步长采用线性搜索一般模型时,证明了该算法的局部收敛性。

基于L-BFGS算法的BP神经网络在温度补偿中的应用

为了解决氨气传感器温漂问题,设计了一种基于微处理器MK60DN512VLQ10电化学氨气变送器,采用BP神经网络算法进行软件补偿。针对BP网络收敛速度慢、精度不高、易产生局部最小值的缺陷,在BP网络算法迭代接近最优时引入L-BFGS算法加快收敛。同时,引入动态变量更新权值及权值导数,改进拟Hesse逆矩阵的求解,解决了溢出问题,实现了算法的全局收敛。实验证明:该氨气变送器有效克服了温漂问题,并具有响应时间短、测量精度高、稳定性好等优点。

BFGS算法的全局收敛性分析

对于凸函数，采用两种比较广泛的线搜索技术，在适当的假设条件下，我们得到了ＢＦＧＳ算法的全局收敛性。

大规模无约束优化的一族LBFGS类算法(英文)

尝试在有限存储类算法中利用目标函数值所提供的信息.首先利用插值条件构造了一个新的二次函数逼近目标函数,得到了一个新的弱割线方程,然后将此弱割线方程与袁[1]的弱割线方程相结合,给出了一族包括标准LBFGS的有限存储BFGS类算法,证明了这族算法的收敛性.从标准试验函数库CUTE中选择试验函数进行了数值试验,试验结果表明这族算法的数值表现都与标准LBFGS类似.

无约束最优化问题的BFGS松弛异步并行算法

为解决大规模非线性最优化问题的串行求解速度慢的问题,提出应用松弛异步并行算法求解无约束最优化问题。根据无约束最优化问题的BFGS串行算法,在PC机群环境下将其并行化。利用CHOLESKY方法分解系数为对称正定矩阵的线性方程组,运用无序松弛异步并行方法求解解向量和Wolfe-Powell非线性搜索步长,并行求解BFGS修正公式,构建BFGS松弛异步并行算法,并对算法的时间复杂性、加速比进行分析。在PC机群的实验结果表明,该算法提高了无约束最优化问题的求解速度且负载均衡,算法具有线性加速比。

最优化问题全局寻优的AFSA-BFGS混合算法

针对人工鱼群算法在优化后期收敛速度变慢问题,利用BFGS算法快速的局部搜索能力来改进,提出了一种最优化问题全局寻优的AFSA-BFGS混合算法。通过8个标准函数测试结果表明,AFSA-BFGS混合算法,不仅具有全局收敛性能,而且还具有较快的收敛速度和更高的求解精度,是求解优化问题的一种有效方法。

L-BFGS算法在反演谱分解中的应用研究

在反演谱分解问题中,一个核心内容是如何寻求最优解,得到最优解首先得构建一个合适的数学模型,本文采用带有L1规则化的L2范数约束反演谱分解的目标函数.由于优化算法的选择关系到反演谱分解的精度、计算成本等问题,因此研究首先分析了L1范数的规则化系数λ对反演谱分解效果的影响,然后在此基础优选了L-BFGS算法作为反演谱分解中的优化算法.为了验证L-BFGS优化算法在反演谱分解中的有效性,本文进行了理论分析与数值模拟分析,并在某海上油田实际数据中对基于L-BFGS优化算法的反演谱分解技术进行了验证.实际数据处理结果表明,基于L-BFGS优化算法的反演谱分解技术对油气的响应十分敏感,而且结果比较稳定.

解无约束最优化问题的一个非单调的新的BFGS信赖域算法

给出了一个解无约束最优化问题的非单调的新的BFGS校正的信赖域算法.将非单调算法应用于解信赖域问题,前人已卓有成效.本文的关键之处就是提出了新的BFGS校正公式,此算法具有较好的性质,所给的BFGS校正的具有二次约束的信赖域子问题总保证校正矩阵是正定的,也即信赖域子问题是严格凸二次规划.在较少的假设条件下还结合相关理论证明了所提供的算法具有全局收敛性.

无约束最优化问题的BFGS并行算法与实现

介绍无约束最优化问题的BFGS算法及其收敛性,提出利用行卷帘格式并行Cholesky分解法、同步并行Wolfe-Powell非线性搜索和并行处理BFGS修正公式来构建BFGS的并行算法,并对该算法的时间复杂性、加速比进行分析。在PC机群数值实验的结果表明,BFGS并行算法提高了无约束最优化问题的求解速度,理论分析与实验结果相一致,并行算法具有线性加速比。

BFGS-GA优化的RBF网络在动态流量软测量中的应用

在液压伺服系统动态流量软测量模型核心算法的研究中,综合考虑GA(Genetic Algorithm)和BFGS(Broyden-Fletcher-Goldfarb-Shanno)算法在最优化问题上的优势和不足,提出BFGS-GA.在GA中引入BFGS算子,对每一代中若干个精英个体以一定概率对其进行BFGS线性迭代运算.采用BFGS-GA对实数编码的染色体进行优化,得到最优的RBF(Radial Basis Function)网络结构和参数.实验结果表明该算法比传统GA优化网络的速度提高16.09%,预测精度提高2.99%,能更好地满足动态流量软测量的要求.

基于GN-BFGS算法的青铜峡灌区退水量预测

分析了神经网络的GN-BFGS学习算法的基本工作原理及其方法,并利用该方法建立了宁夏青铜峡灌区退水量预测模型。预测结果表明:用该算法建立的干旱区灌区退水量预测模型具有良好的预测效果。

一个改进的BFGS信赖域算法及收敛性分析

针对无约束最优化问题,将BFGS公式与信赖域算法有机结合,给出了Bk的一个新的修正公式,在此公式中引入了一个可调整的参数θ,并且在一定条件下证明了该算法的全局收敛性.

基于GA-BFGS混合算法的多目标粘弹性模型参数优化

粘弹性材料的本构模型对复合结构的动力分析至关重要,一个精度高、结构简单的本构模型可以使系统分析简单、有效。本文首先采用动态力学热分析仪对一类沥青型阻尼材料进行力学特性测试,得出粘弹性沥青材料的存储模量,损耗模量及损耗因子随频率变化曲线。进而采用一种基于遗传算法(GA)和拟牛顿算法(BFG S)混合算法,对标准流变学模型(STD)、ADF模型以及GHM模型进行了参数优化,结合目标函数的优化结果,分析了各个模型的优缺点。研究表明:(1)GA-BFG S混合算法可以得到精确的全局最优解,且计算量不大,适合于该类问题的求解;(2)对于该类沥青型粘弹性阻尼材料,STD模型,ADF模型可以在较少的待定参数下得到较好的拟合结果;(3)由于ADF模型方便和有限元结合,更适合采用有限元方法对复杂结构分析。参数优化结果为该类阻尼材料的复合结构分析奠定了基础。

一个新的BFGS信赖域算法

本文对于无约束最优化问题提出了一个新的BFGS信赖域算法.利用BFGS方法和信赖域方法,提出了改进的BFGS信赖域方法.推广了文献[3,5]中的两种算法,得到一个新的BFGS信赖域算法,在适当条件下证明了算法的全局收敛性.