神经网络结构优化方法

概述了神经网络结构优化的方法。结构优化的目标在于寻找最小神经网络结构,从而使该结构确实适合由训练数据所定义的实际函数。优化的结构使神经网络获得十分出色的归纳性能和分类性能。文章分别列举了各种神经网络结构优化的算法,然后分析并讨论这些算法的优、缺点。

快速自顶向下优化神经网络结构的方法

引荐了一种优化神经网络结构的改进方法。近年来,各种神经网络结构优化方法相继被提出,但素负盛名的还是神经中枢手术优化算法(OBS)。提出一种与修剪技术相关的快速方法,这种方法起始于适当复杂的初始网络,然后剔除冗余的神经元。研究说明,这种快速方法与以往的常规神经中枢手术优化算法相比,具有更好的归纳性能、更简单的网络结构和更快的学习速度。

自顶向下优化神经网络的方法

介绍了一种自动优化神经网络的新启迪方法.这种启迪方法综合采用了快速自顶向下优化神经网络结构算法、动态优化学习参数算法和快速交叉校验算法.首先,快速自顶向下优化神经网络结构算法自动地优化神经网络结构;其次,动态优化学习参数算法动态地调整学习参数和选取优化的学习参数;随后,快速交叉校验算法的引入能有效地防止过度适应问题.实验结果显示,这种启迪方法与其它算法相比,具有更强的归纳性能、优化的网络结构和更快的学习速度.