BP网络学习能力与泛化能力之间的定量关系式

分析BP网络过拟合时网络学习能力与泛化能力之间的内在联系 ,引入描述问题复杂性程度的复相关系数 ,建立了BP网络过拟合时 ,反映网络学习能力的训练样本集的训练相对误差与表征泛化能力的网络对检验样本集的测试相对误差之间满足的定量关系式 .通过模拟若干不同类型函数的BP网络数值建模试验 ,确定了关系式中过拟合参数q的取值范围为 0 0 0 7～ 0 0 7,指出BP网络应用于给定样本集的训练过程中 。

BP网络学习能力与泛化能力满足的不确定关系式

分析BP网络过拟合出现时网络学习能力及泛化能力与其他影响因素之间的内在联系,引入复相关系数描述样本复杂性程度;遵循计算不确定性原理和神经网络结构设计的最简原则,类比信息传递过程中的一般测不准关系式,建立了BP网络过拟合出现时,反映网络学习能力的训练样本集的训练相对误差与表征泛化能力的网络对检验样本集的测试相对误差之间满足的不确定关系式;通过模拟多种不同类型函数的BP网络过拟合数值模拟实验,确定了关系式中过拟合参数q的取值范围一般为7×10^(-3)～7×10^(-2);依据不确定关系式,导出了在用复相关系数描述样本复杂性和满足给定逼近误差要求下,网络具有较佳泛化能力的隐节点数的计算公式,并验证了其合理性;指出BP网络应用于给定样本集的训练过程中,为改进泛化能力的训练最佳停止方法。