基于函数集信息量的模型选择研究

提出了子空间信息量(SIQ)和函数集信息量(FSIQ)概念,详细讨论了基于函数集信息量的模型选择问 题,给出了有限含噪声样本下模型选择的近似解决方法,很好地克服了模型选择过程中普遍存在的欠学习和过学列 问题,大大提高了预测模型的泛化性能,在此基础上提出了一种可行的次优模型选择算法。最后通过具体实例验证 了上述方法的可行性和优越性。

基于函数集信息量的改进网络算法仿真研究

传统的神经网络学习算法往往存在欠学习或过学习情况,容易导致网络结构不够合理,预测函数泛化能力不理想.该文引用函数集信息量的概念,提出了以信噪比倒数为性能指标的改进型网络学习算法,深入分析了神经网络学习过程中欠学习和过学习的原因.经过仿真验证表明,该算法简单,自适应性强,收敛速度快,可以很好地克服欠学习和过学习问题,所得预测函数具有很好的泛化能力.