信息准则与统计建模

Information Criteria and Statistical Modeling

统计建模是科学数据分析中的一个关键问题，也是科学研究中的关键性工具。统计模型被用来了解具有不确定性的现象，决定复杂系统的结构并且控制这样的系统。而且在许多自然科学和社会科学领域中做出可靠的预言。统计模型用于表示随机结构，并从数据中析出有用的信息。统计分析的目的是表示包含所考虑现象及系统的数据信息。这种信息利用统计模型表示成可以理解的形式。一个模型还允许做出有关随机现象未知方面的推理，并且提示因果关系。在实践中，模型的选择及评估是中心问题，一个至关重要的方面是从一组侯选的模型中选择最适当的模型。在由赤池次倡导的信息理论方法中，库尔贝克一莱布勒信息偏差被认为是评估一个模型优度的基本准则，而该模型则是产生这些数据真实分布的一个近似。