无导数优化：没有免费午餐定理的真实含义

在工程和应用科学的许多领域中，最重要的步骤之一是通过建模和使用优化技术提升产品或服务过程的质量与性能．对于金融市场运作，放射治疗技术，蛋白质折叠的测定，材料科学，电力系统设施的设计以及很多其他领域，这些完全不同的科技领域的进展也要依靠一些恬静而隐秘的帮手，即优化方法的帮助．除了似乎只是一些算法的机械式的应用外，它还面临大量的挑战和发展机会．文献中的术语“优化”（optimization）通常指的是一类数学方法或算法（及其输出结果），它们通过对一个已知的变量集合进行操作，在满足一系列约束的条件下计算任意一个目标函数的极值．更严格地说，针对一个显式目标函数的最大化问题可以一般地表示成如下数学形式：