知识点：最优解的存在性

知识点概述

在求解一个优化问题前，一个基本的问题是：它的最优解是否存在？魏尔斯特拉斯（Weierstrass）定理给出了最优解存在的一个充分条件，即在非空紧集上最小化一个连续函数。

魏尔斯特拉斯定理 (Weierstrass Theorem):
- 内容: 如果可行域 $X$ 是一个非空的紧集（在欧氏空间中即有界闭集），并且目标函数 $f (x)$ 在 $X$ 上是连续的，那么 $min_{x \in X} f (x)$ 至少存在一个最优解。
- 直观: 在一个封闭且有限的区域内寻找一个连续函数的最小值，这个最小值一定是可以取到的，不会“丢失”在边界之外或趋于无穷。
推广到无界集:
- 如果可行域 $X$ 是无界的，我们仍然可能保证解的存在性。这需要函数具有某种“强制性”（Coercivity）。
- 强制函数: 如果当 $∣∥ x ∣∥ \to \infty$ 时， $f (x) \to \infty$ ，则称 $f$ 是强制的。
- 推论: 如果 $f$ 是一个在闭集 $X$ 上连续的强制函数，那么 $min_{x \in X} f (x)$ 存在最优解。这是因为强制性保证了我们可以将搜索范围限制在一个有界的子集内。
下半连续函数: 魏尔斯特拉斯定理中的连续性可以被放宽为下半连续性。