知识点：一般约束优化问题最优性条件 (KKT)

理论分析: KKT条件是分析约束优化问题性质的理论基石。
算法设计: 许多算法（如内点法、SQP）的设计目标就是去寻找满足KKT条件的点。

知识点概述

Karush-Kuhn-Tucker (KKT) 条件是约束优化问题最优解的一阶必要条件，它是无约束优化中“梯度为零”条件向约束问题的推广。对于凸问题，在一定条件下KKT条件也是充分的。

问题形式: $min f (x)$ s.t. $c_{i} (x) \leq 0, h_{j} (x) = 0$ 。
KKT条件: 如果 $x^{*}$ 是一个局部最优解，并且在 $x^{*}$ 处满足某种约束品性（Constraint Qualification, 如LICQ），那么一定存在拉格朗日乘子 $λ^{*} \geq 0$ 和 $ν^{*}$ 使得以下四个条件成立：
1. 稳定性 (Stationarity): $\nabla f (x^{*}) + \sum λ_{i}^{*} \nabla c_{i} (x^{*}) + \sum ν_{j}^{*} \nabla h_{j} (x^{*}) = 0$ 。（拉格朗日函数对 $x$ 的梯度为零）
2. 原始可行性 (Primal Feasibility): $c_{i} (x^{*}) \leq 0, h_{j} (x^{*}) = 0$ 。（ $x^{*}$ 是可行解）
3. 对偶可行性 (Dual Feasibility): $λ_{i}^{*} \geq 0$ 。
4. 互补松弛性 (Complementary Slackness): $λ_{i}^{*} c_{i} (x^{*}) = 0$ 。
互补松弛性的含义: 如果一个不等式约束在最优解处没有被“激活”（即 $c_{i} (x^{*}) < 0$ ），那么它对应的拉格朗日乘子必须为零（ $λ_{i}^{*} = 0$ ）。反之，如果一个乘子为正（ $λ_{i}^{*} > 0$ ），那么对应的约束必须被“激活”（ $c_{i} (x^{*}) = 0$ ）。