26-理论方法-凸函数判定定理

知识点：凸函数判定定理

知识点概述

判定一个函数是否为凸函数有多种方法。除了基本定义，还可利用其一阶和二阶导数信息。这些判定定理是分析和处理凸优化问题的重要工具。

教材原文

定理2.9（一阶条件）对于定义在凸集上的可微函数 $f$ ， $f$ 是凸函数当且仅当

$$f(y)⩾f(x)+\nabla f(x{)}^{\mathrm{T}}(y-x),\forall x,y\in \mathbf{dom}f.$$

定理2.11（二阶条件）设 $f$ 为定义在凸集上的二阶连续可微函数，则 $f$ 是凸函数当且仅当

$${\nabla }^{2}f(x)⪰0,\forall x\in \mathbf{dom}f.$$

详细解释

• 零阶条件:
  • 定义法: 直接验证 $f(\theta x+(1-\theta )y)\le \theta f(x)+(1-\theta )f(y)$。
  • 上方图法: 验证函数的上方图 $\text{epi}(f)$ 是否为凸集。
• 一阶条件 (适用于可微函数):
  • 几何意义: 函数图像始终位于其任意一点切线的上方。
  • 梯度单调性: $(\nabla f(x)-\nabla f(y){)}^T(x-y)\ge 0$。
• 二阶条件 (适用于二阶可微函数):
  • 条件: 函数的海瑟矩阵 ${\nabla }^{2}f(x)$ 在其定义域内处处半正定。
  • 直观: 函数在所有方向上的局部曲率都是非负的。如果海瑟矩阵处处正定，则函数是严格凸的。

学习要点

• 掌握使用一阶条件（切线在下方）和二阶条件（海瑟矩阵半正定）来判定凸性。
• 对于具体函数，能够选择最合适的方法进行凸性判断。二阶条件对于多项式等容易求导的函数通常最方便。

实践应用

• 模型分析: 在建立一个优化模型后，首先要做的就是判断其是否为凸优化问题。这通常需要利用判定定理来分析目标函数和约束函数。
• 二次函数: 对于 $f(x)=\frac{1}{2}{x}^{T}Px+q^{T}x+r$，其凸性完全由矩阵 $P$ 是否半正定决定。

关联知识点

• 前置知识: 24-核心概念-凸函数, 16-核心概念-梯度与海瑟矩阵
• 后续知识: 25-核心概念-强凸函数, 10-核心概念-凸和非凸优化
• 相关知识: 无