知识点：最优化问题的分类
知识点概述
最优化问题根据目标函数、约束以及解的性质可以分为多种类型，如线性/非线性规划、凸/非凸优化、连续/离散优化等。正确的分类对于选择合适的求解算法至关重要。
教材原文
最优化问题 (1.1.1) 的具体形式非常丰富，我们可以按照目标函数、约束函数以及解的性质将其分类。按照目标函数和约束函数的形式来分：当目标函数和约束函数均为线性函数时，问题 (1.1.1) 称为线性规划；当目标函数和约束函数中至少有一个为非线性函数时，相应的问题称为非线性规划…按照最优解的性质来分：最优解只有少量非零元素的问题称为稀疏优化；最优解是低秩矩阵的问题称为低秩矩阵优化。此外还有…随机优化、动态规划…等。
详细解释
- 按函数性质分类:
- 线性和非线性规划: 取决于目标函数和约束函数是否为线性。
- 凸和非凸优化: 取决于目标函数是否为凸函数、可行域是否为凸集。这是最重要的分类之一，因为凸问题的局部最优解就是全局最优解。
- 按变量性质分类:
- 连续和离散优化: 决策变量是取连续值还是离散值（如整数）。
- 按信息完备性分类:
- 确定性和随机优化: 问题中的参数是确定的还是随机变量。
- 按约束存在性分类:
- 无约束和约束优化: 可行域是否为整个空间 。
学习要点
- 掌握不同分类标准（函数性质、变量性质、约束存在性等）。
- 能够根据一个优化模型的数学形式，判断其所属的主要类别。
- 理解为什么凸优化是一个关键的类别。
实践应用
- 线性规划: 物流网络中的流量分配。
- 整数规划: 旅行商问题（TSP）。
- 凸优化: 支持向量机（SVM）的训练。
- 随机优化: 在不确定的市场需求下进行库存管理。
关联知识点
- 前置知识: 1-核心概念-最优化问题的一般形式
- 后续知识: 9-核心概念-线性和非线性规划, 10-核心概念-凸和非凸优化, 6-核心概念-连续和离散优化, 8-核心概念-随机和确定性优化, 7-核心概念-无约束和约束优化
- 相关知识: 42-核心概念-线性规划, 48-核心概念-整数规划