《最优化：建模、算法与理论》知识体系蓝图
第一章 最优化简介
- 1-核心概念-最优化问题的一般形式
- 2-核心概念-最优化问题的分类
- 3-应用案例-稀疏优化
- 4-应用案例-低秩矩阵恢复
- 5-应用案例-深度学习
- 6-核心概念-连续和离散优化
- 7-核心概念-无约束和约束优化
- 8-核心概念-随机和确定性优化
- 9-核心概念-线性和非线性规划
- 10-核心概念-凸和非凸优化
- 11-核心概念-全局和局部最优解
- 12-核心概念-迭代算法
- 13-核心概念-算法收敛速度
第二章 基础知识
- 14-核心概念-向量范数
- 15-核心概念-矩阵范数
- 16-核心概念-梯度与海瑟矩阵
- 17-核心概念-矩阵变量函数的导数
- 18-技术实现-自动微分
- 19-核心概念-广义实值函数
- 20-核心概念-闭函数与下半连续函数
- 21-核心概念-凸集
- 22-核心概念-凸包与仿射包
- 23-理论方法-分离超平面定理
- 24-核心概念-凸函数
- 25-核心概念-强凸函数
- 26-理论方法-凸函数判定定理
- 27-核心概念-共轭函数
- 28-核心概念-次梯度
第三章 优化建模
- 29-技术实现-优化建模技术
- 30-应用案例-回归分析
- 31-应用案例-逻辑回归
- 32-应用案例-支持向量机
- 33-应用案例-概率图模型
- 34-应用案例-相位恢复
- 35-应用案例-主成分分析
- 36-应用案例-矩阵分离问题
- 37-应用案例-字典学习
- 38-应用案例-K-均值聚类
- 39-应用案例-全变差模型
- 40-应用案例-小波模型
- 41-应用案例-强化学习
第四章 典型优化问题
- 42-核心概念-线性规划
- 43-核心概念-最小二乘问题
- 44-核心概念-复合优化问题
- 45-核心概念-随机优化问题
- 46-核心概念-半定规划
- 47-核心概念-矩阵优化
- 48-核心概念-整数规划
- 49-技术实现-优化模型语言
第五章 最优性理论
- 50-理论方法-最优解的存在性
- 51-理论方法-无约束可微问题最优性条件
- 52-理论方法-无约束不可微问题最优性条件
- 53-理论方法-对偶理论
- 54-理论方法-一般约束优化问题最优性条件
- 55-理论方法-带约束凸优化问题最优性条件
第六章 无约束优化算法
- 56-理论方法-线搜索方法
- 57-理论方法-梯度下降法
- 58-理论方法-Barzilar-Borwein方法
- 59-理论方法-次梯度算法
- 60-理论方法-牛顿法
- 61-理论方法-拟牛顿法
- 62-理论方法-信赖域算法
- 63-理论方法-非线性最小二乘算法