最优化方法

　　目录前言第1章 变分分析的相关素材 11.1 凸分析素材 11.1.1 凸集合 11.1.2 凸函数的闭包 31.1.3 共轭函数 51.1.4 次可微性 81.2 集值映射的极限 111.3 方向导数 181.4 集合的切锥与二阶切集 271.4.1 集合的切锥 271.4.2 二阶切集 351.4.3 凸函数水平集的切锥与二阶切集 391.4.4 负卦限锥的切锥与二阶切集 411.5 有限维系统的稳定性 421.5.1 线性系统 431.5.2 集合约束的线性系统 451.5.3 集合约束的非线性系统 47第2章 无约束优化 542.1 引言 542.2 线搜索方法 562.2.1 线搜索原则 562.2.2 下降方法的收敛性 582.3 最速下降方法 612.3.1 最速下降方法的全局收敛性 612.3.2 最速下降方法的收敛速度 632.4 Newton法 682.4.1 经典Newton法 682.4.2 带线搜索的Newton法 702.4.3 自协调函数的Newton法 702.5 拟Newton法 722.5.1 拟Newton方程和著名的拟Newton公式 722.5.2 拟Newton法求解凸二次规划 742.5.3 Dixon定理 752.5.4 DFP方法的收敛性 772.5.5 BFGS方法的收敛性 832.5.6 限制Broyden类方法的收敛性 872.6 共轭梯度方法 942.6.1 共轭方向 942.6.2 共轭梯度方法求解二次规划 962.6.3 求解无约束优化问题的FR方法 1012.7 信赖域方法 1032.7.1 信赖域基本算法 1042.7.2 Cauchy点与模型下降 1052.7.3 信赖域算法的收敛性 107第3章 线性规划 1103.1 线性规划问题及其性质 1103.2 单纯形法 1143.3 Bland原则 1203.4 绒性规划的对偶定理 1223.5 对偶单纯形方法 1243.6 线性规划的Karmarkar内点法 1273.6.1 解析中心与势函数 1273.6.2 线性规划的势函数 1313.6.3 线性规划的中心路径 1323.6.4 线性规划的Karmarkar算法 135第4章 对偶理论 1414.1 共轭对偶性 1414.2 Lagrange对偶性 1454.3 对偶理论的应用 147第5章 最优性条件 1555.1 一阶最优性条件 1555.2 广义Lagrange乘子 1575.3 二阶最优性条件 158第6章 增广Lagrange函数方法 1626.1 惩罚与障碍函数方法 1626.1.1 惩罚函数方法 1626.1.2 经典障碍函数方法 1686.2 增广Lagrange函数方法 1696.2.1 增广Lagrange函数 1696.2.2 Bertsekas的经典结果 1716.2.3 对偶收敛率 175第7章 序列二次规划(SQP)方法 1777.1 等式约束优化问题的局部方法 1777.1.1 Newton法 1777.1.2 KKT系统 1807.1.3 既约Hesse阵方法 1827.2 一般约束优化问题的局部方法 1867.2.1 序列二次规划方法 1867.2.2 原始一对偶二次收敛性 1887.2.3 原始超线性收敛性 1927.3 线搜索全局方法 1957.3.1 不可微惩罚函数 1957.3.2 线搜索SQP方法 1997.3.3 Maratos效应 203参考文献 209

　　《*优化方法》主要介绍线性与非线性规划的理论与计算方法。预备知识部分包括变分分析的相关素材；理论部分包括对偶理论和非线性规划的优性理论；计算方法包括无约束优化的线搜索方法、线性规划的单纯形方法和内点方法、非线性规划的增广Lagrange函数方法和序列三次规划方法。《*优化方法》注重知识的准确性、系统性和算法论证的完整性，是学习优化方法的一本入门书。