非线性最优化计算方法

　　上篇 无约束最优化方法
　　第1章 基础知识
　　1.1 凸集及其基本性质
　　1.2 极值（一般函数）的最优性条件
　　1.2.1 多元函数极值概念
　　1.2.2 梯度与Hesse矩阵
　　1.2.3 局部极值的最优性条件
　　1.3 凸函数及凸函数极值的最优性条件
　　1.3.1 凸函数的定义及判定
　　1.3.2 凸函数的次梯度
　　1.3.3 函数的最优性条件
　　1.4 拟凸函数与全局最优
　　第2章 最优化方法概述
　　2.1 最优化问题的提法及分类
　　2.2 最优化问题举例
　　2.3 无约束极值问题算法综述
　　2.3.1 下降算法
　　2.3.2 算法收敛速度及终止法则
　　2.3.3 I收敛性条件
　　第3章 一维搜索（寻查）
　　3.1 搜索（寻查）区间的确定
　　3.2 二分法
　　3.3 直接方法
　　3.3.1 0.6 18法（黄金分割法）
　　3.3.2 分数法（Fibonacci法）
　　第4章 Newton方法及其改进
　　4.1 Newton方法及其局限性
　　4.2 Newton算法的改进
　　4.3 特征值法（Greenstadt方法）
　　4.4 Newton算法的Gi11和Murray修正方案
　　第5章 共轭方向法
　　5.1 共轭方向
　　5.2 共轭方向法
　　5.3 共轭梯度法
　　5.3.1 正定二次函数的基本算法
　　5.3.2 基本性质
　　5.3.3 一般函数的共轭梯度法
　　第6章 拟Newton法
　　6.1 尺度矩阵意义下的最速下降方法
　　6.2 DFP公式及DFP算法
　　6.2.1 DFP公式及其基本性质
　　6.2.2 DFP算法
　　6.2.3 DFP算法的二次收敛性质
　　6.3 DFP对偶公式及其等价形式
　　6.3.1 DFP对偶公式及其基本性质
　　6.3.2 DFP对偶公式的几种等价形式
　　6.4 DFP对偶算法
　　6.4.1 修正矩阵
　　6.4.2 带LDL分解的DFP对偶算法
　　第7章 直接搜索方法
　　7.1 单纯形替换法
　　7.1.1 R中的单纯形
　　7.1.2 单纯形替换算法
　　7.2 方向加速法
　　7.2.1 基本定理及Powe11基本算法
　　7.2.2.Powe11算法的方向调整原理
　　7.2.3 Powe11算法方向调整的判别准则
　　第8章 线性最小二乘法
　　8.1 观测数据的最小二乘拟合
　　8.1.1 残差
　　8.1.2 最小二乘拟合的数学模型
　　8.2 超定方程组及其最小二乘解
　　8.2.1 超定方程组的最小二乘解
　　8.2.2 最小二乘解的存在性及唯一性
　　8.2.3 举例
　　8.3 Go1ub方法（用正交分解求最小二乘解）
　　8.3.1 矩阵的正交分解
　　8.3.2 Go1ub算法
　　附录I 初等反射矩阵（日矩阵）及其性质
　　第9章 非线性最小二乘法
　　9.1 非线性最小二乘法问题
　　9.1.1 问题的提出
　　9.1.2 问题的形成
　　9.1.3 解法概述
　　9.2 Gauss-Newton算法（简称G-N算法）
　　9.2.1 G-N方向的构造
　　9.2.2 G-N算法及其局部收敛性质
　　9.3 修正的G-N算法（1~~1art1ey方法）
　　9.4 Levenberg-Marquarat算法（简称LM算法）
　　9.4.1 I-M算法的基本想法
　　9.4.2 L-M算法的基础定理
　　9.4.3 L-M算法
　　9.4.4 L-M算法的收敛性质
　　附录Ⅱ 最优化方法的发展进程
　　无约束最优化方法习题
　　下篇 约束最优化方法
　　第10章 线性规划及其解法
　　10.1 线性规划问题举例
　　10.2 线性规划同题的基本概念及解的性质
　　10.2.1 线性规划模型的一般形式
　　10.2.2 线性规划问题解的概念
　　10.2.3 线性规划问题解的性质
　　10.3 单纯形法
　　10.3.1 单纯形法原理
　　10.3.2 用人工变量法找初始可行基——大肘法和两段单纯形法
　　10.3.3 修正单纯形法
　　10.4 线性规划的对偶问题
　　10.4.1 对偶问题举例
　　10.4.2 原问题与对偶问题的关系
　　10.4.3 对偶问题的基本定理
　　10.4.4 对偶单纯形法
　　第11章 整数规划
　　11.1 整数规划问题举例
　　11.2 整数规划的分枝定界法和割平面法
　　11.2.1 分枝定界法
　　11.2.2 割平面法
　　11.3 规划
　　11.3.1 规划举例
　　11.3.2 规划的解法
　　11.4 指（分）派问题
　　11.4.1 指（分）派问题举例
　　11.4.2 匈牙利法
　　11.5 整数规划问题应用实例
　　第12章 约束最优化问题的最优性条件
　　12.1 约束最优化问题的数学描述
　　12.1.1 全局解与局部解
　　12.1.2 凸规划
　　12.2 几何最优性条件
　　12.2.1 必要条件
　　12.2.2 充分条件
　　12.3 引用Lagrange函数的最优性条件
　　12.3.1 必要条件
　　12.3.2 充分条件
　　第13章 非线性规划的对偶理论
　　13.1 Lagrange对偶问题与弱对偶性定理
　　13.2 鞍点判别条件
　　13.3 扩展的对偶定理
　　第14章 可行方向法
　　14.1 可行方向法
　　14.1.1 线性约束的情形
　　14.1.2 非线性约束的情形
　　14.2 投影梯度法？
　　14.3 既约梯度法
　　第15章 罚函数法
　　15.1 罚函数法
　　15.1.1 罚函数法
　　15.1.2 罚函数法的收敛性质
　　15.2 障碍函数法
　　15.2.1 算法的构成
　　15.2.2 障碍函数法的收敛性定理
　　15.3 广义Lagrange乘子法
　　15.3.1 等式约束下的广义乘子法
　　15.3.2 不等式约束下的广义乘子法
　　15.3.3 等式与不等式约束下的广义乘子法
　　15.4 精确罚函数法
　　15.4.1 非线性等式约束问题的可微精确罚函数法
　　15.4.2 一般非线性约束问题的可微精确罚函数法
　　第16章 二次规划
　　16.1 二次规划问题及其k-T条件
　　16.2 Lemke算法
　　16.3 Wo1fe方法
　　16.4 序列二次规划法
　　第17章 离散系统的动态规划方法
　　17.1 多阶段决策问题（引例及相关基本概念）
　　17.2 多阶段决策问题的数学描述
　　17.2.1 数学模型
　　17.2.2 Be11man最优性原理
　　17.2.3 动态规划基本定理
　　17.3 求解多阶段决策问题的动态规划方法
　　17.4 多阶段决策问题实例分析
　　17.5 离散线性二次型系统的动态规划方法
　　第18章 现代优化方法简介
　　18.1 随机试验法
　　18.2 禁忌搜索算法
　　18.2.1 禁忌搜索算法的主要步骤
　　18.2.2 禁忌搜索算法的特征
　　18.3 模拟退火算法
　　18.3.1 模拟退火算法的基本原理
　　18.3.2 模拟退火算法的基本步骤和实现的技术问题
　　18.4 遗传算法
　　18.4.1 遗传算法的基本原理和步骤
　　18.4.2 遗传算法的技术问题
　　18.5 神经网络算法
　　18.5.1 人工神经网络的基本概念
　　18.5.2 人工神经网络的基本模型
　　18.5.3 前向型人工神经网络
　　18.5.4 反馈型神经网络——Hopfie1d模型
　　附录Ⅲ MaUab及其应用
　　1.1 Mat1ab简介
　　1.1.1 数学软件
　　1.1.2 什么是Mat1ab
　　1.1.3 Mat1ab的主要用途
　　1.1.4 几点说明
　　1.1.5 矩阵运算
　　1.2 最优化方法计算
　　1.2.1 无约束极值算例
　　1.2.2 约束极值
　　1.2.3 线性最小二乘问题
　　1.2.4 非线性最小二乘问题
　　1.3 数据分析
　　1.3.1 数据的输入和输出
　　1.3.2 列数据分析
　　1.3.3 实测数据归一化（标准化）
　　1.3.4 多项式拟合
　　1.3.5 多元线性回归
　　约束最优化方法习题
　　参考文献

　　《非线性最优化计算方法》是作者在多年来为四川省部分高校相关理工科专业的硕士研究生、工程硕士生、本科生开设最优化方法课程的教学实践和自编教材的基础上，对搜集整理的大量材料做了充分酝酿，反复修改而成的。
　　教材在课程内容的处理上遵循如下原则：突出方法，注重概念，适当介绍算法的基本理论；强调应用，加强算法实现的基本训练；引导学生主动思考，激发学生的学习兴趣；通过算法到程序设计有序而系统的训练，提高学生程序设计的能力。
　　全书分为上、下两篇。上篇共9章，介绍无约束最优化方法，包括基础知识（介绍凸集的基本性质，函数及凸函数的最优性条件），最优化问题及无约束最优化算法综述，以及求解无约束最优化问题的各种算法。下篇共8章，介绍约束最优化方法，包括线性规划问题及其解法，非线性规划的最优化条件及常用的算法，以及离散系统的动态规划方法等。
　　《非线性最优化计算方法》可作为高等院校理工科本科高年级及相关专业的硕士生、工程硕士生的教材，也可供从事相关工作的科研人员和工程技术人员参考。