广义最小二乘问题的理论和计算

　　第一章  预备知识
　　§1.1引言
　　§1.2特征值和特征向量
　　§1.3矩阵分解
　　1.3.1若干基本分解
　　1.3.2SVD的推广
　　§1.4Hermite矩阵的特征值和矩阵的奇异值
　　1.4.1Hermite矩阵特征值的极小极大定理
　　1.4.2矩阵奇异值的极小极大定理
　　§1.5广义逆
　　1.5.1Moore—Penrose逆
　　1.5.2其他广义逆
　　§1.6投影
　　1.6.1幂等矩阵和投影
　　1.6.2正交投影
　　1.6.3投影AA’和A’A的几何意义
　　§1.7范数
　　1.7.1向量范数
　　1.7.2矩阵范数
　　§1.8行列式，Hadamard不等式和Kronecker乘积
　　1.8.1Binet—Cauchy公式
　　1.8.2Hadamard不等式
　　1.8.3Kronecker乘积
　　§1.9矩阵广义逆的进一步讨论
　　1.9.1矩阵乘积广义逆的反序律
　　1.9.2加边矩阵的广义逆
　　1.9.3矩阵加权广义逆的结构
　　习题
　　第二章  奇异值，奇异子空间和MP逆的扰动
　　§2.1酉不变范数的性质
　　2.1.1vonNeumann定理
　　2.1.2SG函数
　　2.1.3酉不变范数的性质
　　§2.2奇异值的扰动和降秩最佳逼近
　　2.2.1奇异值的扰动
　　2.2.2降秩最佳逼近
　　§2.3正交投影和奇异子空间的扰动
　　§2.4MP逆的扰动
　　习题二
　　第三章  线性最小二乘问题
　　§3.1线性最小二乘问题
　　3.1.1线性最小二乘及其等价性问题
　　3.1.2LS问题的正则化
　　§3.2LS问题的扰动
　　§3.3若干矩阵方程的LS解
　　§3.4加权最小二乘问题
　　§3.5WLS问题的误差估计
　　3.5.1第一种类型的误差界
　　3.5.2第二种类型的误差界
　　习题三
　　第四章  总体最小二乘问题
　　§4.1总体最小二乘问题及其解集
　　4.1.1总体最小二乘问题的定义
　　4.1.2TLS问题的解集
　　§4.2TLS和截断的LS问题的扰动
　　4.2.1TLS问题的扰动
　　4.2.2截断的LS问题的扰动
　　§4.3TLS和截断的LS问题的比较
　　4.3.1TLS和截断的LS问题的解的比较
　　4.3.2TLS和截断的LS问题残量的比较
　　4.3.3TLS和截断的LS问题极小F范数修正矩阵的比较
　　4.3.4一个实例
　　§4.4推广的降秩最佳逼近定理
　　§4.5LS—TLS问题
　　§4.6约束总体最小二乘问题
　　习题四
　　第五章  等式约束最小二乘问题
　　§5.1等式约束最小二乘问题
　　5.1.1等式约束最小二乘问题的定义与解集
　　5.1.2等式约束最小二乘问题的等价性问题
　　§5.2关于KKT方程
　　5.2.1WLS问题的KKT方程
　　5.2.2LSE和WLS问题的KKT方程解的比较
　　5.2.3对应于B和B（t）零特征值的特征子空间
　　§5.3LSE问题的误差估计
　　§5.4等式约束加权最小二乘问题
　　5.4.1等式约束加权最小二乘问题的定义与解集
　　5.4.2加权最小二乘问题的等价性问题
　　§5.5WLSE问题的扰动
　　§5.6多重约束MP逆和多重约束最小二乘问题
　　§5.7嵌入总体最小二乘问题
　　习题五
　　第六章  加权MP逆和约束加权MP逆的上确界
　　§6.1基本问题
　　§6.2加权MP逆的上确界
　　§6.3约束加权MP逆的上确界
　　§6.4双侧加权MP逆的上确界
　　习题六
　　第七章  WLS问题和WLSE问题的稳定性扰动
　　§7.1加权MP逆和约束加权MP逆的稳定性
　　7.1.1加权MP逆的稳定性
　　7.1.2约束加权MP逆的稳定性
　　7.1.3双侧加权MP逆的稳定性
　　§7.2加权投影矩阵的扰动上界
　　§7.3加权最小二乘问题的稳定性扰动
　　§7.4约束加权最小二乘问题的稳定性扰动
　　习题七
　　第八章  刚性加权最小二乘问题
　　§8.1预备知识
　　§8.2刚性加权最小二乘和多重约束最小二乘问题
　　§8.3刚性加权投影矩阵和刚性加权MP逆的扰动
　　§8.4刚性加权最小二乘问题的扰动
　　习题八
　　第九章  广义最小二乘问题的直接解法
　　§9.1基本知识
　　9.1.1算法和浮点运算
　　9.1.2正定矩阵线性方程组的数值计算
　　9.1.3矩阵的预条件处理
　　§9.2正交分解的数值计算
　　9.2.1QR分解
　　9.2.2完全正交分解
　　9.2.3奇异值分解
　　§9.3最小二乘问题的直接解法
　　9.3.1QR分解方法
　　9.3.2法方程法
　　9.3.3完全正交分解方法
　　9.3.4SVD方法
　　§9.4总体最小二乘问题的直接解法__
　　9.4.1基本SVD方法
　　9.4.2完全正交方法
　　9.4.3Cholesky分解法
　　§9.5约束最小二乘问题的数值解法
　　9.5.1零空间法
　　9.5.2加权LS法
　　9.5.3直接消去法
　　9.5.4QR分解和Q—SVD方法
　　§9.6刚性WLS问题和刚性WLSL问题的直接解法
　　9.6.1行稳定的QR分解
　　9.6.2刚性WLS问题的稳定解法
　　9.6.3刚性WL，SE问题的稳定解法
　　习题九
　　第十章  广义最小二乘问题的迭代解法
　　§10.1基本知识
　　10.1.1C~hebyshev多项式
　　10.1.2分裂迭代法的基本理论
　　10.1.3实对称三对角矩阵的特征值的范围
　　§10.2最小二乘解的迭代算法
　　10.2.1分裂迭代法
　　10.2.2Krylov子空间法
　　10.2.3预条件对称一反对称分裂迭代法
　　§10.3总体最小二乘问题的迭代解法
　　10.3.1部分SVD方法
　　10.3.2双对角化方法
　　§10.4刚性加权最小二乘问题的迭代解法
　　习颢十
　　第十一章  非线性最小二乘问题的迭代解法
　　§11.1基本知识
　　11.1.1Gat：eauX导数和Frechet导数
　　11.1.2基本算法
　　§11.2Gauss—Newton型方法
　　11.2.1Gauss—Newton方法
　　11.2.2阻尼Gauss—Newton方法
　　11.2.3信赖域方法
　　§11.3Newton型方法
　　11.3.1Newton迭代法
　　11.3.2混合Newton迭代法
　　11.3.3拟Newton迭代法
　　§11.4可分离问题和约束问题
　　11.4.1可分离问题
　　11.4.2约束非线性最小二乘问题
　　习题十一
　　参考文献
　　《大学数学科学丛书》已出版书目

　　    魏木生，1982年1月获南京大学数学系学士学位，1986年5月获美国布朗大学应用数学系博士学位，现为华东师范大学终身教授，博士生导师，并享受国务院特殊津贴，长期从事计算数学和科学计算方面的教学与科研工作，先后进行了散射问题和散射频率的数值计算，参数识别，最小二乘，总体最小二乘，约束最小二乘，刚性加权最小二乘，加权广义逆的上确界和稳定性，矩阵乘积反序律，图像重构等问题的研究。在国内外知名杂志上发表论文80余篇。已出版书籍：“Supremum and Stability of WeightedPseudo inverses and Weighted Least Squares Problems：Analysi S andComputat ions”（Nova Science Publishers，New York，2001），《数学分析习题精解》（科学出版社，2002）。

　　    《广义最小二乘问题的理论和计算》总结了各种广义的最小二乘问题的理论与计算的最新成果。主要包括最小二乘问题、总体最小二乘问题、等式约束最小二乘问题以及刚性加权最小二乘问题等的理论与科学计算问题。
　　    由于各种广义奇异值分解在解决矩阵论和数值代数问题中有着重要的作用，书中也较详细地介绍了广义的奇异值分解，并应用于解决若干矩阵论和数值代数问题。《广义最小二乘问题的理论和计算》需要的预备知识为数值代数和矩阵论。
　　    《广义最小二乘问题的理论和计算》可作为研究生和高年级本科生的教材，也可作为计算数学及应用学科中需要科学计算的科技工作者的参考书。