矩阵分解及无约束最优化 方法的原理和应用简介

——最优化方法课程实验报告

学 院：数学与统计学院 班 级：硕2041班 姓 名：王彭 学 号：3112054028 指导教师：阮小娥 同 组 人：陈莹 钱东东

矩阵分解及无约束最优化方法的原理和应用简介

矩阵分解及无约束最优化方法

的原理和应用简介

摘要

应课程学习的需要，本文主要对矩阵分解中的LU分解、LDLT分解、乔列斯基分解，以及无约束最优化领域中的最速下降法、牛顿法、拟牛顿法的原理、步骤和算法进行了简要介绍，并对各种方法进行了Matlab编程实验，得到了较好的结果。

关键字：LU分解，LDLT分，、乔列斯基分解，最速下降法，牛顿法，拟牛顿法，Matlab编程。

- 1 -

《最优化方法》课程实验报告

【目录】

摘要 ............................................................................................................................................. - 1 - 1 矩阵分解 ................................................................................................................................. - 3 -

1.1 矩阵的LU分解 ........................................................................................................... - 3 -

1.1.1 定义 .................................................................................................................... - 3 - 1.1.2 矩阵的LU分解过程 ........................................................................................ - 3 - 1.1.3 矩阵LU分解的应用 ........................................................................................ - 4 - 1.2 对称矩阵的LDL分解 ................................................................................................ - 5 -

1.2.1 定义 .................................................................................................................... - 5 - 1.2.2对称矩阵的LDL分解过程 ............................................................................... - 5 - 1.2.3对称矩阵的LDL分解应用 ............................................................................... - 6 - 1.3 对称正定矩阵的GG分解 ........................................................................................... - 6 -

1.3.1 定义 .................................................................................................................... - 6 - 1.3.2 对称正定矩阵的乔列斯基分解过程 ................................................................ - 7 - 1.3.3对称矩阵的乔列斯基分解应用 ......................................................................... - 7 -

2 无约束最优化方法.................................................................................................................. - 8 -

2.1 最速下降法 ................................................................................................................... - 8 -

2.1.1 最速下降法的原理 ............................................................................................ - 8 - 2.1.2 最速下降法的步骤 ............................................................................................ - 9 - 2.1.3 最速下降法的应用 ............................................................................................ - 9 - 2.2 牛顿法 ......................................................................................................................... - 10 -

2.2.1 牛顿法的原理 .................................................................................................. - 10 - 2.2.2 牛顿法的步骤 .................................................................................................. - 12 - 2.2.3 牛顿法的应用 .................................................................................................. - 12 - 2.3 拟牛顿法 ..................................................................................................................... - 13 -

2.3.1 拟牛顿法的原理 .............................................................................................. - 13 - 2.3.2 DFP法 .............................................................................................................. - 13 - 2.3.3 BFGS法 ............................................................................................................ - 14 - 2.3.4 拟牛顿法的应用 .............................................................................................. - 15 -

3 总结 ....................................................................................................................................... - 15 - 4 附录 ....................................................................................................................................... - 16 -

4.1 矩阵LU分解的matlab程序： ................................................................................ - 16 - 4.2 对称矩阵的LDL分解 .............................................................................................. - 17 - 4.3 正定举证的乔列斯基分解 ......................................................................................... - 18 - 4.4 最速下降法 ................................................................................................................. - 18 - 4.5 牛顿法 ......................................................................................................................... - 19 - 4.6 拟牛顿法 ..................................................................................................................... - 20 -

- 2 -