矩阵分解及无约束最优化 方法的原理和应用简介
——最优化方法课程实验报告
学 院：数学与统计学院 班 级：硕2041班 姓 名：王彭 学 号：3112054028 指导教师：阮小娥 同 组 人：陈莹 钱东东
矩阵分解及无约束最优化方法的原理和应用简介
矩阵分解及无约束最优化方法
的原理和应用简介
摘要
应课程学习的需要，本文主要对矩阵分解中的LU分解、LDLT分解、乔列斯基分解，以及无约束最优化领域中的最速下降法、牛顿法、拟牛顿法的原理、步骤和算法进行了简要介绍，并对各种方法进行了Matlab编程实验，得到了较好的结果。
关键字：LU分解，LDLT分，、乔列斯基分解，最速下降法，牛顿法，拟牛顿法，Matlab编程。
- 1 -
《最优化方法》课程实验报告
【目录】
摘要 ............................................................................................................................................. - 1 - 1 矩阵分解 ................................................................................................................................. - 3 -
1.1 矩阵的LU分解 ........................................................................................................... - 3 -
1.1.1 定义 .................................................................................................................... - 3 - 1.1.2 矩阵的LU分解过程 ........................................................................................ - 3 - 1.1.3 矩阵LU分解的应用 ........................................................................................ - 4 - 1.2 对称矩阵的LDL分解 ................................................................................................ - 5 -
1.2.1 定义 .................................................................................................................... - 5 - 1.2.2对称矩阵的LDL分解过程 ............................................................................... - 5 - 1.2.3对称矩阵的LDL分解应用 ............................................................................... - 6 - 1.3 对称正定矩阵的GG分解 ........................................................................................... - 6 -
1.3.1 定义 .................................................................................................................... - 6 - 1.3.2 对称正定矩阵的乔列斯基分解过程 ................................................................ - 7 - 1.3.3对称矩阵的乔列斯基分解应用 ......................................................................... - 7 -
2 无约束最优化方法.................................................................................................................. - 8 -
2.1 最速下降法 ................................................................................................................... - 8 -
2.1.1 最速下降法的原理 ............................................................................................ - 8 - 2.1.2 最速下降法的步骤 ............................................................................................ - 9 - 2.1.3 最速下降法的应用 ............................................................................................ - 9 - 2.2 牛顿法 ......................................................................................................................... - 10 -
2.2.1 牛顿法的原理 .................................................................................................. - 10 - 2.2.2 牛顿法的步骤 .................................................................................................. - 12 - 2.2.3 牛顿法的应用 .................................................................................................. - 12 - 2.3 拟牛顿法 ..................................................................................................................... - 13 -
2.3.1 拟牛顿法的原理 .............................................................................................. - 13 - 2.3.2 DFP法 .............................................................................................................. - 13 - 2.3.3 BFGS法 ............................................................................................................ - 14 - 2.3.4 拟牛顿法的应用 .............................................................................................. - 15 -
3 总结 ....................................................................................................................................... - 15 - 4 附录 ....................................................................................................................................... - 16 -
4.1 矩阵LU分解的matlab程序： ................................................................................ - 16 - 4.2 对称矩阵的LDL分解 .............................................................................................. - 17 - 4.3 正定举证的乔列斯基分解 ......................................................................................... - 18 - 4.4 最速下降法 ................................................................................................................. - 18 - 4.5 牛顿法 ......................................................................................................................... - 19 - 4.6 拟牛顿法 ..................................................................................................................... - 20 -
- 2 -