龙源期刊ç½?/p>
http://www.qikan.com.cn
用最优化方法解决BP神经网络训练问题
作者:æ�?/p>
ç¿?/p>
è‹?/p>
�/p>
来源:《电脑知识与技æœ?/p>
·
学术交流ã€?/p>
2008
年第
12
�/p>
摘要ï¼?/p>
BP
神经网络可以有效地对非线性系统进行逼近,但是传统的最速下降搜索方法存
在收敛速度慢的问题。本文提出把
BP
神经网络转化为最优化问题,用一种共轭梯度算法代æ›?/p>
最速下降法进行搜索迭代,极大地提高了收敛速度ã€?/p>
关键词:神经网络ï¼?/p>
最优化;一种共轭梯度算æ³?/p>
中图分类号:
TP183
文献标识码:
A
文章编号ï¼?/p>
1009-3044(2008)12-20000-00
Training BP Neural Network using optimization methods
LI Xiang ,SU Cheng
(College of computer science,China University of Mining and Technology, Xuzhou
221000,China)
Abstract
ï¼?/p>
BP neural network can efficiently approximate any nonlinear system, but there is a
problem of inefficient learning speed with the conventional steepest descent algorithm. In this paper,
we try to convert neural network to an optimization model, and apply conjugate gradient algorithm to
it to bring a faster learning speed.
Keywords
ï¼?/p>
Neural network
ï¼?/p>
Optimization
ï¼?/p>
Conjugate gradient algorithm
1 BP
神经网络模型
BP(
前馈å¼?/p>
)
神经网络结构简å�?/p>
,
可操作性强
,
能模拟任意的非线性输入输出系统,是目前应
用广泛的神经网络模型ã€?/p>
BP
网络由输入层
i
、隐含层
j
、输出层
k
及各层之间的节点连接权组
成,神经元拓扑如å›?/p>
1
ï¼?/p>
网络的学习过程由信息正向传播和误差反向传播构æˆ?/p>
: