基于离散Hopfield神经网络的数字识别实现
学 院:电子与控制工程学院 姓 名: 学 号:
2016.4
基于离散Hopfield神经网络的数字识别实现
一 离散Hopfield神经网络概述
Hopfield 网络作为一种全连接型的神经网络,曾经为人工神经网络的发展开辟了新的研究途径。它利用与阶层性神经网络不同的结构特征和学习方法,模拟生物神经网络的记忆机理,获得了令人满意的结果。这一网络及学习算法最初是由美国物理学家J.J Hopfield 于1982 年首先提出的,故称为Hopfield神经网络[1]。
Hopfield 最早提出的网络是二值神经网络,神经元的输出值只取1或-1,所以,也称离散Hopfield神经网络(DHNN,Discrete Hopfield Neural Network)。在离散Hopfield 网络中,所采用的神经元是二值神经元,因此,所输出的离散值1 和-1分别表示神经元处于激活和抑制状态[2]。
DHNN是一种单层、输出为二值的反馈网络。假设有一个由三个神经元组成的离散Hopfield神经网络,其结构如图1所示。
图1 离散Hopfield 神经网络结构
在图1中,第0 层仅仅作为网络的输入,它不是实际神经元,所
以无计算功能;第1 层是神经元,执行对输入信息与权系数的乘积求累加和,并经非线性函数f 处理后产生输出信息。f 是一个简单的阈值函数,如果神经元的输出信息大于阈值θ,那么,神经元的输出取值为1;小于阈值θ,则神经元的输出取值为-1。
对于二值神经元,它的计算公式如下:
u??wy?xjijij
式中,xj为外部输入,并且有
?y?1,u??jj?i ???1,uj??j??yi一个DHNN的网络状态是输出神经元信息的集合。对于一个输出层是n个神经元的网络,其t时刻的状态为一个n维变量:
Y?[y1(t)?yn(t)]tT
n因为yn(t)可以取值为1或-1,故n维向量Y(t)有2i种状态,即
网络有2种状态。我们考虑DHNN 的一般节点状态。用yj(t)表示第j 个神经元,即节点j 在时刻t 的状态,则节点的下一个时刻(t+1)的状态可以求得:
??1,uj(t)?0yi(t?1)?f[uj(t)]???1,(t)?0
??uj如果wij在i-j时等于0,说明一个神经元的输出并不会反馈到其输入,这时,DHNN 称为无自反馈的网络。如果wij在i=j 时不等于0,说明一个神经元的输出会反馈到其输入端,这时,DHNN为有自反馈的网络。