基于离散Hopfield神经网络的数字识别实现

基于离散Hopfield神经网络的数字识别实现

学 院:电子与控制工程学院 姓 名: 学 号:

2016.4

基于离散Hopfield神经网络的数字识别实现

一 离散Hopfield神经网络概述

Hopfield 网络作为一种全连接型的神经网络,曾经为人工神经网络的发展开辟了新的研究途径。它利用与阶层性神经网络不同的结构特征和学习方法,模拟生物神经网络的记忆机理,获得了令人满意的结果。这一网络及学习算法最初是由美国物理学家J.J Hopfield 于1982 年首先提出的,故称为Hopfield神经网络[1]。

Hopfield 最早提出的网络是二值神经网络,神经元的输出值只取1或-1,所以,也称离散Hopfield神经网络(DHNN,Discrete Hopfield Neural Network)。在离散Hopfield 网络中,所采用的神经元是二值神经元,因此,所输出的离散值1 和-1分别表示神经元处于激活和抑制状态[2]。

DHNN是一种单层、输出为二值的反馈网络。假设有一个由三个神经元组成的离散Hopfield神经网络,其结构如图1所示。

图1 离散Hopfield 神经网络结构

在图1中,第0 层仅仅作为网络的输入,它不是实际神经元,所

以无计算功能;第1 层是神经元,执行对输入信息与权系数的乘积求累加和,并经非线性函数f 处理后产生输出信息。f 是一个简单的阈值函数,如果神经元的输出信息大于阈值θ,那么,神经元的输出取值为1;小于阈值θ,则神经元的输出取值为-1。

对于二值神经元,它的计算公式如下:

u??wy?xjijij

式中,xj为外部输入,并且有

?y?1,u??jj?i ???1,uj??j??yi一个DHNN的网络状态是输出神经元信息的集合。对于一个输出层是n个神经元的网络,其t时刻的状态为一个n维变量:

Y?[y1(t)?yn(t)]tT

n因为yn(t)可以取值为1或-1,故n维向量Y(t)有2i种状态,即

网络有2种状态。我们考虑DHNN 的一般节点状态。用yj(t)表示第j 个神经元,即节点j 在时刻t 的状态,则节点的下一个时刻(t+1)的状态可以求得:

??1,uj(t)?0yi(t?1)?f[uj(t)]???1,(t)?0

??uj如果wij在i-j时等于0,说明一个神经元的输出并不会反馈到其输入,这时,DHNN 称为无自反馈的网络。如果wij在i=j 时不等于0,说明一个神经元的输出会反馈到其输入端,这时,DHNN为有自反馈的网络。

联系客服:779662525#qq.com(#替换为@) 苏ICP备20003344号-4