基于 Hopfield 网络在联想存储器中的应用.doc
《基于 Hopfield 网络在联想存储器中的应用.doc》由会员分享,可在线阅读,更多相关《基于 Hopfield 网络在联想存储器中的应用.doc(5页珍藏版)》请在三一文库上搜索。
1、精品论文推荐基于 Hopfield 网络在联想存储器中的应用齐微,徐超 辽宁工程技术大学理学院,阜新(123000) E-mail:, 摘要:本文先介绍了 Hopfield 神经网络的基础知识,分别介绍了离散的 Hopfield 神经网 络和连续的 Hopfield 神经网络的基础知识,并介绍了 Hopfield 神经网络的稳定性,并将 Hopfield 神经网络用于解决联想存储器的联想问题,把要保存(记忆)的样本成为系统的吸引子,利用残缺信息作为系统输入,说明了 Hopfield 神经网络用在联想存储器的两个阶段,介绍 Hopfield 网络用作联想存储的一个算法。并建立了歌名歌词的联想网络
2、模型,再将模糊 的数字代入网络,对模糊的数字进行识别,展示了 Hopfield 神经网络在模式识别中的有效 性和实用性,从而可以看出,人工神经网络在识别领域的应用之广泛,发展之长远。人工神经网络,正一步步迈进人类的生活。关键词:Hopfield 神经网络;吸引子;联想存储器1. 引言1982 年,美国物理学家 Hopfield 提出一种神经元互相联接的神经网络模型,并研究了 网络的动力学性质。两年后又设计出模拟这种网络性质的电子线路1。随之,一大批建立在 Hopfield 网络模型基础上的神经计算机产品推向市场,推动了新的神经网络研究热潮,使其 在实际生活中有广泛的应用。2. 预备知识Hopf
3、ield 网络是一种网状网络,网络中的每个神经元都可以和其他神经元双向联接,如 图 1 所示。这种联接方式使得网络中的每个神经元的输出都能反馈到同一层次的其他神经 元,因此,它是一个反馈网络。y 1 y 2yn x 1x 2x 3图 1 Hopfield 的网状网络根据网络节点的状态,Hopfield 网络可分为离散的和连续的两种类型。离散的网络,其节点 状态仅取 0,1(或+1,-1)两个值;而连续的网络,其节点状态可以取区间0,1上任何值2。- 5 -2.1 离散的 Hopfield 网络模型设网络共有 n 个神经元,用s j 0,1表示第 j 个神经元的状态。ij 是神经元 i 与 j
4、间的联接权值。各神经元在给定一组初始输入s1 (0), s 2 (0),L, s n (0) 后,异步地按下述规则改变着网络中各神经元的状态:1,js (t + 1) = 0,若ij si (t) + I j ji j若ij si (t ) + I j 0 ,(2)在U x0 中,V ( x, t ) 0 ,则 x0 是稳定的。若此处V ( x, t ) 0 ,则 x0 是渐进稳定的。定理 3 (Hopfield 定理)设(W,S)是具有 n 个神经元的 Hopfield 网络(离散或连续的),3若ij = ji ,且ii 0 , i, j = 1, 2,L, n ,则网络(W,S)一定能收敛
5、到稳定状态 。3. Hopfield 网络用作联想存储器联想是人类的一种思维能力,人们可以利用残缺的信息片段联想出记忆中的完整信息。 现在从动力学的角度来思考这一问题,如果能构造出这样一个动力学系统,使得要保存(记 忆)的样本成为系统的吸引子,如要搜寻这个记忆时,就可以利用残缺信息(即从一个偏离 吸引子的初始状态)作为系统输入。联想的过程就是系统朝着某个吸引子动态运行的过程。 所谓联想成功,即指系统由此初态收敛到网络所存储的样本。从上一段的内容知,Hopfield 网络存在着吸引子,故而可以用作联想记忆。假设一 个离 散的 Hopfield 网络 有 n 个节点,网 络节 点的 初 态为 S
6、(0) = (S1 (0), S2 (0),L, Sn (0), 当 其 运 行t步 后 , 节 点 状 态 为S (t) = (S1 (t), S2 (t ),L, Sn (t) 。并设每个节点的阈值 j = 0( j = 1, 2,L, n) ,则有 nS j (t) = sgn ij Si (t 1) + I j i =1 将网络用作联想存储器时,工作分为如下两个阶段4:(1)学习阶段对于给定的 m 个要存储的样本X ( k ) = ( x ( k ) , x ( k ) , x ( k ) ), k = 1, 2,L, m ,按照 Hebb12Ln学习规则调整网络权值ij ,以使得每个
7、要存储的样本都成为系统的一个吸引子。(2)联想阶段在ij 调整好(不变)的情况下,给出一部分残缺或被干扰的信息,作为联想关键字,( k )( k ) n按照动力学规则 S j (t) = sgn ij Si (t 1) + I j 变化神经元(节点)状态,使系统最终收敛到某个吸引子。 i =1下面介绍 Hopfield 网络用作联想存储的一个算法,这里假定偏流 I j = 0 。a.按 Hebb 学习规则设置权ijij1 i, j n, x ( k ) , x ( k ) 1,1 。b.初始化 m= k =10,xi x j, i ji = j用未知的输入模式初始化网络输出 :i (0) =
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 基于 Hopfield 网络在联想存储器中的应用 网络 联想 存储器 中的 应用
链接地址:https://www.31doc.com/p-3624029.html