人工神经网络简介temp.ppt
《人工神经网络简介temp.ppt》由会员分享,可在线阅读,更多相关《人工神经网络简介temp.ppt(53页珍藏版)》请在三一文库上搜索。
1、优秀精品课件文档资料,人工神经网络理论与应用,第七章 神经网络基础知识,神经网络基础知识,7. 1 生物神经元及人工神经元的组成 7. 2 人工神经网络的模型 7 .2 .1 人工神经元的模型 7 .2 .2 常用的激活转移函数 7 .2 .3 MP模型神经元,2.1 生物神经元及人工神经元的组成,神经元也称神经细胞,它是生物神经系统的最基本单元,它和人体中其他细胞的关键区别在于具有产生、处理和传递信号的功能。每个神经元都包括三个主要部分:细胞体、树突和轴突,见图2.1(a)。,神经元结构与功能,细胞体由细胞核、细胞质和细胞膜等组成,其直径大约为0.5-100m,大小不等。细胞体是神经元的主体
2、,用于处理由树突接受的其它神经元传来的信号; 轴突是由细胞体向外延伸出的所有纤维中最长的一条分枝,用来向外传递神经元产生的输出电信号。每个神经元都有一条轴突,其最大长度可达1m以上。在轴突的末端形成了许多很细的分枝,这些分支叫神经末梢。每一条神经末梢可以与其它神经元形成功能性接触,该接触部位称为突触。所谓功能性接触,是指非永久性的接触,这正是神经元之间传递信息的奥秘之处。,神经元结构与功能,树突是指由细胞体向外延伸的除轴突以外的其它所有分支。树突的长度一般较短,但数量很多,它是神经元的输入端,用于接受从其它神经元的突触传来的信号。 神经元中的细胞体相当于一个初等处理器,它对来自其它各个神经元的
3、信号进行总体求和,并产生一个神经输出信号。 细胞膜内外的电位之差被称为膜电位。在无信号输入时的膜电位称为静止膜电位。当一个神经元的所有输入总效应达到某个阈值电位时,该细胞变为活性细胞。,生物神经元的功能与特征,(1) 时空整合功能 神经元对不同时间通过同一突触传入的神经冲动,具有时间整合功能。对于同一时间通过不同突触传入的神经冲动,具有空间整合功能。两种功能相互结合,使生物神经元对由突触传入的神经冲动具有时空整合的功能。 (2) 兴奋与抑制状态 神经元具有兴奋和抑制两种常规的工作状态。当传入冲动的时空整合结果使细胞膜电位升高,超过动作电位的阈值时,细胞进入兴奋状态,产生神经冲动。相反,当传入冲
4、动的时空整合结果使细胞膜电位低于动作电位的阈值时,细胞进入抑制状态,无神经冲动输出。,生物神经元的功能与特征,(3) 脉冲与电位转换 突触界面具有脉冲/电位信号转化功能。沿神经纤维传递的信号为离散的电脉冲信号,而细胞膜电位的变化为连续的电位信号。这种在突触接口处进行的“数/模”转换,是通过神经介质以量子化学方式实现的如下过程: 电脉冲-神经化学物质-膜电位 (4) 神经纤维传导速率 神经冲动沿神经纤维传导的速度在1-150m/s之间。其速度差异与纤维的粗细、髓鞘的有无有关。一般来说,有髓鞘的纤维,其传导速度在100m/s以上,无髓鞘的纤维,其传导速度可低至每秒数米。 (5) 突触延时和不应期
5、突触对相邻两次神经冲动的响应需要有一定的时间间隔,在这个时间间隔内不响应激励,也不传递神经冲动,这个时间间隔称为不应期。,人脑神经系统的结构与特征,神经生理学的研究结果表明,人脑的神经系统是一个由大量生物神经元并行互连所形成的一个网络系统。每个人的大脑大约有1011-1012个神经元,每个神经元大约有103-104个突触,即与其它103-104个神经元相连。 (1) 记忆和存储功能 人脑神经系统的记忆和处理功能是有机的结合在一起的。神经元既有存储功能,又有处理功能,它在进行回忆时不仅不需要先找到存储地址再调出所存内容,而且还可以由一部分内容恢复全部内容。尤其是当一部分神经元受到损坏(例如脑部受
6、伤等)时,它只会丢失损坏最严重部分的那些信息,而不会丢失全部存储信息。 (2) 高度并行性(为什么计算机无法模拟更多的神经元,如果有100个神经元,两两互连,则会出现10099/2=5000个N元一次方程。如何计算如此复杂的方程组?)提供了非常巨大的存储容量和并行度。例如,人可以非常迅速地识别出一幅十分复杂的图像。,人脑神经系统的结构与特征,(3) 分布式功能 人们通过对脑损坏病人所做的神经心理学研究,没有发现大脑中的哪一部分可以决定其余所有各部分的活动,也没有发现在大脑中存在有用于驱动和管理整个智能处理过程的任何中央控制部分。人类大脑的各个部分是协同工作、相互影响的,并没有哪一部分神经元能对
7、智能活动的整个过程负有特别重要的责任。可见,在大脑中,不仅知识的存储是分散的,而且其控制和决策也是分散的。因此,大脑是一种分布式系统。 (4) 容错功能 容错性是指根据不完全的、有错误的信息仍能做出正确、完整结论的能力。大脑的容错性是非常强的。例如,我们往往能够仅由某个人的一双眼睛、一个背影、一个动作或一句话的音调,就能辨认出来这个人是谁。,人脑神经系统的结构与特征,(5) 联想功能 人脑不仅具有很强的容错功能,还有联想功能。善于将不同领域的知识结合起来灵活运用,善于概括、类比和推理。例如,一个人能很快认出多年不见、面貌变化较大的老朋友。 (6) 自组织和自学习功能 人脑能够通过内部自组织、自
8、学习能力不断适应外界环境,从而可以有效地处理各种模拟的、模糊的或随机的问题。,人工神经元的主要结构单元是信号的输入、综合处理和输出 输出信号强度大小反映了该神经元对相邻神经元影响的强弱 人工神经元之间通过互相联接形成网络,称为人工神经网络 神经元之间相互联接的方式称为联接模式 相互之间的联接强度由联接权值体现。 在人工神经网络中,改变信息处理及能力的过程,就是修改网络权值的过程。,目前多数人工神经网络的构造大体上都采用如下的一些原则:,由一定数量的基本神经元分层联接; 每个神经元的输入、输出信号以及综 合处理内容都比较简单; 网络的学习和知识存储体现在各神经元之间的联接强度上。,7. 2 人工
9、神经网络的模型,7. 2. 1 人工神经元的模型 神经元是人工神经网络的基本处理单元,它一般是一个多输入/单输出的非线性元件。神经元输出除受输入信号的影响外,同时也受到神经元内部因素的影响,所以在人工神经元的建模中,常常还加有一个额外输入信号,称为偏差,有时也称为阈值或门限值。,神经元的输出矢量可以表示为: A = f ( W*P + b ) = f ( wj pj + b ) (7.2 ) 可以看出偏差被简单地加在W*P上作为激活函数的另一个输入分量。实际上偏差也是一个权值,只是它具有固定常数为1的输入。在网络的设计中,偏差起着重要的作用,它使得激活函数的图形可以左右移动,从而增加了解决问题
10、的可能性。,7. 2. 2 激活转移函数,激活转移函数(Activation transfer function)简称激活函数,它是一个神经元及神经网络的核心之一。神经网络解决问题的能力与功效除了与网络结构有关外,在很大程度上取决于网络激活函数。,激活函数的基本作用是:,控制输入对输出的激活作用; 对输入、输出进行函数转换; 将可能无限域的输入变换成指定的有限范围内的输出。 下面是几种常用的激活函数:,(l)阀值型(硬限制型),具有此激活函数的神经元的输入/输出关系为:,(2)线性型,具有此激活函数的神经元的输入/输出关系为:,A = f (W *P + b ) = W * P + b ( 7
11、.4 ),(3)S型(Sigmoid),对数S型激活函数 见图7.5(a),其神经元的输入/输出关系为:,(3)S型(Sigmoid),双曲正切S型激活函数 见图7.5(b),其神经元的输入/输出关系为:,一般地,称一个神经网络是线性或非线性是由网络神经元中所具有的激活函数的线性或非线性来决定的。,人工神经网络,人工神经网络是对人类神经系统的一种模拟。尽管人类神经系统规模宏大、结构复杂、功能神奇,但其最基本的处理单元却只有神经元。人工神经系统的功能实际上是通过大量神经元的广泛互连,以规模宏伟的并行运算来实现的。 基于对人类生物系统的这一认识,人们也试图通过对人工神经元的广泛互连来模拟生物神经系
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 人工 神经网络 简介 temp
链接地址:https://www.31doc.com/p-2584435.html