第四部分自适应线神经元.ppt
《第四部分自适应线神经元.ppt》由会员分享,可在线阅读,更多相关《第四部分自适应线神经元.ppt(30页珍藏版)》请在三一文库上搜索。
1、2006-11-28,北京科技大学 付冬梅,1,第四章 自适应线性神经元,2006-11-28,北京科技大学 付冬梅,2,第四章 自适应线性神经元,自适应线性神经元模型 单个自适应线性神经元的学习方法 单层自适应线性神经元的学习方法 MATLAB程序仿真 关于自适应线性神经元的几点说明,2006-11-28,北京科技大学 付冬梅,3,4.1自适应线性神经元模型,线性神经元模型如图所示: I/O关系 a=purelin(W*P+b),2006-11-28,北京科技大学 付冬梅,4,2006-11-28,北京科技大学 付冬梅,5,基于最小二乘的一次性学习算法,4.2单个自适应线性神经元的学习方法,
2、注意到O=KO+b,所以有O=(O-b)/K, 同理有: y=(y-b)/K,所以X,Y仍是样本对。,2006-11-28,北京科技大学 付冬梅,6,基于梯度的学习算法(内部反馈),后),对于输入 ,,个,次学习以后(即得到第,设经过,后,或者没有初始权值,感知机的输出为:,其中,4.2单个自适应线性神经元的学习方法,2006-11-28,北京科技大学 付冬梅,7,4.2单个自适应线性神经元的学习方法,2006-11-28,北京科技大学 付冬梅,8,4.2单个自适应线性神经元的学习方法,2006-11-28,北京科技大学 付冬梅,9,理想输出不一定非得是+1或-1,可以使其他的实数。,4.2单
3、个自适应线性神经元的学习方法,2006-11-28,北京科技大学 付冬梅,10,基于梯度的学习算法(外部反馈),后),对于输入 ,,个,次学习以后(即得到第,设经过,后,或者没有初始权值,感知机的输出为:,其中,4.2单个自适应线性神经元的学习方法,2006-11-28,北京科技大学 付冬梅,11,根据建立在梯度法基础上的最小均方差(LMS)算法得知, 被调整的参数(这里是,)的修改应该向着梯度的反方向进行,,此处梯度为:,因此我们有:,即:,4.2单个自适应线性神经元的学习方法,基于梯度的学习算法(外部反馈),2006-11-28,北京科技大学 付冬梅,12,4.3单层自适应线性神经元的学习
4、方法,基于最小二乘的一次性学习算法,2006-11-28,北京科技大学 付冬梅,13,基于梯度的学习算法,设样本集为(X,Y),取 、 样本。设已训练了n0次得到 的权值为:,则由网络计算得到的输出为:,4.3单层自适应线性神经元的学习方法,2006-11-28,北京科技大学 付冬梅,14,用分量表示之为:,则此时网络的误差为:,根据梯度下降法我们可以知道:,4.3单层自适应线性神经元的学习方法,2006-11-28,北京科技大学 付冬梅,15,故有:,4.3单层自适应线性神经元的学习方法,2006-11-28,北京科技大学 付冬梅,16,由此可得递推算法如下:,(1)随机初始化权值和阈值,即
5、令:,系数取不等于零的正小数 ,以使初始化权值比较小。,(2)在样本集合(X,Y)中,任选一个 和 作为训练 样本,计算感知器的实际输出:,4.3单层自适应线性神经元的学习方法,2006-11-28,北京科技大学 付冬梅,17,3)若 (规定的最小误差),则不需调 整权值,回到(2)步,取另一样本进行训练,否则进行 如下的(4)步。,4)调整权值:然后返回2)。,4.3单层自适应线性神经元的学习方法,2006-11-28,北京科技大学 付冬梅,18,4.4 MATLAB程序仿真,例1、设计自能够适应线性神经网络实现从输入矢量到输出矢量的变换关系,其输入矢量和输出矢量分别为: P=1.0 -1.
6、2 T=0.5 1.0 程序1 P=1.0 -1.2; T=0.5 1.0; Q,R=size(P); S,Q=size(T); lr=0.4*maxlinlr(P); %最佳学习率 net=newlin(minmax(P),S,0,lr); %创建线性网络 net.inputWeights1,1.initFcn=rands; %初始化权值 net.biases1.initFcn=rands; %初始化偏差 net=init(net); %把初始化的权值和偏差函数赋给网络,2006-11-28,北京科技大学 付冬梅,19,W0=net.iw1,1 %显示初始化权值和偏差 B0=net.b1 n
7、et.trainParam.epochs=20; %最大循环次数 net.trainParam.goal=0.001; %期望误差 net,tr=train(net,P,T); %进行线性自适应网络权值的训练 W=net.iw1,1 %显示训练好的初始化权值和偏差 B=net.b1,4.4 MATLAB程序仿真,W = -0.2475 B = 0.7431,2006-11-28,北京科技大学 付冬梅,20,例1、设计自能够适应线性神经网络实现从输入矢量到输出矢量的变换关系,其输入矢量和输出矢量分别为: P=1.0 -1.2 T=0.5 1.0 程序2 P=1.0 -1.2; T=0.5 1.0
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 第四 部分 自适应 神经元
链接地址:https://www.31doc.com/p-3136317.html