神经网络的MATLAB实现(苏析超).ppt
主要内容,BP神经网络编程 BP神经网络工具箱 RBP网络工具箱 GRNN网络工具箱 ,BP神经网络通常是指基于误差反向传播算法(BP算法)的多层前向神经网络。 该网络的主要特点是信号向前传递，误差反向传播。向前传递中，输入信号从输入层经隐含层逐层处理，直至输出层。每一层的神经元状态只影响到下一层神经元状态。如果输出层得不到期望输出，则转入反向传播，根据预测误差调整网络权值和阈值，从而使BP神经网络预测输出不断逼近期望输出。,1.BP神经网络原理,神经网络的MATLAB实现,神经网络的MATLAB实现,神经网络的MATLAB实现,神经网络的MATLAB实现,% 清空环境变量 clc clear % 训练数据预测数据提取及归一化 %下载四类语音信号 load data1 c1 load data2 c2 load data3 c3 load data4 c4,%从1到2000间随机排序 k=rand(1,2000); m,n=sort(k); %输入输出数据 input=data(:,2:25); output1 =data(:,1);,%四个特征信号矩阵合成一个矩阵 data(1:500,:)=c1(1:500,:); data(501:1000,:)=c2(1:500,:); data(1001:1500,:)=c3(1:500,:); data(1501:2000,:)=c4(1:500,:);,神经网络的MATLAB实现,%随机提取1500个样本为训练样本，500个样本为预测样本 input_train=input(n(1:1500),:)' output_train=output(n(1:1500),:)' input_test=input(n(1501:2000),:)' output_test=output(n(1501:2000),:)' %输入数据归一化 inputn,inputps=mapminmax(input_train);,神经网络的MATLAB实现,% 网络结构初始化 innum=24; midnum=25; outnum=4; %权值初始化 w1=rands(midnum,innum); b1=rands(midnum,1); w2=rands(midnum,outnum); b2=rands(outnum,1);,w2_1=w2;w2_2=w2_1; w1_1=w1;w1_2=w1_1; b1_1=b1;b1_2=b1_1; b2_1=b2;b2_2=b2_1; %学习率 xite=0.1; %alfa=0.01;,神经网络的MATLAB实现,% 网络训练 for ii=1:10 E(ii)=0; for i=1:1:1500 % 网络预测输出 x=inputn(:,i); % 隐含层输出 for j=1:1:midnum I(j)=inputn(:,i)'*w1(j,:)'+b1(j); Iout(j)=1/(1+exp(-I(j); end % 输出层输出 yn=w2'*Iout'+b2;,神经网络的MATLAB实现,% 权值阀值修正 %计算误差 e=output_train(:,i)-yn; E(ii)=E(ii)+sum(abs(e); %计算权值变化率 dw2=e*Iout; db2=e',神经网络的MATLAB实现,for j=1:1:midnum S=1/(1+exp(-I(j); FI(j)=S*(1-S); end for k=1:1:innum for j=1:1:midnum dw1(k,j)=FI(j)*x(k)*(e(1)*w2(j,1)+e(2)*w2(j,2)+e(3)*w2(j,3)+e(4)*w2(j,4); db1(j)=FI(j)*(e(1)*w2(j,1)+e(2)*w2(j,2)+e(3)*w2(j,3)+e(4)*w2(j,4); end end,神经网络的MATLAB实现,w1=w1_1+xite*dw1' b1=b1_1+xite*db1' w2=w2_1+xite*dw2' b2=b2_1+xite*db2' w1_2=w1_1;w1_1=w1; w2_2=w2_1;w2_1=w2; b1_2=b1_1;b1_1=b1; b2_2=b2_1;b2_1=b2; end end,神经网络的MATLAB实现,% 语音特征信号分类 inputn_test=mapminmax('apply',input_test,inputps); for ii=1:1 for i=1:500%1500 %隐含层输出 for j=1:1:midnum I(j)=inputn_test(:,i)'*w1(j,:)'+b1(j); Iout(j)=1/(1+exp(-I(j); end fore(:,i)=w2'*Iout'+b2; end end,神经网络的MATLAB实现,% 结果分析 %根据网络输出找出数据属于哪类 for i=1:500 output_fore(i)=find(fore(:,i)=max(fore(:,i); end %BP网络预测误差 error=output_fore-output1(n(1501:2000)' %画出预测语音种类和实际语音种类的分类图 figure(1) plot(output_fore,'r') hold on plot(output1(n(1501:2000)','b') legend('预测语音类别','实际语音类别'),神经网络的MATLAB实现,%画出误差图 figure(2) plot(error) title('BP网络分类误差','fontsize',12) xlabel('语音信号','fontsize',12) ylabel('分类误差','fontsize',12),神经网络的MATLAB实现,k=zeros(1,4); %找出判断错误的分类属于哪一类 for i=1:500 if error(i)=0 b,c=max(output_test(:,i); switch c case 1 k(1)=k(1)+1; case 2 k(2)=k(2)+1; case 3 k(3)=k(3)+1; case 4 k(4)=k(4)+1; end end end,神经网络的MATLAB实现,%找出每类的个体和 kk=zeros(1,4); for i=1:500 b,c=max(output_test(:,i); switch c case 1 kk(1)=kk(1)+1; case 2 kk(2)=kk(2)+1; case 3 kk(3)=kk(3)+1; case 4 kk(4)=kk(4)+1; end end %正确率 rightridio=(kk-k)./kk,newff,函数newff用来生成一个BP网络,net=newff(PR,S1 S2.SN,TF1 TF2. TFN,BTF,BLF,PF),PR: 一个R×2矩阵, 由R维输入向量的每维最小值和最大值组成,Si: 第i层的神经元个数,TFi: 第i层的传递函数, 默认为tansig,BTF: 训练函数, 默认为trainlm,BLF: 学习函数, 默认为learngdm,PF: 性能函数, 默认为mse,net=newff(0,10;-1,2,5,1,tansig,purelin,trainlm);,%生成一个两层BP网络,隐层和输出层神经的个数为5和1, 传递函数分别为tansig和purelin, 训练函数为trainlm, 其他默认,BP神经网络工具箱,MATLAB神经网络工具箱对常规BP算法进行改进,提供了一系列快速算法,以满足不同问题的需要,BP神经网络工具箱,利用已知的”输入目标”样本向量数据对网络进行训练,采用train 函数来完成. 训练之前, 对训练参数进行设置,net = train(net, P, T),BP神经网络工具箱,网络层数,已经证明,单隐层的BP网络可以实现任意非线性映射. BP网络的隐层数一般不超过两层.,输入层的节点数,输入层接收外部的输入数据, 节点数取决于输入向量的维数,输出层的节点数,输出层的节点数取决于输出数据类型和该类型所需的数据大小.,对于模式分类问题,节点数为,BP神经网络工具箱,隐层的节点数,隐层的节点数与求解问题的要求,输入输出单元数多少有关. 对于模式识别/分类的节点数可按下列公式设计,传递函数,隐层传递函数采用S型函数, 输出层采用S型函数或线性函数,训练方法及其参数选择,针对不同应用, BP网络提供了多种训练学习方法.,其中,为隐层节点数,为输入节点数,为110之间的整数,BP神经网络工具箱,采用动量梯度下降算法训练BP网络. 训练样本,%定义训练样本 p=-1 -1 3 1;-1 1 5 -3; t=-1 -1 1 1; %创建一个新的BP网络 net=newff(minmax(p),3 1,'tansig','purelin','traingdm'); %设置训练参数 net.trainParam.epochs=1000; net.trainParam.goal=0.001; net.trainParam.show=50; net.trainParam.lr=0.05; net.trainParam.mc=0.9;%动量因子，缺省为0.9 net=train(net,p,t); % 训练网络 A=sim(net,p) %网络仿真,BP神经网络工具箱,目标线,训练误差变化曲线,BP神经网络工具箱,
