【2019年整理】机器学习神经网络的论文.pdf
《【2019年整理】机器学习神经网络的论文.pdf》由会员分享,可在线阅读,更多相关《【2019年整理】机器学习神经网络的论文.pdf(13页珍藏版)》请在三一文库上搜索。
1、机器学习网络系统论文 班级:10 级自动化( 1 班) 姓名:才让加 学号: 1020301025 摘要: 神经网络是计算机智能和机器学习研究、开发和应用最活跃的分支之一。本 文首先通过对误差回传神经网络(BPNN)和径向基函数神经网络(RBFNN)的知识 进行学习,并且对各自的原理进行了简单的分析,最后在各自的功能上进行了 比较。 人工神经网络 (Artificial Neural Networks )是参照生物神经网络发展起来的 模拟人脑生物过程的人工智能技术。它是由大量的神经元互连形成的一种非线 性系统。因此,神经网络根据神经元互连模式可分为前向网络(前馈网络)和 反馈网络。经过十几年的
2、发展,神经网络理论在模式识别、人工智能、控制与 优化、空间科学、通讯等应用领域取得了令人瞩目的成就。 BP 网络和 RBFNN 网络的分析与比较 1 BP 网络原理 BP神经网络也称为误差后向传播神经网络,它是一种无反馈的前向网络, 是神经网络模型中使用最广泛的一类。BP神经网络是典型的多层结构,分为输 入层、隐层和输出层,层与层之间多采用全互联方式,同一层单元之间不存在 相互连接接。 1.1 Sigmoid阈值单元 图 1 Sigmoid单元先计算它的输入的线性组合,然后应用到一个阈值上, 阈值 输出是输入的连续函数 ()ow x X1X0 X 2 Xn W1 W2 Wn W0 0 n ii
3、 i netw x ()onet 其中 1.2 反向传播算法 BP网络可以有多层,我们采用梯度下降方法试图最小化网络输出值和目 标值之间的误差平方,首先定义网络输出的总误差: 其中:outputs是网络输出单元的集合,tkd和okd是与训练样例 d和第k个输出单 元相关的输出值。 1.2.1 随机梯度下降法 两层sigmoid单元的前馈网络的反向传播算法如下: BackPropagation(training_examples, , nin, nout, nhidden) training_examples是序偶 的集合,x是网络输入值向量,t是 目标输出值。是学习速率,nin是网络输入的数量
4、,nhidden是隐藏层单元数,nout 是输出单元数, 从单元 i到单元 j的输入表示为xji,单元i到单元j的权值表示为 wji。 ?创建具有nin个输入,nhidden个隐藏,nout个输出单元的网络 ?初始化所有的网络权值为小的随机值 ?在遇到终止条件前 y e y 1 1 )( Ddoutpusk kdkd otwE 2 )( 2 1 )( 对于训练样例 training_examples 中的每个 : 把输入沿网络前向传播 ?把实例x输入网络,并计算网络中每个单元 u 的输出 ou , 使误差沿网络反向传播 ?对于网络每个输出单元k,计算它的误差项 k k ok(1-ok)(tk-
5、ok) ?对于网络每个隐藏单元h,计算它的误差项 h h oh(1-oh) khk koutputs w ?更新每个网络权值 wji wjiwji+ wji, 其中wji= jxji 1.2.2 算法推导 随机梯度下降算法迭代处理训练样例,每次处理一个,对于每个训练样例d, 利用关于这个样例的误差Ed的梯度修改权值。 符号说明如下: ?xji,单元 j的第i个输入 ji d ji w E w outputsk kkd otwE 2 )( 2 1 )( ?wji,与xji 相关联的权值 ?netj,单元j的输入的加权和 ?oj,单元 j计算出的输出 ?tj,单元 j的目标输出 ?,sigmoid
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 2019年整理 2019 整理 机器 学习 神经网络 论文
链接地址:https://www.31doc.com/p-5341268.html