优化BP神经网络在地下水计算中的应用.doc
《优化BP神经网络在地下水计算中的应用.doc》由会员分享,可在线阅读,更多相关《优化BP神经网络在地下水计算中的应用.doc(10页珍藏版)》请在三一文库上搜索。
1、优化BP神经网络在地下水计算中的应用第33卷第5期2011年5月人民黄河YELLOWRIVERVo1.33,No.5May,2011【水资源】优化BP神经网络在地下水计算中的应用陈琳,刘俊民,明柯柯,杨建飞(1.西北农林科技大学水利与建筑工程学院,陕西杨凌712100;2.南郑县水利局,陕西南郑723100)摘要:采用动态惯性因子对粒子群算法进行改进,并将其应用到BP神经网络的优化中,依据滦河某观测站数据建立地下水动态预测网络模型.预测结果表明:在训练样本,预报因子和建模参数都相同的情况下,BP神经网络的收敛速度明显较慢;粒子群算法代替梯度下降法优化BP神经网络,有效地提高了计算精度,加快了收
2、敛速度,改善了神经网络的稳定性;混合动态惯性因子的粒子群算法,收敛速度快速提高,计算误差大幅减小,精度及稳定性均较高.关键词:惯性权值;粒子群算法;BP神经网络;地下水中图分类号:TP183文献标识码:Adoi:10.3969/j.issn.10001379.2011.05.018地下水的相关计算,无论是资源量计算,水位预测,还是水质评价,都因其影响因素的模糊性,非线性关系的复杂性等问题而给数学计算带来极大困难.人工神经网络具有较强的非线性映射能力及对信息模糊,不完整等复杂情况的适应能力,能够有效解决地下水资源评价及其计算的难点.BP神经网络具有极强的非线性映射,自适应,容错性,鲁棒性以及存储
3、记忆等能力,可以应用于函数逼近,模式的分类,识别,以及数据压缩等方面.但是,标准BP神经网络采用梯度下降法优化参数,有许多不足之处.粒子群算法是一种群体智能算法,因其参数少,精度高,易于实现等特点而被广泛应用j.笔者采用改进的粒子群算法优化BP神经网络参数,避免BP神经网络的某些固有缺陷,提高其自适应性和稳定性.1标准BP神经网络模型BP神经网络由输入层,隐含层和输出层组成,BP神经网络的学习过程主要为信息的正向传播和误差的反向传播.输入信息由输入层输入网络,经过隐含层逐层处理后,由输出层输出,完成信息的正向传播.如果输出值和实际值之间的误差E不满足给定的误差要求,则进入误差的反向传播阶段,将
4、误差值按反方向的顺序逐层反馈,并分摊给各层神经元,神经元以各自误差信号为依据修正权值,完成一次训练过程.然后再次进行训练,直至误差满足要求或达到最大迭代次数.在各隐含层和输出层的参数修改过程中,BP神经网络均采用误差的梯度下降算法进行训练,因此会带来一些缺陷.在实际计算中,误差曲面通常是凹凸不平的复杂曲面,存在多个局部极小点,平坦区等,甚至全局极小点也不唯一.由于局部极小点的误差梯度为零,因此很可能被认为是网络的解,产生局部极小问题.在平坦区域中,无论实际误差值的大小,误差梯度都很小,致使收敛速度缓慢.若极小点附近的误差梯度很大,则可能致使参数调整在极小点附近震荡或直接越过该极小点进入另一个极
5、小点区域.38.2粒子群算法2.1标准粒子群算法粒子群算法因其参数少,精度高,收敛速度快而得到广泛应用.在粒子群算法中,每个粒子的位置都是问题的一个解.所有粒子在d维空间中飞翔,并通过不断改变位置,调整适应度值搜索最优解.粒子的速度决定其搜索方向和距离.每个粒子都能够记住本身搜索到的最优解,以及整个粒子群搜索到的最优解P.通过这两个最优解,粒子可以不断更新速度.对于在d维空间的第i个粒子,其速度更新为=d+clRand()(Pid)+czRand()(P一)(1)式中:,分别为d维空问第i个粒子的原速度和更新后的速度;to(0,2),为惯性权值;c,c:为学习因子;Rand()为(0,1)问相
6、互独立的随机数;.为粒子的位置.粒子新的位置可表示为X=Xi,t+(2)式中:为d维空间第i个粒子更新后的位置.不难看出,在粒子凋整速度和位置的过程中,惯性权值甜对粒子群算法的性能有很大影响.ShiYH等H对的研究表明,越大,收敛速度越慢,局部最优解的搜索能力减弱,全局最优解的搜索能力增强,因此60值的选取至关重要.2.2改进的粒子群算法由于惯性权值的重要性,因此ShiYH等进行了大收稿日期:201007-25基金项目:十一五国家科技支撑计划项目(2006BAD1lB05);国家自然科学基金资助项目(50879071).作者简介:陈琳(1986一),女,陕西西安人,硕士研究生,研究方向为水资源
7、利用与管理.通讯作者:刘俊民(1953一),男,陕西成阳人,教授,博士,主要从事水文与水资源研究I作.Email:Jmls/xyahoo.CO/人民黄河2011年第5期量研究,希望找出能在局部最优和全局最优之间达到平衡的值的求解方法.有学者提出了自适应调整的线性递减权值J,模糊惯性权值策略和随机惯性权值策略,其中线性递减权值因其理论简单,收敛快速而被广泛应用.线性递减权值就是在迭代过程中,线性减小03的值:一(一)(3)式中:60为惯性权值;,分别为的最大值和最小值;为当前迭代次数;T为总的迭代次数.但是,线递减权值算法中,惯性权值只与迭代次数线性相关,较为简单,并不能很好地解决复杂的非线性问
8、题.为了克服l述算法的缺陷,张选平等采用自适应调节惯性权值法改进粒子群算法.笔者在此基础上,提出种全新的惯性卡义值动态凋整方法,使其适应性更好,收敛速度更快.对于d维空间的一个粒子群,由于其全局搜索能力和局部搜索能力是相互矛盾的,因此当对整个群体采取同样的自适应调整时,会使算法停滞,甚至严重影响最优粒子的惯性权值,导致算法整体性能F降.为增加惯性权重的多样性,因材施教,笔者根据适应度函数将所有粒子分类调整,充分发挥其自适应能力当适应度值较优,即粒子已较为接近全局最优值时,则应加强局部寻优能力,快速逼近最优值,故需减小惯性权值;当适嘘度值较差,即粒子状态较差时,则应加强全局寻优能力,快速搜索最优
9、值,故需增大惯性权值03;其他条件时,粒子状态正常,即粒子具有良好的全局寻优能力和局部寻优能力,应在保持其惯性权值的基础上,根据其适应度值进行微调.具体公式为【fflI.+j(优于)Ih=60一e(优于,劣于aA)I,1l(x一r劣于vs)(4)式中:t为当前迭代次数;DTm为最大迭代次数;r为调节因子;为第i个粒子的适应度值为目标适应度值,通常由目标误差等求得为粒子群的平均适应度值为全局最优粒子的适应度值;为放大系数,表征粒子群的进化程度;09,分别为惯性权值的上,下限.3BP神经网络优化笔者采用基于动态惯性因子的自适应粒子群算法(IPSO)优化BP神经网络.提高其性能.BP神经网络算法与粒
10、子群算法通过网络参数与粒子的位置,误差和适应度函数相互联系.粒子群中每个粒子的维度分量都对应着神经网络中的一个参数,而整个粒子的位置则表示BP神经网络的一组参数,包括权值和闽值,用=(,)表示,其中,d为粒子群的维数.粒子的适应度函数通过BP神经网络中的均方差计算.粒子群随机产生一个粒子,还原成BP神经网络的初始参数,训练集通过网络的前向计算,得到误差,并将误差传递给适应度函数:利用适应度函数动态地调节粒子群的惯性权值,从而不断更新粒子的速度和位置,搜索使输出层误差最小的粒子位置.随着训练误差的减小,粒子的适应度不断提高,当满足给定条件时,适应度最高的粒子即为训练问题的最优解.当粒子群完成搜索
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 优化 BP 神经网络 地下水 计算 中的 应用
链接地址:https://www.31doc.com/p-3623817.html