动态规划Dynamicprogramming.ppt
《动态规划Dynamicprogramming.ppt》由会员分享,可在线阅读,更多相关《动态规划Dynamicprogramming.ppt(82页珍藏版)》请在三一文库上搜索。
1、动 态 规 划 (Dynamic programming),动态规划的基本思想,最短路径问题,资源分配问题,背包问题,生产计划问题,复合系统工作可靠性问题,动态规划是用来解决多阶段决策过程最优化的一种数量方法。其特点在于,它可以把一个n 维决策问题变换为几个一维最优化问题,从而一个一个地去解决。 需指出:动态规划是求解某类问题的一种方法,是考察问题的一种途径,而不是一种算法。必须对具体问题进行具体分析,运用动态规划的原理和方法,建立相应的模型,然后再用动态规划方法去求解。,即在系统发展的不同时刻(或阶段)根据系统所处的状态,不断地做出决策;,每个阶段都要进行决策,目的是使整个过程的决策 达到最
2、优效果。,动态决策问题的特点:,系统所处的状态和时刻是进行决策的重要因素;,找到不同时刻的最优决策以及整个过程的最优策略。,多阶段决策问题:,在多阶段决策过程中,系统的动态过程可以按照时间进程分为状态相互联系而又相互区别的各个阶段;,多阶段决策问题的典型例子: 1 . 生产决策问题:企业在生产过程中,由于需求是随时间变化的,因此企业为了获得全年的最佳生产效益,就要在整个生产过程中逐月或逐季度地根据库存和需求决定生产计划。,2. 机器负荷分配问题:某种机器可以在高低两种不同的负荷下进行生产。在高负荷下进行生产时,产品的年产量g和投入生产的机器数量u1的关系为 g=g(u1),1,2,n,状态,决
3、策,状态,决策,状态,状态,决策,这时,机器的年完好率为a,即如果年初完好机器的数量为u,到年终完好的机器就为au, 0a1。,在低负荷下生产时,产品的年产量h和投入生产的机器数量u2的关系为 h=h(u2),假定开始生产时完好的机器数量为s1。要求制定一个五年计划,在每年开始时,决定如何重新分配完好的机器在两种不同的负荷下生产的数量,使在五年内产品的总产量达到最高。,相应的机器年完好率b, 0 b1。,3. 航天飞机飞行控制问题:由于航天飞机的运动的环境是不断变化的,因此就要根据航天飞机飞行在不同环境中的情况,不断地决定航天飞机的飞行方向和速度(状态),使之能最省燃料和实现目的(如软着落问题
4、)。,4 .不包含时间因素的线性规划、非线性规划等静态决策问题(本质上是一次决策问题)也可以适当地引入阶段的概念,作为多阶段的决策问题用动态规划方法来解决。,5 . 最短路问题:给定一个交通网络图如下,其中两点之间的数字表示距离(或花费),试求从A点到G点的最短距离(总费用最小)。,1,2,3,4,5,6,A,B1,B2,C1,C2,C3,C4,D1,D2,D3,E1,E2,E3,F1,F2,G,5,3,1,3,6,8,7,6,3,6,8,5,3,3,8,4,2,2,2,1,3,3,3,5,2,5,6,6,4,3,(一)、基本概念 1、阶段: 把一个问题的过程,恰当地分为若干个相互联系的阶段,
5、以便于按一定的次序去求解。 描述阶段的变量称为阶段变量(k)。k=1,2 ,3, ,n 阶段的划分,一般是根据时间和空间的自然特征来进行的,但要便于问题转化为多阶段决策。,2、状态:表示每个阶段开始所处的自然状况或客观条件。通常一个阶段有若干个状态,描述过程状态的变量称为状态变量sk (表示第k阶段的状态变量 )。,一个数、一组数、一个向量,状态变量的取值有一定的允许集合或范围,此集合称为状态允许集合S K =s1,s2, , s k , 。,一、动态规划的基本思想,3、决策:表示当过程处于某一阶段的某个状态时,可以作出不同的决定,从而确定下一阶段的状态,这种决定称为决策。,描述决策的变量,称
6、为决策变量。 常用uk(sk)表示第k阶段当状态为sk时的决策变量。 决策变量是状态变量的函数。可用一个数、一组数或一向量(多维情形)来描述。 在实际问题中决策变量的取值往往在某一范围之内,此范围称为允许决策集合。 常用Dk(sk)表示第k阶段从状态sk出发的允许决策集合,显然uk(sk)Dk(sk)。,4、多阶段决策过程,可以在各个阶段进行决策,去控制过程发展的多段过程;,其发展是通过一系列的状态转移来实现的;,系统在某一阶段的状态转移不但与系统的当前的状态和决策有关,而且还与系统过去的历史状态和决策有关。,图示如下:,状态转移方程是确定过程由一个状态到另一个状态的演变过程。如果第k阶段状态
7、变量sk的值、该阶段的决策变量一经确定,第k+1阶段状态变量sk+1的值也就确定。,其状态转移方程如下(一般形式),能用动态规划方法求解的多阶段决策过程是一类特殊的多阶段决策过程,即具有无后效性的多阶段决策过程。,如果状态变量不能满足无后效性的要求,应适当地改变状态的定义或规定方法。,动态规划中能 处理的状态转移 方程的形式。,状态具有无后效性的多阶段决策过程的状态转移方程如下,无后效性(马尔可夫性),如果某阶段状态给定后,则在这个阶段以后过程的发展不受这个阶段以前各段状态的影响;,过程的过去历史只能通过当前的状态去影响它未来的发展;,构造动态规划模型时,要充分注意是否满足无后效性的要求;,状
8、态变量要满足无后效性的要求;,5、策略:相互连接的决策序列称为一个策略。 从第k阶段开始到第n阶段结束称为一个子策略。 Pk,n , 全策略 P1,n . 所有策略当中有最优值的策略称为最优策略。,6、状态转移方程:是确定过程由一个状态到另一个状态的演变过程,描述了状态转移规律。,7、指标函数和最优值函数:用来衡量所实现过程优劣的一种数量指标,为指标函数。 阶段指标函数: Vk (sk ,uk ) 表示第 k 阶段位于sk 状态、决策为 uk 的指标值。 策略指标函数:各决策序列指标值之和。(个别情况为乘积) 指标函数的最优值,称为最优值函数。在不同的问题中,指标函数的含义是不同的,它可能是距
9、离、利润、成本、产量或资源消耗等。 动态规划模型的指标函数,应具有可分离性,并满足递推关系。,小结:,指标函数形式:,和、,积,无后效性,可递推,解多阶段决策过程问题,求出,f1(s1),从 k 到终点最优策略 子策略的最优目标函数值,1、动态规划方法的关键在于正确地写出基本的递推关系式和恰当的边界条件(简称基本方程)。要做到这一点,就必须将问题的过程分成几个相互联系的阶段,恰当的选取状态变量和决策变量及定义最优值函数,从而把一个大问题转化成一组同类型的子问题,然后逐个求解。即从边界条件开始,逐段递推寻优,在每一个子问题的求解中,均利用了它前面的子问题的最优化结果,依次进行,最后一个子问题所得
10、的最优解,就是整个问题的最优解。,(二)、动态规划的基本思想,2、在多阶段决策过程中,动态规划方法是既把当前一段和未来一段分开,又把当前效益和未来效益结合起来考虑的一种最优化方法。因此,每段决策的选取是从全局来考虑的,与该段的最优选择答案一般是不同的.,最优化原理:作为整个过程的最优策略具有这样的性质:无论过去的状态和决策如何,相对于前面的决策所形成的状态而言,余下的决策序列必然构成最优子策略。”也就是说,一个最优策略的子策略也是最优的。,3、在求整个问题的最优策略时,由于初始状态是已知的,而每段的决策都是该段状态的函数,故最优策略所经过的各段状态便可逐段变换得到,从而确定了最优路线。,(三)
11、、建立动态规划模型的步骤 1、划分阶段k 划分阶段是运用动态规划求解多阶段决策问题的第一步,在确定多阶段特性后,按时间或空间先后顺序,将过程划分为若干相互联系的阶段。对于静态问题要人为地赋予“时间”概念,以便划分阶段。 2、正确选择状态变量sk 选择变量既要能确切描述过程演变又要满足无后效性,而且各阶段状态变量的取值能够确定。一般地,状态变量的选择是从过程演变的特点中寻找。 3、确定决策变量uk(sk)及允许决策集合Dk(sk) 通常选择所求解问题的关键变量作为决策变量,同时要给出决策变量的取值范围,即确定允许决策集合。,4、确定状态转移方程 根据k 阶段状态变量和决策变量,写出k+1阶段状态
12、变量,状态转移方程应当具有递推关系。 sk+1 =Tk (sk ,uk ) Tk 函数关系 5、确定阶段指标函数和最优指标函数,建立动态规划基本方程 阶段指标函数是指第k 阶段的收益,最优指标函数是指从第k 阶段状态出发到第n 阶段末所获得收益的最优值,最后写出动态规划基本方程。 f k (sk ) = Opt Vk (sk ,uk ) + f k+1 (s k+1) fn+1 (s n+1 ) = 0 Opt 最优化(max,min),以上五步是建立动态规划数学模型的一般步骤。由于动态规划模型与线性规划模型不同,动态规划模型没有统一的模式,建模时必须根据具体问题具体分析,只有通过不断实践总结
13、,才能较好掌握建模方法与技巧。,f1(s1) 是整个问题的最优策略,最优值。 f k(sk) 表示从第k阶段(状态sk)到终点的最优指标值。(距离、利润、成本等),例一、从A 地到D 地要铺设一条煤气管道,其中需经过两级中间站,两点之间的连线上的数字表示距离,如图所示。问应该选择什么路线,使总距离最短?,A,B1,B2,C1,C2,C3,D,2,4,3,3,3,3,2,1,1,1,4,二、最短路径问题,解:整个计算过程分三个阶段,从最后一个阶段开始。,第三阶段(C D): C 有三条路线到终点D 。,A,B1,B2,C1,C2,C3,D,2,4,3,3,3,3,2,1,1,1,4,D,C1,C
14、2,C3,显然有 f3 (C1 ) = 1 ; f3(C2 ) = 3 ; f3 (C3 ) = 4,d( B1,C1 ) + f3 (C1 ) 3+1 f2 ( B1 ) = min d( B1,C2 ) + f3 (C2 ) = min 3+3 d( B1,C3 ) + f3 (C3 ) 1+4 4 = min 6 = 4 5,第二阶段(B C): B 到C 有六条路线。,A,B1,B2,C1,C2,C3,D,2,4,3,3,3,3,2,1,1,1,4,D,C1,C2,C3,B1,B2,(最短路线为B1C1 D),d( B2,C1 ) + f3 (C1 ) 2+1 f2 ( B2 ) =
15、min d( B2,C2 ) + f3 (C2 ) = min 3+3 d( B2,C3 ) + f3 (C3 ) 1+4 3 = min 6 = 3 5,A,B1,B2,C1,C2,C3,D,2,4,3,3,3,3,2,1,1,1,4,D,C1,C2,C3,B1,B2,(最短路线为B2C1 D),第一阶段( A B ): A 到B 有二条路线。,f1(A)1 = d(A, B1 ) f2 ( B1 ) 246 f1 (A)2 = d(A, B2 ) f2 ( B2 ) 437, f1 (A) = min = min6,7=6,d(A, B1 ) f2 ( B1 ) d(A, B2 ) f2
16、( B2 ),(最短路线为AB1C1 D),A,B1,B2,C1,C2,C3,D,2,4,3,3,3,3,2,1,1,1,4,D,C1,C2,C3,B1,B2,A,A,B1,B2,C1,C2,C3,D,2,4,3,3,3,3,2,1,1,1,4,D,C1,C2,C3,B1,B2,A,最短路线为 AB1C1 D 路长为 6,三、非线性规划问题,【例7-4】 用动态规划方法解下列非线性规划问题,解: 解决这一类静态规划问题,需要人为地赋予时间概念,从而将该问题转化为多阶段决策过程。 按问题的变量个数划分阶段,把它看作一个三阶段决策问题,k=1,2,3 设状态变量为s1,s2,s3,s4并记s1c
17、取问题中的变量x1,x2,x3为决策变量,状态转移方程为: s3=x3 s3+x2=s2 s2+x1=s1c 允许决策集合为: x3=s3 0x2s2 0x1s1 各阶段指标函数为:v1(x1)=x1 v2(x2)=x22 v3(x3)=x3, 各指标函数以乘积方式结合,最优指标函数fk(sk)表示从第k阶段初始状态sk出发到第3阶段所得到的最大值,则动态规划基本方程为:,用逆序解法由后向前依次求解: k=3时, x3*=s3 k=2时,,令h2(s2,x2)=x22(s2x2) 用经典解析法求极值点: 解得: x2=0(舍) 所以 是极大值点。,k=1时, 令 解得: x1=s1(舍) 所以
18、 是极大值点。,由于s1未知,所以对s1再求极值, 显然s1=c时,f1(s1)取得最大值 反向追踪得各阶段最优决策及最优值: s1=c 所以最优解为:,一般地,如果阶段指标函数vk(sk,uk)是线性函数或凸函数时,最优指标函数fk(sk)的表达式比较容易得到,但是当vk(sk,uk)不具备上述特性时,最优指标函数fk(sk)的表达式不易得到,就需要采用数值法,即对连续变量进行离散化处理,再分散求解。 例如静态规划模型 其动态规划基本方程为: 状态转移方程为sk+1=skxk s1=a,状态变量sk及决策变量xk都是连续变量,对其进行离散化处理,具体做法是: 1. 对区间0,a进行分割,分割
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 动态 规划 Dynamicprogramming
链接地址:https://www.31doc.com/p-2479568.html