第5章自相关性.ppt

§第5章 自相关性,Serial Correlation,一、自相关性概念 二、自相关性的来源 三、自相关性的后果 四、自相关性的检验 五、自相关性的解决办法 六、案例,自相关内容,一、自相关性概念,如果对于不同的样本点，随机误差项之间不再是不相关的，而是存在某种相关性，则认为出现了自相关性（auto correlation） 。,对于模型 Yi=0+1X1i+2X2i+kXki+i i=1,2, ,n,随机项互不相关的基本假设表现为 Cov(i , j)=0 ij, i,j=1,2, ,n,序列相关,序列相关指的是两个（或更多）不同变量之间的关系，自相关性是序列相关的一种特殊情况。它是指同一变量的逐次项之间的关系，因此,自相关较多地表现在时间序列数据中，由于序列相关性经常出现在以时间序列为样本的模型中，因此，本节将用下标t代表i。 自相关也是相关的一种，即指一随机变量在时间上与其滞后项之间的相关。这里是指回归模型中随机误差项ut与其滞后项的相关关系。 即,矩阵表示为：,自相关的矩阵表示,称为一阶自相关，或自相关（autocorrelation）,记为AR(1)，称1为自回归系数（coefficient of AutoRegression） vi是满足以下标准的OLS假定的随机干扰项：,如果仅存在 E(t t-1)0 t=1,2, ,n,自相关往往可写成如下一阶自回归形式： t=1t-1+vt -11,自相关性的分类,一阶自相关系数,式中 是 滞后一期的随机误差项。因此，计算的自相关系数 称为一阶自相关系数。对于大样本显然有 ，一阶自回归形式可表示为：,根据普通最小二乘法原理，模型中 的OLS估计式 为：,根据相关系数的定义， 和 之间的相关系数 为：,ut = ut-1 + vt.,如果式中的随机误差项 不是经典误差项，即其中包含有 的成份，如包含有 则需将 显含在回归模型中，即为 其中， 为一阶自相关系数， 为二阶自相关系数， 是经典误差项。此式称为二阶自回归模式，记为 。,二阶自相关系数,一般地，如果 之间的关系为 其中， 为经典误差项。则称此式为 阶自回归模式，记为 。 在经济计量分析中，通常采用一阶自回归形式，即假定自回归形式为一阶自回归 。,高阶自相关系数,对于一元线性回归模型: 假定随机误差项 存在一阶自相关: 其中， 为现期随机误差， 为前期随机误差。 是经典误差项，满足零均值 ，同方差 ，无自相关 的假定，与 ut-s不相关，即 。,一阶自回归形式的性质,可得出如下结论：,类似地，,一般地，,二、自相关性的原因,大多数经济时间数据都有一个明显的特点:惯性，表现在时间序列不同时间的前后关联上。,由于消费习惯的影响被包含在随机误差项中，则可能出现序列相关性（往往是正相关 ）。 还有生产企业当期的产出水平要受到上期产出水平的影响。,例如，绝对收入假设下居民总消费函数模型： Ct=0+1Yt+t t=1,2,n,1、经济变量固有的惯性,2、模型设定不当,主要表现在模型中丢掉了重要的解释变量或模型函数形式有偏误。 1）模型中略去了具有自相关性的解释变量,例如，本来应该估计的模型为 Yt=0+1X1t+ 2X2t + t， 其中Yt为需求，X1为猪肉价格，X2为消费者收入水平，ut是无自相关的。,但在模型设定中做了下述回归： Yt=0+1X1t+ vt,因此， vt=2X2t + t，如果X2确实影响Y，则出现自相关。,但建模时设立了如下模型： Yt= 0+1Xt+vt 因此，由于vt= 2Xt2+t, ，包含了产出的平方对随机项的系统性影响，随机项也呈现自相关性。,例如：如果真实的边际成本回归模型应为： Yt= 0+1Xt+2Xt2+t 其中：Y=边际成本，X=产出，,2）模型的函数形式不适当,如果忽略了消费支出变量的滞后作用，把模型设定为 ： 而被解释变量和随机扰动又有着相同的分布，这样，上述这些被解释变量的自相关，很可能引起随机扰动项的自相关。,例如：消费支出Yt不仅和收入X1，价格X2有关，而且与前期消费支出有关，由于心理，习惯，环境等方面的原因，消费者在收入下降或者价格上升时也要保持原有的消费水平，所以，本期的消费支出Yt与前期消费支出Yt-1有关，正确模型设定应该是,3）由被解释变量本身的自相关性所决定,3、数据处理造成的相关,例如：季度数据来自月度数据的简单平均，这种平均的计算减弱了每月数据的波动性，使季度数据具有平滑性，从而使随机干扰项出现序列相关。 还有就是，对缺失的历史资料，采用特定统计方法进行内插处理，也可引起前后期相关，而产生自相关性。,在实际经济问题中，有些数据是通过已知数据生成的。因此，新生成的数据与原数据间就有了内在的联系，表现出序列相关性。,4、蛛网现象存在着自相关,5、随机因素的干扰或影响,在许多情况下，随机因素（如干旱、暴风雨、地震、战争、金融危机等）所产生的影响，常常持续好长时期。例如，在农业生产中，由于反常天气所引起的歉收，可能会在几个时期内影响其他经济变量，这时，随机扰动项本身就可能存在着自相关性，这种自相关情况也称为“真实自相关性”； 此外，面对一些现象人们的心理因素影响等等，这些影响可能延续若干时期，反映在模型中很容易形成随机误差序列的自相关。,计量经济学模型一旦出现自相关性，如果仍采用OLS法估计模型参数，会产生下列不良后果：,三、自相关性的后果,1、参数OLS估计量虽然是无偏估计量，但不再是有效估计,可以看出，在OLS估计量无偏性特征中并未涉及无自相关假定，不论扰动项是否存在自相关，其OLS估计量仍是无偏估计量,因为,所以,存在一阶自相关情况下，用OLS法估计的方差：,2、随机扰动项的方差也有严重低估现象，从而低估的标准误差。,在古典一元线性回归模型中，当ut无自相关时，随机扰动项的方差的无偏估计量为： 即,但存在自相关时， 就不会有原来那样大，而是比原来小，可以证明：,因此,如果用 估计总体方差,必然低估,由此得到的标准误差 也会偏低。,3、参数的显著性检验失去意义,在存在自相关情况下仍然用OLS法估计参数，将会过低估计 的真实方差及标准误差，因而在t检验中，将使统计量的值 变大。 这就是使得给定显著性水平下，增加了计算的t值大于临界值的机会，也就增大了接受 的可能，这样可能出现把实际上不重要的解释变量由于方差小而当做重要解释变量接受的危险，从而导致严重错误的结论，使得t检验失效。其他检验也是如此。,4、模型的预测失效,由于存在自相关时应用OLS法所得参数估计量的方差将增大，故用于预测时，被解释变量Y的预测区间变宽，使得预测精度降低； 所以，如果无视自相关存在，将 代入YF的预测误差公式 中，在方差失真的情况下，致使预测区间的可信度降低，故在这个时候计算的被解释变量YF的预测区间将失去意义，从而降低了预测的精度。,1、图示检验法,图示法是一种直观的诊断方法，它是把给定的回归模型直接用普通最小二乘法估计参数，求出残差项 ， 作为ut随机项的真实估计值，再描绘 的散点图，根据散点图来判断 的相关性。残差 的散点图通常有两种绘制方式 。,四、自相关性的检验,相关图：将剩余项 ，组成一个数组,相关图：负自相关,残差图：就是依据残差et对时间t 的序列图作出判断,残差图,2、杜宾-瓦森（Durbin-Watson）检验法,D-W检验是杜宾（J.Durbin）和瓦森(G.S. Watson)于1951年提出的一种检验序列自相关的方法，该方法的假定条件是：,（1）此方法适用于大样本 （2）随机误差项t为一阶自回归形式： t=t-1+vi （3）回归模型中不应含有滞后因变量作为解释变量，即不应出现下列形式： Yt=0+1X1t+kXkt+Yt-1+t,D.W. 统计量:,D.W. 统计量:,如果存在完全一阶正相关，即 ，则 D.W. 0 完全一阶负相关，即 , 则 D.W. 4 完全不相关， 即 ，则 D.W.2,由上述讨论可知DW的取值范围为： 0DW,该统计量的分布与出现在给定样本中的X值有复杂的关系，因此其精确的分布很难得到。 但是，Durbin和Watson根据样本容量和被估参数个数，在给定的显著性水平下，成功地导出了临界值的下限dL和上限dU ，且这些上下限只与样本的容量n和解释变量的个数k有关，而与解释变量X的取值无关。然后依下列准则考察计算得到的DW值，以决定模型的自相关状态。,D.W.统计量的上限和下限:,DW检验决策规则,D.W. 统计量决策区间:,用坐标图更直观表示DW检验规则：,0,D.W检验的步骤:,（1）建立零假设 ；备择假设： 。 （2）用普通最小二乘法求出线性回归模型的参数估计值，从而可算出剩余数列 （3）将 代入 式计算DW的值 （4）给定，由n和k的大小查DW分布表，得临界值dL和dU （5）将DW的值dL和dU进行比较，可得如下检验结果：,若 0D.W.dL 存在正自相关 dLD.W.dU 不能确定 dU D.W.4dU 无自相关 4dU D.W.4 dL 不能确定 4dL D.W.4 存在负自相关,DW检验的缺点和局限性,3、偏相关系数检验,偏相关系数是衡量多个变量之间相关程度的重要指标。在研究多个变量与之间的线性相关程度时，如果其它变量保持不变，只考虑Y与X（ ）之间的关系，这种相关叫做偏相关。衡量偏相关程度的指标，就是偏相关系数。 以二元线性回归模型为例，例如：某旅游胜地热饮料的销售量Y与该地游客数量 之间的关系要受到天气条件 的影响，这时Y与 的简单相关系数不能反映Y与 的真实相关程度，如果要研究Y与 的真实相关，就必须剔除 对它的影响。,3、偏相关系数的计算,用 表示 保持不变时Y与 的偏相关系数； 表示 保持不变时Y与 的偏相关系数； 表示 保持不变时 与 的偏相关系数。在三个变量的偏相关关系的研究中，一阶偏相关系数的计算公式如下：,一般地，在研究多个变量的偏相关系数时，与（ ） 的K-1阶偏相关系数的计算公式如下：,可以用偏相关系数的计算公式来计算剩余项 与 的偏相关系数，以此判断自相关性的类型, 特别是可以用来检验高阶自相关性。,若增加X3,变量Y与X1的二阶偏相关系数可写成：,二阶偏相关系数,4、拉格朗日乘数（Lagrange multiplier）检验,拉格朗日乘数检验克服了DW检验的缺陷，适合于高阶自相关以及模型中存在滞后被解释变量的情形。它是由布罗斯 （Breusch）与戈弗雷（Godfrey）于1978年提出的，也被称为BG检验。,对于模型,如果怀疑随机扰动项存在p阶自相关：,BG检验可用来检验如下自相关形式：,（1）原假设为：H0: 1=2=p =0 （2）用OLS法估计模型，得到残差序列 ； （3）将 关于所有解释变量和残差的滞后值 进行回归：,其中，n为样本容量。,BG检验步骤,可计算辅助回归的可决系数R2，布罗斯和戈弗雷证明了，在大样本情况下，原假设 H0为真时，渐进地有,（4）显著水平给定，查自由度为的卡方分布表，得临界值2(p)， （5） 把2(p)与LM值比较，做出判断: 若 大于自由度为P的临界值 ，则拒绝原假设, 即认为至少有一个的值显著地不等于零，说明模型存在自相关；否则，模型不存在自相关。 实际检验中，可从1阶、2阶、逐次向更高阶检验。,BG检验步骤,如果模型被检验证明存在自相关性，则需要发展新的方法估计模型。,最常用的方法有： 1.广义差分法(Generalized Difference) 2.CochraneOrcutt迭代法 3.达宾两步法 。,五、自相关的解决办法,1、广义差分法,对于自相关的结构已知的情形，可采用广义差分法解决。 由于随机误差项 是不可观测的，通常我们假定 为一阶自回归形式，即 （5.23） 其中， ， 为经典误差项。 当自相关系数为已知时，使用广义差分法，自相关问题就可彻底解决。我们以一元线性回归模型为例说明广义差分法的应用。,1、广义差分法,1、广义差分法,由于 ， 无自相关 ，这样就消除了扰动项的自相关性。又满足经典回归模型的其他假定条件，对模型（5.25）使用普通最小二乘估计就会得到参数估计的最佳线性无偏估计量。 这称为广义差分方程，因为被解释变量与解释变量均为现期值减去前期值的一部分，由此而得名。,1、广义差分法,普莱斯温斯滕（Prais-Winsten）变换,自相关系数 的估计方法,在实际应用中,自相关系数 往往是未知的， 必须通过一定的方法估计。最简单的方法是据DW统计量估计 。由DW 与 的关系可知 : 但是,式(5.26)得到的是一个粗略的结果， 是对 精度不高的估计。其根本原因在于我们对有自相关的回归模型使用了普通最小二乘法。为了得到 的精确的估计值 ，人们通常采用科克伦奥克特（CochraneOrcutt）迭代法。,（5.26）,该方法利用残差 去估计未知的 。对于一元线性回归模型 假定 为一阶自回归形式，即 :,2、CochraneOrcutt迭代法,当用广义差分变量回归的结果中仍存在自相关时，可以对广义差分变量继续进行广义差分，直至回归模型中不存在自相关为止，迭代法就是用逐次代法逼近的方法来寻求更为满意的 的估计值，然后再用广义差分法。具体步骤如下：,科克伦奥克特迭代法估计 的步骤如下： 1.使用普遍最小二乘法估计模型 并获得残差： 2.利用残差 做如下的回归,2、CochraneOrcutt迭代法,3. 利用 ，对模型进行广义差分，即 令 使用普通最小二乘法，可得样本回归函数为：,2、CochraneOrcutt迭代法,2、CochraneOrcutt迭代法,4.因为 并不是对 的最佳估计，进一步迭代，寻求最佳估计。由前一步估计的结果有： 将 代入原回归方程,求得新的残差如下： 利用残差 做如下的回归： 从而得到 的“第二轮”估计值 ：,2、CochraneOrcutt迭代法,5.我们并不能确认 是否是 的最佳估计值，还要继续估计 的第三轮估计值 。重复这一迭代过程，可得得一系列 （i=1n迭代次数），当估计的 与 相差很小时，就找到了 的最佳估计值。 一般可选取某一个精度 （ ）为衡量标准，当前后两次 的估计值之差的绝对值小于 时，即： ，或迭代次数达到预定上限，迭代停止。,3、其它方法简介,（2）德宾两步法：将广义差分方程表示为：,4、虚假序列相关问题,由于随机项的序列相关往往是在模型设定中遗漏了重要的解释变量或对模型的函数形式设定有误，这种情形可称为虚假序列相关(false autocorrelation) ，应在模型设定中排除。 避免产生虚假序列相关性的措施是在开始时建立一个“一般”的模型，然后逐渐剔除确实不显著的变量。,4、高阶自相关形式：,设随机误差项有如下二阶自回归形式： 第一步，将(5-34)滞后一期： 将（5-36）两边乘以 ： （5-37） 将（5-34）滞后两期： （5-38） 将（5-38）两边乘以 ： （5-39） 然后，用式(5-34)减去式(5-37)和式（5-39）得： 则作广义差分变换： 则得： 其中， ，满足经典回归的全部假定 用OLS求（5-42）式中的 和 的估计值 和 。,应用软件中的广义差分法,在Eview/TSP软件包下，广义差分采用了科克伦-奥科特（Cochrane-Orcutt）迭代法估计。 在解释变量中引入AR(1)、AR(2)、，即可得到参数和1、2、的估计值。 其中AR(m)表示随机误差项的m阶自回归。在估计过程中自动完成了1、2、的迭代。,