第5讲多元回归分析OLS的渐近性.ppt

《第5讲多元回归分析OLS的渐近性.ppt》由会员分享，可在线阅读，更多相关《第5讲多元回归分析OLS的渐近性.ppt（22页珍藏版）》请在三一文库上搜索。

1、第五讲第五讲 多元回归分析：多元回归分析：OLS的渐近性的渐近性Multiple Regression Analysis:Asymptotic Properties of OLS 一、引言一、引言二、一致性二、一致性三、渐近有效性三、渐近有效性四、渐近正态性四、渐近正态性一、引言一、引言引言引言回忆：经典线性模型（回忆：经典线性模型（CLM）的假定）的假定引言引言在上一讲的学习中，有以下结论：在上一讲的学习中，有以下结论：o如果总体回归模型满足如果总体回归模型满足MLR.1-4，OLS估计量是无偏的估计量是无偏的o如果总体回归模型满足如果总体回归模型满足MLR.1-5，OLS估计量是有效的，并

2、估计量是有效的，并且且OLS估计量是最优线性无偏估计量估计量是最优线性无偏估计量o如果总体回归模型满足如果总体回归模型满足MLR.1-6，OLS估计量是最优无偏估计量是最优无偏估计量，而且基于估计量，而且基于OLS估计构造的某些统计量服从估计构造的某些统计量服从t分布或分布或F分布，从而可以进行假设检验分布，从而可以进行假设检验v这些性质是针对固定样本容量而言的，然而，当样本容量无这些性质是针对固定样本容量而言的，然而，当样本容量无限增大时，限增大时，OLS估计量会呈现出另外一些性质，这些性质称估计量会呈现出另外一些性质，这些性质称为为渐近性质（渐近性质（asymptotic properti

3、es）或或大样本性质大样本性质（large sample properties）引言引言为什么讨论为什么讨论OLS的渐近性质？的渐近性质？o在现实中，经典线性模型的某些假定很难满足，此时无法在现实中，经典线性模型的某些假定很难满足，此时无法保证保证OLS估计量的无偏性和有效性，也无法进行假设检验，估计量的无偏性和有效性，也无法进行假设检验，从而从而OLS方法是失效的。在这种情况下，如果可以通过增方法是失效的。在这种情况下，如果可以通过增加样本容量来使得加样本容量来使得OLS估计量满足某些合理的性质，那么估计量满足某些合理的性质，那么仍然可以保证使用仍然可以保证使用OLS方法是合适的。换言之，如

4、果随着方法是合适的。换言之，如果随着样本容量的增加，样本容量的增加，OLS估计量仍然不能令人满意，那就说估计量仍然不能令人满意，那就说明不应使用明不应使用OLS估计方法估计方法几类渐近性几类渐近性o一致性一致性o渐近有效性渐近有效性o渐近正态性渐近正态性1.什么是一致性？什么是一致性？2.OLS的一致性的一致性3.OLS的不一致性的不一致性二、一致性二、一致性什么是一致性？什么是一致性？一致性（一致性（consistence）OLS的一致性的一致性OLS的一致性的一致性OLS的一致性的一致性OLS的一致性：对简单回归模型的简单证明（课本的一致性：对简单回归模型的简单证明（课本p159）OLS的

5、一致性的一致性OLS的一致性：对简单回归模型的简单证明（课本的一致性：对简单回归模型的简单证明（课本p159）OLS的一致性的一致性进一步的讨论（课本进一步的讨论（课本p160）o上述讨论表明：如果上述讨论表明：如果OLS估计量是无偏的，那么它一定是估计量是无偏的，那么它一定是一致的；但是如果一致的；但是如果OLS估计量是一致的，却不能保证它是估计量是一致的，却不能保证它是无偏的。无偏的。OLS的不一致性的不一致性o如果误差项与任意一个自变量相关，即如果误差项与任意一个自变量相关，即Cov(Xj,u)不等于不等于0，那么，那么OLS就是有偏的而且是不一致的。也就是说，即便就是有偏的而且是不一致

6、的。也就是说，即便样本容量再大，样本容量再大，OLS估计的偏误也不会消失，而且估计的偏误也不会消失，而且OLS估估计值会收敛到一个有偏误的值（情况更糟糕！）。计值会收敛到一个有偏误的值（情况更糟糕！）。o此时，此时，OLS估计量的估计量的不一致性（不一致性（inconsistency）为：为：OLS的不一致性的不一致性遗漏变量的影响（课本遗漏变量的影响（课本p161）o前面我们提到过，遗漏变量会使得前面我们提到过，遗漏变量会使得OLS估计量是有偏的，事估计量是有偏的，事实上，这种情况还使得实上，这种情况还使得OLS估计量是非一致的估计量是非一致的o例题：课本例题：课本p161，问题，问题5.1

7、三、渐近有效性三、渐近有效性渐近有效性渐近有效性o我们知道，如果总体回归模型满足我们知道，如果总体回归模型满足MLR.1-5，那么，那么OLS估计估计量是最优线性无偏估计量。事实上，可以证明在这些假定下，量是最优线性无偏估计量。事实上，可以证明在这些假定下，OLS估计量是估计量是渐近有效的（渐近有效的（asymptotic efficient）。也就是。也就是说，随着样本容量无限增大，说，随着样本容量无限增大，OLS估计量具有最小的渐近估计量具有最小的渐近方差（课本方差（课本p170）。）。1.渐近正态性渐近正态性2.大样本推断大样本推断四、渐近正态性和大样本推断四、渐近正态性和大样本推断渐近

8、正态性渐近正态性o通过以上讨论，我们知道，如果总体回归模型满足通过以上讨论，我们知道，如果总体回归模型满足MLR.1-5，那么，那么OLS估计量不但是一致的，也是渐近有效的。但还无估计量不但是一致的，也是渐近有效的。但还无法进行假设检验（即推断）法进行假设检验（即推断）o在上一讲中，我们知道，如果满足在上一讲中，我们知道，如果满足MLR.6，即误差项（或因，即误差项（或因变量）在给定自变量的值时服从正态分布，那么可以在原假变量）在给定自变量的值时服从正态分布，那么可以在原假设成立的情况下通过设成立的情况下通过OLS估计量构造一些统计量服从估计量构造一些统计量服从t分布分布或或F分布，从而可以进

9、行推断分布，从而可以进行推断o但是，很多情况下正态性假定很难被满足，此时为了进行推但是，很多情况下正态性假定很难被满足，此时为了进行推断，必须要借助断，必须要借助OLS的的渐近正态性（渐近正态性（asymptotic normality），即随着样本量的无限增大，即随着样本量的无限增大，OLS估计量渐近估计量渐近地服从正态分布地服从正态分布渐近正态性渐近正态性OLS估计量的渐近正态性估计量的渐近正态性大样本推断大样本推断大样本推断（大样本推断（large sample inference）oOLS估计量的渐近正态性告诉我们，如果样本容量足够大，估计量的渐近正态性告诉我们，如果样本容量足够大，而

10、且总体回归模型满足而且总体回归模型满足MLR.1-5，那么，那么t统计量近似地服从统计量近似地服从标准正态分布或标准正态分布或t分布，从而可以进行分布，从而可以进行t检验。此时，不必要检验。此时，不必要求满足正态性假定求满足正态性假定o如果样本容量足够大，而且总体回归模型满足如果样本容量足够大，而且总体回归模型满足MLR.1-5，那，那么通常的么通常的F检验也是适用的检验也是适用的o需要注意的是，进行大样本推断的前提是需要注意的是，进行大样本推断的前提是MLR.5（同方差假（同方差假定）必须成立定）必须成立大样本推断大样本推断拉格朗日乘数（拉格朗日乘数（Lagrange Multiplier,

11、LM）检验）检验o对于大样本数据，可以使用对于大样本数据，可以使用LM检验对多个线性假设进行检验对多个线性假设进行检验，前提是高斯马尔科夫假定（检验，前提是高斯马尔科夫假定（MLR.1-5）成立）成立o例题例题5_1：课本：课本p168，例，例5.3小结小结o本讲定性地讨论了本讲定性地讨论了OLS估计量的渐近性质，不要求同学们掌估计量的渐近性质，不要求同学们掌握证明过程和细节问题。重要的是希望大家记住：即便正态握证明过程和细节问题。重要的是希望大家记住：即便正态性假定不被满足，在大样本情况下，用性假定不被满足，在大样本情况下，用OLS方法进行参数估方法进行参数估计和假设检验仍然是适用的。计和假设检验仍然是适用的。o如此看来，样本容量越大，对如此看来，样本容量越大，对OLS方法施加的限制就越少，方法施加的限制就越少，因此我们应该使用容量足够大的样本。遗憾地是，并没有一因此我们应该使用容量足够大的样本。遗憾地是，并没有一个被广泛接受的标准用来判断样本容量到底应该多大才符合个被广泛接受的标准用来判断样本容量到底应该多大才符合渐近性的要求渐近性的要求习题习题5.3C5.3