第4章多元线性回归分析-第4章.ppt
《第4章多元线性回归分析-第4章.ppt》由会员分享,可在线阅读,更多相关《第4章多元线性回归分析-第4章.ppt(39页珍藏版)》请在三一文库上搜索。
1、第4章,多元线性回归分析,多元线性回归分析,4.1 多元线性回归模型设定 4.2 多元线性回归模型参数估计 4.2.1 回归系数估计 4.2.2 误差估计残差 4.2.3 的分布 4.3 更多假设下OLS估计量性质 4.4 回归系数检验(t检验) 4.5 调整 、信息准则和变量选择 4.5.1调整 4.5.2 信息准则,多元线性回归分析,4.6 回归模型检验(F检验) 4.7 用EViews7.2进行多元线性回归 4.8 假设条件的放松 4.7.1 假设条件的放松(一)非正态分布误差项 4.7.2 假设条件的放松(二)异方差 4.7.3 假设条件的放松(三)非随机抽样和序列 相关 4.7.4
2、假设条件的放松(四)内生性 4.9 自变量共线性 重要概念,4.1 多元线性回归模型设定,模型设定: 假设1(零条件均值:zero conditonal mean) 给定解释变量,误差项条件数学期望为0,即,4.1 多元线性回归模型设定,假设2 (无共线性:no colinearity) 解释变量之间不存在线性关系。即不存在不全 为零的一组数 使得 若不成立,称自变量间存在完全共线性(perfect colinearity),此时参数不能被唯一估计。,4.1 多元线性回归模型设定,对于样本模型,从无共线性的假设得出解释变量 样本值形成的向量之间线性无关。 假设2(样本无共线性:no colin
3、earity) 不存在不全为零的一组数 使得,4.2 多元线性回归模型参数估计,4.2.1 回归系数估计 4.2.2 误差估计残差 4.2.3 的分布,4.2 多元线性回归模型参数估计,4.2.1 回归系数估计 类比原则得样本矩条件,4.2 多元线性回归模型参数估计,4.2.1 回归系数估计 多元回归分析参数估计一般用矩阵表示,这里 仅给出二元情况下用克莱姆法则解出的解。,4.2 多元线性回归模型参数估计,4.2.1回归系数估计 结论 结论1: OLS估计的一致性 如果回归模型误差项满足假设1和假设2,OLS估计 为一致估计,即 结论2: OLS估计的无偏性 如果回归模型误差项满足假设1和假设
4、2,OLS估计 为无偏估计:,4.2 多元线性回归模型参数估计,4.2.2 误差估计残差 结论 结论3: 如果假设1和假设2满足,则回归残差是回归误差的 一致估计: 结论4: 如果假设1和假设2满足,残差形成的向量和自变量 样本值形成的向量正交。,4.2 多元线性回归模型参数估计,4.2.3 的分布 结论5 如果假设1和假设2满足,样本量 较大时,OLS估 计 近似服从正态分布: 其中,4.3 更多假设下OLS估计量性质,假设3(同方差:homoskedasticity) 给定解释变量,误差项条件方差为常数,即 假设4(随机抽样: random sample) 样本 是随机抽样产生的,样本之间
5、相互独立,模型误差项 之间相互独立。,4.3 更多假设下OLS估计量性质,结论6 如果假设1假设4满足,则当样本量 较大时, OLS估计 近似服从结论5中的正态分布,方差计算 公式为 其中 为以 为因变量对其余解释变量进行多元线 性回归的拟合优度。,4.3 更多假设下OLS估计量性质,结论7 如果假设1假设4满足,统计量 是误差项方差 的无偏和一致估计,即 为回归标准误,记为 。,4.3 更多假设下OLS估计量性质,结论8 如果假设1假设4满足,样本量 较大时,如下统计 量近似服从正态分布 结论9 如果假设1假设4满足,OLS估计量 为最有效估计: 在 的所有线性无偏估计中, 的方差最小。这称
6、为 OLS估计的马尔科夫性。,4.3 更多假设下OLS估计量性质,假设5(正态分布: normal distribution) 给定解释变量,误差项 服从正态分布, 即 其中,4.3 更多假设下OLS估计量性质,结论10 如果假设1假设5满足, (1) 服从正态分布, , 由上面公式给出; (2) 服从自由度为 的t-分布 其中 由上面公式给出, 。,4.4 回归系数检验( 检验),检验的原假设和备选假设为: 通常取显著水平 或 假设15都成立的情况下,统计量 样本量较大时(n35),0.05显著水平下双边检验临界值接近2,故常用t值是否大于2判断参数是否显著。,4.5 调整 、信息准则和变量
7、选择,4.5.1调整 4.5.2 信息准则,4.5 调整 、信息准则和变量选择,4.5.1调整 增加解释变量只会减少RSS的值(不受限的最小化总比受限的最小化来的小),从而增加 值。 用自由度来调整 的定义 关系:,4.5 调整 、信息准则和变量选择,4.5.2 信息准则 将模型自变量个数考虑在内的变量选择标准:AIC,SC,HQ 应用原则是使信息准则值最小的模型最好。(只对嵌套模型有用) 常用AIC和SC准则,SC准则对增加解释变量的惩罚更为严厉,因此得出的模型往往更简洁。,4.6 回归模型检验( F检验),拟合优度和信息准则均不严格,带有很 多主观判断,因此要进行严格的模型检验。 原假设:
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 多元 线性 回归 分析
链接地址:https://www.31doc.com/p-2550168.html