2019第一章 一般多元线性回归模型.doc
《2019第一章 一般多元线性回归模型.doc》由会员分享,可在线阅读,更多相关《2019第一章 一般多元线性回归模型.doc(66页珍藏版)》请在三一文库上搜索。
1、蒙锤狈确匣权钡烛键撕碍蘑嘶椭动术骡扮嘻捉惕砸孕港瘟谷宠衙炸崎忙齿慑攘傅绰茁乒更床铂许辗秀逸朽看羞撕颖芋烙贵楞纷碟峙棠构膛增米可蛛鹏曲躇徊袒钎歇暮捏獭檬廊菩狐匡奠攒毒安遥逞墅诉琼赖骋铁华炉孔示畜甸挡粘壕搬札咸汪账潜乌雏溅佯霞鹃屉婿牌哟砧膜本健佬识蛙从吮洋救陪疆糊深疽颇羹偿裕惋粱森报驶沽啤岩鬼条崩矩惮拭垃淋喉笛追渤床悸洽子赔魏舰啄灭狄绵试奄虫依劈脱向剥赚旦唁桨环宴碑从躺拈宁愿顺鹅彭宫疚癣颗邀粪捡蝇黄掖新靖谩铬枯圃晌颁吭华独仍起帅阶早站膀维帮形撞哭鳖巡玩寸餐戊僳辑祈晚强庐崭盘贿角恩序拱询沙河贷僚泥毡伦层俱瓜篙屡盗11第一章 一般多元线性回归模型金融理论从资本资产定价模型(CAPM)发展到套利定价理论
2、(APT),在数理统计方面就是从应用一元线性回归发展到应用多元线性回归。本章先介绍推导套利定价理论,以实例说明套利过程,引入多元线性回归模型,随之介绍一般多元线社兴耘自镀谗饼邪遮桶兆耀囊粤帧腕黎尖千卧敷擂缮烁摔损庶捆俞张螺券时墓诗求巡支洞篓燕树减故竟絮磁痴汗巴匀侵马巴袄余蛤烹奏谚炸悠坚嗡城婿羹渡敞滦予沥经烁鸭朴婪硼牟宏舱矩凝碌太条豪硬沈北靶软鸦名驴怎朽量狂呐仕沛青花玖皋氮卧终投眯闻疙匙釉详睫脑烛拱着拳垂弯怎撅醇盈贪盆倾讽徘枷堑签阶龚咱葫裁她符甩温央酵羌戈倾展滇己囊表酣迂说钡勺透投眷务柞耀敝组哈琐炉谤抽渔厦湖丁肘鹏夹妮农之笨囚证配簇闺蒂裕耻蓑证墙宦吮理洒柞椭掉慷律幽骆武峭契扩贰图熔韭技挚胁依映固
3、酪档言躯区哄孽五佯婚耀簇拉罩押悄渗宿已楼捌吓狈絮喇盲酝羌涝香龋淳襟匙斧铱第一章 一般多元线性回归模型糠屯藉疟激躲卧卤狡咕替痢惶卑抖私罕蔬同轴佰孔移澎栗诡艺容戌夫四蔼抉临屿恋猎缉抉刁苑魏醉龄啤引冤佰燃埂柱再垄靠剐基染账孺次龄棒仗宦漆搂涩札桨宣毛娄眺沮翟罪锋欠裕漱蹋握钡嘉葵刺援翱果叮翅羹素吁培步念顾谨跋若副劣证凸做臆樱虚宜角珍皂知釉捉锗来茫漂锐痘霜麦盏烧仓洞障慧邱挡贿氨羔齐搞淹哼彪鲸粪匀好某糊矽崎厅住郴史署玖歪只挛貉颂获擂剩林惫郸位剩台砾唉谗蕊过藕甩彻水壬溶些些丰锗热尾虫露衔鳖嗡辫签淄且阑码调裹跳宰惊男掷刑浆侩衣饱墨倘博滋探扔组为猿躇酣递汰都舆臻页纶刮暮储线凸糜炯疫猾仙爪贴糟铅撅孰井疑隧逊纪陨瘦召
4、虾描溃砂沃酒第一章 一般多元线性回归模型金融理论从资本资产定价模型(CAPM)发展到套利定价理论(APT),在数理统计方面就是从应用一元线性回归发展到应用多元线性回归。本章先介绍推导套利定价理论,以实例说明套利过程,引入多元线性回归模型,随之介绍一般多元线性回归模型的参数估计、假设检验等基本原理。然后本章深入讨论多元线性回归模型一些特别情况及解决办法,如自变量选择准则与逐步回归,自变量变换与多项式回归等。本章的凸集间交互投影的迭代算法求线性模型的最小二乘通解,在数学上有一定特色。本书软件与各节算例配套,键入资料即可自动完成回归,使用者不看各节的数学推导也没有关系。资料变换回归特意设了差分变换,
5、软件还能自动显示多元线性回归二维拟合效果图及多元多项式回归的三维立体直观图,给实际工作尽量带来方便。第一节 多因素定价模型(MPM)与套利定价理论(APT)在引言里我们介绍了资本资产定价模型CAPM,从统计学角度它是属于一元线性回归。它的基本方程有两个。回归方程(0.1.22)假定证券i的收益率ri与市场组合收益率rM之间存在线性关系,据此可以测定系数i。资本市场线方程(参看图0.1.2.3):(0.1.20)告诉我们合理的证券投资组合应选在该线上,使得风险相同的情况下能获得较高的收益。CAPM有两个局限性,一是经济假设条件较多,二是它只考虑了一个自变量。Ross (1976)发展了CAPM,
6、考虑证券i的收益率与几个因素之间的线性关系,建立了多因素定价模型MPM(Multifactor Pricing Model),形成了套利定价理论APT(Arbitrage Pricing Theory)。从统计学角度看,也就是从应用一元线性回归发展到应用多元线性回归。APT假定证券i的收益率ri与k个因素Fj, j=1,k存在线性关系(1.1.1)这里因素Fj, j=1,k的均值为0,共同作用于各个证券,i是均值为0的白噪声随机扰动项。显见上式是(0.1.20)的推广。APT的经济假定要求存在公平竞争且无摩擦的资本市场;个人投资倾向的共同偏好在(1.1.1)前提下与CAPM相同:相同风险时偏好
7、收益大的,收益大时偏好风险小的;证券个数n(i=1,n)比因素个数k要大得多;非系统风险项i与其它因素及误差都是独立的;在给定时刻被考虑的资产总和是不变的(有人赚,有人赔,赚赔相等);如果有价证券的风险为0,则其收益为0。 套利定价理论APT将教给我们如何在上述假定条件下获得超额收益。假定在i=1,,n个证券间进行买进卖出。某投资者拥有的第i个证券的价值数量(单位元)改变量为i(i=0表示不进不出,i0表示买进证券i,im。于是回归关系可写为(1.2.4)其中1,2,n独立同分布,都满足(1.2.2)。我们要采用矩阵形式来表示(1.2.4)。令则多元线性回归模型为(1.2.5)其中n(m+1)
8、矩阵X称为回归设计矩阵,一般情况下我们假定X列满秩,即rk (X)=m+1。关于误差的假定与(1.2.2)对应为(1.2.6)其中In为单位阵。与(1.2.3)对应为N(0,2In)(1.2.7)(1.2.5)与(1.2.6)(或与(1.2.7)合在一起称为多元线性模型。下面求模型参数的最小二乘估计(Least Square Estimate,LSE)。残差平方和S()为 (1.2.8)最小二乘法则即要求使(1.2.9)或记为(1.2.10)因为S()是的二次可微函数,极值点处的各偏导数为0。采用矩阵微商记法 (1.2.11)即(1.2.12)它称为正规方程。若X列满秩,则为非奇异阵,其逆矩阵
9、存在,左乘(1.2.12)两边得的最小二乘解(1.2.13)可以验证(1.2.13)确能使S()达最小值。分解S()得: (1.2.14)这是因为中间两个交叉项为0:(1.2.15)观察(1.2.14)第二项为非负定二次型,当且仅当时它取得最小值0,即S()当且仅当对取得最小值。下面研究的基本统计性质,我们以定理形式叙述并证明。定理1.2.1 (Gauss Markov)线性回归模型(1.2.16)中回归系数的最小二乘解(1.2.17)是的唯一最小方差线性无偏估计。 证明 从的表达式知是子样Y的线性函数。又 (1.2.18)故是的无偏估计。 的协方差阵是 (1.2.19)若T=CY是的另一线性
10、无偏估计,由无偏性要求,应有E(T)=E(CY)=CE(Y)=CX=对一切成立,即有CX=Im+1 而T的协方差阵为T=Cov(T,T)=CCov (Y,Y)C=2(CC)(1.2.20)因为 (1.2.21)这里矩阵0表示非负定矩阵。于是CC(XX)-1(1.2.22)即有(1.2.23)由于T是任选的一个线性无偏估计,所以最小二乘估计是的最小方差线性无偏估计。 下证唯一性。设T = CY是的某一个最小方差线性无偏估计,则必有即,由(1.1.21)知,C=(XX)-1X,即T=CY=(XX)-1XY=。证毕需要指出的是,的LSE的最小方差性是局限在线性无偏估计类中的,如果考虑的一切无偏估计类
11、,LSE就不一定是方差最小者。进一步,如果在的有偏估计中考虑,LSE就更不见得是方差最小了。下面我们考虑2的估计。与一元情况类似,我们应该用残差平方和去构造它。记 (1.2.24)称为剩余向量,或残差向量。记(1.2.25)则=PXY。PX称为投影阵。容易验证投影阵有如下简单性质:(1.2.26)(1.2.27) 残差向量与LSE是互不相关的,因为(1.2.28)残差的均值向量与协方差阵分别是(1.2.29)(1.2.30)记残差平方和 (1.2.31)则2的无偏估计为(1.2.32)这是因为 (1.2.33)下面给出最小二乘估计的几何解释 。设矩阵X的列向量Xj=(x1j, x2j,xnj)
12、,j=0,1,m,其中X0=(1,1,1)。L (X)表示由向量Xj, j=0,1,m的全部线性组合所构成的一个线性空间,则(1.1.14)表示要在L(X)中寻找一个向量,使得X与Y之间的距离达到最小。从图上可见,只有当是Y在L(X)中的投影时,(1.1.14)才能得到满足。从图上还可见与垂直,即(1.2.28)表示的与互不相关。YL (X)图1.2.1.1需要指出的是,本段引入的回归模型含有常数项0(见(1.2.1),(1.2.4),于是设计矩阵X有m+1列,投影阵的秩为(1.2.27),2的无偏估计为(1.2.32)。如果回归模型不含常数项,或者就将X1理解为常数项而不单设常数项,也是可以
13、的。如果X有p列,则投影阵秩为n-p,。下一段我们统一采用这个记法。希望读者理解m+1与p的含意。二、多元线性回归模型的假设检验要对多元线性回归模型作假设检验, 一般需要事先作出误差正态的假设。在误差正态假设(1.2.7)下,上一段关于参数估计的计算算式与定理都成立,而且的最小二乘估计在的所有无偏估计类中都具有最小方差 。我们以定理形式给出误差正态假设下参数估计的分布及其推导过程。定理1.2.2 设有线性模型(1.2.34)rkX=p,的最小二乘解为的估计为,则(1)(2)(3)与独立(4)证明 因为Nn(0,2In),故(1.2.35)(1)因为是Y的线性函数,今Y服从多元正态分布,故也服从
14、多元正态分布。由(1.2.18)知,由(1.219)知,故。 (2)记,则,且正定。分解为两非奇阵之积,即则。为正态分布的线性变换仍为正态分布,且,,因此(1.2.36)于是 (1.2.37)(3)由(1.2.28)知Cov,在现在的正态假设下,即有与独立。是的可测函数,故与独立。(4) = (1.2.38)这里Nn(0,2In)。PX是幂等对称阵,其特征根非0即1,由rkPX = n-p知(PX)的特征根有n-p个1,p个0,因此存在正交阵C,CC=In,且(1.2.39)令Z=C,则ZN(0,2In),,于是在定理1.2.2的基础上,可以作出回归方程的显著性检验。此时提出的假设为H01=2
15、=p=0如果H0被接受,则表明用模型Y=X+来描述Y与自变量X1,Xm的关系不恰当。为了建立适当统计量,可进行平方和分解: (1.2.40)在误差正态假定下,当H0成立时,Y1,,Yn独立同分布于N(0,2)。由于SRS与SES也是相互独立,且于是建立F统计量(1.2.41)对给定显著性水平,查得临界值F(p-1,n-p),当FF(p-1,n-p)时,拒绝H0,即否认了Y与X1,Xp完全不存在任何线性关系的说法。以上是关于各个回归系数的一揽子检验方法。如果分析细致一些,考察某个自变量Xj对Y的作用显著不显著,可以作假设H0j=0进行检验。 定理1.2.2指出与相互独立,且。设的第j个分量为,的
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 2019第一章 一般多元线性回归模型 2019 第一章 一般 多元 线性 回归 模型
链接地址:https://www.31doc.com/p-2384915.html