多元回归分析MultipleRegression.ppt
多元迴歸分析 Multiple Regression,羅惠瓊 淡江大學企管系 2005/04/28,多元迴歸分析,【研究問題】： 學生性別、數學焦慮、數學態度、數學投入動機是否可有效預測學生的數學成就？其預測力如何？ 【方法分析】 研究問題中，由於預測變項包括學生性別、壓力懼怕、情緒擔憂、考試焦慮、課堂焦慮、學習信心、有用性、成功態度、探究動機、數學工作投入、數學自我投入等十一個； 而依變項為數學成就變項一個，因而可採用多元迴歸分析法（multiple regression）或稱複迴歸法。,多元迴歸分析圖示,依變數若是類別變數,進行多元迴歸時，如果依變數（效標變數）不是連續變數，而是二分類別變數，應以區別分析或二元logistic迴歸分析。 如果依變數是多分類別變數，則須進行區別分析。,多元迴歸模式,多元迴歸模式為：,或,變數選擇,邏輯基礎： 理論基礎、實證基礎、邏輯推理、專家共識 統計量基礎： 利用每一解釋變數對應之偏F統計量值之大小決定刪去或留在模式中，其方法有 (a) 所有可能迴歸法(All-Possible-Regression Procedure ) (b) 後退淘汰法(Backward Elimination Procedure) (c) 前進選擇法(Forward Selection Procedure) (d) 逐步迴歸法(Stepwise Regression Procedure),迴歸分析,(一)迴歸估計方程式(最小平方法) (二)變異數分析表,模式檢定(1),迴歸分析之假說檢定包括總檢定與邊際檢定兩種。 總檢定： 目的在探討迴歸模式中的所有斜率係數是否全部為0。 當斜率係數不全為0時，Y與(X1,X2,XK)才具有某種程度的函數關係 。 總檢定之虛無假說與對立假說可列示如下： H0: j=0，對所有j H1: j0，對某些j (j=1,2,K) 檢定統計量: F=MSR/MSE,邊際檢定： 若總檢定顯著，即應進行邊際檢定(Marginal Tests)，探討個別迴歸係數(j, j=1,2,K)是否顯著異於某一特定數值，共包括K個檢定。 邊際檢定可分為雙尾檢定與單尾檢定，且大多數屬於對0檢定。 對立假說設定為H1: j j0，屬於雙尾檢定 。 對立假說設定為H1: j j0 或H1: j j0 ，屬於單尾檢定。 檢定統計量:,模式檢定(2),判定係數R2,R2 稱為多元判定係數（multiple determination coefficient） ： 0 R2 1 R2 相當於總變異中可被解釋之百分比例 R2 亦是模式配適度(Goodness of Fit)之指標。,Adjusted R2,在迴歸分析中，如果自變項的個數很多，有時候就要用調整後的判定係數代替原先的判定係數，因為增加新的自變項後，均會使R2變大。 Adjusted R2為調整後的判定係數：,殘差分析(1),基本概念： 在探討誤差項(i)是否符合常態性、恆常性、獨立性等三項假定。 迴歸分析乃以殘差值(ei, Residual)為誤差項(i )之估計，等於樣本觀察值與預測值之差，即：,殘差分析(2),常態性： 假說如下所示： H0: 誤差項遵循常態分配 H1: 誤差項未遵循常態分配 常態性檢定方法 常態機率圖(Normal Probability Plot) 當H0成立，則常態機率圖應呈現近似450直線 K-S檢定(Kolmogorov-Smirnov goodness-of-fit test) W統計量(W, Wilk-Shapiro Statistic)檢定。,殘差分析,恆常性：,殘差分析(3),獨立性： 指個案之誤差項(i )彼此之間獨立。 檢定方法： 1. 觀察ei 對時間之序列圖，需無任何規則性趨勢，則表示誤差項為隨機。 2. Durbin-Watson (D-W) 的統計量來檢定有無自我相關的問題，即殘差是否為獨立。,共線性問題,在多元迴歸分析中要留意共線性（collinarity）問題。 所謂共線性指的是由於自變項間的相關太高，造成迴歸分析之情境困擾。如果變項間有共線性問題，表示一個自變數是其它自變項的線性組合。 以二個自變項X1，X2為例： 完全共線性 X1 = a + bX2 如果一變項與其它自變項間有共線性問題，則這個變項迴歸係數的估計值不夠穩定，而迴歸係數的計算值也會有很大誤差。,共線性的診斷,共線性問題，可由下面的數據加以判別：,2.變異數膨脹因素（variance inflation factor；VIF） 變異數膨脹因素為容忍度的倒數，VIF的值愈大，表示自 變項的容忍度愈小，愈有共線性問題。,1.容忍度（ tolerance ） 容忍度 1-R2，容忍度的值介於0至1間。 R2是此自變項與其它自變項間的多元相關係數的平方， 即模式中其它自變項對這個變項的有效解釋能力。 一自變項的R2值太大，即容忍度太小，表示此變項與其它 自變項間有共線性問題。,迴歸分析之流程,虛擬變數轉換(1),間斷變數在投入迴歸分析時，必須轉換為虛擬變數。 在虛擬變項的轉換方面，要以0、1的方式表示，虛擬變項個數等於水準個數減一。,如果是二分變項，便以一個虛擬變項表示，此虛擬變項的 二個水準數值直接以0、1表示即可。 以學生性別變項為例：,虛擬變數轉換(2),如果是三分變項，表示此間斷變項有三個水準，則應以二個虛擬變項表示。 以家庭狀況變項為例：,虛擬變數轉換(3),如果是四分變項，表此間斷變數有四個水準，則投入迴歸分析時，會有三個虛擬變項。 例如地理位置變項中，1表示北部、2表示中部、3表示南部、4表示東部，三個虛擬變項的值如下：,虛擬變數轉換 操作說明,多元迴歸分析 操作說明,問題：學生性別、數學焦慮、數學態度、數學投入動機是否可有效預測學生的數學成就？其預測力如何？,模式適合度會列出已進入模式或刪除之變數，並顯示迴歸分析相關的統計量：多元相關係數R、R平方、調整後的R平方、估計值的標準誤與變數數分析摘要表。,多元迴歸分析 報表說明,數學成就 = -4.522+.309x工作投入+.382x成功態度 -.401x自我投入+3.080x學生性別-.344x壓力懼怕+.610x課堂焦慮+.222x學習信心+.249x有用性,
