多元線性回歸中的古典假定

多元線性回歸模型

3.1若要將一個被解釋變量對兩個解釋變量作線性回歸分析：

1）寫出總體回歸函數和樣本回歸函數；

2）寫出回歸模型的矩陣表示；

3）儀器校準說明對此模型的古典假定；

4）寫出回歸系數及隨機擾動項方差的小二乘估計式，并說明參數估計式的性質。

答：1）總體回歸函數：寫出回歸模型的矩陣表示

2）此模型的古典假定：零均值假定；同方差和無自相關假定；隨機擾動項與解釋變量不相關；無多重共線性假定；隨機誤差項服從正態分布。

3）回歸系數小二乘估計式：   

隨機擾動項方差的小二乘估計式：k ne σ i    2 2 

參數估計式的性質：具有線性性、無偏性和小方差性。

3.2什么是偏回歸系數？它與簡單線性回歸的回歸系數有什么不同？

答：多元線性回歸模型中，回歸系數j （j＝１，２，k）表示的是當控制其它解釋變量不變的條件下，第j個解釋變量的單位變動對被解釋變量平均值的影響，這樣的回歸系數稱為偏回歸系數。  簡單線性回歸模型只有一個解釋變量，回歸系數表示解釋變量的單位變動對被解釋變量平均值的影響。多元線性回歸模型中的回歸系數是偏回歸系數，是當控制其它解釋變量不變的條件下，某個解釋變量的單位變動對被解釋變量平均值的影響，從而可以實現保持某些控制變量不變的情況下，分析所關注的變量對被解釋變量的真實影響。

3.3多元線性回歸中的古典假定與簡單線性回歸時有什么不同？

答：多元線性回歸中的古典假定比簡單線性回歸時多出一個無多重共線性假定。假定各解釋變量之間不存在線性關系，或各個解釋變量觀測值之間線性無關。解釋變量觀測值矩陣X列滿秩（k列）。這是保證多元線性回歸模型參數估計值有解的重要條件。 

3.4儀器校準多元線性回歸分析中，為什么要對可決系數加以修正？修正可決系數與F檢驗之間有何區別與聯系？

答：多元線性回歸分析中，多重可決系數是模型中解釋變量個數的增函數，這給對比不同模型的多重可決系數帶來缺陷，所以需要修正。可決系數只涉及變差，沒有考慮自由度。如果用自由度去校正所計算的變差，可糾正解釋變量個數不同引起的對比困難。  聯系：由方差分析可以看出，F檢驗與可決系數有密切聯系，二者都建立在對應變量變差分解的基礎上。F統計量也可通過可決系數計算。對方程聯合顯著性檢驗的F檢驗，實際上也是對可決系數的顯著性檢驗。

區別：F檢驗有精確的分布，它可以在給定顯著性水平下，給出統計意義上嚴格的結論。可決系數只能提供一個模糊的推測，可決系數越大，模型對數據的擬合程度就越好。但要大到什么程度才算模型擬合得好，并沒有一個絕對的數量標準。

3.5什么是方差分析？對被解釋變量的方差分析與對模型擬合優度的度量有什么聯系和區別？

答：被解釋變量Y觀測值的總變差分解式為：RSSESSTSS  。將自由度考慮進去進行方差分析，即得如下方差分析表：變差來源 平方和  自由度  方差 源于回歸 2 ) (   YYESSi 1 k 1 kESS 源于殘差 2 ) (    iiYYRSS kn  knRSS   總變差  2 )。