關於線性回歸模型的起點和假設
這是我對單回歸器的線性回歸模型的理解:我們假設總體回歸函式採用以下形式 $ Y_i=\beta_0+\beta_1X_i+u_i $ . 此外,對於具有因果意義的參數,我們假設:
- $ E(u_i|X_i)=0 $
- $ (X_i,Y_i) $ 獨立同居 $ i=1,…,n $
- 大的異常值不太可能
我的第一個問題是關於第一個假設。它與假設相結合 $ Y=\beta_0+\beta_1X $ , 給出 $ E(Y|X)=\beta_0+\beta_1X $ . 但是這個方程不就是我們回歸分析的全部起點嗎?如果不是,我們首先要擷取什麼?
似乎要麼 $ E(u_i|X_i)=0 $ 或者 $ E(Y|X)=\beta_0+\beta_1X $ 結合以下假設 $ Y_i=\beta_0+\beta_1X_i+u_i $ 暗示對方。哪個先出現?
我的第二個問題是關於期望 $ u $ . 我們是否假設 $ E(u_i)=0 $ 還是其他假設暗示的?因為在 Wooldridge 的計量經濟學導論中,這是一個假設,但在 Stock 和 Watson 中,它看起來像是隱含的。我在這裡很困惑。
我的第一個問題是關於第一個假設。它與假設相結合 $ Y=\beta_0+\beta_1X $ , 給出 $ E(Y|X)=\beta_0+\beta_1X $ . 但是這個方程不就是我們回歸分析的全部起點嗎?如果不是,我們首先要擷取什麼?似乎要麼 $ E(u_i|X_i)=0 $ 或者 $ E(Y|X)=\beta_0+\beta_1X $ 結合以下假設 $ Y_i=\beta_0+\beta_1X_i+u_i $ 暗示對方。哪個先出現?
兩者可以互換。您可以從以下位置開始: $$ Y_i = \beta_0 + \beta_1X_i + u_i \tag{1} $$ 並將其與 $ \mathbb{E}(u_i|X_i) $ 要得到 $$ \mathbb{E}(Y_i|X_i) = \beta_0 + \beta_1 X_i. \tag{2} $$ 反之亦然,如果您從 $ (2) $ 你可以定義: $$ u_i = Y_i - \mathbb{E}(Y_i|X_i). $$ 這樣 $ Y_i = \beta_0 + \beta_1 X_i + u_i $ 和: $$ \begin{align*} \mathbb{E}(u_i|X_i) &= \mathbb{E}(Y_i|X_i) - \mathbb{E}(\mathbb{E}(Y_i|X_i)|X_i),\ &= 0 \end{align*} $$ 所以沒關係。要麼你說預期的平均值 $ Y $ 有條件的 $ X $ 是線性的,或者你說 $ Y $ 是線性的 $ X $ 和 $ u_i $ 連同假設的平均值 $ u_i $ 有條件的 $ X $ 為零。
我的第二個問題是關於期望 $ u $ . 我們是否假設 $ E(u_i)=0 $ 還是其他假設暗示的?因為在 Wooldridge 的計量經濟學導論中,這是一個假設,但在 Stock 和 Watson 中,它看起來像是隱含的。我在這裡很困惑。
為了看看如果我們不強加它會發生什麼,請注意在這種情況下,我們可以寫: $$ u_i = \mathbb{E}(u_i) + \underbrace{(u_i - \mathbb{E}(u_i))}_{\delta_i} $$ 現在, $ \delta_i $ 均值為零, $$ \mathbb{E}(\delta_i) = \mathbb{E}(u_i) - \mathbb{E}(u_i) = 0. $$ 我們現在可以寫: $$ \begin{align*} Y_i &= \beta_0 + \beta_1 X_i + u_i,\ &= \left(\beta_0 + \mathbb{E}(u_i)\right) + \beta_1 X_i + \delta_i \end{align*} $$ 所以如果平均值 $ u_i $ 不為零,它只是被添加到截距中 $ \beta_0 $ . 換句話說,如果你在回歸中添加一個截距,假設 $ \mathbb{E}(u_i) = 0 $ 不失一般性。