如何以數學方式獲得 OLS 的條件？
從這個討論中，我向@tdm詢問了OLS的條件，但我仍然無法得到它，並且在評論部分回答數學方程並不容易，所以我想在這裡問。
看到這一點的一種方法是注意到 OLS 最小化
$$ \frac{1}{n} \sum_i (y_i - \alpha - \beta x)^2 $$
關於 $ \alpha $ 和 $ \beta $ 我不清楚為什麼會導致這種情況
$$ \frac{1}{n} \sum_i (y_i - \alpha - \beta x) = 0 $$ 和
$$ \frac{1}{n} \sum_i (y_i - \alpha - \beta x) x = 0 $$
您的目標是通過一組觀察找到具有最佳線性擬合的線 $ y,x $ . 二維空間中一條線的每個方程都有兩個參數，斜率 $ \beta $ 並攔截 $ \alpha $ ，所以你的問題歸結為選擇 $ \alpha $ 和 $ \beta $ 最適合數據的。
將最佳擬合定義為最小化殘差平方和的擬合是合理的。我們希望最小化殘差的總和，因為我們希望誤差盡可能小，並且我們將它們平方以確保正誤差不會被負誤差抵消。
因此，我們最小化以下目標函式
$$ \min_{\alpha, \beta} \frac{1}{n} \sum \epsilon^2 = \min_{\alpha, \beta} \frac{1}{n} \sum (y - \alpha - \beta x)^2 $$
寫 $ \alpha $ 和 $ \beta $ . 為了找到函式的最小值，您必須計算一階條件，這些條件在一階導數等於零的點處給出。
$$ \frac{d\epsilon}{d\alpha}= 0 \implies -2\frac{1}{n} \sum(y - \alpha - \beta x) = 0 $$
$$ \frac{d\epsilon}{d\beta} = 0 \implies -2\frac{1}{n} \sum (y- \alpha - \beta x) x = 0 $$
其中-2，實際上在技術上甚至 $ \frac{1}{n} $ 可以刪除，因為您可以將兩邊除以它們，它們就會消失，但是 $ \frac{1}{n} $ 通常留下，然後您可以重寫最佳解決方案 $ \beta $ 就變異數和共變異數而言，就像 tdm 在他的出色回答中所做的那樣。