如何在計量經濟學中使用投影矩陣?
考慮以下 DGP 時: $ y=X\beta^{}+\epsilon $ 在哪裡 $ \beta^{} $ 是一個 $ \tilde k\times1\ $ 向量。
定義投影矩陣: $ P_{X}=X(X^{T}X)^{-1}X^{T} $ 和 $ M_{X}=I-X(X^{T}X)^{-1} $ .
第一個問題是證明 $ X^{T}P_{X}=X^{T} $ 和 $ X^{T}M_{X}=0 $
我認為這個問題太簡單了,因為 P 只是 I。所以,我認為考慮到第二個問題,給定問題是有意圖的。
第二個問題是證明如果 $ X_{(i)} $ 是個 $ i^{th} $ 列 $ X $ , 然後, $ M_{X}X_{(i)}=0 $
我的問題是
- 第一個問題的重點是什麼?
- 我可以通過考慮來解決這些問題嗎 $ X_{(i)}=XA\ $ 其中 A 有一個僅由 1 組成的向量,而其他列都為零?還是我應該使用第一個問題的解決方案?
計量經濟學中的這種預測通常用於從線性回歸中分出一些協變數。
觀察一般情況 $ P_X\neq I $ . 考慮 $ X=\begin{bmatrix}1&5\1&0\1&1\end{bmatrix} $ . 然後 $ X’X=\begin{bmatrix}3&6\6&26\end{bmatrix} $ 和 $ (X’X)^{-1}=\begin{bmatrix}26/42&-6/42\-6/42&3/42\end{bmatrix} $ 然後 $ X(X’X)^{-1}X^T=\frac{1}{42}\begin{bmatrix}41&-4&5\-4&26&20\5&20&17\end{bmatrix}\neq I $ .
第一個問題: $ X^TP_X=X^TX(X’X)^{-1}X^T=(X^TX)(X’X)^{-1}X^T=I_{(\tilde k\times\tilde k)}X^T=X^T $
相似地: $ X^TM_X=X^T[I_{(\tilde k\times\tilde k)}-P_X]=X^TI_{(\tilde k\times\tilde k)}-X^TP_X=X^T-X^T=0 $
第二個問題是直接後果 $ X^TM_X=0 $ ,現在你可以後乘 $ X_{(i)} $ 因為您只考慮一列。的方法 $ X_{(i)}=XA $ 在哪裡 $ A $ 是一個向量 $ \tilde k\times 1 $ 0 除了 $ i $ -th 元素是 1。那麼它應該很容易看到: $ 0=(XA)^TM_X=M_XX_{(i)} $