回歸
在回歸中轉換解釋變數矩陣
給定分區回歸方程(成 $ X_1 $ 和 $ X_2 $ ),我想改造 $ X_1 $ , 說 $ X^_1 $ , 這樣 $ X_2 $ 和 $ X^_1 $ 變為正交即。 $ X_2^T $ . $ X_1^* $ = 0。矩陣可以轉換為 $ X_1^* $ = $ X_1 $ .p 其中 P 是變換矩陣。
如果我們預乘 $ X_1^* $ = $ X_1 $ .p 與 $ X_2^T $ 我們將得到 $ X_2^T $ . $ X_1 $ .p = $ X_2^T $ . $ X_1^* $ = 0. 我怎樣才能找到 P?
(ii) 部分很容易解決。參數 $ X_2^T $ 和 $ X_1^* $ 將取決於它們與 Y 的單獨回歸。
$ \boldsymbol X^_1 $ 是投影的殘差 $ \boldsymbol X_1 $ 在 $ \boldsymbol X_2 $ . “剩餘製造商”矩陣是 $ \boldsymbol I - \boldsymbol X_2 \left(\boldsymbol X_2^T\boldsymbol X_2\right)^{-1}\boldsymbol X_2^T $ . 所以,$$ \boldsymbol X_1^ = \left(\boldsymbol I -\boldsymbol X_2 \left(\boldsymbol X_2^T\boldsymbol X_2\right)^{-1}\boldsymbol X_2^T\right)\boldsymbol X_1. $$