共變異數

非正半定共變異數矩陣估計量的證明

  • July 27, 2012

眾所周知,如果變數的數量(例如股票數量)超過觀察的數量(例如交易日),共變異數矩陣的標準估計量可能會失去半正定的特性。我認為矩陣可以變得奇異。我很清楚為什麼(受到問題幾何的啟發),但有人對這個事實有簡短但嚴格的證明嗎?

共變異數矩陣的標準估計量是:

$$ \widehat{ \mathrm{cov}}(X) = \frac 1 {n-1} \sum_{i=1}^n (X_i-\bar X)(X_i-\bar X)^T, $$ 在哪裡 $ X_i $ 是包含 $ i $ 對所有可觀察物的觀察。每個被加數是向量與其自身的外積,即,秩至多為1的方陣。所以 $$ \mathrm{rk;}\widehat{\mathrm{cov}}(X) \le n $$ 並且矩陣不僅可以而且總是奇異的,如果 $$ n \lt \dim X, $$ 即,如果觀察的數量小於變數的數量。


編輯:關於半正定性: $ \widehat{ \mathrm{cov}}(X) $ 總是半正定的,因為它是Gramian,即使它的秩不滿。當且僅當它是單數時,它才會失去正定的性質。

引用自:https://quant.stackexchange.com/questions/3695