線性回歸的替代方案
我是經濟學三年級的學生，到目前為止我們所擁有的所有計量經濟學，基本上到目前為止我們所擁有的所有經濟學科的實證研究都是線性回歸。有沒有其他選擇，任何人都可以建議我可以探索的任何閱讀材料或方向嗎？
回歸是任何維度的任何函式到結果的映射。存在無數個函式。此外，除了最小二乘法解決方案之外，還有更廣泛的*線性回歸工具。*我的猜測是，如果你在第三年，你甚至還沒有接近涵蓋線性工具。
如需更多線性工具，請查看分位數回歸和 Theil 回歸。兩者都非常健壯。分位數、普通最小二乘法和泰爾回歸方法可用於任何次數的多項式。如果您正在研究最小二乘方法，例如 OLS、GLS 或 FGLS，那麼您同時也在研究非線性方法。所有線性工具都可以很容易地適應非線性問題。沒有人告訴您的部分是您正在研究非線性回歸，但使用線性模型來研究屬性，因為它們更容易。
這種聯繫類似於高中代數2和微積分1之間的聯繫。前者的接地對於後者是必要的。
與其擔心“非線性”方法，我建議採取兩條不同的路線。
第一種是非參數和無分佈方法。第二個是貝氏方法。你的導師會因為這個建議而永遠恨我。
免分發方法是最容易理解的。它們在任何分佈假設下都是穩健的，這會導致功率的實質性損失。它們總是有效，但它們是薄弱的解決方案，因為您對世界如何運作知之甚少。Theil 的回歸就是這樣一個例子。
非參數方法有點難以理解。它們不依賴於參數來執行推理。因此，例如，當您執行 t 檢驗時，您假設存在均值並且它是有意義的。分佈中存在均值並不總是正確的，並且當它確實存在時它是有意義的測量並不總是正確的。非參數方法允許您在不參考參數的情況下對數據執行測試。與無分佈方法一樣，它們比等效參數檢驗要弱。它們總是有效，但它們更有可能檢測不到真正存在的效果。
最後，在您查看了無分佈和非參數方法之後，您應該查看貝氏方法。貝氏方法比Frequentist 方法更早，但允許您解決沒有Frequentist 解決方案的問題。從表面上看，它們可能看起來就像您現在正在解決的問題，但在表面之下，它們打開了頻率論方法無法提供的整個預測和建模世界。
貝氏方法顛倒了不確定性的方向。使用零假設方法，您斷言零是正確的，並使用數據來偽造它。本質上，您正在執行測試 $ \Pr(x|\theta) $ ，也就是說，如果null實際上是真的，看到這個數據的機率是多少。貝氏方法的使用顛倒了這個問題。貝氏問 $ \Pr(\theta|x) $ ? 貝氏方法問，“假設真實的機率是多少，給定實際看到的數據？”
頻率論者在“樣本空間”中工作，這是一個隨機事件的所有可能結果的集合。貝氏在“參數空間”中工作，這是所有可能解釋的集合。
一篇很好的文章展示了您可以輕鬆看到的差異，是關於頻率論信賴區間和貝氏可信區間之間的差異。它位於https://stats.stackexchange.com/questions/2272/whats-the-difference-between-a-confidence-interval-and-a-credible-interval
如果您通過積分學過微積分，William Bolstad 會寫一本關於貝氏方法的很好的介紹性書籍。不知道積分就不能做貝氏方法。
外面有一個巨大的世界。去探索。