非參數回歸指的是一類回歸分析,其中的預測子不是預先確定的,而根據從數據中獲得的信息。也就是說,預測子與因變量之間的關係不會假定為參數形式。非參數回歸需要更大的樣本量,因為數據必須提供參數模型結構和模型估計值。
定義
非參數回歸中,有隨機變量、,並假設其關係如下:
其中是某個確定函數。線性回歸也是非參數回歸的一種,假定為仿射。 有些學者使用了稍強的加性噪聲假設:
其中隨機變量是「噪聲項」,均值為0. 若不假設屬於特定的函數參數族,就不可能得到的無偏估計,但大多數估計量在適當條件下都是一致的。
通用非參數回歸算法列表
這是非參數回歸模型的非詳盡列表。
例子
高斯過程回歸也稱克里金法,假設回歸曲線的先驗為正態分佈,並假設誤差遵循多元正態分佈,回歸曲線由後驗模式估計。正態先驗可能取決於未知的超參數,可用經驗貝葉斯方法估計。 超參數通常指定一個先驗協方差核。若核也要從數據中進行非參數推斷,則可使用臨界濾波器。
平滑樣條法可解釋為高斯過程貨櫃的後驗模式。
核回歸用核函數卷積數據點位置,從有限的數據點中估計連續因變量。近似地說,核函數說明了「模糊」數據點影響的方法,以便用它們的值預測附近位置的值。
決策樹學習算法可以從數據中學習,以預測因變量。[2]雖然最初的分類回歸樹(CART)公式僅適用於預測單變量數據,該框架也可用於預測多變量數據,包括時間序列。[3]
另見
參考文獻
閱讀更多
外部連結
Wikiwand in your browser!
Seamless Wikipedia browsing. On steroids.
Every time you click a link to Wikipedia, Wiktionary or Wikiquote in your browser's search results, it will show the modern Wikiwand interface.
Wikiwand extension is a five stars, simple, with minimum permission required to keep your browsing private, safe and transparent.