充分統計量

在統計學中，一個關於一個統計模型和相關的未知參數的充分統計量（Sufficient Statistic）是指「沒有任何其他可以以同一樣本中計算得出的統計量可以提供任何有關未知參數的額外訊息」。^[1]

數學定義

對於統計量 ${\displaystyle t=T(X)}$，若數據${\displaystyle X}$在已知${\displaystyle t=T(X)}$時的條件分佈不依賴於參數 ${\displaystyle \theta }$，則稱其是關於參數 ${\displaystyle \theta }$ 的充分統計量。即對任何博雷爾集 ${\displaystyle A}$，有${\displaystyle {\text{Pr}}(x\in A|t,\theta )={\text{Pr}}(x\in A|t)}$。

例子

對於方差已知，均值為未知參數 ${\displaystyle \mu }$ 的正態分佈，樣本均值是一個充分統計量。

費雪分解定理

若一個統計模型具有似然函數f_θ(x)，則T是θ的充分統計量當且僅當存在非負函數g與h，使得

${\displaystyle f_{\theta }(x)=h(x)g_{\theta }(T(x)).}$

最小充分統計量

若一個充分統計量是任何其他充分統計量的函數，則稱其是一個最小充分統計量。即，統計量S(X)是最小充分統計量當且僅當^[2]

1. S(X)是充分統計量，
2. 如果T(X)是一個充分統計量，那麼存在一個函數f 使得 S(X)= f(T(X))。

一個有用的結論指出，當概率密度f_θ存在時，S(X)是最小充分統計量當且僅當

${\displaystyle {\frac {f_{\theta }(x)}{f_{\theta }(y)}}}$ 與θ無關${\displaystyle \Leftrightarrow }$ S(x)= S(y).

這一結論很容易由前述費雪分解定理得出。

巴哈杜爾於1954年發現了一個最小充分統計量不存在的例子。^[3] 然而，在一般的條件下，最小充分統計量總是存在的。

如果至少存在一個最小充分統計量，則每個完備充分統計量都是最小充分統計量^[4]。

註釋

1. Fisher, R.A. On the mathematical foundations of theoretical statistics. Philosophical Transactions of the Royal Society A. 1922, 222: 309–368 [2017-12-25]. JFM 48.1280.02. JSTOR 91208. doi:10.1098/rsta.1922.0009. （原始內容存檔於2017-07-29）.
2. Dodge (2003) — entry for minimal sufficient statistics
3. Lehmann and Casella (1998), Theory of Point Estimation, 2nd Edition, Springer, p 37
4. Lehmann and Casella (1998), Theory of Point Estimation, 2nd Edition, Springer, page 42

參考文獻

• Kholevo, A.S., Sufficient statistic, Hazewinkel, Michiel (編), 数学百科全书, Springer, 2001, ISBN 978-1-55608-010-4
• Lehmann, E. L.; Casella, G. Theory of Point Estimation 2nd. Springer. 1998. Chapter 4. ISBN 0-387-98502-6.
• Dodge, Y. (2003) The Oxford Dictionary of Statistical Terms, OUP. ISBN 0-19-920613-9