累積量

在概率論和統計學中，一個概率分佈的累積量κ_n(英語：Cumulant)是指一系列能夠提供和矩一樣的資訊的量。累積量和隨機變量的矩密切相關。如果兩個隨機變量的各階矩都一樣，那麼它們的累積量也都一樣，反之亦然。

對於隨機變量${\displaystyle X}$而言，一階累積量等於期望值${\displaystyle E(x)}$，二階累積量等於方差${\displaystyle V(x)}$，三階累積量等於三階主動差${\displaystyle S(x)}$，但是四階以及更高階的累積量與同階的主動差並不相等。在某些理論推導中，使用累積量更加方便。特別是當兩個或者更多的隨機變量相互獨立時，它們的 ${\displaystyle n}$階累積量的和等於它們和的${\displaystyle n}$階累積量。另外，服從正態分佈的隨機變量的三階及以上的累積量為${\displaystyle 0}$。

定義

一個隨機變量${\displaystyle X}$的${\displaystyle n}$階累積量${\displaystyle \kappa _{n}}$可以用累積生成函數來定義

${\displaystyle K(t)=\log \mathbb {E} e^{tX}=\sum _{n=1}^{\infty }\kappa _{n}{\frac {t^{n}}{n!}}=:g(t).}$

從上面的觀察可知，累積量可以通過對生成函數${\displaystyle g(t)}$（在0處）進行求導得到。也就是說，累積量是${\displaystyle g(t)}$的麥克勞林級數的系數。

${\displaystyle {\begin{aligned}\kappa _{1}&=g'(0)=\mu '_{1}=\mu ,\\\kappa _{2}&=g''(0)=\mu '_{2}-{\mu '_{1}}^{2}=\sigma ^{2},\\&{}\ \ \vdots \\\kappa _{n}&=g^{(n)}(0),\\&{}\ \ \vdots \end{aligned}}}$

如果使用${\displaystyle X}$（沒有中心化）的${\displaystyle n}$階矩${\displaystyle \mu _{n}^{\prime }=\mathbb {E} (X^{n})}$和矩生成函數則可以定義：

${\displaystyle \mathbb {E} (e^{tX})=1+\sum _{m=1}^{\infty }\mu '_{m}{\frac {t^{m}}{m!}}=e^{g(t)}.}$

使用形式冪級數定義的對數函數：

${\displaystyle {\begin{aligned}g(t)&=\log(\operatorname {E} (e^{tX}))=-\sum _{n=1}^{\infty }{\frac {1}{n}}\left(1-\operatorname {E} (e^{tX})\right)^{n}=-\sum _{n=1}^{\infty }{\frac {1}{n}}\left(-\sum _{m=1}^{\infty }\mu '_{m}{\frac {t^{m}}{m!}}\right)^{n}\\&=\mu '_{1}t+\left(\mu '_{2}-{\mu '_{1}}^{2}\right){\frac {t^{2}}{2!}}+\left(\mu '_{3}-3\mu '_{2}\mu '_{1}+2{\mu '_{1}}^{3}\right){\frac {t^{3}}{3!}}+\cdots .\end{aligned}}}$

隨機變量的累積量和隨機變量的矩密切相關。比如說，隨機變量X有期望值${\displaystyle \scriptstyle \mu =\mathbb {E} (X)}$和方差 ${\displaystyle \scriptstyle \sigma ^{2}=\mathbb {E} \left(|X-\mu |^{2}\right)}$ ，那麼它們也是前兩階的累積量： ${\displaystyle \scriptstyle \mu =\kappa _{1},\,\sigma ^{2}=\kappa _{2}}$。

要注意有時候${\displaystyle n}$階矩會用角括號來表示：${\displaystyle \mu '_{n}=\operatorname {E} (X^{n})=\langle X^{n}\rangle \,}$，累積量則用下標${\displaystyle c}$的角括號表示：${\displaystyle \kappa _{n}=\langle X^{n}\rangle _{c}.\,}$。

如果隨機變量的矩生成函數不存在，那麼可以通過後面對於累積量與矩之間的關係的討論定義累積量。

有些作者^[1][2]偏向於定義累積生成函數為隨機變量的特徵函數誘導的自然對數。這種定義下的累積生成函數也被稱為隨機變量的第二類特徵函數^[3][4]。

${\displaystyle h(t)=\sum _{n=1}^{\infty }\kappa _{n}{\frac {(it)^{n}}{n!}}=\log(\operatorname {E} (e^{itX}))=\mu it-\sigma ^{2}{\frac {t^{2}}{2}}+\cdots .\,}$

統計數學中的應用

使用累積量的一個優勢是它對應的生成函數是加性函數。比如說對兩個獨立的隨機變量${\displaystyle X}$和${\displaystyle Y}$，

${\displaystyle {\begin{aligned}g_{X+Y}(t)&=\log(\operatorname {E} (e^{t(X+Y)}))=\log(\operatorname {E} (e^{tX})\operatorname {E} (e^{tY}))\\&=\log(\operatorname {E} (e^{tX}))+\log(\operatorname {E} (e^{tY}))=g_{X}(t)+g_{Y}(t).\end{aligned}}}$

它們的和的累積量是各自的累積量的和。

一些具體概率分佈的累積量

• 常數${\displaystyle X=\mu }$的累積生成函數是 ${\displaystyle K(t)=\mu t}$。 一階累積量是${\displaystyle \kappa _{1}=K'(0)=\mu }$,其他階的累積量均為0， ${\displaystyle \kappa _{2}=\kappa _{3}=\kappa _{4}=...=0}$。
• 服從伯努利分佈的隨機變量的累積生成函數是 ${\displaystyle K(t)=log(1-p+pe^{t})}$。一階累積量是${\displaystyle \kappa _{1}=K'(0)=p}$，二階累積量是${\displaystyle \kappa _{2}=K''(0)=p(1-p)}$,累積量滿足遞推公式

${\displaystyle \kappa _{n+1}=p(1-p){\frac {d\kappa _{n}}{dp}}.}$

• 服從幾何分佈的隨機變量的累積生成函數是${\displaystyle K(t)=log({\frac {p}{1+(p-1)e^{t}}})}$。 一階累積量是${\displaystyle \kappa _{1}=K'(0)=p^{-1}-1}$，二階累積量是${\displaystyle \kappa _{2}=K''(0)=\kappa _{1}p^{-1}}$。
• 服從泊松分佈的隨機變量的累積生成函數是${\displaystyle K(t)=\mu {e^{t}-1}}$。所有的累積量均等於參數${\displaystyle \mu }$: ${\displaystyle \kappa _{1}=\kappa _{2}=\kappa _{3}=...=\kappa _{n}=\mu }$。
• 服從二項分佈的隨機變量的累積生成函數是${\displaystyle K(t)=nlog(1-p+pe^{t})}$。 一階累積量是${\displaystyle \kappa _{1}=K'(0)=np}$，二階累積量是${\displaystyle \kappa _{2}=K''(0)=\kappa _{1}(1-p)}$。
• 服從負二項分佈的隨機變量的累積生成函數的導數是${\displaystyle K'(t)={\frac {n}{{\frac {1}{(1-p)e^{t}}}-1}}}$。一階累積量是${\displaystyle \kappa _{1}=K'(0)=n({\frac {1}{p}}-1)}$，二階累積量是${\displaystyle \kappa _{2}=K''(0)=\kappa _{1}p^{-1}}$。

相關條目

• 累積量生成函數

參考來源

1. Kendall, M.G., Stuart, A. (1969) The Advanced Theory of Statistics, Volume 1 (3rd Edition). Griffin, London. (Section 3.12)
2. Lukacs, E. (1970) Characteristic Functions (2nd Edition). Griffin, London. (Page 27)
3. Lukacs, E. (1970) Characteristic Functions (2nd Edition). Griffin, London. (Section 2.4)
4. Aapo Hyvarinen, Juha Karhunen, and Erkki Oja (2001) Independent Component Analysis, John Wiley & Sons. (Section 2.7.2)

外部連結

• 埃里克·韋斯坦因. Cumulant. MathWorld.
• （英文）累積量 （頁面存檔備份，存於互聯網檔案館）：一些數學術語的早期使用