矩生成函數

在概率論和統計學中，一個實數值隨機變量的動差母函數（moment-generating function）又稱動差生成函數，動差亦被稱作矩，矩生成函數是其概率分佈的一種替代規範。 因此，與直接使用概率密度函數或累積分佈函數相比，它為分析結果提供了替代途徑的基礎。 對於由隨機變量的加權和定義的分佈的矩生成函數，有特別簡單的結果。 然而，並非所有隨機變量都具有矩生成函數。

顧名思義，矩生成函數可用於計算分佈的矩：關於 0 的第${\displaystyle n}$個矩是矩生成函數的第${\displaystyle n}$階導數，在 0 處求值。

除了實值分佈（單變量分佈），矩生成函數可以定義為向量或矩陣值的隨機變量，甚至可以擴展到更一般的情況。

與特徵函數不同，一個實數值分佈的矩生成函數並不總是存在。 分佈的矩生成函數的行為與分佈的性質之間存在關係，例如矩的存在。

定義

隨機變數${\displaystyle X}$的動差母函數定義為：

${\displaystyle M_{X}(t)=\mathbb {E} \left(e^{tX}\right),\quad t\in \mathbb {R} }$

前提是這個期望值存在。

計算

如果${\displaystyle X}$具有連續概率密度函數${\displaystyle f(x)}$，則它的動差母函數由下式給出：

${\displaystyle M_{X}(t)=\int _{-\infty }^{\infty }e^{tx}f(x)\,\mathrm {d} x}$

${\displaystyle =\int _{-\infty }^{\infty }\left(1+tx+{\frac {t^{2}x^{2}}{2!}}+\cdots \right)f(x)\,\mathrm {d} x}$

${\displaystyle =1+tm_{1}+{\frac {t^{2}m_{2}}{2!}}+\cdots }$

其中${\displaystyle m_{i}}$是第${\displaystyle i}$階矩。${\displaystyle M_{X}(-t)}$是${\displaystyle f(x)}$的雙邊拉普拉斯變換。

不管概率分布是不是連續，矩生成函數都可以用黎曼-斯蒂爾吉斯積分給出：

${\displaystyle M_{X}(t)=\int _{0}^{1}e^{tx}\,dF(x)}$

其中${\displaystyle F}$是累積分布函數。

如果${\displaystyle X_{1},X_{2},\ldots ,X_{n}}$是一系列獨立的隨機變量，且

${\displaystyle S_{n}=\sum _{i=1}^{n}a_{i}X_{i}}$

其中${\displaystyle a_{i}}$是常數，則${\displaystyle S_{n}}$的概率密度函數是每一個${\displaystyle X_{i}}$的概率密度函數的卷積，而${\displaystyle S_{n}}$的矩生成函數則為：

${\displaystyle M_{S_{n}}(t)=M_{X_{1}}(a_{1}t)M_{X_{2}}(a_{2}t)\cdots M_{X_{n}}(a_{n}t)}$　。

對於分量為實數的向量值隨機變量X，矩生成函數為：

${\displaystyle M_{X}(\mathbf {t} )=\operatorname {E} \left(e^{\langle \mathbf {t} ,\mathbf {X} \rangle }\right)}$

其中${\displaystyle \mathbf {t} }$是一個向量，${\displaystyle \langle \mathbf {t} ,\mathbf {X} \rangle }$ 是數量積。

意義

只要矩生成函數在${\displaystyle t=0}$周圍的開區間存在，第${\displaystyle n}$個矩為：

${\displaystyle \operatorname {\mathbb {E} } \left(X^{n}\right)=M_{X}^{(n)}(0)=\left.{\frac {\mathrm {d} ^{n}M_{X}(t)}{\mathrm {d} t^{n}}}\right|_{t=0}}$　。

如果矩生成函數在這個區間內是有限的，則它唯一決定了一個概率分布。

一些其它在概率論中常見的積分變換也與矩生成函數有關，包括特徵函數以及概率生成函數。

累積量生成函數是矩生成函數的對數。

例子

下面是一些矩生成函數和特徵函數的例子，用於比較。 可以看出，特徵函數是矩生成函數${\displaystyle M_{X}(t)}$存在時的威克轉動（Wick rotation）。

分布	矩生成函數 ${\displaystyle M_{X}(t)}$	特徵函數 ${\displaystyle \varphi (t)}$
退化 ${\displaystyle \delta _{a}}$	${\displaystyle e^{ta}}$	${\displaystyle e^{ita}}$
伯努利 ${\displaystyle P(X=1)=p}$	${\displaystyle 1-p+pe^{t}}$	${\displaystyle 1-p+pe^{it}}$
幾何 ${\displaystyle (1-p)^{k-1}\,p}$	${\displaystyle {\frac {pe^{t}}{1-(1-p)e^{t}}}}$ ${\displaystyle \forall t<-\ln(1-p)}$	${\displaystyle {\frac {pe^{it}}{1-(1-p)\,e^{it}}}}$
二項式 ${\displaystyle B(n,p)}$	${\displaystyle \left(1-p+pe^{t}\right)^{n}}$	${\displaystyle \left(1-p+pe^{it}\right)^{n}}$
負二項 ${\displaystyle \operatorname {NB} (r,p)}$[註 1]	${\displaystyle \left({\frac {p}{1-e^{t}+pe^{t}}}\right)^{r},t<-\log(1-p)}$[1]	${\displaystyle \left({\frac {p}{1-e^{it}+pe^{it}}}\right)^{r}}$
卜瓦松 ${\displaystyle \operatorname {Pois} (\lambda )}$	${\displaystyle e^{\lambda (e^{t}-1)}}$	${\displaystyle e^{\lambda (e^{it}-1)}}$
均勻(連續型) ${\displaystyle \operatorname {U} (a,b)}$	${\displaystyle {\frac {e^{tb}-e^{ta}}{t(b-a)}}}$	${\displaystyle {\frac {e^{itb}-e^{ita}}{it(b-a)}}}$
均勻(離散型) ${\displaystyle \operatorname {DU} (a,b)}$	${\displaystyle {\frac {e^{at}-e^{(b+1)t}}{(b-a+1)(1-e^{t})}}}$	${\displaystyle {\frac {e^{ait}-e^{(b+1)it}}{(b-a+1)(1-e^{it})}}}$
拉普拉斯 ${\displaystyle L(\mu ,b)}$	${\displaystyle {\frac {e^{t\mu }}{1-b^{2}t^{2}}},~\left\vert t\right\vert <{\frac {1}{b}}}$	${\displaystyle {\frac {e^{it\mu }}{1+b^{2}t^{2}}}}$
正態 ${\displaystyle N(\mu ,\sigma ^{2})}$	${\displaystyle e^{t\mu +{\frac {1}{2}}\sigma ^{2}t^{2}}}$	${\displaystyle e^{it\mu -{\frac {1}{2}}\sigma ^{2}t^{2}}}$
卡方(Chi-squared) ${\displaystyle \chi _{k}^{2}}$	${\displaystyle (1-2t)^{-{\frac {k}{2}}}}$	${\displaystyle (1-2it)^{-{\frac {k}{2}}}}$
Noncentral chi-squared ${\displaystyle \chi _{k}^{2}(\lambda )}$	${\displaystyle e^{\frac {\lambda t}{1-2t}}(1-2t)^{-{\frac {k}{2}}}}$	${\displaystyle e^{i\lambda t/(1-2it)}(1-2it)^{-{\frac {k}{2}}}}$
伽瑪(Gamma) ${\displaystyle \Gamma (k,\theta )}$	${\displaystyle (1-t\theta )^{-k},~\forall t<{\tfrac {1}{\theta }}}$	${\displaystyle (1-it\theta )^{-k}}$
指數(Exponential) ${\displaystyle \operatorname {Exp} (\lambda )}$	${\displaystyle \left(1-t\lambda ^{-1}\right)^{-1},~t<\lambda }$	${\displaystyle \left(1-it\lambda ^{-1}\right)^{-1}}$
多元正態 ${\displaystyle N(\mathbf {\mu } ,\mathbf {\Sigma } )}$	${\displaystyle e^{\mathbf {t} ^{\mathrm {T} }\left({\boldsymbol {\mu }}+{\frac {1}{2}}\mathbf {\Sigma t} \right)}}$	${\displaystyle e^{\mathbf {t} ^{\mathrm {T} }\left(i{\boldsymbol {\mu }}-{\frac {1}{2}}{\boldsymbol {\Sigma }}\mathbf {t} \right)}}$
柯西(Cauchy) ${\displaystyle \operatorname {Cauchy} (\mu ,\theta )}$	不存在	${\displaystyle e^{it\mu -\theta |t|}}$
Multivariate Cauchy ${\displaystyle \operatorname {MultiCauchy} (\mu ,\Sigma )}$[2]	不存在	${\displaystyle \!\,e^{i\mathbf {t} ^{\mathrm {T} }{\boldsymbol {\mu }}-{\sqrt {\mathbf {t} ^{\mathrm {T} }{\boldsymbol {\Sigma }}\mathbf {t} }}}}$

參見

• 主動差
• 動差
• 階乘矩生成函數
• 速率函數

註

1. 此處定義為：每次獨立隨機試驗的成功率為${\displaystyle p}$時，第${\displaystyle r}$次成功前的失敗次數的分佈。定義上的差異詳見負二項分布。

參考文獻

1. Weisstein, Eric W. (編). Wolfram MathWorld (首頁). at MathWorld--A Wolfram Web Resource. Wolfram Research, Inc. [2022-11-21] （英語）.式(11)。
2. Kotz et al.^{[需要完整來源]} p. 37 using 1 as the number of degree of freedom to recover the Cauchy distribution