費雪訊息

數理統計學中，費希爾信息（英語：Fisher Information；有時稱作 information^[1]），或稱費雪訊息數，通常記作${\displaystyle {\mathcal {I}}_{X}(\theta )}$，是衡量觀測所得的隨機變量${\displaystyle X}$攜帶的關於未知母數${\displaystyle \theta }$的訊息量，其中${\displaystyle X}$的概率分布依賴於母數${\displaystyle \theta }$。費希爾信息由統計學家羅納德·費希爾在弗朗西斯·伊西德羅·埃奇沃思工作的基礎上提出，現常用於最大似然估計和貝葉斯統計學中。

定義

隨機變量${\displaystyle X}$的費希爾訊息定義為

${\displaystyle {\mathcal {I}}(\theta )=\operatorname {E} \left[\left.\left({\frac {\partial {\mathcal {L}}}{\partial \theta }}\right)^{2}\right|\theta \right]=-\operatorname {E} \left[\left.{\frac {\partial ^{2}{\mathcal {L}}}{\partial \theta ^{2}}}\right|\theta \right]}$

其中${\displaystyle {\mathcal {L}}(X;\theta )}$是${\displaystyle X}$關於母數${\displaystyle \theta }$的對數似然函數，當${\displaystyle X}$的概率密度函數${\displaystyle f(X;\theta )}$已知時

${\displaystyle {\mathcal {L}}(X;\theta )=\ln f(X;\theta )}$

註釋

1. Lehmann & Casella, p. 115