Në statistikën matematikore, informacioni i Fisherit (nganjëherë i quajtur thjesht informacion [1] ) është një mënyrë për të matur sasinë e informacionit që një ndryshore e rastësishme e vëzhgueshme
mbart për një parametër të panjohur
të një shpërndarjeje që modelon
. Formalisht, është varianca e rezultatit, ose pritja matematike e informacionit të vëzhguar .
Roli i informacionit të Fisherit në teorinë asimptotike të vlerësimit të përgjasisë maksimale u theksua nga statisticieni Ronald Fisher (pas disa rezultateve fillestare nga Francis Ysidro Edgeworth ). Matrica e informacionit Fisher përdoret për të llogaritur matricat e kovariancës të lidhura me vlerësimet e përgjasisë maksimale . Mund të përdoret gjithashtu në formulimin e statistikave të testimit, siç është testi Wald .
Sistemet statistikore të natyrës shkencore (fizike, biologjike, etj.) funksionet e përgjasisë të së cilave i binden invariancës së zhvendosjes, është treguar se i binden informacionit maksimal të Fisherit. [2] Niveli i maksimumit varet nga natyra e kufizimeve të sistemit.
Informacioni i Fisherit është një mënyrë për të matur sasinë e informacionit që një ndryshore e rastit e vëzhgueshme
mbart një parametër të panjohur
mbi të cilën probabiliteti i
varet. Le
të jetë funksioni i dendësisë së probabilitetit (ose funksioni i masës së probabilitetit ) për
të kushtëzuara nga vlera e
. Ai përshkruan probabilitetin që ne të vëzhgojmë një rezultat të caktuar
, duke pasur parasysh një vlerë të njohur të
. Nëse
është me kulm të mprehtë në lidhje me ndryshimet në
, është e lehtë të tregohet vlera "e saktë" e
nga të dhënat, ose në mënyrë të njëvlershme, që e dhëna
jep shumë informacion në lidhje me parametrin
. Nëse
është i sheshtë dhe i shtrirë, atëherë do të duheshin shumë popullime të
për të vlerësuar vlerën e tanishme "të vërtetë" të
që do të përftoheshin duke përdorur të gjithë popullatën që po ekzaminohet. Kjo sugjeron studimin e një lloj variance në lidhje me
.
Formalisht, derivati i pjesshëm në lidhje me
i logaritmit natyror të funksionit të përgjasisë quhet pikë . Në kushte të caktuara rregullsie, nëse
është parametri i vërtetë (d.m.th
në fakt shpërndahet si
), mund të tregohet se vlera e pritur ( momenti i parë ) i rezultatit, e vlerësuar me vlerën e vërtetë të parametrit
, është 0: [3]
![{\displaystyle {\begin{aligned}\operatorname {E} \left[\left.{\frac {\partial }{\partial \theta }}\log f(X;\theta )\,\,\right|\,\,\theta \right]={}&\int _{\mathbb {R} }{\frac {{\frac {\partial }{\partial \theta }}f(x;\theta )}{f(x;\theta )}}f(x;\theta )\,dx\\[6pt]={}&{\frac {\partial }{\partial \theta }}\int _{\mathbb {R} }f(x;\theta )\,dx\\[6pt]={}&{\frac {\partial }{\partial \theta }}1\\[6pt]={}&0.\end{aligned}}}](//wikimedia.org/api/rest_v1/media/math/render/svg/5fbbd3c291802a2edc6a1a7a3c80a73e0f0f4f33)
Informacioni Fisher është përcaktuar të jetë varianca e rezultatit: [4]
![{\displaystyle {\mathcal {I}}(\theta )=\operatorname {E} \left[\left.\left({\frac {\partial }{\partial \theta }}\log f(X;\theta )\right)^{2}\,\,\right|\,\,\theta \right]=\int _{\mathbb {R} }\left({\frac {\partial }{\partial \theta }}\log f(x;\theta )\right)^{2}f(x;\theta )\,dx,}](//wikimedia.org/api/rest_v1/media/math/render/svg/5b42c307d86cd82e445114a38d89f7ae7fead52e)
Vini re se
. Një ndryshore e rastit që përmban informacion të lartë Fisher nënkupton që vlera absolute e pikësimit/rezultatit është shpesh e lartë. Informacioni Fisher nuk është një funksion i një vëzhgimi të veçantë, pasi ndryshorja e rastit
është vlerësuar mesatarisht.
Nëse
është dy herë i diferencueshëm në lidhje me
, dhe në kushte të caktuara rregullsie, atëherë informacioni i Fisherut mund të shkruhet gjithashtu si [5]
![{\displaystyle {\mathcal {I}}(\theta )=-\operatorname {E} \left[\left.{\frac {\partial ^{2}}{\partial \theta ^{2}}}\log f(X;\theta )\,\,\right|\,\,\theta \right],}](//wikimedia.org/api/rest_v1/media/math/render/svg/2f4a712be0daeddf988106967a54e2e6611ce944)
meqënëse
![{\displaystyle {\frac {\partial ^{2}}{\partial \theta ^{2}}}\log f(X;\theta )={\frac {{\frac {\partial ^{2}}{\partial \theta ^{2}}}f(X;\theta )}{f(X;\theta )}}-\left({\frac {{\frac {\partial }{\partial \theta }}f(X;\theta )}{f(X;\theta )}}\right)^{2}={\frac {{\frac {\partial ^{2}}{\partial \theta ^{2}}}f(X;\theta )}{f(X;\theta )}}-\left({\frac {\partial }{\partial \theta }}\log f(X;\theta )\right)^{2}}](//wikimedia.org/api/rest_v1/media/math/render/svg/4030ceb221f734b2a3df859b8741065fcefd0522)
dhe
![{\displaystyle \operatorname {E} \left[\left.{\frac {{\frac {\partial ^{2}}{\partial \theta ^{2}}}f(X;\theta )}{f(X;\theta )}}\,\,\right|\,\,\theta \right]={\frac {\partial ^{2}}{\partial \theta ^{2}}}\int _{\mathbb {R} }f(x;\theta )\,dx=0.}](//wikimedia.org/api/rest_v1/media/math/render/svg/d9e7505e316da7c8bb315d02a9c23ada23428134)
Lehmann & Casella, p. 115
Lehmann & Casella, eq. (2.5.16), Lemma 5.3, p.116.