Théorème de Cochran

En mathématiques, plus précisément en théorie des probabilités, le théorème de Cochran concerne la projection d'un vecteur aléatoire gaussien sur des sous-espaces vectoriels orthogonaux de dimensions finies^[1]. Il établit la loi et l'indépendance de ces projections et de leurs normes euclidiennes. Ce théorème est utilisé en statistique pour justifier la convergence en loi de tests statistiques et est l'argument clé pour des résultats de base du modèle linéaire.

Énoncé du théorème

La version générale de ce théorème est la suivante :

Théorème de Cochran — Soient X un vecteur aléatoire gaussien de ${\displaystyle \mathbb {R} ^{n}}$ de loi ${\displaystyle {\mathcal {N}}(\mu ,\sigma ^{2}\mathrm {Id} _{n})}$ (où ${\displaystyle \mu \in \mathbb {R} ^{n}}$, σ > 0 et Id_n est la matrice identité de taille n), ainsi que F₁, ..., F_m des sous-espaces vectoriels de ${\displaystyle \mathbb {R} ^{n}}$, orthogonaux deux à deux et de somme ${\displaystyle \mathbb {R} ^{n}}$.

Alors, si l'on note pour 1 ≤ i ≤ m, P_Fi la matrice de la projection orthogonale sur F_i et d_i la dimension de F_i :

• les vecteurs aléatoires P_F1X, ...,P_FmX sont deux à deux indépendants et de lois respectives ${\displaystyle {\mathcal {N}}(P_{F_{1}}\mu ,\sigma ^{2}P_{F_{1}}),\ldots ,{\mathcal {N}}(P_{F_{m}}\mu ,\sigma ^{2}P_{F_{m}})}$ ;
• les variables aléatoires réelles ${\displaystyle {\frac {\|P_{F_{1}}(X-\mu )\|^{2}}{\sigma ^{2}}},\ldots ,{\frac {\|P_{F_{m}}(X-\mu )\|^{2}}{\sigma ^{2}}}}$ sont deux-à-deux indépendantes et sont de lois respectives χ²(d₁), ...,χ²(d_m).

Une version simplifiée mais équivalente est l'énoncé suivant :

Théorème de Cochran (simplifié) — Soit X un vecteur aléatoire gaussien de ${\displaystyle \mathbb {R} ^{n}}$ de loi ${\displaystyle {\mathcal {N}}(0_{\mathbb {R} ^{n}},\mathrm {Id} _{n})}$ et F un sous-espace vectoriel de ${\displaystyle \mathbb {R} ^{n}}$ de dimension d, F^⊥ son orthogonal et P_F,P_F^⊥ les matrices des projections orthogonales sur F, F^⊥. Alors :

• les vecteurs aléatoires P_FX,P_F^⊥X sont indépendants et de lois respectives ${\displaystyle {\mathcal {N}}(0_{\mathbb {R} ^{n}},P_{F}),{\mathcal {N}}(0_{\mathbb {R} ^{n}},P_{F^{\perp }})}$ ;
• les variables aléatoires réelles |P_FX|²,|P_F^⊥X|² sont indépendantes et de lois respectives χ²(d),χ²(n – d).

Démonstration

On peut passer de la version simplifiée à la version générale du théorème en appliquant une récurrence sur le nombre de sous-espaces vectoriels (qui interviennent dans l'énoncé) et en effectuant le changement de variable ${\displaystyle X'={\frac {X-\mu }{\sigma }}\sim {\mathcal {N}}(0_{\mathbb {R} ^{n}},\mathrm {Id} _{n})}$. Il suffit donc de démontrer la version simplifiée.

On note ${\displaystyle Y=\left({\begin{matrix}P_{F}X\\P_{F^{\perp }}X\end{matrix}}\right)=AX}$ avec ${\displaystyle A=\left({\begin{matrix}P_{F}\\P_{F^{\perp }}\end{matrix}}\right)\in {\mathcal {M}}_{2n,n}(\mathbb {R} )}$. Alors ${\displaystyle Y\sim {\mathcal {N}}(0_{\mathbb {R} ^{2n}},AA^{t})}$ et par conséquent, P_FX et P_F^⊥X sont des vecteurs gaussiens. On a ${\displaystyle AA^{t}=\left({\begin{matrix}P_{F}&0\\0&P_{F^{\perp }}\end{matrix}}\right)}$ . En effet :

• ${\displaystyle P_{F}\circ P_{F}=P_{F}}$ car ${\displaystyle P_{F}}$ est une projection
• ${\displaystyle P_{F^{\perp }}\circ P_{F^{\perp }}=P_{F^{\perp }}}$car ${\displaystyle P_{F^{\perp }}}$ est une projection
• ${\displaystyle P_{F}\circ P_{F^{\perp }}=P_{F^{\perp }}\circ P_{F}=0}$ car ${\displaystyle F}$ et ${\displaystyle F^{\perp }}$sont orthogonaux.

Ainsi, comme ${\displaystyle AA^{t}}$ est diagonale par blocs, les vecteurs aléatoires P_FX et P_F^⊥X sont indépendants et ont pour lois respectives ${\displaystyle {\mathcal {N}}(0_{\mathbb {R} ^{n}},P_{F})}$ et ${\displaystyle {\mathcal {N}}(0_{\mathbb {R} ^{n}},P_{F^{\perp }})}$.

Pour la norme de la projection, il suffit de prendre (u₁,...,u_d) une base orthonormée de F et (u_{d + 1},...,u_n) une base orthonormée de F^⊥. Alors

${\displaystyle ||P_{F}X||^{2}=\sum _{i=1}^{d}\langle X,u_{i}\rangle ^{2}\qquad {\text{ et }}\qquad ||P_{F^{\perp }}X||^{2}=\sum _{i=d+1}^{n}\langle X,u_{i}\rangle ^{2}.}$

On écrit ${\displaystyle (\langle X,u_{i}\rangle )_{1\leq i\leq n}=U^{t}X}$ avec U la matrice de passage de la base canonique à la base (u₁,...,u_n). Ainsi ${\displaystyle U^{t}X\sim {\mathcal {N}}(0_{\mathbb {R} ^{n}},U\mathrm {Id} _{n}U^{t})={\mathcal {N}}(0_{\mathbb {R} ^{n}},\mathrm {Id} _{n})}$ car U est orthogonale. Donc les variables aléatoires ${\displaystyle \langle X,u_{i}\rangle }$ sont normales centrées et puisque la matrice de covariance ${\displaystyle \mathrm {Id} _{n}}$ est diagonale elles sont indépendantes. Par définition de la loi du χ²,

${\displaystyle ||P_{F}X||^{2}\sim \chi ^{2}(d)\qquad {\text{ et }}\qquad ||P_{F^{\perp }}X||^{2}\sim \chi ^{2}(n-d)}$.

Applications

Estimateur non biaisé de la variance

On se donne un échantillon X = (X₁,...,X_n)^T de loi normale ${\displaystyle {\mathcal {N}}(\mu ,\sigma ^{2})}$. On note la moyenne empirique ${\displaystyle {\overline {X}}_{n}={\frac {1}{n}}(X_{1}+...+X_{n})={\frac {1}{n}}\sum _{i=1}^{n}X_{i}}$ et la variance empirique non biaisée ${\displaystyle {\widetilde {S}}_{n}^{2}={\frac {1}{n-1}}\left((X_{1}-{\overline {X}}_{n})^{2}+...+(X_{n}-{\overline {X}}_{n})^{2}\right)={\frac {1}{n-1}}\sum _{i=1}^{n}(X_{i}-{\overline {X}}_{n})^{2}.}$ Alors

${\displaystyle {\frac {(n-1)}{\sigma ^{2}}}{\widetilde {S}}_{n}^{2}={\frac {1}{\sigma ^{2}}}\left((X_{1}-{\overline {X}}_{n})^{2}+...+(X_{n}-{\overline {X}}_{n})^{2}\right)\sim \chi ^{2}(n-1).}$

Remarque : on a perdu un degré pour la loi du khi deux.

Démonstration

On applique le théorème de Cochran avec le sous-espace vectoriel F = Vect(1_n) (où 1_n est le vecteur colonne de ${\displaystyle \mathbb {R} ^{n}}$ constitué uniquement de 1) au vecteur aléatoire Y = 1/σ(X₁ – μ, ..., X_n – μ)^t = 1/σ(X – μ1_n) de loi ${\displaystyle {\mathcal {N}}(0_{\mathbb {R} ^{n}},\mathrm {Id} _{n})}$.

• La matrice de projection sur F est P_F = 1_n (1t
  n 1_n)⁻¹ 1t
  n = 1/n 1_n 1t
  n et celle sur F^⊥ est par conséquent P_F^⊥ = Id_n – P_F.
• La projection de Y sur F est

P_FY = 1/σ(P_FX – μ P_F1_n) = 1/σ(X_n – μ, ..., X_n – μ)^t.

• La projection de Y sur ${\displaystyle F^{\bot }}$ est ${\displaystyle P_{F^{\perp }}Y=Y-P_{F}Y={\frac {1}{\sigma }}(X_{1}-{\overline {X}}_{n},\dots ,X_{n}-{\overline {X}}_{n})^{t}}$.

D'après le théorème de Cochran, ${\displaystyle ||P_{F^{\perp }}Y||^{2}={\frac {(n-1)}{\sigma ^{2}}}{\widetilde {S}}_{n}^{2}\sim \chi ^{2}(n-1)}$.

Test du khi deux

Le théorème de Cochran permet d'établir la convergence en loi de certains tests statistiques. C'est le cas du test d'adéquation ou le test d'indépendance. Il est aussi utilisé dans le cadre du modèle linéaire pour obtenir l'indépendance de ${\displaystyle {\widehat {\beta }}}$ et de ${\displaystyle {\widehat {\sigma }}^{2}}$ et le fait que ${\displaystyle {\frac {n-p}{{\sigma }^{2}}}{\widehat {\sigma }}^{2}}$ est de loi χ²(n – p) où p – 1 est le nombre de variables.

Notes et références

1. « Théorème de Cochran et applications en statistiques » [PDF], sur perso.univ-rennes1 (consulté le 22 mars 2015)

Voir aussi

Articles connexes

• Loi normale
• Vecteur aléatoire
• Test du χ²
• Modèle linéaire
• William Cochran

Lien externe

• Le théorème et ses applications

• Portail des mathématiques
• Portail des probabilités et de la statistique