Processus gaussien

En théorie des probabilités et en statistiques, un processus gaussien est un processus stochastique (une collection de variables aléatoires avec un index temporel ou spatial) de telle sorte que chaque collection finie de ces variables aléatoires suit une loi normale multidimensionnelle ; c'est-à-dire que chaque combinaison linéaire est normalement distribuée. La distribution d'un processus gaussien est la loi jointe de toutes ces variables aléatoires. Ses réalisations sont donc des fonctions avec un domaine continu.

Définition

Un processus stochastique X sur un ensemble de sites S est dit gaussien si, pour toute partie finie A⊂S et toute suite réelle (a) sur A, ${\displaystyle \sum _{s\in A}a_{s}X_{s}}$ est une variable gaussienne, autrement dit si ${\displaystyle (X_{s})_{s\in A}}$ est un vecteur gaussien.

De ce fait, la loi d'un processus gaussien est entièrement déterminée par sa fonction moyenne ${\displaystyle m(t)\ =\ \mathbb {E} [X_{t}]}$ et son opérateur de covariance ${\displaystyle K(s,t)\ =\ Cov(X_{s},X_{t})}$^[1].

Posant m_A et Σ_A la moyenne et la covariance de X sur A, si Σ_A est inversible, alors X_A = (X_s,s∈A) admet pour densité (ou vraisemblance) par rapport à la mesure de Lebesgue sur ℝ^card(A) : ${\displaystyle f_{A}\left(x_{A}\right)=\left(2\operatorname {\pi } \right)^{-{\frac {\operatorname {card} \left(A\right)}{2}}}\left(\operatorname {det} \Sigma _{A}\right)^{-{\frac {1}{2}}}\operatorname {exp} \left(-{\frac {1}{2}}\left(x_{A}-m_{A}\right)^{\operatorname {T} }{\Sigma _{A}}^{-1}\left(x_{A}-m_{A}\right)\right)}$

Processus gaussien en régression

Les méthodes par processus gaussien peuvent être utilisées dans les problèmes de régression.

Le résultat principal intervient lorsque l'on cherche à estimer une fonction ${\displaystyle f:\chi \to \mathbb {R} }$ dont on a observe ${\displaystyle n}$ réalisations ${\displaystyle (x_{i},f_{i})_{i\in \{1,...,n\}}}$, on note ${\displaystyle X={\begin{pmatrix}x_{1}\\...\\x_{n}\end{pmatrix}}}$. On peut modéliser la fonction ${\displaystyle f}$ par un processus gaussien ${\displaystyle Y}$ de moyenne ${\displaystyle m}$ et de fonction de covariance ${\displaystyle K}$ qui vérifie ${\displaystyle Y(x_{i})=f_{i}}$. Pour ${\displaystyle n^{*}}$nouveau point de l'espace de départ ${\displaystyle \chi }$ on note ${\displaystyle X^{*}={\begin{pmatrix}x_{1}^{*}\\...\\(x_{n^{*}})^{*}\end{pmatrix}}}$ et on a:

${\displaystyle {\begin{pmatrix}Y(X)\\Y(X^{*})\end{pmatrix}}\sim {\mathcal {N}}{\biggl (}{\begin{pmatrix}m(X)\\m(X^{*})\end{pmatrix}},{\begin{pmatrix}K(X,X)&K(X,X^{*})\\K(X^{*},X)&K(X^{*},X^{*})\end{pmatrix}}{\Biggr )}}$^[2].

Voir aussi

• Processus de Gauss

Références

1. Jean-christophe.breton, « Processus Gaussiens »
2. (en) Carl Edward Rasmussen et Christopher K. I. Williams, Gaussian processes for machine learning, MIT Press, coll. « Adaptive computation and machine learning », 2008 (ISBN 978-0-262-18253-9), chap. 2 (« Regression »), p. 7

• Portail des probabilités et de la statistique