Markov Chain Monte Carlo

Échantillonneur de Gibbs

L'algorithme permet de générer un échantillon issu d'une distribution jointe lorsque celle-ci est difficile à simuler sous des techniques standards.
Cette procédure simule des variables à partir de la distribution conditionnelle de chaque variable sachant les autres paramètres et les données observées.
Ainsi, pour simuler une loi f(θ) avec θ = (θ₁,..,θ_p) avec des données x, l’échantillonneur de Gibbs se décrit ci-dessous.

En répétant N fois les étapes ci-dessus et en prenant l’espérance on obtient la valeur estimée moyenne probable pour le paramètre θ_p. On remarque que seules les lois conditionnelles sont utilisées pour les simulations. Ainsi, même pour un problème de grande dimension, toutes ses simulations sont univariées.

Metropolis-Hasting

L'algorithme permet de tirer aléatoirement un élément de Ω selon la loi π (la distribution stationnaire).
Il  fonctionne comme une marche aléatoire en utilisant une loi de probabilité q pour choisir une nouvelle position probable de x donnée par q(x|x^(i-1) ).
La probabilité p(xⁱ = x|x^(i-1) ) pour que la marche se déplace en x en i  (xⁱ  = x) est définie par

Si q(x|x^(i-1) )=q(x^(i-1)|x ), on a une probabilité de 1 que xⁱ se déplace en x si π (x)> π (x^(i-1)).

Pour aller plus loin...