Markov Chain Monte Carlo (MCMC) è un metodo computazionale basato sulla simulazione impiegato in un'ampia varietà di settori come la fisica, la biologia e l'ingegneria civile, ecc. Il metodo si basa sul campionamento casuale delle possibili risposte a un dato problema fino a quando non si trova una soluzione vicina abbastanza per ottenere la risposta desiderata.
L'MCMC è stato proposto per la prima volta da Andrei Andreevich Markov all'inizio del XX secolo come mezzo per modellare un processo stocastico. L'idea di base è costruire una catena di Markov composta da un gran numero di possibili stati e usarla per esplorare lo spazio di probabilità del problema. Ad ogni stato viene assegnata una certa probabilità e campionando casualmente i possibili stati si ottiene una soluzione.
MCMC è un metodo popolare in statistica ed è stato ampiamente utilizzato nell’analisi bayesiana dalla metà degli anni ’50. L'idea di base di MCMC è quella di estrarre campioni dalla distribuzione a posteriori dei parametri di interesse per fare inferenze. Questo viene fatto costruendo una catena di Markov con una distribuzione stazionaria che si avvicina alla distribuzione a posteriori. I campioni ottenuti dalla catena possono essere utilizzati per stimare i parametri e fare inferenze sul processo sottostante.
Oltre ad essere una tecnica potente in statistica, l'MCMC è stata applicata anche all'informatica. È stato utilizzato per l'ottimizzazione bayesiana, che è il processo di ottimizzazione di un insieme di parametri minimizzando il valore atteso di una funzione obiettivo. MCMC è stato utilizzato anche nell'intelligenza artificiale e nell'apprendimento automatico, dove è stato utilizzato per approssimare probabilità intrattabili.
Nel complesso, Markov Chain Monte Carlo (MCMC) è un potente metodo basato sulla simulazione che viene utilizzato in un'ampia varietà di aree per ottenere soluzioni approssimate a problemi complessi. È una tecnica popolare in statistica e, più recentemente, anche in informatica. Il metodo è particolarmente utile per approssimare probabilità intrattabili e può essere utilizzato per l'ottimizzazione bayesiana e altre attività di apprendimento automatico.