Ero sivun ”Bayesiläinen tilastotiede” versioiden välillä

p
siistiminen, typos fixed: hierarki → hierarkki using AWB
[katsottu versio][katsottu versio]
p (siistiminen, typos fixed: hierarki → hierarkki using AWB)
Priorijakauma on ennakkokäsitys tuntemattomasta <math>\boldsymbol{\theta}</math>, ja usein se riippuu hyperparametreistä <math>\boldsymbol{\eta}</math>. Priori voidaan esittää jakaumana <math>p(\boldsymbol{\theta}|\boldsymbol{\eta})</math>.
==== Konjugaattipriori ====
Jos priori valitaan siten, että se kuuluu samaan jakaumaperheeseen posteriorijakauman kanssa, sitä kutsutaan konjugaattiprioriksi. Tällöin syntyy myös laskennallisesti mukavampi tilanne. Jos havaintojen yhteisjakauma kuuluu exponenttiseen perheeseen, aina on olemassa konjugaattipriori (Morris, 1983). <ref>{{Lehtiviite
| Tekijä = Morris, Carl N.| Otsikko = Natural exponential families with quadratic variance functions: Statistical theory| Julkaisu = The Annals of Statistics
| Ajankohta = 1983| Numero = 2
:<math>\boldsymbol{\theta} \sim N(\hat{\boldsymbol{\theta}},I(\hat{\boldsymbol{\theta}})^{-1})</math>, missä
<math>\hat{\boldsymbol{\theta}}</math> on suurimman uskottavuuden estimaatti ja <math>I(\hat{\boldsymbol{\theta}})</math> on havaittu informaatio(matriisi).
Muita keinoja approksimoida posteriorijakaumaa ovat numeerinen integrointi, posteriorijakauman integraalin laskeminen Laplace'n menetelmällä ja Markovin ketju Monte Carlo -simulointi.
 
== Posteriorijakauman simulointi MCMC-menetelmällä ==
 
Posteriorijakauman ratkaisemiseen, erityisesti monimutkaisissa ja hierarkisissahierarkkisissa malleissa, joudutaan usein käyttämään MCMC-menetelmää eli [[Markovin ketju]] [[Monte Carlo -simulaatio|Monte Carlo]] -menetelmää. Menetelmän idea:
Kun oletetaan, että <math>\lim_{n\to\infty}p(\theta^n=\theta) = \pi(\theta)</math> jakaumasta <math>\pi(\theta)</math> riippumatta, niin voidaan edetä seuraavasti:
# Valitaan alkutila <math>\theta^0</math>.
# Ehdotetaan <math>\theta^{n+1}</math>:n arvoksi arvoa <math>\theta'</math> symmetrisestä ehdotusjakaumasta <math>q(\theta'|\theta^n)</math>. Ehdotus hyväksytään todennäköisyydellä:
:<math>\alpha_M=min\left\{1,\frac{p(\theta'|y)}{p(\theta^n|y)}\right\}</math>. Jos ehdotus hyväksytään, <math>\theta^{n+1}=\theta'</math>, muuten <math>\theta^{n+1}=\theta^n</math>.
 
 
Toinen tapa konstruoida ketjua, on Gibbsin algoritmi:
10 638

muokkausta