Ero sivun ”Bayesiläinen tilastotiede” versioiden välillä

[katsottu versio][katsottu versio]
Poistettu sisältö Lisätty sisältö
Usp (keskustelu | muokkaukset)
SeeggeAWBBot (keskustelu | muokkaukset)
p siistiminen, typos fixed: hierarki → hierarkki using AWB
Rivi 35:
Priorijakauma on ennakkokäsitys tuntemattomasta <math>\boldsymbol{\theta}</math>, ja usein se riippuu hyperparametreistä <math>\boldsymbol{\eta}</math>. Priori voidaan esittää jakaumana <math>p(\boldsymbol{\theta}|\boldsymbol{\eta})</math>.
==== Konjugaattipriori ====
Jos priori valitaan siten, että se kuuluu samaan jakaumaperheeseen posteriorijakauman kanssa, sitä kutsutaan konjugaattiprioriksi. Tällöin syntyy myös laskennallisesti mukavampi tilanne. Jos havaintojen yhteisjakauma kuuluu exponenttiseen perheeseen, aina on olemassa konjugaattipriori (Morris, 1983). <ref>{{Lehtiviite
| Tekijä = Morris, Carl N.| Otsikko = Natural exponential families with quadratic variance functions: Statistical theory| Julkaisu = The Annals of Statistics
| Ajankohta = 1983| Numero = 2
Rivi 70:
:<math>\boldsymbol{\theta} \sim N(\hat{\boldsymbol{\theta}},I(\hat{\boldsymbol{\theta}})^{-1})</math>, missä
<math>\hat{\boldsymbol{\theta}}</math> on suurimman uskottavuuden estimaatti ja <math>I(\hat{\boldsymbol{\theta}})</math> on havaittu informaatio(matriisi).
Muita keinoja approksimoida posteriorijakaumaa ovat numeerinen integrointi, posteriorijakauman integraalin laskeminen Laplace'n menetelmällä ja Markovin ketju Monte Carlo -simulointi.
 
== Posteriorijakauman simulointi MCMC-menetelmällä ==
 
Posteriorijakauman ratkaisemiseen, erityisesti monimutkaisissa ja hierarkisissahierarkkisissa malleissa, joudutaan usein käyttämään MCMC-menetelmää eli [[Markovin ketju]] [[Monte Carlo -simulaatio|Monte Carlo]] -menetelmää. Menetelmän idea:
Kun oletetaan, että <math>\lim_{n\to\infty}p(\theta^n=\theta) = \pi(\theta)</math> jakaumasta <math>\pi(\theta)</math> riippumatta, niin voidaan edetä seuraavasti:
# Valitaan alkutila <math>\theta^0</math>.
Rivi 89:
# Ehdotetaan <math>\theta^{n+1}</math>:n arvoksi arvoa <math>\theta'</math> symmetrisestä ehdotusjakaumasta <math>q(\theta'|\theta^n)</math>. Ehdotus hyväksytään todennäköisyydellä:
:<math>\alpha_M=min\left\{1,\frac{p(\theta'|y)}{p(\theta^n|y)}\right\}</math>. Jos ehdotus hyväksytään, <math>\theta^{n+1}=\theta'</math>, muuten <math>\theta^{n+1}=\theta^n</math>.
 
 
Toinen tapa konstruoida ketjua, on Gibbsin algoritmi: