10 638
muokkausta
[katsottu versio] | [katsottu versio] |
Usp (keskustelu | muokkaukset) (→Bayesin kaava: w) |
p (siistiminen, typos fixed: hierarki → hierarkki using AWB) |
||
Priorijakauma on ennakkokäsitys tuntemattomasta <math>\boldsymbol{\theta}</math>, ja usein se riippuu hyperparametreistä <math>\boldsymbol{\eta}</math>. Priori voidaan esittää jakaumana <math>p(\boldsymbol{\theta}|\boldsymbol{\eta})</math>.
==== Konjugaattipriori ====
Jos priori valitaan siten, että se kuuluu samaan jakaumaperheeseen posteriorijakauman kanssa, sitä kutsutaan konjugaattiprioriksi. Tällöin syntyy myös laskennallisesti mukavampi tilanne. Jos havaintojen yhteisjakauma kuuluu exponenttiseen perheeseen, aina on olemassa konjugaattipriori (Morris, 1983).
| Tekijä = Morris, Carl N.| Otsikko = Natural exponential families with quadratic variance functions: Statistical theory| Julkaisu = The Annals of Statistics
| Ajankohta = 1983| Numero = 2
:<math>\boldsymbol{\theta} \sim N(\hat{\boldsymbol{\theta}},I(\hat{\boldsymbol{\theta}})^{-1})</math>, missä
<math>\hat{\boldsymbol{\theta}}</math> on suurimman uskottavuuden estimaatti ja <math>I(\hat{\boldsymbol{\theta}})</math> on havaittu informaatio(matriisi).
Muita keinoja approksimoida posteriorijakaumaa ovat numeerinen integrointi, posteriorijakauman integraalin laskeminen Laplace'n menetelmällä ja Markovin ketju Monte Carlo -simulointi.
== Posteriorijakauman simulointi MCMC-menetelmällä ==
Posteriorijakauman ratkaisemiseen, erityisesti monimutkaisissa ja
Kun oletetaan, että <math>\lim_{n\to\infty}p(\theta^n=\theta) = \pi(\theta)</math> jakaumasta <math>\pi(\theta)</math> riippumatta, niin voidaan edetä seuraavasti:
# Valitaan alkutila <math>\theta^0</math>.
# Ehdotetaan <math>\theta^{n+1}</math>:n arvoksi arvoa <math>\theta'</math> symmetrisestä ehdotusjakaumasta <math>q(\theta'|\theta^n)</math>. Ehdotus hyväksytään todennäköisyydellä:
:<math>\alpha_M=min\left\{1,\frac{p(\theta'|y)}{p(\theta^n|y)}\right\}</math>. Jos ehdotus hyväksytään, <math>\theta^{n+1}=\theta'</math>, muuten <math>\theta^{n+1}=\theta^n</math>.
Toinen tapa konstruoida ketjua, on Gibbsin algoritmi:
|
muokkausta