贝叶斯推断 4. 连续型随机变量先验
指数分布
指数分布的共轭先验是Gamma分布。
<nobr> Y∼Exp(λ) </nobr>
<nobr> f(λ|y)∝f(y|λ)f(λ)∝λe−λyλa−1e−βλ∝λ(a+1)−1e−(β+y)λ </nobr>
所以
<nobr> λ|y∼Γ(a+1,β+y) </nobr>
后验分布
<nobr> apost=aprior+1,βpost=βprior+y </nobr>
正态分布
方差已知的正态分布
假设随机变量服从正态分布,均值 <nobr> μ </nobr>未知,而方差 <nobr> σ20 </nobr>已知。则
<nobr> Xi∼N(μ,σ20) </nobr>
先验 <nobr> μ∼N(m0,s20) </nobr>
可以推导得出后验概率
<nobr> μ|x∼N(nx¯σ20+m0s20nσ20+1s20,1nσ20+1s20) </nobr>
后验均值 <nobr> nσ20nσ20+1s20x¯+1s20nσ20+1s20m=nn+σ20s20x¯+σ20s20n+σ20s20m </nobr>
后验分布的均值是数据分布的均值和先验分布的均值的加权和。并且,先验分布的方差 <nobr> s20 </nobr>越小,先验蕴含的信息越多,先验的权重越大。
方差未知的正态分布
待补充
可选择的先验
无信息先验
使用无信息的先验时,参数的后验分步的估计和频率学派的点估计结果是一致的。
典型的无信息先验如 <nobr> Beta </nobr>分布 <nobr> a=β </nobr>,正态分布 <nobr> μ=0 </nobr>
Jeffreys prior
待补充