贝叶斯定理

先验分布、后验分布、似然估计这几个概念是什么意思,它们之间的关系是什么?- 知乎
数理统计pdf

p(Θ|X)=p(X|Θ)p(Θ)p(X)
符号 名称 含义
p(Θ) 先验分布 在观测到数据之前对待参数Θ的了解与认识
p(XΘ) 在确定了参数的情况下,测试数据的概率分布。实际上这就是对实际观测数据的一种描述。
p(ΘX) 后验分布 后验分布就是我们通过贝叶斯定理得到的最终的分析结果,反映的是在给定观测数据的基础上,我们对于参数的新的认知。说的更直白一点,就是最开始没有观测数据的时候,我们依据以往的经验赋予了参数一个先验分布,然后来了实际的观测数据之后,我们就对先验进行了更新,得到了这次分析过程的后验分布。
p(X) 边缘概率 这是一个与我们待估计的参数 Θ 无关的一个边缘概率值,因此我们并不用太关心这个值,仅仅把他当做是后验概率 p(ΘX) 计算过程中的归一化系数
实际上,有一个概念需要大家树立,那就是后验分布也是不断的处在动态更新过程当中的。一次试验得到的后验分布,对于后续进一步收集到的新的观测数据,他又可以看作是后续分析的一个先验。