极大似然估计

简单介绍、理论推导、例题。

更多:贝叶斯

第8章 极大似然估计
8.1 简单介绍

极大似然估计是根据观察数据来估计模型参数的方法,即“模型已定,模型未知”。它是参数估计的一种方法,请参考《概率论与数理统计(浙大第四版)》中参数估计。

举个例子,大家都知道抛硬币的实验: 假设有一枚不规则的硬币,要计算它正面朝上的概率。其实就是估计一个二分布的参数。现在我们开始做实验,抛了10次,得到相应的结果。那么如何根据这些结果来估计我们的参数呢?这就是极大似然估计要处理的一个场景。

8.2 理论推导

所以该采样出现的概率可以用如下连乘表示。

对于计算来说连乘不太好算,所以一般取对数。

8.3 例题

例题均来自于概率论浙大第4版(在此再次表示感谢~)。

例题1:

例题2:

8.4 参考文献

[1] 《概率论与数理统计(浙大第4版)》 
[2] 周志华. 《机器学习》[M]. 清华大学出版社, 2016. 
[3] http://jermmy.xyz/2017/09/30/2017-9-30-maximum-likelihood-estimation/

发表评论

电子邮件地址不会被公开。 必填项已用*标注