数加菜鸟带你一步步了解——极大似然估计算法

目录

一、最大似然原理

? ??1.个人理解???编辑

? ? 2.初中生都能看懂的案例分析?编辑

二、似然函数求解

? ? ?1.个人分析

? ? ?2.误差项分析

? ? ?3.最小二乘法

三、暴力总结

一、最大似然原理

? ??1.个人理解

? ? ? ? 首先，对于我们这种菜鸟来说极大似然估计这个概念听了一定很难理解，那我们不防把它拆分开来看：

极大似然估计可以拆成三个词，分别是“极大”、“似然”、“估计”，分别的意思如下：
极大：最大的概率
似然：好像，可能，看起来是这个样子的
估计：差不多就是这个样子的

????????这样看起来是不是简单明了多了！！如果菜鸟还不理解，不要怕！让我们继续更进一步的了解它

? ? 2.初中生都能看懂的案例分析

??????下面我将用一个简单的例子去解释----极大似然原理

? ? ? ?

• 例:有2个相同箱子，A箱子放有999个红色五角星和1个绿色五角星；B箱子放有999个绿色的五角星和1个红色的五角星。如果小明一次就取出了一个红色的五角星。
• 问：小明取的是哪个箱子？
• 你的第一反应一定是：“A箱子”? ，为什么呢？
• 事实上，这个推断符合我们生活中的经验事实。《最可能》，《最像》就是“最大似然”之意，也就是我们所说的最大似然原理。

????????总结来看：最大似然估计的目的就是：利用已知的样本结果，反推最有可能（最大概率）导致这样结果的参数值。

? ? ? ? 看到这里，我相信你对极大似然估计已经有了自己的理解，趁热打铁，让我们来继续讨论好了。

二、似然函数求解

? ? ?1.个人分析

????????我们不防这样考虑，如果一个事件已经发生了，那这个事件里的所有数据概率是不是都要发生，而每个数据有事独立的吧，换种说法，那这个事件的最大概率不就是他们相乘吗？

????????所以我们就引出了下面这个公式：

? ? ? ? 看到这里你是不是又愣住了，这个式子怎么解你？别急，菜鸟带你一步步看。

? ? ? ? 出现了那么复杂的连乘，我们是不是想到了高中学到的对数，没错，就是用对数去求解它！

? ? ? ? 我们再来去化简它

? ? ?2.误差项分析

????????我们来看一下这个结果

? ? ? ? 结果项的前一项是一个常量了吧，只有一个未知量，求整体的最大值是不是就变成了找后一项的最小值，我们把要求的最后一项的最小值称为目标函数。

? ? ? ? 此处保留1/2是为了求偏导时和平方项消掉，计算更方便。如何来求呢？这里我们引入最小二乘法来计算。

? ? ?3.最小二乘法

? ? ?

三、总结

都学到这里了，让我们来简单的总结一下我们学习的内容吧。

求最大似然估计量的一般步骤：

????????（1）写出似然函数；

????????（2）对似然函数取对数，并整理；

????????（3）写出目标函数；

? ? ? ? （4）利用最小二乘法求出目标函数；

? ? ? 以上所有内容是身为菜鸟的我一些简单的总结，希望对你有所帮助！！！