格格党

手机浏览器扫描二维码访问

第13讲 每获得一条信息贝叶斯推理就变得更精确一些（第1页）

第13讲每获得一条信息，贝叶斯推理就变得更精确一些

13-1从“勉勉强强”的推测变为“更加精确”的推理

至此，我们已经对于贝叶斯推理“虽然存在牵强之处，但至少比毫无头绪要强多了”的推理思路进行了数次解释说明。正因为这一点，贝叶斯推理也被称为“总经理的概率”（见7-3）。贝叶斯推理之所以显得有些“牵强”，主要是因为其中的先验概率。所谓先验概率，是指“在没有任何信息的情况下，暂且把所有可能性的概率设定为对等的（理由不充分原理）”，或者“从主观上进行设定”等，因而会令人感到“牵强”。

但反过来说，正是由于设定了这样的先验概率，贝叶斯推理从而具备了“即使只有少量信息（数据），也能够进行推理”的优点。这一点也正是贝叶斯推理优于标准统计推理（内曼－皮尔逊式推理）的地方。

此外，贝叶斯推理还具有“将已经在推理过程中使用过的信息反映到后验概率之后，即使把它丢掉也没关系”的良好特性，这一特点被称为贝叶斯推理的学习功能。

实际上，贝叶斯推理还具备另外一个学习机能，也就是“信息越多，推理结果就越精确”的性质，如图表13-1所示。

图表13-1信息越多，推理结果就越精确

接下来，按照顺序来对这个问题进行具体说明。

13-2壶的问题：取出2个球

在这里，我们再次使用第7讲中的、装有带颜色的球的壶的例子，并进行以下问题设定。

问题设定

面前有一只壶，已知这个壶不是A壶就是B壶，但是单从外表看不出究竟是哪个。而目前已知的是：A壶中有9个白球和1个黑球，B壶中有2个白球和8个黑球。

在第7讲中，我们从壶里取出一个球，通过观察球的颜色，来推测是A壶还是B壶的概率。得知取出的是黑球后，可以推测出该壶为A壶的后验概率是19，该壶为B壶的后验概率是89，具体过程参详见7-2的内容。

那么，我们设想一下：把第一次取出的球放回壶里，然后再一次取出一个球。在这种情况下进行推理，需要用到第一次取出的球的颜色和第二次取出的球的颜色。而第二次取出的球，有可能为黑球，也有可能为白球。上述方法在第12讲中已经涉及过，即通过多条信息进行推理的方法。

首先，由于我们并不知道该壶究竟是A壶还是B壶，因而想要对此进行推理，于是分为A和B两个类别。然后根据“理由不充分原理”，将各个类别的先验概率都设定为0.5。

接下来，请思考关于条件概率的问题。

如果第一次取出的球为黑球，第二次取出的球为白球，则把这种情况记录为“黑球＆白球”。然后，通过概率的乘法公式，可以计算得出：

（黑球＆白球的概率）＝（黑球的概率）×（白球的概率）

若该壶为A壶，则：

（黑球＆白球的概率）＝（黑球的概率）×（白球的概率）＝0.1×0.9＝0.09

若该壶为B壶，则：

（黑球＆白球的概率）＝（黑球的概率）×（白球的概率）＝0.8×0.2＝0.16

综上，通过不同颜色的球的组合，A和B这两个类别又各自分为4类，此时共出现8种互不相同的可能性。这8种可能性各自的概率，如图表13-2所示。

图表13-2通过两条信息，组合出八种互不相同的可能性

13-3第二次取出的也是黑球的情况下的推理

下面我们对于“第二次取出的依然是黑球”的情况进行推理：由于两次取出的都是黑球，符合“黑球＆黑球”的条件，那么便可以排除掉除“黑球＆黑球”以外的所有可能性，如图表13-3所示。

图表13-3第二次取出的也是黑球情况下的推理

通过标准化条件，计算出后验概率：

（“黑球＆黑球”且为A壶的后验概率）：（“黑球＆黑球”且为B壶的后验概率）