概率论沉思录：定量规则，如何为？

.center { width: auto; display: table; margin-left: auto; margin-right: auto } 托福这劳什子终于画上了句号，上个月完全有20天的时间属于是白白浪费掉了(＃￣～￣＃)，接下来我会继续更新概率论沉思录专栏并把之前的拖更补上（还得兼顾学日语，给自己加油！）。 导言 概率论只不过是把常识用数学公式表达了出来。 ——拉普拉斯（Laplace, 1819） 我们在上一篇博客《概率论沉思录：合情推理》中介绍了合情推理[1][2]中所要满足的合情条件，即： \[\begin{aligned} (Ⅰ)& \space 用实数表示合情程度（数值化条件）。\\ (Ⅱ)& \space 定性地与常识相符（类直觉条件）。\\ (Ⅲ)& \space 具有一致性（一致性条件）。 \end{aligned} \] 其中，第\((Ⅲ)\)点的一致性条件又具体包含下列三个含义： \[\begin{aligned} & (Ⅲ\text{a}) \space 如果可通过多种方式推出结论，那么每种方式都须给出相同结果（非路径依赖性）。\\ & (Ⅲ\text{b}) \space 机器人总是考虑与问题有关的所有证据，而不会随意忽略信息（非意识形态性）。\\ & (Ⅲ\text{c}) \space 机器人总是通过分配相同的合情性来表示相同的知识状态（全同性）。 \end{aligned} \] 上述条件都是定性的。在这一篇博客中我们将看到，上述条件皆不是空穴来风，而且不多不少刚刚好。一旦我们导出了满足上述合情条件的合情推理定量规则，我们就会发现，我们实际上就得到了概率的原始定义（乘法规则 + 加法规则 + 无差别原则）。 其中，条件\((Ⅰ)(Ⅱ)(Ⅲ\text{a})\)是机器人大脑的“结构性”条件，决定了推理机器人大脑的内部运作规则（这里的“大脑”可以指电路 / 神经网络 / ...），导出概率的乘法规则（product rule） \[p(AB\mid C) = p(A\mid C)p(B\mid AC)=p(B\mid C)p(A\mid BC) \] 和加法规则（sum rule） \[p(A\mid B) + p(\bar{A}\mid B) = 1 \] （\(p(x)\)是任意连续单调递增函数，值域为\(0\leqslant p(x) \leqslant 1\)） 而条件\((Ⅲ\text{b})(Ⅲ\text{c})\)是“接口”条件，进一步建立了推理机器人与客观世界的联系。其中，\((Ⅲ\text{c})\)导出概率的无差别原则（principle of indifference） \[p(A_i\mid B) = \frac{1}{n}, \quad 1 \leqslant i \leqslant n \] （\(\{A_1, \cdots, A_n\}\)为互斥且穷尽的命题集合，即背景信息\(B\)决定了其中一个且仅一个必须为真） 接下来我们来看概率的乘法规则、加法规则和无差别原则究竟是怎样由合情条件导出的。 1 乘法规则 我们首先寻找将逻辑积\(AB\)的合情性和\(A\)、\(B\)的合情性相关联的规则，也即找到\(AB\mid C\)的表达式。我们将机器人判定\(AB\)为真的过程分解为对\(A\)和\(B\)进行分步决策的过程，也即： 判定\(B\)为真；\(B\mid C\) 接受\(B\)为真，判定\(A\)真。\(A\mid BC\) （先判定\(A\)为真的情况同理。我们将对应于每个步骤的合情性添加在了末尾） 我们用自然语言来解释一下。要想使命题\(AB\)为真，命题\(B\)必为真（根据逻辑积的定义），因此我们需要合情性\(B\mid C\)。接着，我们需要进一步判定\(A\)为真，此时我们需要合情性\(A\mid BC\)而非\(A\mid C\)。这是因为，如果机器人知道\(B\)为假，则无论\(A\)的合情性如何（即\(A\mid \bar{B}C\)），\(AB\)都肯定为假。而一旦机器人知道\(A\mid BC\)，它就不再需要知道\(A\mid C\)了（这不会增加什么关于\(AB\)的新信息）。 此外，机器人并不需要知道\(A\mid B\)和\(B\mid A\)。因为在不知道信息\(C\)的情况下，\(A\)或\(B\)可能具有的合情性与机器人知道\(C\)为真时的判断无关。例如，如果机器人已经知道地球是圆的，那么在对今天的宇宙学问题做判断时，就不需要考虑如果不知道地球是圆的，它可能具有的观点（即考虑额外的可能性）。