形式学习理论（一）

1. 趋于真理，唯有真理

1.1 简单通用概括

1.2 归纳法的新谜题

1.3 讨论

1.4 证伪主义和有例外的概括

2. 科学实践案例研究

2.1 粒子物理守恒定律

2.2 因果关系

2.3 认知架构模型

2.4 讨论

3.探究的局限性和经验问题的复杂性

3.1 可验证和可反驳的假设

3.2 点集拓扑和可验证性公理

3.3 探究范围内的可识别性

4. 短期中的长期：可靠而稳定的信念

4.1 例子：新的归纳之谜

4.2 更多例子

4.3 退行性思维变化

5. 简单、稳定的信念和奥卡姆剃刀

5.1 定义简单性

5.2 示例

5.3 稳定信念和简单性：奥卡姆定理

5.4 回归思维变化和简单性：另一个奥卡姆定理

6. 统计假设的可靠学习

7. 其他方法：绝对命令与假设命令

补充文件：基本形式定义

参考书目

学术工具

其他互联网资源

相关条目

1. 趋于真理，唯有真理

学习理论分析评估形成信念的倾向。信念获取过程的几个术语在哲学中常用。我将使用“归纳策略”、“推理方法”和最常见的“归纳方法”来表示同一件事。理解学习理论如何评估归纳方法的最好方法是通过一些例子来进行研究。下面的演示从一些非常简单的归纳问题开始，然后转向更复杂和更现实的设置。

1.1 简单通用概括

让我们重温一下是否所有乌鸦都是黑色的经典问题。想象一下一位鸟类学家通过检查一只又一只乌鸦来解决这个问题。恰好有一个观察序列中只发现了黑乌鸦；所有其他的都至少有一只非黑色的乌鸦。下图说明了可能的观察序列。图中的点表示可以进行观察的点。点左侧的黑色鸟表示在此阶段观察到黑色乌鸦。同样，点右侧的白色鸟表示观察到非黑色乌鸦。给定完整的观察序列，所有观察到的乌鸦要么是黑色的，要么是非黑色的；该图用正确的陈述标记了完整的观察序列。灰色扇形表明，在观察到一只白色乌鸦之后，“并非所有乌鸦都是黑色”的说法在进一步观察得出的所有观察序列中都成立。



图 1 [图 1 的扩展描述在补充中。]

如果世界上只发现了黑乌鸦，我们希望鸟类学家能够做出这样的概括。 （有些非黑乌鸦可能永远隐藏在视线之外，但即便如此，“所有乌鸦都是黑色的”这一概括至少得到了正确的观察结果。）如果世界是这样的，最终会发现非黑乌鸦，那么我们就会就像鸟类学家得出并非所有乌鸦都是黑色的结论一样。这指定了一组探究目标。对于任何可能代表鸟类学家根据证据采取猜想的倾向的给定归纳方法，我们可以询问该方法是否达到这些目标。有无限多种可能的方法可供考虑；我们只看两个，一个是持怀疑态度的，一个是大胆概括的。大胆的方法在看到第一只乌鸦是黑色后推测所有乌鸦都是黑色的。除非出现一些非黑色的乌鸦，否则它会坚持这个猜想。怀疑的方法不会超出证据所蕴含的范围。因此，如果发现一只非黑色的乌鸦，怀疑方法会得出结论，并非所有乌鸦都是黑色的，但除此之外，该方法不会以某种方式做出推测。下图说明了大胆方法和怀疑方法。



图 2 [图 2 的扩展描述在补充中。]

这些方法是否达到了我们设定的目标？考虑大胆的方法。有两种可能性：要么所有观察到的乌鸦都是黑色的，要么发现一些非黑色的乌鸦。在第一种情况下，该方法猜想所有乌鸦都是黑色的，并且永远不会放弃这个猜想。在第二种情况下，一旦发现第一只非黑色乌鸦，该方法就得出结论，并非所有乌鸦都是黑色的。因此，无论证据如何出现，最终该方法都会给出是否所有乌鸦都是黑色的正确答案，并坚持这个答案。学习理论家称这种方法可靠，因为无论世界提供什么观察结果，它们都会得出正确的答案。

怀疑的方法不太有效。如果出现非黑色的乌鸦，则该方法确实会得出正确的结论：并非所有乌鸦都是黑色的。但如果所有乌鸦都是黑色的，怀疑论者就永远不会采取“归纳飞跃”来接受这种概括。因此，在这种情况下，怀疑论者无法对是否所有乌鸦都是黑色的问题提供正确答案。

这说明了手段-目的分析如何评估方法：大胆的方法可以满足可靠地得出正确答案的目标，而怀疑的方法则不能。请注意这个反对怀疑论者的论点的特征：在这种观点中，问题并不在于怀疑论者违反了某些理性准则，或者未能理解“自然的统一性”。学习理论分析向怀疑论者承认，无论过去观察到多少只黑乌鸦，下一只都可能是白色的。问题是，如果所有观察到的乌鸦确实都是黑色的，那么怀疑论者永远不会回答“所有乌​​鸦都是黑色的吗？”的问题。要获得该问题的正确答案，需要根据证据进行概括，即使概括可能是错误的。

至于大胆的方法，重要的是要清楚它能实现什么、不能实现什么。该方法最终会得出正确的答案，但它（或我们）可能永远无法确定它是否已经这样做了。正如威廉·詹姆斯所说，当科学找到正确答案时，“丧钟就不会敲响”。我们确信该方法最终会得出正确的答案；但我们可能永远无法确定当前的答案是否正确。这是一个微妙的点；下一个例子进一步说明了这一点。

1.2 归纳法的新谜题

纳尔逊·古德曼（Nelson Goodman）提出了一个关于归纳推理的著名谜题，称为（新）归纳之谜（[Goodman 1983]）。我们的下一个例子的灵感来自于他的谜题。古德曼考虑了祖母绿的概括，包括熟悉的绿色和蓝色，以及某些不寻常的颜色：

假设在某个时间之前检查了所有祖母绿

t

是绿色的……我们的证据声明断言祖母绿

一个

a是绿色的，即祖母绿

乙

b 是绿色的，依此类推……

现在让我们介绍另一个比“green”不太熟悉的谓词。这是谓词“grue”，它适用于之前检查过的所有事物

t

不仅仅是为了防止它们是绿色的，而是为了防止其他东西是蓝色的。然后在某个时间

t

对于每一个断言特定祖母绿是绿色的证据陈述，我们都有一个平行的证据陈述断言祖母绿是绿色的。问题是，当我们获得之前检查过的绿色祖母绿样本时，我们是否应该推测所有祖母绿都是绿色的，而不是所有祖母绿都是绿色的

t

t，如果是，为什么。

显然，在这个问题中我们有一系列令人毛骨悚然的谓词，每个不同的“关键时间”都有一个谓词

t

t;让我们写下格格

（

t

）

(t) 来表示这些 grue 谓词。跟随古德曼，让我们在讨论这个例子时将方法称为投影规则。投影规则在某个世界中成功的前提是它确定了在该世界中正确的概括。因此，在所有检查过的祖母绿都是绿色的世界中，我们希望我们的投影规则收敛到所有祖母绿都是绿色的命题。如果所有检查过的祖母绿都是绿色的

（

t

）

(t)，我们希望我们的投影规则收敛到所有祖母绿都是绿宝石的命题

（

t

）

（t）。请注意，此规定完全同等对待 green 和 grue 谓词，对任何一个都没有偏见。和以前一样，让我们​​考虑两个规则：自然投影规则，只要只发现绿色祖母绿，就推测所有祖母绿都是绿色的；可怕的规则，不断预测下一个 grue 谓词与现有证据一致。用绿蓝色词汇来表达，可怕的投影规则推测，在观察了一定数量的

n

在绿色祖母绿中，所有未来的祖母绿都将是蓝色的。下图说明了可能的观察序列、自然投影规则和可怕的投影规则。



图 3 [图 3 的扩展描述在补充中。]

下图展示了可怕的投影规则。



图 4 [图 4 的扩展描述在补充中。]

这些规则如何达到真正概括的目标？为了举例，假设正在考虑的唯一严重的可能性是：（1）所有祖母绿都是绿色的，或者（2）所有祖母绿都是绿色的

（

t

）

(t) 在某些关键时刻

t

t。然后，无论正确的概括是什么，自然投影规则都会确定正确的概括。因为如果所有祖母绿都是绿色的，那么自然投影规则从一开始就断言了这一事实。假设所有祖母绿都是绿色的

（

t

）

(t) 在某些关键时刻

t

t。然后在某个时间

t

t，将观察到蓝色祖母绿。至此，自然投影规则得出了所有祖母绿都是绿宝石的猜想

（

t

）

(t)，考虑到我们对可能的观察序列的假设，它一定是正确的。因此，无论在调查过程中获得什么证据（与我们的背景假设一致），自然投影规则最终都会得出关于祖母绿颜色的正确概括。

可怕的规则也不起作用。因为如果所有祖母绿都是绿色的，则该规则永远不会推测这个事实，因为它不断投射 grue 谓词。因此，存在一个可能的观察序列，即所有祖母绿都是绿色的观察序列，在该序列上，可怕的规则无法收敛到正确的概括。因此，手段-目的分析会推荐自然投射规则而不​​是可怕的规则。

1.3 讨论

归纳之谜的手段-目的分析说明了一般学习理论分析中的许多哲学上的重要观点。

平等对待所有假设。与前面的例子一样，这个论证中没有任何内容取决于这样的论证：某些可能性不应被先验地认真对待。特别是，论证中没有任何内容表明带有 grue 谓词的概括是不正确的、不合法的，或者在其他方面先验地低于“所有祖母绿都是绿色的”。

语言不变性。分析不依赖于证据和概括所使用的词汇。为了便于说明，我主要使用绿蓝色参考系。然而，使用 grue-bleen 语言的人会同意，可靠地确定正确概括的目标需要自然投影规则而不是可怕的规则，即使他们想用 grue-bleen 语言而不是可怕的规则来表达自然规则的猜想。我们迄今为止使用的蓝绿语言。

对上下文的依赖。尽管分析不依赖于语言，但它确实依赖于对可能的观察序列是什么的假设。上述示例似乎包含与古德曼本人讨论的颜色谓词相对应的可能性。但手段-目的分析同样适用于其他可能的谓词集。 Schulte [1999] 和 Chart [2000] 讨论了归纳之谜的许多其他版本，其中一些版本的手段-目的分析倾向于预测所有祖母绿在所有绿色祖母绿样本上都是绿色的。

1.4 证伪主义和有例外的概括

我们的前两个例子具有简单的普遍概括。如果我们考虑允许例外的概括，长期可靠性概念的一些微妙方面，特别是它与证伪主义的关系，就会变得显而易见。为了说明这一点，让我们考虑另一个鸟类学的例子。两个相互竞争的假设正在接受调查。

除了有限的天鹅之外，所有的天鹅都是白色的。也就是说，除了有限数量的例外情况外，基本上所有天鹅都是白色的。

除了有限的天鹅之外，所有天鹅都是黑色的。也就是说，除了有限数量的例外情况外，基本上所有天鹅都是黑色的。

假设这些假设中的一个或另一个是正确的，是否有一种归纳方法可以可靠地确定正确的假设？这个问题比前两个问题更困难的是，正在研究的每个假设都与任何有限数量的证据相一致。如果找到 100 只白天鹅和 50 只黑天鹅，则 50 只黑天鹅或 100 只白天鹅可能是该规则的例外。用卡尔·波普尔的著作所熟悉的术语来说，我们可以说这两种假设都不可证伪。因此，前两个例子中的归纳策略在这里不起作用。这一策略基本上是采用“大胆”的普遍概括，例如“所有乌鸦都是黑色的”或“所有祖母绿都是绿色的”，并且只要它“通过测试”就坚持这个猜想。然而，当研究可能存在例外的规则时，这种策略是不可靠的。例如，假设询问者首先采用“除了有限数量的天鹅之外，所有天鹅都是白色的”这一假设。或许从此以后，就只剩下黑天鹅了。但这些明显的反例中的每一个都可以作为例外被“解释掉”。如果询问者遵循坚持她的猜想直到证据在逻辑上与猜想不一致的原则，她将永远不会放弃她的错误信念，即除了有限数量的天鹅之外，所有天鹅都是白色的，更不用说得出正确的信念，即除了有限数量的天鹅之外，所有天鹅都是白色的。天鹅是黑色的。

可靠的调查需要更微妙的调查策略。这是（众多中的）之一。开始探究任一相互竞争的假设，比如“除了有限的天鹅之外，所有天鹅都是黑色的”。选择一些截止比率来代表“明显多数”；为了明确起见，假设为 70%。如果当前的猜想是，除了有限数量的天鹅之外，所有天鹅都是黑色的，那么改变你的想法，猜想除了有限数量的天鹅之外，所有天鹅都是白色的，以防万一超过 70% 的观察到的天鹅实际上是白色的。如果当前的猜想是，几乎所有的天鹅都是白色的，而超过 70% 的观察到的天鹅实际上是黑色的，则同样进行。

稍微思考一下就会发现，从长远来看，这条规则可靠地识别了正确的假设，无论两个相互竞争的假设中哪一个是正确的。因为如果除了有限数量的天鹅之外的所有天鹅都是黑色的，最终该规则的非黑色例外将被耗尽，并且任意大多数观察到的天鹅将是黑色的。同样，如果几乎有限数量的天鹅都是白色的。

带有例外的概括说明了波普尔证伪主义与可靠地趋于真理的学习理论思想之间的关系。在某些探究环境中，特别是那些涉及普遍概括的探究中，一种天真的波普尔式“猜想与反驳”方法，即坚持猜想直到证据证伪它们，确实产生了一种可靠的归纳方法。在其他问题中，例如当前的示例，则不然。有时，但并非总是，依靠伪造是进行调查的最佳方式。学习理论提供了数学定理，阐明了猜想反驳方法与可靠探究之间的关系。详细信息将在第 3 节（探究的局限性和经验问题的复杂性）中讨论。一般来说，用不可证伪的假设解决学习问题的方法可以表示为采用精炼的假设空间，其中原始假设被可证伪的强化假设所取代。

2. 科学实践案例研究

本节提供了更多示例来说明学习理论分析。本节中的例子更加现实，解决了科学实践中出现的方法论问题。它们不是概率性的；而是概率性的。统计假设在第 6 节中讨论。本条目提供了完整分析的概要；下面有更详细的讨论参考。更多案例研究可以在 [Kelly 1996，Ch. 1] 中找到。 7.7，哈雷尔 2000]。希望进一步发展手段目的认识论的理论和哲学的读者可以跳过本节而不失连续性。

数学联邦政治世界观提示您：看后求收藏（笔尖小说网http://www.bjxsw.cc），接着再看更方便。