形式学习理论（二）

2.1 粒子物理守恒定律

基本粒子物理学的标志之一是发现了仅适用于亚原子领域的新守恒定律 [Ford 1963, Ne’eman and Kirsh 1983, Feynman 1965]。 （费曼将其中之一，即重子数守恒，与能量、电荷和动量的其他“伟大守恒定律”归为一类。）稍微简化一下，守恒定律可以解释为什么涉及基本粒子的某些过程不会发生：解释是违反了某些保护原则（参见 Omnes [1971，Ch.2] 和 Ford [1963]）。因此，粒子探究的目标是找到一组守恒定律，使得对于根据（已知的）物理定律可能但无法通过实验观察到的每个过程，存在一些守恒定律排除该过程。如果确实观察到一个过程发生，那么它应该满足我们引入的所有守恒定律。

这构成了一个推理问题，我们可以对其应用手段-目的分析。推理方法根据观察到的过程的报告产生一组守恒原则。手段-目的分析询问哪些方法能够保证遵循解释所有观察结果的保护原则，即排除未观察到的过程并允许观察到的过程。 Schulte [2008]描述了一种实现这一目标的归纳方法。非正式地，该方法可以描述如下。

假设我们观察到基本粒子之间的一组反应。

猜想一组守恒定律，允许观察到的反应并排除尽可能多的未观察到的反应。

守恒定律的逻辑是，观察到某些反应必然会导致其他未观察到的反应的可能性。学习理论方法排除了所有不需要的反应。事实证明，这种方法在现有证据上提出的守恒定律在经验上与物理学家引入的守恒定律是等效的。具体来说，他们的预测与粒子物理标准模型中的电荷守恒、重子数、μ子数、tau数和轻子数完全一致。

对于某些物理过程，获得经验上充分的守恒定律的唯一方法是假设一些隐藏的粒子未被检测到。 Schulte [2009]扩展了分析，使得归纳方法不仅可以引入守恒定律，还可以假设看不见的粒子。基本原则还是以这样一种方式放置看不见的粒子，即我们排除尽可能多的未观察到的反应。当这种方法应用于已知的粒子数据时，它重新发现了电子反中微子的存在。这是当前粒子物理学中重点关注的粒子之一。

2.2 因果关系

关于学习因果关系（如因果图所示）已有大量研究[Spirtes et al. 2017]。 2000]。凯利提出了一种推断因果关系的学习理论分析，其中证据以观察到的感兴趣变量之间的显着相关性（休谟“常量连接”的现代版本）的形式提供。随着观察到越来越多的相关性，以下归纳方法保证收敛到经验充分的因果图 [Schulte, Luo and Greiner 2007]。

假设我们观察到一组感兴趣的变量之间的一组相关性或关联性。

选择一个因果图，用最少数量的直接因果关系解释观察到的相关性。

2.3 认知架构模型

一些心灵哲学家认为，心灵是由相当独立的模块组成的。每个模块都有自己的来自其他模块的“输入”，并将“输出”发送到其他模块。例如，“听觉分析系统”模块可能会将听到的单词作为输入，并将语音分析发送到“听觉输入词典”。模块化组织的想法提出了一个经验问题：存在哪些心理模块以及它们如何相互联系。认知神经科学研究的一个突出传统是试图通过研究正常和异常受试者对各种刺激的反应来开发沿着这些思路的心理结构模型。这个想法是将正常反应与异常反应（通常由脑损伤引起）进行比较，从而推断出哪些心理能力相互依赖以及如何依赖。

Glymour [1994]提出了可靠性主义者的问题，在给出关于正常和异常能力和反应的详尽证据的情况下，是否存在能够保证最终确定真正的心理组织理论的推理方法。他认为，对于某些可能的心理结构，没有任何刺激-反应类型的证据可以区分它们。由于现有的证据决定了归纳方法的猜想，因此不能保证该方法将建立在认知架构的真实模型上。 Glymour 还探索了更丰富的证据在多大程度上可以解决心理结构的不确定性问题。 （更丰富的证据的一个例子是双重分离。双重分离的一个例子是一对患者，其中一个具有正常的理解口语单词的能力，但无法理解书面单词，而另一个患者理解书面单词但不理解口头单词的。）

在进一步的讨论中，Bub [1994] 表明，如果我们对心理模块如何连接给予某些限制性假设，那么一套完整的行为观察将使神经心理学家能够确定（正常）心理的模块结构。事实上，在 Bub 的假设下，有一种可靠的方法来识别模块化结构。该过程的高级思想如下。

每个假设的模块化结构都可以用图来识别

G

G 包含模块的边

中号

1

→

中号

2

M1→M2 中频模块

中号

1

M1调用模块

中号

2

M2。

各模块图

G

G与模块之间一组可能的路径一致。说一个图

G

G 比另一个图受到更多约束

G

′

G′ 如果路径定义为

G

G 是受以下条件约束的子集

G

′

G′。

猜想任意模块图

G

G 受到最大约束，即不存在其他图

G

′

G′ 比

G

G。

2.4 讨论

这些研究说明了学习理论的一些一般特征：

概论。该理论的基本概念非常普遍。从本质上讲，只要有人提出一个需要探究的问题、一些候选答案以及一些用于在答案中做出决定的证据，该理论就适用。因此，手段-目的分析可以应用于任何以经验知识为目标的学科，例如物理学或心理学。

上下文依赖性。学习理论是纯粹的规范性先验认识论，因为它涉及在可能的探究环境中评估方法的标准。但这种方法并不旨在追求普遍的、与背景无关的方法论准则。方法论建议取决于偶然因素，例如操作方法规范、正在调查的问题、主体进行调查的背景假设、她可以使用的观察手段、她的认知能力和她的认知目标。因此，为了评估给定领域的特定方法，如提到的案例研究中所示，必须研究相关案例的细节。手段-目的分析通常通过指出特定科学事业的关键方法论特征是什么，并准确解释这些特征为何以及如何与企业成功实现其认知目标相关联，来奖励这项研究。

权衡。从手段目的认识论的角度来看，探究涉及到与艰难选择的持续斗争，而不是普遍“科学方法”的执行。探究者必须平衡相互冲突的价值观，并可能考虑各种策略，例如接受短期困难，希望从长远来看解决这些困难。例如，在守恒定律问题中，理论简约性（即提出较少的守恒定律）与本体简约性（即引入较少的隐藏粒子）之间可能存在冲突。另一个例子，粒子理论家可能会接受假设未检测到的粒子，希望随着科学的进步它们最终会被观察到。对希格斯玻色子的寻找说明了这一策略。一个重要的学习理论项目是检查何时出现这种权衡以及解决这些权衡的选项是什么。第 4 节扩展了学习理论分析，除了长期可靠性之外还考虑了目标。

3.探究的局限性和经验问题的复杂性

在看到许多类似上述的例子之后，人们开始想知道其中的模式是什么。实证问题是什么让探究能够可靠地得出正确答案？对于如何使用可靠的方法来检验假设，我们可以获得哪些一般性见解？学习理论家用表征定理回答这些问题。表征定理通常采用以下形式：“当且仅当归纳问题满足以下条件时，才有可能在给定的归纳问题中达到经验成功的标准”。

我们首先讨论探究可以确定经验假设是否正确（相对于背景知识）的情况。然后我们考虑探究何时以及如何能够收敛到正确的假设，而不会得出某些结论，如第 1 节中所述。我们将引入足够的定义和形式概念来准确地陈述结果；补充文件提供了完整的形式化。

学习问题是由有限或无限无限的可能假设定义的

H

=

H

1

,

H

2

,

……

,

H

n

,

……

h = h1，h2，…，hn，…。这些假设是相互排斥的，共同涵盖了与询问者背景假设一致的所有可能性。

示例

在第1.1节的乌鸦颜色问题中，有两个假设

H

1

=

H1 =“所有（观察到的）乌鸦都是黑色的”，并且

H

2

=

H2 =“有些（观察到的）乌鸦不是黑色的”。

在第1.2节的新诱导之谜中，有许多替代假设：我们有

H

克

r

e

e

n

=

hgreen =“所有（观察到的）祖母绿都是绿色的”，并且可以计数许多形式的替代品

H

t

=

ht =“所有（观察到的）祖母绿为grue

（

t

）

（t）”在哪里

t

T是自然的数字。

本节定义了假设的属性，这些假设确定了从观察值中从哪种意义上进行查询可以表明它们是否正确。这些属性不是绝对的，而是相对于一组替代方案

H

h，所有询问者都可能获得的任何一个都知道。最基本的相对属性是相对范围。

一个假设

H

h与有限数量的观察结果一致

H

H对于某些扩展有限观测值的完整数据序列是正确的。

有限数量的观察结果伪造了假设

H

如果

H

H与观察结果不一致。

有限数量的观察需要假设

H

H相对于假设集

H

如果

H

H是唯一的假设

H

h与观察结果一致。

请注意，由于逻辑上的需要不取决于我们用来构架证据和假设的语言，因此一致性，综合和伪造的概念不取决于我们用来构架证据和假设的语言。

例子。回想第1.1节的乌鸦场景（为方便起见，重复的图表）。



图1 [图1的扩展描述是在补充中。]

观察到第一个乌鸦是黑色的，这与两个假设一致

H

1

=

H1 =“所有（观察到的）乌鸦都是黑色的”，并且

H

2

=

H2 =“有些（观察到的）乌鸦不是黑色的”。关于第一批乌鸦或任何乌鸦的观察是白色的假设

H

1

H1并需要假设

H

2

H2。灰色的风扇结构说明了这一目标，这意味着在观察到任何白乌鸦之后，该假设

H

1

H1对于记录所有进一步观察到的乌鸦的颜色的任何扩展数据序列都是正确的。

3.1可验证和可反驳的假设

我们需要了解可以通过可靠的询问来解决的假设的结构的下一组概念是可验证和可伪造的假设的概念。索赔的可验证性和可证明性在认识论和科学哲学中进行了广泛讨论，尤其是与逻辑经验主义问题有关的哲学家。该小节描述了学习理论中如何使用这些概念，然后将学习理论概念与更广泛的认识论中的讨论进行比较。

一个假设

H

h是可以验证的

H

h是正确的，最终观察到的证据表明

H

H是正确的。更正式：

H

H相对于假设集可验证

H

h如果每个完整的数据顺序

H

h是正确的，有有限数量的观察结果可以伪造所有替代假设

H

′

来自

H

H.

一个假设

H

如果何时可以进行排斥

H

h，最终观察到证据表明伪造

H

H.更正式：

H

H相对于假设集可以排除

H

h如果每个完整的数据顺序

H

h是不正确的（但是其他一些假设

H

h是），有有限数量的观察结果

H

H.

示例

假设

H

2

=

H2 =“某些（观察到的）乌鸦不是黑色的”是可验证的，但不能排除。它是可验证的，因为任何正确的数据序列在某个有限的时间都具有非黑乌鸦。对非黑乌鸦的观察需要

H

2

H2。假设

H

2

H2不能伪造，因为如果永远观察到黑色乌鸦，那么

H

2

H2是不正确的，但是没有伪造的观察数量有限

H

2

H2。

假设

H

1

=

H1 =“所有（观察到的）乌鸦都是黑色的”是可以反驳的，但不可验证。这是可以置换的，因为任何不正确的数据序列在某些有限的时间都具有非黑乌鸦。对非黑乌鸦的观察伪造了

H

1

H1。

H

1

H1无法验证，因为如果永远观察到黑色乌鸦，那么

H

1

H1是正确的，但是没有有限的观察值

H

1

H1。

在第1.2节的新谜语（为方便起见为方便起见）中，“所有（观察到的）祖母绿都是绿色”的假设是可伪造但不可验证的，其原因与“所有（观察到的）乌鸦都是黑色的”是相同的原因但不可验证。

任何齿轮假设

H

t

=

ht =“所有（观察到的）祖母绿都是grue（t）”都是可验证的和可排除的。

H

t

HT是可以反驳的，因为任何可怕的概括是不正确的完整数据序列都会以伪造它的反例。

H

t

HT是可验证的

t

t伪造了“所有（观察到的）祖母绿都是绿色”的假设，也伪造了所有其他

H

t

HT假设。

令人毛骨悚然的假设的一个例子表明，经验假设可以是可验证和可反应的（有时在与计算理论类似的情况下称为“可决定性”）。可决定的经验主张的其他典型例子是奇异观察，例如“第一个乌鸦是黑色”，以及奇异观察的布尔组合。



图4 [图4的扩展描述是在补充中。]

我们将简要讨论认识论和科学哲学与相关概念的相似性和差异。

验证主义是逻辑经验主义哲学的一部分。核心思想是，要声称有意义，必须在经验上可以证实。与我们的概念的主要区别在于哲学目标：学习理论的目标不是将有意义的主张与无意义的主张分开，而是要表征我们可以从询问给定的一组假设的经验成功标准。根据上述定义可以进行验证的假设允许询问提供积极的检验：当假设正确时，查询最终将表明其正确性，并确定性（给定背景知识）。逻辑经验家提供的“可验证性”的具体定义与学习理论意义上的验证性不相同。例如，严格的验证主义认为：“为了有意义，必须通过有限的观察句子来暗示索赔。”没有有限数量的观察句子等同于以下假设

H

2

=

H2 =“某些（观察到的）乌鸦不是黑色”，因为该假设等于观察句子的无限脱节（即，时间1，时间1，非黑色乌鸦，时间2，在时间2，…）。

伪造主义是科学哲学中的众所周知的观点。核心思想是，要使假设是科学的，而不是伪科学或形而上学，它必须从以下意义上进行伪造：“陈述……，为了被列为科学，必须能够与可能的可能或可能的可能性冲突，可以想象的观察”。 （Popper 1962，39）。与我们的发展的主要区别在于哲学目标：学习理论的目标不是划分伪科学理论的科学假设，而是要表征我们可以从询问给定的一组假设的经验成功标准。根据上述定义可以进行反驳的假设允许询问提供负面测试：当假设不正确时，询问最终将表明其不正确性，并确定性（给定背景知识）。上面的Popper引用中“可变性”的具体定义与学习理论意义上的可比性不相同[Schulte and Juhl 1996]。例如，假设

H

=

h =“第一个乌鸦是黑人，其他一些乌鸦是非黑的”与可能的观察到第一个乌鸦是白色的。但是，如果实际上所有观察到的乌鸦都是黑色的，那么

H

H是不正确的，但没有被任何有限数量的观测值所伪造，因此根据学习理论的定义无法驳斥。有关Popperian伪造与学习理论之间关系的进一步讨论，请参见[Genin 2018]。

数学联邦政治世界观提示您：看后求收藏（笔尖小说网http://www.bjxsw.cc），接着再看更方便。