形式学习理论（三）

3.2点集拓扑和可验证性的公理

为了进一步阐明可验证性和可矫正性的学习理论概念，我们注意到它们满足以下基本属性。我们提供非正式但严格的证据。

对可验证的假设的脱节也可验证。

证明：让

H

=

H

1

h = h1或

H

2

,

……

H2，...或

H

n

hn或…是可验证假设的脱节

H

我

嗨（脱节可能是无限的）。假设

H

H对于完整的数据序列是正确的。然后一些

H

我

HI对于数据序列是正确的。自从

H

我

嗨，可以验证，有有限数量的观察值

H

我

嗨，这需要

H

H.

H

h对于任何完整的数据序列都是正确的，从需要的序列中有有限数量的观察值

H

h，根据可验证性的要求。例如，让

H

我

嗨，是一个可验证的假设，即时间有非黑乌鸦

我

我。然后是假设

H

=

h =“某些（观察到的）乌鸦不是黑色的”

H

1

H1或

H

2

,

……

H2，...或

H

n

hn或…。由于每个假设

H

我

嗨，是可验证的，也是如此

H

H.

可验证的假设的有限结合也可验证。

证明：让

H

=

H

1

H = H1和

H

2

,

……

H2，…和

H

n

HN是可验证假设的有限连接

H

我

你好。假设

H

H对于完整的数据序列是正确的。然后每个

H

我

HI对于数据序列是正确的。自从

H

我

嗨，可以验证，有有限数量的观察值

H

我

你好。因为只有许多假设有限

H

我

嗨，最终每个假设将通过有限数量的观察结果来验证，这需要它们的连词

H

H.

H

h对于任何完整的数据序列都是正确的，从需要的序列中有有限数量的观察值

H

h，根据可验证性的要求。例如，让

H

1

H1是一个可验证的假设，即第一次乌鸦是非黑的，让

H

2

H2是第二个乌鸦是非黑的，是可验证的假设。如果连词

H

=

H

1

H = H1和

H

2

H2对于数据序列是正确的，然后前两个乌鸦不是黑色。因此，观察前两个乌鸦需要

H

H.

重言式和矛盾是可验证的。

证明：重言式（例如“第一个观察到的乌鸦是黑色的或不是黑色的”）对于任何数据序列都是正确的，并且需要任何证据序列。如果是正确的，则矛盾（例如“第一个观察到的乌鸦是黑色，不是黑色”），因为它永远不正确，因此对其进行了微不足道的验证。

当且仅当其否定时，假设是可以验证的。

证明：我们考虑唯一的方向；匡威相似。假设不是假设的否定是可以反驳的。考虑任何假设的完整数据序列

H

H是正确的。因此，不是H不正确，并且由于可排除的观测值而被伪造。这个有限的观察集需要

H

H.

H

h对于任何完整的数据序列都是正确的，从需要的序列中有有限数量的观察值

H

h，根据可验证性的要求。例如，

H

=

h =“某些（观察到的）乌鸦不是黑色”是否定可驳斥假设的

H

=

h =“所有（观察到的）乌鸦都是黑色的”。如果不

H

H对于完整的数据序列是不正确的，最终将通过观察非黑乌鸦的观察来伪造它。这种观察需要

H

H.

值得注意的是，列出的属性正是数学重要分支的基本公理，称为点集拓扑[Abramsky 1987，Vickers 1986]。拓扑空间由称为开放式或邻里的集合的集合来定义，这些集合满足了可验证的假设的公理特性（在任意联合和有限分离的情况下闭合，空心集和整个空间都是打开的）。开放式集合的设置理论补充称为闭合集，因此可驳斥的假设与封闭的集合完全对应。发明了点集拓扑，以支持一种普遍的功能分析，而没有数字（更确切地说，没有距离）。令人惊讶的是，拓扑的基础公理在经验假设的特性方面具有确切的认识论解释，这些假设允许确定性验证或伪造。学习理论的当前数学发展通常始于将基本概念作为一种满足所列属性的可验证假设。这种方法有两个优点。

学习理论可以借鉴现代数学最发达的分支之一的丰富概念和结果[Kelly 1996； Baltag等。 2015年，De Brecht和Yamamoto 2008]。

将证据项目概念适应应用程序上下文的灵活性使得将一般理论应用于不同领域变得更加容易。例如，考虑获得一定数量兴趣的精确度量的问题（例如，物理学的光速）。我们可以将基本的可验证假设集为围绕数量真实值的开放间隔（工会）[Baltag等。 2015年，Monist，Genin和Kelly 2017]。另一个示例是下面第6节中涵盖的统计验证性概念。

为了具体，本条目描述了基本可验证的假设是有限循环序列的实例。我们将以一种仅假设列出的公理属性以使其易于应用于其他设置的方式来描述定义和结果。

3.3查询限制的可识别性

一个基本结果描述了方法可以可靠地找到正确的假设的条件

H

共同排斥的假设共同涵盖了与询问者的背景假设一致的所有可能性。学习者

H

h将有限的观察序列映射到假设

H

H.例如，在新的归纳之谜中，自然投影是假设集的学习者

H

H包括“所有祖母绿都是绿色”，

H

1

=

H1 =“所有祖母绿都是grue（1）”，

H

2

=

H2 =“所有祖母绿都是grue（2）等等。在所有关键时期

t

t。学习者可靠地识别或简单地识别了一个正确的假设

H

h如果对于每个完整的数据序列，则以下所有内容：如果

H

H来自

H

h是数据序列正确的假设，然后存在有限数量的观测值，以便学习者猜想正确的假设

H

H对于任何与数据序列一致的进一步观察结果。概括方法和自然投影规则是可靠学习者的假设集的示例。

定理。有一个学习者可靠地识别出正确的假设

H

h当且仅当每个假设

H

h是可反驳假设的有限或可计数分歧。

有关证明，请参见Kelly [1996，ch。 3.3]。

例子。插图，让我们回到带有两个替代假设的鸟类学示例：（1）几乎有限的许多天鹅都是白色的，（2）几乎有限的许多天鹅都是黑色的。如我们所见，从长远来看，这两个假设中的哪一个是正确的。因此，通过表征定理，两个假设中的每个假设都必须是可驳回的经验主张的脱节。要看到这确实是如此，请注意，“除了有限的天鹅都是白色的，所有的天鹅在逻辑上等同于脱节

最多只有1天的天鹅是黑色的，或者最多有2天的天鹅是黑色的……或最多

n

n天鹅是黑色的……或……

同样，“几乎有限的许多天鹅都是黑色的”。析出中的每一个索赔都是可以反驳的。例如，以“最多3天鹅为黑色”的说法。如果这是错误的，将发现3个以上的黑天鹅，此时，该主张是最终伪造的。下图说明了如何将可识别的假设构成为可采用假设的析取。



图5 [图5的扩展描述是在补充中。]

特征定理意味着我们可以将一种可靠的方法视为采用了可反驳的原始假设的内部加强版本。如上示例所示，该定理并不意味着增强的假设是相互排斥的（例如，“最多3天鹅是黑色的”与“最多只有2只天鹅为黑色”。）。最近由于Baltag，Gierasimczuk和Smets [2015]引起的替代表征定理提供了一种替代性结构分析，其中可识别的假设分解为相互排斥的组件，如下所示。

一个假设

H

如果h相当于可验证和可反驳的假设（给定背景知识）的结合：h是可验证的：

H

=

（

V

h =（v和

右

）

r）在哪里

V

V是可验证的，R可排除。例如，“恰好2天的天鹅是黑色”的假设是可以验证的，因为它等同于可验证的假设“至少2只天鹅”的结合，并且“最多2个天鹅”是白色的。 “ VerireFutable”一词是由于[Genin and Kelly 2015]造成的；它表明，当一个可验证的假设为真时，有一些初始条件，此后可以反驳该假设，也就是说，如果该假设是错误的，则该假设将被数据伪造。 Baltag等。请参阅可局部关闭的可VerireFutable假设。他们为可靠学习建立以下特征定理[Baltag等。 2015]。

定理。有一个学习者可靠地识别出正确的假设

H

h当且仅当每个假设

H

h等于相互排斥的可互联假设的有限或可计数分解。

由于可VerireFut的假设是相互排斥的，因此它们构成了有效的精制假设空间，其成员正是原始假设之一。表征定理需要在不丧失学习能力的情况下，归纳方法可以将原始假设空间转变为可验证的假设空间。下图说明了分解为可验证的假设。



图6 [图6的扩展描述是在补充中。]

几点将有助于解释表征定理的重要性。

可靠方法的结构。表征定理告诉我们，可靠方法的结构是如何使所研究假设的结构调整的。例如，提到的定理在可测证性和可检验性之间建立了联系，但是比幼稚的波普尔式设想更受衰减：不必直接检验的假设是可直接伪造的；相反，必须有一些方法来加强每个假设，以产生可数量的可排除的“亚类型”。我们可以将这些可驳回的亚类型视为主要假设可能是正确的方式。 （例如，“除了有限的许多天鹅都是白色”的一种方式是，如果有10个黑天鹅；另一种是如果最多有100只黑天鹅等）。加强原始假设，使其在经验上可以抗拒与Lakatos方法论的精神相匹配，在该方法中，一般的科学范式用辅助假设表达了一般的科学范式，以定义可检验的可检验（即可伪造）主张。

进口背景假设。表征结果在可解决的问题和无法解决的问题之间提出了一条界限。背景知识降低了问题的感应复杂性；有了足够的背景知识，问题就跨越了无法解决的和可解决方案之间的阈值。在许多经验询问的领域中，关键背景假设是那些使可靠的查询可行的假设。 （Kuhn [1970]提出了有关“范式”中背景假设的重要性的相关观点。

语言不变性。学习理论特征定理涉及凯利所说的各种观察序列的“时间纠缠” [Kelly 2000]。最终，他们取决于给定证据，背景假设和经验主张之间的关系。由于逻辑上的需要不取决于我们用来构架证据和假设的语言，因此由特征定理确定的经验问题的归纳复杂性是语言不变的。

4。短期长期：可靠和稳定的信念

长期以来对与真理的融合的批评是询问的目的是，虽然很好，但这种目标与短期中的任何疯狂行为一致[Salmon 1991]。例如，我们在新的归纳之谜中看到，可靠的投影规则可以猜想，无论发现多少绿色祖母绿，下一个祖母绿都会是蓝色的，只要最终“所有祖母绿都是绿色”的规则项目。一种反应是，如果均值末端分析考虑了除了长期融合之外的其他认知目的，那么它可以为短期内的猜想提供强有力的指导。

为了说明这一点，让我们返回到Goodmanian的归纳之谜。自柏拉图以来，哲学家就考虑了这样一个观念，即稳定的真实信念比不稳定的真正信仰更好，而诸如Sklar [1975]之类的认识论学家提倡类似的“认识论保守主义”原则。库恩告诉我们，范式辩论中保守主义的主要原因是改变科学信念的成本[Kuhn 1970]。本着这种精神，学习理论家已经检查了方法，以最大程度地减少他们在最终猜想下定居之前改变理论的次数[Putnam 1965，Kelly 1996，Jain 1999]。据说这种方法可以最大程度地减少思维变化。

4.1示例：新的归纳之谜

事实证明，新的诱因是一个很好的例证。考虑自然投影规则（猜想所有祖母绿均为绿色祖母绿样品）。如果所有祖母绿都是绿色的，则该规则永远不会改变其猜想。如果所有祖母绿都很酸

（

t

）

（t）在一些关键时间

t

T，然后自然投影规则放弃了其猜想的“所有祖母绿都是绿色的”

t

t - 一种思维变化 - 此后正确地投影了“所有祖母绿都很痛苦

（

t

）

（t）”。值得注意的是，规则要投影而不是绿色的规则也不做。例如，考虑一条猜想，即观察到一个绿色祖母绿后所有祖母绿都被刺耳（3）。如果观察到另外两个绿色的祖母绿，则该规则的猜想是伪造的，最终必须改变主意，例如猜想所有祖母绿都是绿色的（假设继续找到绿色祖母绿）。但是那时，可能会出现蓝色的祖母绿，迫使第二种想法改变。可以推广该论点，以表明最大程度地减少思维变化的目的只允许在所有绿色祖母绿的样本上投射绿色谓词[Schulte 1999]。我们在第1.2节中看到了自然投影规则如何最多一次改变思想。下图说明了在典型的情况下，不自然的投影规则可能必须两次或更多。

数学联邦政治世界观提示您：看后求收藏（笔尖小说网http://www.bjxsw.cc），接着再看更方便。