大数定律是现代概率理论中重要的理论,也是连接概率理论与统计理论的重要桥梁。数学中以“定律”命名的理论不多,通常与实际应用有紧密联系。
大数定律描述了这样一种现象:对于一个随机变量序列{Xₙ} (可以理解为无数个样本),它的前 n 项平均值
X₁+X₂+· · ·+Xₙ
Aₙ=───────
n
对于满足若干条件的{Xₙ},当随机变量数量 n 非常大时,它们的平均值将极有可能趋于定值 μ
Aₙ → μ
这个定值μ 通常是 Xᵢ 数学期望。
按收敛方式不同,大数定律分为强大数定律和弱大数定律。
强大数定律
当随机变量序列的长度为无穷大时,它们的平均值必然趋于定值。我们称这样的随机变量序列符合强大数定律。用数学语言来说就是
P{lim Aₙ – μ=0}=1
n→∞
其中Aₙ 是随机变量序列的前 n 项平均值(见前面)。
弱大数定律
当随机变量的序列的长度为无穷大时,它们的平均值逼近定值的概率为将趋近于1。称这样的随机变量序列符合弱大数定律。用数学语言表述为
∀ε>0:lim P{|Aₙ – μ|<ε}=1
n→∞
区别和联系
强大数定律是容易理解的,它类似于数列极限的定义。而弱大数定律相对来说不容易理解,而且乍一看似乎跟强大数定律没有什么区别。实际上,这里面涉及到对极限的理解。当我们说一个数列的极限为1时,只是说这个数列无限逼近于1,而不能保证数列等于1。例如数列
1
αₙ=1 – ─,
n
它的极限为1,但他的每一项都不等于1。再如
1 nπ
bₙ=1+─ sin ─,
n 2
它的极限为1,也确实存在无穷多个等于1的项,但是我们找不到一个 N ,使得 bɴ 以后的每一项全部为1。
再回到弱大数定律,弱大数定律告诉我们,当随机变量的数量n 趋于无穷大时,它们的平均数 Aₙ 逼近定值 μ 的概率趋近于1,但不一定等于1。也就是说,当 n 非常大时, Aₙ 极有可能逼近于 μ ,但也不能保证 Aₙ必然逼近于 μ 。
而强大数定律就不一样了。强大数定律的概率P没有被包裹在极限符号里面,即不是
lim P{. . .}=1
. . .
而是 P{. . .}=1 ,也就是“Aₙ 必定趋近于 μ ”。
如果能理解上面的话,也就能理解如果一个随机变量序列符合强大数定律,那么他一定也符合弱大数定律。因为当P{. . .}=1的时候,那么
lim P{. . .}=1当然也就成立。
. . .
下面在于几个图象来更形象的表示弱大数定律与强大数定律的区别。
• 强大数定律: Aₙ 趋近于 μ
• 弱大数定律:不能保证 Aₙ 趋近于 μ ,但随着 n 的增大, Aₙ 趋近于 μ 的概率将增大。也就是说Aₙ 偏离 μ的次数将越来越少,但无法保证它不偏离 μ 。
大数定律的一般化定义
满足大数定律的随机变量序列除了可以趋近于定值以外,还可以趋近于另一随机变量
设有随机变量序列{Xₙ} 和随机变量 Y ,
(1) 称{Xₙ} 依概率收敛于 Y 当且仅当
∀ε>0:lim P{ω∈Ω:|Xₙ(ω) – Y(ω)|<ε}=1 n→∞
(2) 称{Xₙ} 以概率 1 收敛于 Y 当且仅当
P{ω∈Ω:lim Xₙ(ω) – Y(ω)=0}=1
n→∞
若P{Y=μ}=1 ,则为最常见的情况。
P.S. 林德伯格-莱维中心极限定理
设{Xₙ} 各项独立同分布,且具有有限的数学期望 μ 和标准差 σ , Aₙ 是它的前n项平均值。另设
Aₙ – μ
Yₙ=───
σ
─
√n
则当n → ∞ 时, Yₙ的概率分布将无限接近标准正态分布 N(0,1²) 。用数学语言描述之
lim Fʏₙ(x)=Φ(x)
n→∞
即
Aₙ – μ
lim P{── ≤ x}=Φ(x)
n→∞ σ
─
√n
中心极限定理看似复杂,其实也很容易理解。实际上E[An]=μ,D[An]=σ²/√n。所以这一定理的本质就是——独立同分布且期望和方差分别存在的样本,其平均值服从正态分布。
数学联邦政治世界观提示您:看后求收藏(笔尖小说网http://www.bjxsw.cc),接着再看更方便。