中心极限定理(重点之一)二

3 林德伯格中心极限定理

林德伯格中心极限定理(Lindeberg's CLT)又叫作Lindeberg-Feller CLT,它弱化了经典CLT的i.i.d条件。在此定理中,我们考虑随机变量的三角数组(triangular array)Xₙ₁,· · ·,Xₙᵣₙ ,它们对于任意固定 n 都是独立的,且

rₙ → ∞ 。

n→∞

令 Sₙ=Xₙ₁+· · · Ⅹₙᵣₙ ,并令

ᵣₙ

Var(Xₙⱼ)=σ²ₙⱼ,s²ₙ=∑ σ²ₙⱼ。

ⱼ₌₁

经典CLT的设定可以视作林德伯格CLT的特殊情况,这里

Xₙⱼ=Xⱼ,rₙ=n,s²ₙ=∑ σ²=nσ²。

ⱼ₌₁

另外,在林德伯格CLT的设定中,我们不失一般性地假设 𝔼[Xₙⱼ]=0∀n,∀j 。下面我们陈述林德伯格CLT的林德伯格条件(Lindeberg condition),它是标准化的和的渐近正态性(asymptotic normality)的充分条件(sufficient condition)。

定义 3.1 对于给定的 ϵ>0 ,林德伯格条件是

1 ᵣₙ

1

lim ─ ∑ 𝔼[X²ₙⱼ1|Xₙⱼ|≥ϵsₙ]=lim ─

sₙ2 ⱼ₌₁

n→∞ sₙ2

ᵣₙ

∑ ∫|Xₙⱼ|≥ϵsₙ X²ₙⱼ dℙ=0

ⱼ₌₁

根据林德伯格条件,我们可以推出

σ²ₙⱼ

lim

max

──=0。

n→∞ 1≤j≤rₙ

s²ₙ

因为

σ²ₙⱼ=∫|Xₙⱼ|<ϵsₙ X²ₙⱼ dℙ+∫|Xₙⱼ|≥ϵsₙ X²ₙⱼ dℙ ≤ ϵ² s²ₙ+∫|Xₙⱼ|≥ϵsₙ X²ₙⱼ dℙ

所以

σ²ₙⱼ

1

max ─ ≤ ϵ²+─ ∫|Xₙⱼ|≥ϵsₙ

1≤j≤rₙ s²ₙ

s²ₙ

1

ᵣₙ

X²ₙⱼ dℙ ≤ ϵ²+─ ∑ ∫|Xₙⱼ|≥ϵsₙ X²ₙⱼ dℙ

s²ₙ ⱼ₌₁

因此,林德伯格条件的实质是,对于足够大的n ,任意 Xₙⱼ 的方差对于 s²ₙ 的贡献是任意小的。若要对应经典CLT的设定,我们可以将林德伯格条件写为

1

lim

─ ∫|X₁|≥ϵσ√n X²₁ dℙ=0

n→∞ σ²

此条件明显成立,原因是{|X₁|≥ϵσ√n} → ∅ 和控制收敛定理。

n→∞

定理 3.2(林德伯格CLT)若林德伯格条件对于任意 ϵ>0 都成立,那么

D

Sₙ/sₙ → Z

证明 由于可以将 Xₙⱼ 替换为 Xₙⱼ/sₙ ,我们将不失一般性地假设

ᵣₙ

s²ₙ=∑ σ²ₙⱼ=1. 由于

ⱼ₌₁

1

│eⁱᵗˣ – (1+itx – ─ t²x²)│

2

1

≤ min(─|t|³|x³|,t²x²)

6

固定 ϵ>0 ,则 Xₙⱼ 的特征函数 фₙⱼ 满足

1

│eⁱᵗˣ(t) – (1 – ─t²σ²ₙⱼ)│

2

≤ 𝔼[min(│tXₙⱼ|³,(tXₙⱼ)²)]

≤ ∫|Xₙⱼ|<ϵ|tXₙⱼ|³ dℙ+∫|Xₙⱼ|≥ϵ(tXₙⱼ)² dℙ≤ϵ|t|³σ²ₙⱼ+t² ∫|Xₙⱼ|≥ϵ X²ₙⱼ dℙ

由于

|z₁ · · · zₙ – ω₁ · · · ωₙ| ≤ ∑ |zⱼ – ωⱼ|,

ⱼ₌₁

ᵣₙ

1

│фsₙ(t) – ∏ (1 – ─t²σ²ₙⱼ)│

ⱼ₌₁

2

ᵣₙ

ᵣₙ

≤ϵ|t|³∑ σ²ₙⱼ+t²∑ ∫|Xₙⱼ|≥ϵ X²ₙⱼ dℙ

ⱼ₌₁

j₌₁

先令 ϵ → 0 ,再令 n → ∞ ,根据林德伯格条件,我们得到

ᵣₙ

1

lim│фsₙ(t) – ∏ (1 – ─t²σ²ₙⱼ)│=0

n→∞

ⱼ₌₁

2

由于

ᵣₙ

e⁻ᵗ²/²=e⁻ᵗ²∑ʳⁿⱼ₌₁ σ²ₙⱼ/²=∏ e⁻ᵗ²σ²ₙⱼ/²,

ⱼ₌₁

我们还需证明

ᵣₙ

ᵣₙ

1

lim │∏e⁻ᵗ²σ²ₙⱼ/² – ∏ (1 – ─ ᵗ²σ²ₙⱼ)│=0.

n→∞ ⱼ₌₁

ⱼ₌₁

2

我们通过计算得到

ᵣₙ

ᵣₙ

1

│∏e⁻ᵗ²σ²ₙⱼ/² – ∏ (1 – ─ ᵗ²σ²ₙⱼ)│

ⱼ₌₁

ⱼ₌₁

2

ᵣₙ

1

≤ ∑│e⁻ᵗ²σ²ₙⱼ/² – (1 – ─ ᵗ²σ²ₙⱼ)│

ⱼ₌₁

2

ᵣₙ t⁴σ⁴ₙⱼ

ᵣₙ

≤ ∑ (── eᵗ⁴σ⁴ₙⱼ/⁴ ) ≤ t⁴eᵗ⁴∑σ⁴ₙⱼ

ⱼ₌₁

4

ⱼ₌₁

第一个不等式是因为

|z₁ · · · zₙ – ω₁ · · · ωₙ| ≤ ∑ |zⱼ – ωⱼ|,

ⱼ₌₁

第二个不等式是因为

∞ |z|ʲ⁻²

|eᶻ – 1 – z| ≤ |z²|∑ ───

ⱼ₌₁

j!

≤ |z|²e|ᶻ|∀ z ∈ ℂ .

由于 lim max σ²ₙⱼ=0 ,且

n→∞ 1≤j≤rₙ

ᵣₙ

∑ σ²ₙⱼ=1,

ⱼ₌₁

ᵣₙ

我们有 ∑ σ⁴ₙⱼ → 0 .

ⱼ₌₁

n→∞

D

因此фsₙ(t) → фᴢ(t) ,故 Sₙ → Z .

应用林德伯格CLT的一个经典例子是Goncharov定理。令Ωₙ 为 1,. . .,n 的 n! 个置换(permutation)。对于循环表示(cyclic representation) ω ∈ Ωₙ ,若第 j 个元素完成一个循环,则令 Xₙⱼ(ω)=1 ,否则令 Xₙⱼ(ω)=0 。

这样 Sₙ=∑Xₙⱼ就是循环的数量。

ⱼ₌₁

这里 Xₙⱼ 是独立的。我们可以用归纳法和条件概率得出

1

ℙ(Xₙⱼ=1)=───

n – j+1

这样我们就可以通过计算得到,Sₙ 的均值为

1

ₙ 1

Lₙ=∑ ────=∑ ─,

ⱼ₌₁ n – j+1

ⱼ₌₁ j

方差为 L²ₙ+O(1) 。这里的林德伯格条件

1

lim

──── ∑ ∫|Xₙⱼ|≥ϵ√Lₙ+O(1) ↓

n→∞

Lₙ+O(1) ⱼ₌₁

X²ₙⱼ dℙ=0

显然被满足,因为|Xₙⱼ| 以 1 为界。根据应用林德伯格CLT,

D

(Sₙ – Lₙ)/sₙ → N(0,1)。

又因为 Lₙ=log n+O(1) ,我们有

D

(Sₙ – log n)/√log n → N(0,1)

4 李雅普诺夫中心极限定理

李雅普诺夫中心极限定理(Lyapunov's CLT)是林德伯格中心极限定理的强化版本,可以视作林德伯格中心极限定理的推论。换句话说,此定理的李雅普诺夫条件是林德伯格条件的充分条件。

定义 4.1 对于给定的 δ>0 ,李雅普诺夫条件是

1

ᵣₙ

lim

─── ∑ 𝔼[│Xₙⱼ│2+δ] ↓

n→∞

sₙ2+δ ⱼ₌₁

1

ᵣₙ

lim

───

∑ ∫│Xₙⱼ│2+δ dℙ=0

n→∞

sₙ2+δ

ⱼ₌₁

李雅普诺夫条件中取极限的表达式可以给出林德伯格条件中取极限的表达式的上界,故我们得到李雅普诺夫CLT。

定理 4.2(李雅普诺夫CLT)若存在 δ>0 ,使得李雅普诺夫条件成立,那么

D

Sₙ/sₙ → Z

证明 由于

1

ᵣₙ

∑ ∫|Xₙⱼ|≥ϵsₙ Ⅹ²ₙⱼ

s²ₙ ⱼ₌₁

1

ᵣₙ

dℙ ≤ ───

∑ ∫|Xₙⱼ|≥ϵsₙ|Xₙⱼ|2+δ dℙ

ϵδsₙ2+δ ⱼ₌₁

1

ᵣₙ

≤ ϵ⁻δ ───

∑ ∫|Xₙⱼ|2+δ dℙ

sₙ2+δ

ⱼ₌₁

李雅普诺夫条件可以推出林德伯格条件,故

D

Sₙ/sₙ → Z.

李雅普诺夫CLT有下面两个推论。

推论 4.3 令 Xⱼ 为均值为 0 ,方差为 σ² 的独立随机变量. 若存在 δ>0 ,使得

sup𝔼[|Xₖ|2+δ]<∞ ,则

Sₙ

D

── → Z

σ√n

证明 令 C=sup𝔼[|Xₖ|2+δ]<∞ .

注意 sₙ=σ√n .

1

由于 ───

∑ 𝔼[|Xⱼ|2+δ]

sₙ2+δ

ⱼ₌₁

C

≤ ────,

σ2+δnδ/2

李雅普诺夫条件成立.

推论 4.4 令 Xⱼ 为均值为 0 且一致有界(uniformly bounded)的独立随机变量. 若

∑ Var(Xⱼ)=∞,则

ⱼ₌₁

Sₙ

D

──── → Z

√Var(Sₙ)

证明 假设存在 C<∞ 使得 |Xⱼ| ≤ C∀j . 令 δ=1 ,由于

1

s²ₙ

C

∑ 𝔼[|Xⱼ|³] ≤ C ─=─────

s³ₙ ⱼ₌₁

s³ₙ √∑ⁿⱼ₌₁Var(Xⱼ)

,李雅普诺夫条件成立.

推论4.4非常有用,因为在实际应用中,我们常常会检查李雅普诺夫条件在δ=1 时是否成立。

(本章完)

相关推荐