第一节 大数定律(概率论与数理统计)

(概率论与数理统计)

第五章 大数定律 与 中心极限定理

(概率论与数理统计)

5.1 大数定律一、切比雪夫不等式

E( X ) = , D( X ) = σ 2 , 定理1 定理 设有随机变量 X ,则对任一实数 ε

> 0, 恒有2

σ P{ X ≥ ε} ≤ 2 . ε或者写成等价的形式： 或者写成等价的形式：

σ P{ X < ε} ≥1 2 . ε2

(概率论与数理统计)

以连续型随机变量的情形为例， 证 以连续型随机变量的情形为例，在离散的情形只 需把下面的求积分变换为求和即可. 需把下面的求积分变换为求和即可 设 X 的密度函数为2

f (x),

P{ X ≥ ε} =

x ≥

∫ε

x f (x)dx ≤ ∫ f (x)dx ε x ≥ε 2

σ ≤ 2 ∫ (x ) f (x)dx = 2 . ε ∞ ε1+∞ 2

(概率论与数理统计)

服从正态分布： 若随机量 X 服从正态分布： N(,σ 2 ), 则由切比 X 雪夫不等式可得： 雪夫不等式可得：

D( X ) 1 P{ X ≥ 3σ} ≤ = ≈ 0.11 2 (3σ ) 9在前一章中已经指出： 在前一章中已经指出：

P{ X ≤ 3σ} ≈ 0.9974故有

P{ X ≥ 3σ} ≈ 0.0026

比较上述结果！ 比较上述结果！

(概率论与数理统计)

例1 设有一大批种子，其中良种占1/6. 试 估计在任选的 6000 粒种子中, 良种所占比 例与1/6 比较上下小于1%的概率. 解 设 X 表示 6000 粒种子中的良种数 , X ~ B (6000,1/6 )5000 E( X ) =1000, D( X ) = 6 1 X P < 0.01 6000 6 5000

6 = 83 = 0.7685 = P(| X 1000 |< 60) ≥1 2 60 108

(概率论与数理统计)

实际精确计算1 X = P(940 < X <1060) P < 0.01 6000 6 k 6000k

=

1059

k=941

∑C

k 6000

1 6

5 6

= 0.959036

用Poisson 分布近似计算 取λ = 1000 X 1 P < 0.01 = P(940 < X <1060) 6000 6

1000 e =∑ k! k=941

1059

k

1000

= 0.937934

(概率论与数理统计)

例2 设每次试验中，事件 A 发生的概率为 0.75, 试用 Chebyshev 不等式估计, n 多大 时, 才能在 n 次独立重复试验中, 事件 A 出 现的频率在0.74 ~ 0.76 之间的概率大于 0.90? 解 设 X 表示 n 次独立重复试验中事件 A 发生的次数 , 则 X ~ B(n,0.75)

E( X ) = 0.75 n, D( X ) = 0.1875 n问题0.74 < X < 0.76 ≥ 0.90 ,求 n 要使 P n

(概率论与数理统计)

即 P(0.74n < X < 0.76n) ≥ 0.90 即 P(| X 0.75n |< 0.01n) ≥ 0.90 由 Chebyshev 不等式，ε = 0.01n ,故

0.1875n P(| X 0.75n |< 0.01n) ≥1 2 (0.01n) 令 0.1875n 1 ≥ 0.90 2 (0.01n) 解得 n ≥18750

(概率论与数理统计)

二、大数定律为一随机变量序列， 为一常数， 定义 设 {Xn} 为一随机变量序列，a 为一常数，若对 任意的 ε > 0, 有

limP{ Xn a < ε} =1,n→∞ n→∞

(*)

则称 { Xn } 依概率收敛于 a , 记作

Xn a →p

(*)式也可代之以其等价形式 )

limP{ Xn a ≥ ε} = 0.n→∞

(概率论与数理统计)

定理2 (贝努利大数定律) 设 nA 是 n 次独立重复试 定理 贝努利大数定律) 出现的次数， 验中事件 A 出现的次数， p 是事件 A 在每次试验中发生 的概率， 的概率，则对于任意给定的正数

ε > 0,

有

nA lim P p < ε =1. n→∞ n 证 显然，nA 是随机变量，将其记为 X ,则 X b(n, p), 显然， 是随机变量， 且 EX

= np, DX = np(1 p). 对随机变量 X 使用切比雪夫不等式， ε > 0, 有 使用切比雪夫不等式， n

(概率论与数理统计)

X D X X n . P E ≥ ε ≤ 2 ε n n 又

np(1 P) p(1 p), X np X 1 E = = p, D = 2 DX = = 2 n n n n n n由此得

X p(1 p) X P E ≥ ε ≤ . 2 nε n n

(概率论与数理统计)

注意到概率的非负性， 令 n →∞, 注意到概率的非负性，有

X X limP E ≥ ε = 0, n→∞ n n 即

nA lim P p ≥ ε = 0. n→∞ n

nA p 这说明 p. → n这也是前面所提到的频率稳定性的一个数学表示. 这也是前面所提到的频率稳定性的一个数学表示

(概率论与数理统计)

贝努里(Bernoulli)大数定律的意义 贝努里(Bernoulli)大数定律的意义 (Bernoulli)在概率的统计定义中, 事件 A 发生的频率

nA n “ 稳定于”事件 A 在一次试验中发生的概率是指：nA nA 频率 与 p 有较大偏差 p ≥ ε 是 n n

小概率事件, 因而在 n 足够大时, 可以用频 率近似代替 p . 这种稳定称为依概率稳定.

(概率论与数理统计)

定理3 Chebyshev 大数定律设 随机变量序列 X1, X2 ,, Xn ,相互独立, (指任意给定 n > 1, X1, X2 ,, Xn 相互独立) 且具有相同的数学期望和方差

E( Xk ) = , D( Xk ) = σ , k =1,2, 则 ε > 0 有2

或

1n limP ∑Xk ≥ ε = 0 n→∞ n k=1 1 n limP ∑Xk < ε =1 n→∞ n k=1

(概率论与数理统计)

定理的意义具有相同数学期望和方差的独立 r.v.序列的 算术平均值依概率收敛于数学期望. 当 n 足够大时, 算术平均值几乎是一常数.

数学 算术 可被 近似代替 期望 均值

(概率论与数理统计)

证明 由于

1 1 n 1 n E ∑Xk = ∑E( Xk ) = n, n n k=1 n k=1

1 n 1 n 1 σ2 D ∑Xk = 2 ∑D( Xk ) = 2 nσ 2 = , n n n k=1 n k=1由切比雪夫不等式可得

1 n σ2 P ∑Xk < ε ≥1 2 . nε n k=1 令 n →∞, 注意到概率不能大于 ，有 注意到概率不能大于1,

1 n limP ∑Xk < ε =1. n→∞ n k=1