3.4 KiB
1. 问题设定
样本
[
X_1, X_2, \dots, X_n \stackrel{\text{i.i.d.}}{\sim} \text{Exp}(1/\theta)
]
这里 (\text{Exp}(1/\theta)) 表示指数分布，其概率密度函数为
[
f(x; \theta) = \frac{1}{\theta} e^{-x / \theta}, \quad x > 0, \ \theta > 0.
]
均值 (E[X_i] = \theta)，方差 (\text{Var}(X_i) = \theta^2)。
2. 充分统计量与无偏估计
由因子分解定理，
[
f(x_1, \dots, x_n; \theta) = \frac{1}{\theta^n} e^{-(x_1 + \dots + x_n)/\theta}
]
可知 (T = X_1 + \dots + X_n) 是 (\theta) 的充分统计量。
由于 (E[T] = n\theta)，所以
[
E\left[ \frac{T}{n} \right] = \theta.
]
即 (\bar{X} = T/n) 是 (\theta) 的一个无偏估计。
3. 目标：证明 (\bar{X}) 是 UMVUE
UMVUE 定义：在无偏估计中方差最小。
根据 Lehmann–Scheffé 定理，如果 (T) 是充分完备统计量，且 (g(T)) 是无偏估计，则 (g(T)) 是唯一的 UMVUE。
这里 (T) 是充分统计量，我们还需要验证它是否完备。
对于指数族形式：
[
f(x_1,\dots,x_n;\theta) = \frac{1}{\theta^n} e^{-T/\theta}, \quad T = \sum X_i,
]
属于指数族（自然参数 (\eta = -1/\theta)），且参数空间包含开集 ⇒ (T) 是完备的。
因此 (\bar{X} = T/n) 是无偏的，且是 (T) 的函数 ⇒ (\bar{X}) 是 UMVUE。
但题目这里采用另一个方法：零无偏估计法（定理 6.4.1 的内容）：
一个无偏估计 (\hat{\theta}) 是 UMVUE ⇔ 对任意满足 (E_\theta[\varphi(X)]=0 \ \forall\theta) 的 (\varphi)，有 (\text{Cov}_\theta(\hat{\theta}, \varphi) = 0 \ \forall\theta)。
4. 应用零无偏估计法
设 (\varphi(X_1,\dots,X_n)) 是 0 的无偏估计，即
[
E_\theta[\varphi(X_1,\dots,X_n)] = 0, \quad \forall \theta > 0.
]
代入指数分布的 pdf：
[
\int_0^\infty \cdots \int_0^\infty \varphi(x_1,\dots,x_n) \cdot \prod_{i=1}^n \frac{1}{\theta} e^{-x_i/\theta} , dx_1 \cdots dx_n = 0.
]
即
[
\int_0^\infty \cdots \int_0^\infty \varphi(x_1,\dots,x_n) \cdot e^{-(x_1+\dots+x_n)/\theta} , dx_1 \cdots dx_n = 0, \quad \forall \theta > 0.
]
记 (T = \sum x_i)，上式是
[ \int_{\mathbb{R}_+^n} \varphi(x_1,\dots,x_n) e^{-T/\theta} , dx_1\dots dx_n = 0, \quad \forall \theta > 0. ]
5. 对 (\theta) 求导
把 (\theta) 看作变量，
[
F(\theta) := \int \varphi(x_1,\dots,x_n) e^{-T/\theta} , dx_1\dots dx_n = 0 \quad \forall \theta.
]
对 (\theta) 求导：
[
F'(\theta) = \int \varphi(x_1,\dots,x_n) \cdot e^{-T/\theta} \cdot \frac{T}{\theta^2} , dx_1\dots dx_n = 0.
]
即
[
\frac{1}{\theta^2} \int \varphi(x_1,\dots,x_n) \cdot T \cdot e^{-T/\theta} , dx_1\dots dx_n = 0.
]
乘以 (\theta^2) 得
[
\int \varphi(x_1,\dots,x_n) \cdot T \cdot e^{-T/\theta} , dx_1\dots dx_n = 0, \quad \forall \theta > 0.
]
这等价于
[ E_\theta[ T \cdot \varphi(X_1,\dots,X_n) ] = 0, \quad \forall \theta > 0. ]
6. 协方差计算
已知 (E_\theta[\varphi] = 0)，且 (E_\theta[T \varphi] = 0)。
那么
[
\text{Cov}\theta(T, \varphi) = E\theta[T\varphi] - E_\theta[T] E_\theta[\varphi] = 0 - (n\theta)\cdot 0 = 0.
]
由于 (\bar{X} = T/n)，
[ \text{Cov}\theta(\bar{X}, \varphi) = \frac{1}{n} \text{Cov}\theta(T, \varphi) = 0. ]
7. 结论
对任意零无偏估计 (\varphi)，(\bar{X}) 与 (\varphi) 的协方差为零 ⇒ (\bar{X}) 是 UMVUE。