P288 例6.4.2

P288 例6.4.2.md

@@ -0,0 +1,130 @@
+## 1. 问题设定
+
+样本  
+
+ \[
+X_1, X_2, \dots, X_n \stackrel{\text{i.i.d.}}{\sim} \text{Exp}(1/\theta)
+\]  
+这里 \(\text{Exp}(1/\theta)\) 表示**指数分布**，其概率密度函数为  
+
+ \[
+f(x; \theta) = \frac{1}{\theta} e^{-x / \theta}, \quad x > 0, \ \theta > 0.
+\]  
+均值 \(E[X_i] = \theta\)，方差 \(\text{Var}(X_i) = \theta^2\)。
+
+---
+
+## 2. 充分统计量与无偏估计
+
+由因子分解定理，  
+
+ \[
+f(x_1, \dots, x_n; \theta) = \frac{1}{\theta^n} e^{-(x_1 + \dots + x_n)/\theta}
+\]  
+可知 \(T = X_1 + \dots + X_n\) 是 \(\theta\) 的充分统计量。
+
+由于 \(E[T] = n\theta\)，所以  
+
+ \[
+E\left[ \frac{T}{n} \right] = \theta.
+\]  
+即 \(\bar{X} = T/n\) 是 \(\theta\) 的一个无偏估计。
+
+---
+
+## 3. 目标：证明 \(\bar{X}\) 是 UMVUE
+
+**UMVUE** 定义：在无偏估计中方差最小。  
+根据 **Lehmann–Scheffé 定理**，如果 \(T\) 是充分完备统计量，且 \(g(T)\) 是无偏估计，则 \(g(T)\) 是唯一的 UMVUE。
+
+这里 \(T\) 是充分统计量，我们还需要验证它是否完备。  
+对于指数族形式：  
+
+ \[
+f(x_1,\dots,x_n;\theta) = \frac{1}{\theta^n} e^{-T/\theta}, \quad T = \sum X_i,
+\]  
+属于指数族（自然参数 \(\eta = -1/\theta\)），且参数空间包含开集 ⇒ \(T\) 是完备的。
+
+因此 \(\bar{X} = T/n\) 是无偏的，且是 \(T\) 的函数 ⇒ \(\bar{X}\) 是 UMVUE。
+
+---
+
+但题目这里采用另一个方法：**零无偏估计法**（定理 6.4.1 的内容）：  
+> 一个无偏估计 \(\hat{\theta}\) 是 UMVUE ⇔ 对任意满足 \(E_\theta[\varphi(X)]=0 \ \forall\theta\) 的 \(\varphi\)，有 \(\text{Cov}_\theta(\hat{\theta}, \varphi) = 0 \ \forall\theta\)。
+
+---
+
+## 4. 应用零无偏估计法
+
+设 \(\varphi(X_1,\dots,X_n)\) 是 **0 的无偏估计**，即  
+
+ \[
+E_\theta[\varphi(X_1,\dots,X_n)] = 0, \quad \forall \theta > 0.
+\]  
+代入指数分布的 pdf：
+
+ \[
+\int_0^\infty \cdots \int_0^\infty \varphi(x_1,\dots,x_n) \cdot \prod_{i=1}^n \frac{1}{\theta} e^{-x_i/\theta} \, dx_1 \cdots dx_n = 0.
+\]  
+即  
+
+ \[
+\int_0^\infty \cdots \int_0^\infty \varphi(x_1,\dots,x_n) \cdot e^{-(x_1+\dots+x_n)/\theta} \, dx_1 \cdots dx_n = 0, \quad \forall \theta > 0.
+\]  
+记 \(T = \sum x_i\)，上式是  
+
+ \[
+\int_{\mathbb{R}_+^n} \varphi(x_1,\dots,x_n) e^{-T/\theta} \, dx_1\dots dx_n = 0, \quad \forall \theta > 0.
+\]
+
+---
+
+## 5. 对 \(\theta\) 求导
+
+把 \(\theta\) 看作变量，  
+
+ \[
+F(\theta) := \int \varphi(x_1,\dots,x_n) e^{-T/\theta} \, dx_1\dots dx_n = 0 \quad \forall \theta.
+\]  
+对 \(\theta\) 求导：  
+
+ \[
+F'(\theta) = \int \varphi(x_1,\dots,x_n) \cdot e^{-T/\theta} \cdot \frac{T}{\theta^2} \, dx_1\dots dx_n = 0.
+\]  
+即  
+
+ \[
+\frac{1}{\theta^2} \int \varphi(x_1,\dots,x_n) \cdot T \cdot e^{-T/\theta} \, dx_1\dots dx_n = 0.
+\]  
+乘以 \(\theta^2\) 得  
+
+ \[
+\int \varphi(x_1,\dots,x_n) \cdot T \cdot e^{-T/\theta} \, dx_1\dots dx_n = 0, \quad \forall \theta > 0.
+\]  
+这等价于  
+
+ \[
+E_\theta[ T \cdot \varphi(X_1,\dots,X_n) ] = 0, \quad \forall \theta > 0.
+\]
+
+---
+
+## 6. 协方差计算
+
+已知 \(E_\theta[\varphi] = 0\)，且 \(E_\theta[T \varphi] = 0\)。  
+那么  
+
+ \[
+\text{Cov}_\theta(T, \varphi) = E_\theta[T\varphi] - E_\theta[T] E_\theta[\varphi] = 0 - (n\theta)\cdot 0 = 0.
+\]  
+由于 \(\bar{X} = T/n\)，  
+
+ \[
+\text{Cov}_\theta(\bar{X}, \varphi) = \frac{1}{n} \text{Cov}_\theta(T, \varphi) = 0.
+\]
+
+---
+
+## 7. 结论
+
+对任意零无偏估计 \(\varphi\)，\(\bar{X}\) 与 \(\varphi\) 的协方差为零 ⇒ \(\bar{X}\) 是 UMVUE。