9.设总体Xsim P(lambda),lambda>0, X_(1),X_(2),...,X_(n)是一子样,证明overline(X)=(1)/(n)sum_(i=1)^nX_(i)是λ的无偏、一致、有效估计.
题目解答
答案
设总体 $X \sim P(\lambda)$,其中 $\lambda > 0$,样本 $X_1, X_2, \ldots, X_n$ 独立同分布。
-
无偏性:
$\mathbb{E}[\overline{X}] = \mathbb{E}\left[\frac{1}{n} \sum_{i=1}^{n} X_i\right] = \frac{1}{n} \sum_{i=1}^{n} \mathbb{E}[X_i] = \frac{1}{n} \cdot n\lambda = \lambda$
故 $\overline{X}$ 是 $\lambda$ 的无偏估计。 -
一致性:
由大数定律,当 $n \to \infty$ 时,$\overline{X}$ 依概率收敛于 $\lambda$,即 $\overline{X}$ 是一致估计。 -
有效性:
$\text{Var}(\overline{X}) = \frac{\lambda}{n}$
Cramér-Rao 下界为 $\frac{\lambda}{n}$,与 $\text{Var}(\overline{X})$ 相等,故 $\overline{X}$ 是有效估计。
结论:$\overline{X} = \frac{1}{n} \sum_{i=1}^{n} X_i$ 是 $\lambda$ 的无偏、一致、有效估计。
$\boxed{\overline{X} = \frac{1}{n} \sum_{i=1}^{n} X_i}$
解析
本题主要考察参数估计中无偏估计、一致估计和有效估计的概念及相关性质,解题思路是分别根据无偏估计、一致估计和有效估计的定义和判定条件来证明 $\overline{X}=\frac{1}{n}\sum_{i=1}^{n}X_{i}$ 是 $\lambda$ 的无偏、一致、有效估计。
- 无偏性证明:
- 首先明确无偏估计的定义:若估计量 $\hat{\theta}$ 满足 $E(\hat{\theta}) = \theta$,则称 $\hat{\theta}$ 是 $\theta$ 的无偏估计。
- 对于本题,要证明 $\overline{X}$ 是 $\lambda$ 的无偏估计,需计算 $E(\overline{X})$。
- 根据期望的线性性质:对于任意随机变量 $X_1,X_2,\cdots,X_n$ 和常数 $a_1,a_2,\cdots,a_n$,有 $E(\sum_{i = 1}^{n}a_iX_i)=\sum_{i = 1}^{n}a_iE(X_i)$。
- 已知 $X_{1},X_{2},\cdots,X_{n}$ 是来自总体 $X\sim P(\lambda)$ 的样本,所以 $E(X_i)=\lambda$,$i = 1,2,\cdots,n$。
- 计算 $E(\overline{X})$:
$\begin{align*}E(\overline{X})&=E\left(\frac{1}{n}\sum_{i = 1}^{n}X_i\right)\\&=\frac{1}{n}E\left(\sum_{i = 1}^{n}X_i\right)\\&=\frac{1}{n}\sum_{i = 1}^{n}E(X_i)\\&=\frac{1}{n}\cdot n\lambda\\&=\lambda\end{align*}$ - 因为 $E(\overline{X}) = \lambda$,所以 $\overline{X}$ 是 $\lambda$ 的无偏估计。
- 一致性证明:
- 一致性的判定依据是大数定律。大数定律表明,若 $X_1,X_2,\cdots,X_n$ 是独立同分布的随机变量序列,且具有有限的数学期望 $E(X_i)=\mu$,$i = 1,2,\cdots,n$,则当 $n\to\infty$ 时,样本均值 $\overline{X}=\frac{1}{n}\sum_{i = 1}^{n}X_i$ 依概率收敛于 $\mu$。
- 由于 $X_{1},X_{2},\cdots,X_{n}$ 是来自总体 $X\sim P(\lambda)$ 的样本,它们独立同分布且 $E(X_i)=\lambda$,$i = 1,2,\cdots,n$。
- 根据大数定律,当 $n\to\infty$ 时,$\overline{X}$ 依概率收敛于 $\lambda$,所以 $\overline{X}$ 是 $\lambda$ 的一致估计。
- 有效性证明:
- 有效性的判定需要计算估计量的方差,并与 Cramér - Rao 下界进行比较。若估计量的方差等于 Cramér - Rao 下界,则该估计量是有效估计。
- 首先计算 $\overline{X}$ 的方差:
- 已知 $X_{1},X_{2},\cdots,X_{n}$ 相互独立,根据方差的性质:对于相互独立的随机变量 $X_1,X_2,\cdots,X_n$ 和常数 $a_1,a_2,\cdots,a_n$,有 $Var(\sum_{i = 1}^{n}a_iX_i)=\sum_{i = 1}^{n}a_i^2Var(X_i)$。
- 因为 $X_i\sim P(\lambda)$,所以 $Var(X_i)=\lambda$,$i = 1,2,\cdots,n$。
- 计算 $Var(\overline{X})$:
$\begin{align*}Var(\overline{X})&=Var\left(\frac{1}{n}\sum_{i = 1}^{n}X_i\right)\\&=\frac{1}{n^2}Var\left(\sum_{i = 1}^{n}X_i\right)\\&=\frac{1}{n^2}\sum_{i = 1}^{n}Var(X_i)\\&=\frac{1}{n^2}\cdot n\lambda\\&=\frac{\lambda}{n}\end{align*}$ - 对于总体 $X\sim P(\lambda)$,其概率分布为 $P(X = k)=\frac{e^{-\lambda}\lambda^k}{k!}$,$k = 0,1,2,\cdots$。
- 对数似然函数为 $\ln L(\lambda)=\sum_{i = 1}^{n}\ln\left(\frac{e^{-\lambda}\lambda^{X_i}}{X_i!}\right)=-n\lambda+\sum_{i = 1}^{n}X_i\ln\lambda-\sum_{i = 1}^{n}\ln(X_i!)$。
- 对 $\ln L(\lambda)$ 求关于 $\lambda$ 的一阶导数:$\frac{\partial\ln L(\lambda)}{\partial\lambda}=-n+\frac{1}{\lambda}\sum_{i = 1}^{n}X_i$。
- 再求二阶导数:$\frac{\partial^2\ln L(\lambda)}{\partial\lambda^2}=-\frac{1}{\lambda^2}\sum_{i = 1}^{n}X_i$。
- 根据 Cramér - Rao 不等式,Cramér - Rao 下界为 $-\frac{1}{nE\left[\left(\frac{\partial\ln L(\lambda)}{\partial\lambda}\right)^2\right]}$。
- 计算 $E\left[\left(\frac{\partial\ln L(\lambda)}{\partial\lambda}\right)^2\right]$:
$\begin{align*}E\left[\left(\frac{\partial\ln L(\lambda)}{\partial\lambda}\right)^2\right]&=E\left[\left(-n+\frac{1}{\lambda}\sum_{i = 1}^{n}X_i\right)^2\right]\\&=E\left[n^2 - 2n\frac{1}{\lambda}\sum_{i = 1}^{n}X_i+\frac{1}{\lambda^2}\left(\sum_{i = 1}^{n}X_i\right)^2\right]\\&=n^2-\frac{2n}{\lambda}\sum_{i = 1}^{n}E(X_i)+\frac{1}{\lambda^2}E\left[\left(\sum_{i = 1}^{n}X_i\right)^2\right]\end{align*}$ - 因为 $E(X_i)=\lambda$,$Var(X_i)=\lambda$,$E(X_i^2)=Var(X_i)+[E(X_i)]^2=\lambda+\lambda^2$,且 $E\left[\left(\sum_{i = 1}^{n}X_i\right)^2\right]=\sum_{i = 1}^{n}E(X_i^2)+2\sum_{1\leq i<j\leq n}E(X_i)E(X_j)=n(\lambda+\lambda^2)+n(n - 1)\lambda^2$。
- 代入上式可得 $E\left[\left(\frac{\partial\ln L(\lambda)}{\partial\lambda}\right)^2\right]=n^2-\frac{2n}{\lambda}\cdot n\lambda+\frac{1}{\lambda^2}[n(\lambda+\lambda^2)+n(n - 1)\lambda^2]=n$。
- 所以 Cramér - Rao 下界为 $\frac{\lambda}{n}$,与 $Var(\overline{X})$ 相等,故 $\overline{X}$ 是 $\lambda$ 的有效估计。