题目

22. (10.0分) (x_(1),x_(2),...,x_(n))是取自如下指数分布的子样f(x)=}(1)/(theta)e^-(x)/(theta)&xgeq0theta&其他利用克拉默-拉欧不等式验证overline(x)是否为theta的无偏、有效估计。

22. (10.0分) $(x_{1},x_{2},\cdots,x_{n})$是取自如下指数分布的子样 $f(x)=\begin{cases}\frac{1}{\theta}e^{-\frac{x}{\theta}}&x\geq0\\\theta&其他\end{cases}$ 利用克拉默-拉欧不等式验证$\overline{x}$是否为$\theta$的无偏、有效估计。

题目解答

答案

  1. 无偏性：
    指数分布的期望为 $E(X_i) = \theta$，样本均值 $\bar{X} = \frac{1}{n} \sum_{i=1}^n X_i$ 的期望为：
    $E(\bar{X}) = \frac{1}{n} \sum_{i=1}^n E(X_i) = \theta$
    故 $\bar{X}$ 是 $\theta$ 的无偏估计。

  2. 克拉默-拉欧下界：
    Fisher 信息量 $I(\theta)$ 为：
    $I(\theta) = E\left[ \left( \frac{\partial}{\partial \theta} \log f(X; \theta) \right)^2 \right] = \frac{1}{\theta^2}$
    克拉默-拉欧下界为：
    $\frac{1}{nI(\theta)} = \frac{\theta^2}{n}$

  3. $\bar{X}$ 的方差：
    $\bar{X}$ 的方差为：
    $\text{Var}(\bar{X}) = \frac{\theta^2}{n}$
    与克拉默-拉欧下界相等，说明 $\bar{X}$ 是有效估计。

结论：
$\bar{X}$ 是 $\theta$ 的无偏、有效估计。
$\boxed{ \bar{X} \text{ 是 } \theta \text{ 的无偏、有效估计。}$

解析

本题主要考察指数分布的期望、样本均值的期望、Fisher信息量、克拉默 - 拉欧不等式以及无偏估计和有效估计的概念。解题思路如下：

  1. 验证无偏性：先求出指数分布的期望，再根据样本均值的期望公式计算样本均值 $\overline{X}$ 的期望，若其等于参数 $\theta$，则 $\overline{X}$ 是 $\theta$ 的无偏估计。
  2. 计算克拉默 - 拉欧下界：先求出对数似然函数 $\log f(X;\theta)$ 对 $\theta$ 的一阶导数，再求其平方的期望，得到 Fisher 信息量 $I(\theta)$，最后根据克拉默 - 拉欧不等式计算下界 $\frac{1}{nI(\theta)}$。
  3. 计算 $\overline{X}$ 的方差：根据指数分布的方差以及样本均值的方差性质计算 $\overline{X}$ 的方差。
  4. 判断有效性：若 $\overline{X}$ 的方差等于克拉默 - 拉欧下界，则 $\overline{X}$ 是有效估计。

详细解答

  1. 验证无偏性
    已知指数分布的概率密度函数为 $f(x)=\begin{cases}\frac{1}{\theta}e^{-\frac{x}{\theta}}&x\geq0\\0&其他\end{cases}$，根据指数分布的期望公式 $E(X)=\int_{-\infty}^{+\infty}xf(x)dx$，可得：
    $\begin{align*}E(X_i)&=\int_{0}^{+\infty}x\cdot\frac{1}{\theta}e^{-\frac{x}{\theta}}dx\\&=-\int_{0}^{+\infty}xd(e^{-\frac{x}{\theta}})\\&=-[xe^{-\frac{x}{\theta}}\big|_{0}^{+\infty}-\int_{0}^{+\infty}e^{-\frac{x}{\theta}}dx]\\&=-[0 - (-\theta)e^{-\frac{x}{\theta}}\big|_{0}^{+\infty}]\\&=\theta\end{align*}$
    样本均值 $\overline{X} = \frac{1}{n} \sum_{i=1}^n X_i$，根据期望的线性性质 $E(aY + bZ)=aE(Y)+bE(Z)$，可得：
    $\begin{align*}E(\overline{X})&=E(\frac{1}{n} \sum_{i=1}^n X_i)\\&=\frac{1}{n} \sum_{i=1}^n E(X_i)\\&=\frac{1}{n} \cdot n\theta\\&=\theta\end{align*}$
    因为 $E(\overline{X}) = \theta$，所以 $\overline{X}$ 是 $\theta$ 的无偏估计。
  2. 计算克拉默 - 拉欧下界
    先求对数似然函数 $\log f(X;\theta)$：
    当 $x\geq0$ 时，$\log f(x;\theta)=\log(\frac{1}{\theta}e^{-\frac{x}{\theta}})=-\log\theta - \frac{x}{\theta}$。
    对 $\theta$ 求一阶导数：
    $\frac{\partial}{\partial \theta} \log f(x;\theta)=-\frac{1}{\theta}+\frac{x}{\theta^2}$。
    再求其平方的期望：
    $\begin{align*}I(\theta)&=E\left[ \left( \frac{\partial}{\partial \theta} \log f(X; \theta) \right)^2 \right]\\&=E\left[ (-\frac{1}{\theta}+\frac{X}{\theta^2})^2 \right]\\&=E\left[ \frac{1}{\theta^2}-\frac{2X}{\theta^3}+\frac{X^2}{\theta^4} \right]\\&=\frac{1}{\theta^2}-\frac{2}{\theta^3}E(X)+\frac{1}{\theta^4}E(X^2)\end{align*}$
    对于指数分布，$E(X^2)=D(X)+[E(X)]^2$，其中 $D(X)=\theta^2$，$E(X)=\theta$，所以 $E(X^2)=2\theta^2$。
    代入上式可得：
    $\begin{align*}I(\theta)&=\frac{1}{\theta^2}-\frac{2}{\theta^3}\cdot\theta+\frac{1}{\theta^4}\cdot2\theta^2\\&=\frac{1}{\theta^2}-\frac{2}{\theta^2}+\frac{2}{\theta^2}\\&=\frac{1}{\theta^2}\end{align*}$
    根据克拉默 - 拉欧不等式，下界为 $\frac{1}{nI(\theta)} = \frac{\theta^2}{n}$。
  3. 计算 $\overline{X}$ 的方差
    因为 $X_i$ 相互独立且都服从参数为 $\theta$ 的指数分布，所以 $D(X_i)=\theta^2$。
    根据样本均值的方差性质 $D(\overline{X})=\frac{1}{n^2}\sum_{i=1}^n D(X_i)$，可得：
    $\begin{align*}D(\overline{X})&=\frac{1}{n^2}\sum_{i=1}^n D(X_i)\\&=\frac{1}{n^2}\cdot n\theta^2\\&=\frac{\theta^2}{n}\end{align*}$
  4. 判断有效性
    由于 $\overline{X}$ 的方差 $D(\overline{X})=\frac{\theta^2}{n}$ 等于克拉默 - 拉欧下界 $\frac{1}{nI(\theta)} = \frac{\theta^2}{n}$，所以 $\overline{X}$ 是有效估计。