§6.2 矩估计及相合性

依赖于

• 无显式依赖

被以下题目直接调用

• 无

正文部分

§6.2 矩估计及相合性

1. 矩法估计 利用“替换原理”获得估计。总体矩可以用相应的样本矩替换；总体矩的函数可以用样本矩的同一函数替换。当总体分布形式未知时，可用样本均值估计 $E(X)$，用样本方差 $s^2$ 估计 $\mathrm{Var}(X)$，用频率估计 $P(A)$，用样本分位数估计总体分位数。当总体分布的概率函数形式已知且矩存在时，可列出“总体矩等于样本矩”的方程组并解出未知参数。一般宜优先使用低阶矩，并注意参数的可辨识性。
2. 相合性 对估计量 ${\hat{\theta }}_n={\hat{\theta }}_n(x_1,x_2,\cdots ,x_n)$，若对于任意 $\epsilon >0$ 及任意 $\theta \in \Theta$，都有

$$\underset{n\to \infty }{\lim }P\{|{\hat{\theta }}_n-\theta |\ge \epsilon \}=0,$$

则称 ${\hat{\theta }}_n$ 是 $\theta$ 的相合估计。相合性的实质是依概率收敛，矩估计一般都是相合的。

1. 判断相合性的一些定理
2. 若 $\underset{n\to \infty }{\lim }E({\hat{\theta }}_n)=\theta$ 且 $\underset{n\to \infty }{\lim }\mathrm{Var}({\hat{\theta }}_n)=0$，则 ${\hat{\theta }}_n$ 是 $\theta$ 的相合估计；
3. 若 ${\hat{\theta }}_{n_1},{\hat{\theta }}_{n_2},\cdots ,{\hat{\theta }}_{n_k}$ 分别是 ${\theta }_1,{\theta }_2,\cdots ,{\theta }_k$ 的相合估计，而 $\eta =g({\theta }_1,{\theta }_2,\cdots ,{\theta }_k)$ 是连续函数，则

$${\hat{\eta }}_n=g({\hat{\theta }}_{n_1},{\hat{\theta }}_{n_2},\cdots ,{\hat{\theta }}_{n_k})$$

是 $\eta$ 的相合估计；

1. 大数定律。

习题与解答 6.2

习题 6.2-1

现有一批电子元件，它们的寿命（单位：$\mathrm{h}$）如下：

$$1050,1100,1130,1040,1250,1300,1200,1080.$$

试对这批元件的平均寿命以及寿命分布的标准差给出矩估计。

解 样本均值

$$\bar{x}=\frac{1050+1100+1130+\cdots +1080}{8}=1143.75,$$

样本标准差

$$\begin{array}{rl}s& =\sqrt{\frac{1}{7}\sum _{i=1}^8(x_i-\bar{x}{)}^2}\\ & =\sqrt{\frac{1}{7}\left[(1050-1143.75{)}^2+\cdots +(1080-1143.75{)}^2\right]}\\ & =\mathrm{96.0562.}\end{array}$$

因此，元件的平均寿命和寿命分布的标准差的矩估计分别为 $1143.75$ 和 $96.0562$。

习题 6.2-2

设总体 $X\sim U(0,\theta )$，现从该总体中抽取容量为 $10$ 的样本，样本值为

$$0.5,1.3,0.6,1.7,2.2,1.2,0.8,1.5,2.0,\mathrm{1.6.}$$

试对参数 $\theta$ 给出矩估计。

解 由于

$$E(X)=\frac{\theta }{2},$$

即 $\theta =2E(X)$，而样本均值

$$\bar{x}=\frac{0.5+1.3+\cdots +1.6}{10}=1.34,$$

故 $\theta$ 的矩估计为

$$\hat{\theta }=2\bar{x}=\mathrm{2.68.}$$

习题 6.2-3

设总体分布列如下，$x_1,x_2,\cdots ,x_n$ 是样本，试求未知参数的矩估计：

1. $P(X=k)=\frac{1}{N},k=0,1,2,\cdots ,N-1,$

其中 $N$（正整数）是未知参数；

1. $P(X=k)=(k-1){\theta }^2(1-\theta {)}^{k-2},k=2,3,\cdots ,0<\theta <1.$

解 (1) 总体均值

$$E(X)=\frac{0+1+\cdots +N-1}{N}=\frac{N-1}{2},$$

解之可得

$$N=2E(X)+1.$$

故 $N$ 的矩估计为

$$\hat{N}=2\bar{x}+1,$$

其中 $\bar{x}$ 为样本均值。若 $2\bar{x}$ 不是整数，可取大于 $2\bar{x}$ 的最小整数代替 $2\bar{x}$。

(2) 总体均值

$$E(X)=\sum _{k=2}^{\infty }k(k-1){\theta }^2(1-\theta {)}^{k-2}={\theta }^2\sum _{k=2}^{\infty }k(k-1)(1-\theta {)}^{k-2}.$$

由于

$$\sum _{k=2}^{\infty }k(k-1)(1-\theta {)}^{k-2}=\frac{2}{{\theta }^3},$$

故有

$$E(X)={\theta }^2\cdot \frac{2}{{\theta }^3}=\frac{2}{\theta },$$

即

$$\theta =\frac{2}{E(X)}.$$

从而参数 $\theta$ 的矩估计为

$$\hat{\theta }=\frac{2}{\bar{x}}.$$

习题 6.2-4

设总体密度函数如下，$x_1,x_2,\cdots ,x_n$ 是样本，试求未知参数的矩估计：

1. $p(x;\theta )=\frac{2}{{\theta }^2}(\theta -x),0<x<\theta ,\theta >0;$
2. $p(x;\theta )=(\theta +1)x^{\theta },0<x<1,\theta >0;$
3. $p(x;\theta )=\sqrt{\theta }{x}^{\sqrt{\theta }-1},0<x<1,\theta >0;$
4. $p(x;\theta ,\mu )=\frac{1}{\theta }{e}^{-(x-\mu )/\theta },x>\mu ,\theta >0.$

解 (1) 总体均值

$$E(X)={\int }_0^{\theta }\frac{2}{{\theta }^2}x(\theta -x)dx=\frac{2}{{\theta }^2}{\int }_0^{\theta }(\theta x-x^2)dx=\frac{1}{3}\theta ,$$

即

$$\theta =3E(X),$$

故参数 $\theta$ 的矩估计为

$$\hat{\theta }=3\bar{x}.$$

(2) 总体均值

$$E(X)={\int }_0^{1}x(\theta +1)x^{\theta }dx=\frac{\theta +1}{\theta +2},$$

所以

$$\theta =\frac{1-2E(X)}{E(X)-1},$$

从而参数 $\theta$ 的矩估计为

$$\hat{\theta }=\frac{1-2\bar{x}}{\bar{x}-1}.$$

(3) 由

$$E(X)={\int }_0^{1}x\sqrt{\theta }{x}^{\sqrt{\theta }-1}dx=\frac{\sqrt{\theta }}{\sqrt{\theta }+1},$$

可得

$$\theta ={\left(\frac{E(X)}{1-E(X)}\right)}^2,$$

由此，参数 $\theta$ 的矩估计为

$$\hat{\theta }={\left(\frac{\bar{x}}{1-\bar{x}}\right)}^2.$$

(4) 先计算总体均值与方差：

$$\begin{array}{rl}E(X)& ={\int }_{\mu }^{\infty }x\frac{1}{\theta }{e}^{-(x-\mu )/\theta }dx\\ & ={\int }_0^{\infty }t\frac{1}{\theta }{e}^{-t/\theta }dt+{\int }_0^{\infty }\mu \frac{1}{\theta }{e}^{-t/\theta }dt\\ & =\theta +\mu ,\end{array}$$ $$\begin{array}{rl}E(X^2)& ={\int }_{\mu }^{\infty }{x}^2\frac{1}{\theta }{e}^{-(x-\mu )/\theta }dx\\ & ={\int }_0^{\infty }(t+\mu {)}^2\frac{1}{\theta }{e}^{-t/\theta }dt\\ & ={\int }_0^{\infty }{t}^2\frac{1}{\theta }{e}^{-t/\theta }dt+{\int }_0^{\infty }2\mu t\frac{1}{\theta }{e}^{-t/\theta }dt+{\int }_0^{\infty }{\mu }^2\frac{1}{\theta }{e}^{-t/\theta }dt\\ & =2{\theta }^2+2\mu \theta +{\mu }^2.\end{array}$$

于是

$$\mathrm{Var}(X)=E(X^2)-[E(X){]}^2={\theta }^2.$$

由此可以推出

$$\theta =\sqrt{\mathrm{Var}(X)},\mu =E(X)-\sqrt{\mathrm{Var}(X)},$$

从而参数 $\theta ,\mu$ 的矩估计为

$$\hat{\theta }=s,\hat{\mu }=\bar{x}-s.$$

习题 6.2-5

设总体为 $N(\mu ,1)$，现对该总体观测 $n$ 次，发现有 $k$ 次观测值为正，使用频率替换方法求 $\mu$ 的估计。

解 由题意知，观测值为正的频率

$$f=\frac{k}{n}.$$

下面计算观测值为正的概率。当总体为 $N(\mu ,1)$ 时，

$$P(X>0)=1-P(X<0)=1-P(X-\mu <-\mu )=\Phi (\mu ),$$

其中 $\Phi$ 为标准正态分布的分布函数。利用频率替换概率的方法有

$$\Phi (\hat{\mu })=\frac{k}{n},$$

这给出参数 $\mu$ 的矩估计为

$$\hat{\mu }={\Phi }^{-1}\left(\frac{k}{n}\right)=u_{k/n}.$$

譬如，若设 $\frac{k}{n}=0.281$，则由上式知 $\hat{\mu }$ 是标准正态分布的 $0.281$ 分位数，查附表 $2$ 得

$$\hat{\mu }=u_{0.281}=-\mathrm{0.58.}$$

习题 6.2-6

甲、乙两个校对员彼此独立对同一本书的样稿进行校对，校完后，甲发现 $a$ 个错字，乙发现 $b$ 个错字，其中共同发现的错字有 $c$ 个，试用矩估计给出如下两个未知参数的估计：

1. 该书样稿的总错字个数；
2. 未被发现的错字个数。

解 设该书样稿中的总错字的个数为 $\theta$，甲校对员识别出错字的概率为 $p_1$，乙校对员识别出错字的概率为 $p_2$。由于甲、乙是彼此独立地进行校对，则同一错字能被甲、乙同时识别的概率为 $p_1{p}_2$，根据频率替换思想有

$${\hat{p}}_1=\frac{a}{\theta },{\hat{p}}_2=\frac{b}{\theta },\widehat{p_1{p}_2}=\frac{c}{\theta }.$$

由独立性可得矩法方程

$$\frac{a}{\theta }\cdot \frac{b}{\theta }=\frac{c}{\theta },$$

解之得

$$\hat{\theta }=\frac{ab}{c}.$$

(2) 未被发现的错字个数的估计等于总错字个数的估计减去甲、乙发现的错字个数，即

$$\frac{ab}{c}-a-b+c=\frac{(a-c)(b-c)}{c}.$$

譬如，若设 $a=120,b=124,c=80$，则该书样稿中总错字个数的矩法估计为

$$\hat{\theta }=\frac{120\times 124}{80}=186,$$

而未被发现的错字个数的矩法估计为

$$186-120-124+80=22.$$

习题 6.2-7

设总体 $X$ 服从二项分布 $b(m,p)$，其中 $m,p$ 为未知参数，$x_1,x_2,\cdots ,x_n$ 为 $X$ 的一个样本，求 $m$ 与 $p$ 的矩估计。

解 因为有两个未知参数，所以要用 $1,2$ 阶矩。由二项分布可知

$$E(X)=mp,\mathrm{Var}(X)=mp(1-p),$$

列矩方程组

$$\{\begin{array}{rl}mp& =\bar{x},\\ mp(1-p)& =s^2,\end{array}$$

两式相除，可轻松解出

$$\hat{p}=1-\frac{s^2}{\bar{x}}.$$

代入第一式，得

$$\hat{m}=\frac{\bar{x}}{\hat{p}}.$$

因为 $m$ 为正整数，故

$$\hat{m}=\left[\frac{{\bar{x}}^2}{\bar{x}-s^2}\right],$$

其中 $[]$ 表示取整数。

补充习题及解答

补充习题 8

设 $x_1,x_2,\cdots ,x_n$ 是来自对数级数分布

$$P(X=k)=-\frac{1}{\ln (1-p)}\cdot \frac{p^k}{k},0<p<1,k=1,2,\cdots$$

的一个样本，求参数 $p$ 的矩估计。

解 由于

$$E(X)=\sum _{k=1}^{\infty }kP(X=k)=-\frac{1}{\ln (1-p)}\sum _{k=1}^{\infty }{p}^k=-\frac{p}{(1-p)\ln (1-p)},$$ $$E(X^2)=\sum _{k=1}^{\infty }{k}^{2}P(X=k)=-\frac{1}{\ln (1-p)}\sum _{k=1}^{\infty }k{p}^k=-\frac{p}{(1-p{)}^2\ln (1-p)},$$

因此有

$$1-p=\frac{E(X)}{E(X^2)},$$

从而得到 $p$ 的一个矩估计

$$\hat{p}=1-\frac{\sum x_i}{\sum x_i^2}.$$

补充习题 9

设 $x_1,x_2,\cdots ,x_n$ 独立同分布，$E(x_1)=\mu$，$\mathrm{Var}(x_1)<\infty$。证明：

$$\hat{\mu }=\frac{2}{n(n+1)}\sum _{i=1}^{n}i{x}_i$$

是 $\mu$ 的相合估计。

解 由于

$$E(\hat{\mu })=\frac{2\mu }{n(n+1)}\sum _{i=1}^{n}i=\frac{2\mu }{n(n+1)}\cdot \frac{n(n+1)}{2}=\mu ,$$ $$\mathrm{Var}(\hat{\mu })=\frac{4\mathrm{Var}(x_1)}{n^2(n+1{)}^2}\sum _{i=1}^n{i}^2=\frac{4\mathrm{Var}(x_1)}{n^2(n+1{)}^2}\cdot \frac{n(n+1)(2n+1)}{6}\to 0(n\to \infty ),$$

这就证明了

$$\hat{\mu }=\frac{2}{n(n+1)}\sum _{i=1}^{n}i{x}_i$$

是 $\mu$ 的相合估计。