§5.5 充分统计量

依赖于

• 无显式依赖

被以下题目直接调用

• 无

正文部分

§5.5 充分统计量

1. 充分统计量 设 $x_1,x_2,\dots ,x_n$ 是来自总体分布函数为 $F(x;\theta )$ 的一个样本，统计量 $T=T(x_1,x_2,\dots ,x_n)$ 称为 $\theta$ 的充分统计量（也称为该分布的充分统计量），如果在给定 $T$ 的取值后，$x_1,x_2,\dots ,x_n$ 的条件分布与 $\theta$ 无关。其中条件分布可以是条件分布列（离散场合）或条件密度函数（连续场合）。

充分统计量 $T(x_1,x_2,\dots ,x_n)$ 不仅可简化样本，还不损失样本中有关参数 $\theta$ 的信息。在充分统计量存在场合要尽量使用它作各种统计推断。

2. 因子分解定理 设总体的概率函数为 $f(x;\theta )$，$x_1,x_2,\dots ,x_n$ 为其样本，则 $T=T(x_1,x_2,\dots ,x_n)$ 为充分统计量的充要条件是：存在如下两个函数

$$g(t,\theta ),h(x_1,x_2,\dots ,x_n),$$

其中 $g(t,\theta )$ 是通过统计量 $T$ 的取值 $t$ 而依赖于样本的函数，$h(x_1,x_2,\dots ,x_n)$ 是样本的函数，与 $\theta$ 无关，使得

$$f(x_1,x_2,\dots ,x_n;\theta )=g(T(x_1,x_2,\dots ,x_n),\theta )h(x_1,x_2,\dots ,x_n).$$

3. 充分统计量的一一对应变换仍是充分统计量

4. 一些常见分布的常用充分统计量

\renewcommand{\arraystretch}{1.25}

分布	分布列或密度函数	参数	常用充分统计量
二点分布 $b(1,p)$	$p^x(1-p{)}^{1-x},x=0,1$	$p$	$T=x_1+x_2+\cdots +x_n$
泊松分布 $p(\lambda )$	$\frac{{\lambda }^x}{x!}{e}^{-\lambda },x=0,1,2,\dots$	$\lambda$	$T=x_1+x_2+\cdots +x_n$
几何分布 $Ge(\theta )$	$\theta (1-\theta {)}^x,x=0,1,2,\dots$	$\theta$	$T=x_1+x_2+\cdots +x_n$
均匀分布 $U(0,\theta )$	$\frac{1}{\theta },0<x<\theta$	$\theta$	$T=\max \{x_1,x_2,\dots ,x_n\}$
均匀分布 $U({\theta }_1,{\theta }_2)$	$\frac{1}{{\theta }_2-{\theta }_1},{\theta }_1<x<{\theta }_2$	${\theta }_1,{\theta }_2$	$T_1=x_{(1)},T_2=x_{(n)}$
均匀分布 $U(\theta ,2\theta )$	$\frac{1}{\theta },\theta <x<2\theta$	$\theta$	$T_1=x_{(1)},T_2=x_{(n)}$
正态分布 $N(\mu ,{\sigma }^2)$	$\frac{1}{\sqrt{2\pi }\sigma }\exp \left\{-\frac{(x-\mu {)}^2}{2{\sigma }^2}\right\}$	$\mu ,{\sigma }^2$	$\bar{x}$ 与 ${\sum }_{i=1}^n(x_i-\bar{x}{)}^2$
幂分布	$p(x;\theta )=\theta x^{\theta -1},0<x<1$	$\theta$	$T={\prod }_{i=1}^n{x}_i$ 或 $T=-{\sum }_{i=1}^n\ln x_i$
指数分布 $Exp(\lambda )$	$\lambda e^{-\lambda x},x>0$	$\lambda$	$T=x_1+x_2+\cdots +x_n$
双参数指数分布	$p(x;\theta ,\mu )=\frac{1}{\theta }{e}^{-(x-\mu )/\theta },x>\mu$	$\mu ,\theta$	$T_1=x_{(1)},T_2={\sum }_{i=1}^n{x}_i$
伽马分布 $Ga(\alpha ,\lambda )$	$\frac{{\lambda }^{\alpha }}{\Gamma (\alpha )}{x}^{\alpha -1}{e}^{-\lambda x},x>0$	$\alpha ,\lambda$	$T_1={\sum }_{i=1}^n{x}_i,T_2={\prod }_{i=1}^n{x}_i$
对数正态分布 $LN(\mu ,{\sigma }^2)$	$\frac{1}{\sqrt{2\pi }\sigma x}\exp \left\{-\frac{(\ln x-\mu {)}^2}{2{\sigma }^2}\right\}$	$\mu ,{\sigma }^2$	$T_1={\sum }_{i=1}^n\ln x_i,T_2={\sum }_{i=1}^n(\ln x_i{)}^2$
贝塔分布 $Be(a,b)$	$\frac{1}{B(a,b)}{x}^{a-1}(1-x{)}^{b-1},0<x<1$	$a,b$	$T_1={\sum }_{i=1}^n\ln x_i,T_2={\sum }_{i=1}^n\ln (1-x_i)$

习题与解答 5.5

习题 5.5-1

设 $x_1,x_2,\dots ,x_n$ 是来自几何分布

$$P(X=x)=\theta (1-\theta {)}^x,x=0,1,2,\dots$$

的样本，证明

$$T=\sum _{i=1}^n{x}_i$$

是充分统计量。

解 由几何分布性质知，

$$T\sim Nb(n,\theta ),$$

其分布列为

$$P(T=t)=\left(\genfrac{}{}{0ex}{}{n+t-1}{t}\right){\theta }^n(1-\theta {)}^t,t=0,1,2,\dots$$

在给定 $T=t$ 后，对任意的一个样本 $x_1,x_2,\dots ,x_n$（${\sum }_{i=1}^n{x}_i=t$），有

$$\begin{array}{rl}& P(X_1=x_1,\dots ,X_n=x_n\mid T=t)\\ & =\frac{P\left(X_1=x_1,\dots ,X_{n-1}=x_{n-1},X_n=t-{\sum }_{i=1}^{n-1}{x}_i\right)}{P(T=t)}\\ & =\frac{\prod _{i=1}^{n-1}P(X_i=x_i)\cdot P\left(X_n=t-\sum _{i=1}^{n-1}{x}_i\right)}{\left(\genfrac{}{}{0ex}{}{n+t-1}{t}\right){\theta }^n(1-\theta {)}^t}\\ & =\frac{\prod _{i=1}^{n-1}\theta (1-\theta {)}^{x_i}\cdot \theta (1-\theta {)}^{t-{\sum }_{i=1}^{n-1}{x}_i}}{\left(\genfrac{}{}{0ex}{}{n+t-1}{t}\right){\theta }^n(1-\theta {)}^t}\\ & =\frac{1}{\left(\genfrac{}{}{0ex}{}{n+t-1}{t}\right)}.\end{array}$$

该条件分布与 $\theta$ 无关，因而

$$T=\sum _{i=1}^n{x}_i$$

是充分统计量。

讨论：这个条件分布是离散均匀分布，可用等可能模型给其一个解释：设想有 $n-1$ 个“1”和 $t$ 个“0”，把它们随机地排成一行，并在最后位置上添上 $1$ 个“1”，譬如

$$0,\dots ,0,1,0,\dots ,0,1,\dots ,0,\dots ,0,1,0,\dots ,0,1.$$

这 $n$ 个“1”把此序列分成 $n$ 段，每段中“0”的个数依次记为 $x_1,x_2,\dots ,x_n$，这里诸 $x_i$ 服从几何分布，且

$$x_1+x_2+\cdots +x_n=t.$$

这种序列共有

$$\left(\genfrac{}{}{0ex}{}{n+t-1}{t}\right)$$

个（这是重复组合），而每一个出现是等可能的，即每一个出现的概率都是

$$\frac{1}{\left(\genfrac{}{}{0ex}{}{n+t-1}{t}\right)},$$

这就是在 $x_1+x_2+\cdots +x_n=t$ 给定后 $x_1,x_2,\dots ,x_n$ 的条件联合分布。

这个条件分布还表明：当已知统计量

$$T=\sum _{i=1}^n{x}_i$$

的值 $t$ 后，就可按此条件分布产生一个样本 $(x_1^{\prime },x_2^{\prime },\dots ,x_n^{\prime })$，它虽与原样本不尽相同，但其分布相同。在功能上这等价于恢复了原样本。

习题 5.5-2

设 $x_1,x_2,\dots ,x_n$ 是来自泊松分布 $P(\lambda )$ 的样本，证明

$$T=\sum _{i=1}^n{x}_i$$

是充分统计量。

解 由泊松分布性质知

$$T\sim P(n\lambda ).$$

在给定 $T=t$ 后，对任意的 $x_1,x_2,\dots ,x_n$（${\sum }_{i=1}^n{x}_i=t$），有

$$\begin{array}{rl}& P(X_1=x_1,\dots ,X_n=x_n\mid T=t)\\ & =\frac{P\left(X_1=x_1,\dots ,X_{n-1}=x_{n-1},X_n=t-{\sum }_{i=1}^{n-1}{x}_i\right)}{P(T=t)}\\ & =\frac{\prod _{i=1}^{n-1}P(X_i=x_i)\cdot P\left(X_n=t-\sum _{i=1}^{n-1}{x}_i\right)}{\frac{(n\lambda {)}^t}{t!}{e}^{-n\lambda }}\\ & =\frac{\prod _{i=1}^{n-1}\frac{{\lambda }^{x_i}}{x_i!}{e}^{-\lambda }\cdot \frac{{\lambda }^{x_n}}{x_n!}{e}^{-\lambda }}{\frac{(n\lambda {)}^t}{t!}{e}^{-n\lambda }}\\ & =\frac{t!}{n^t{\prod }_{i=1}^n{x}_i!}.\end{array}$$

该条件分布与 $\lambda$ 无关，因而

$$T=\sum _{i=1}^n{x}_i$$

是充分统计量。

讨论：对来自泊松分布 $P(\lambda )$ 的样本 $x_1,x_2,\dots ,x_n$，若诸 $c_i$，$i=1,2,\dots ,n$ 不等，则

$$\sum _{i=1}^n{c}_i{x}_i$$

不是充分统计量。譬如，当 $n=2$ 时，可以证明 $x_1+2x_2$ 不是充分统计量。事实上，若设

$$T^{\prime }=x_1+2x_2=2,$$

则 $x_1,x_2$ 的取值有两种可能：

$$x_1=2,x_2=0\text{或}{x}_1=0,x_2=1.$$

可以算得条件概率为

$$\begin{array}{rl}P(x_1=0,x_2=1\mid x_1+2x_2=2)& =\frac{P(x_1=0,x_2=1)}{P(x_1=0,x_2=1)+P(x_1=2,x_2=0)}\\ & =\frac{e^{-\lambda }\cdot \lambda e^{-\lambda }}{e^{-\lambda }\cdot \lambda e^{-\lambda }+\frac{{\lambda }^2{e}^{-\lambda }}{2}\cdot e^{-\lambda }}\\ & =\frac{2}{\lambda +2}.\end{array}$$

该条件概率与 $\lambda$ 有关，所以

$$T^{\prime }=x_1+2x_2$$

不是 $\lambda$ 的充分统计量。

习题 5.5-3

设总体为如下离散型分布：

$$\begin{array}{ccccc}x& a_1& a_2& \cdots & a_k\\ p& p_1& p_2& \cdots & p_k\end{array}$$

$x_1,x_2,\dots ,x_n$ 是来自该总体的样本。

1. 证明次序统计量 $(x_{(1)},x_{(2)},\dots ,x_{(n)})$ 是充分统计量；
2. 以 $n_j$ 表示 $x_1,x_2,\dots ,x_n$ 中等于 $a_j$ 的个数，证明 $(n_1,n_2,\dots ,n_k)$ 是充分统计量。

解 (1) 给定 $(x_{(1)},x_{(2)},\dots ,x_{(n)})$ 的取值 $y_1,y_2,\dots ,y_n$，设 $y_1,y_2,\dots ,y_n$ 中有 $n_i$ 个 $a_i$，$n_i$ 可以为 $0$，但必有

$$n_1+n_2+\cdots +n_k=n.$$

于是，对任一组 $x_1,x_2,\dots ,x_n$，满足 $x_1,x_2,\dots ,x_n$ 中有 $n_i$ 个 $a_i$，有

$$\begin{array}{rl}& P(X_i=x_i,i=1,2,\dots ,n\mid x_{(i)}=y_i,i=1,2,\dots ,n)\\ & =\frac{P(X_i=x_i,i=1,2,\dots ,n)}{P(x_{(i)}=y_i,i=1,2,\dots ,n)}\\ & =\frac{{\prod }_{i=1}^k{p}_i^{n_i}}{\frac{n!}{n_1!n_2!\cdots n_k!}{p}_1^{n_1}{p}_2^{n_2}\cdots p_k^{n_k}}=\frac{n_1!n_2!\cdots n_k!}{n!}.\end{array}$$

该条件分布不依赖于未知参数，因而次序统计量 $(x_{(1)},x_{(2)},\dots ,x_{(n)})$ 是充分统计量。

(2) $(n_1,n_2,\dots ,n_k)$ 与 $(x_{(1)},x_{(2)},\dots ,x_{(n)})$ 是一一对应的，因为给出 $(x_{(1)},x_{(2)},\dots ,x_{(n)})$ 就可算得 $(n_1,n_2,\dots ,n_k)$，反之，给出 $(n_1,n_2,\dots ,n_k)$ 也可构造出 $(x_{(1)},x_{(2)},\dots ,x_{(n)})$，这只要通过令

$$x_{(1)}=\cdots =x_{(n_1)}=a_1,x_{(n_1+1)}=\cdots =x_{(n_1+n_2)}=a_2,\dots ,x_{(n_1+\cdots +n_{k-1}+1)}=\cdots =x_{(n)}=a_k$$

即可实现（这里默认 $a_1<a_2<\cdots <a_k$），因此 $(n_1,n_2,\dots ,n_k)$ 是充分统计量。

思考：该结论亦可直接由条件概率出发导出，留作练习。

习题 5.5-4

设 $x_1,x_2,\dots ,x_n$ 是来自正态分布 $N(\mu ,1)$ 的样本，证明

$$T=\sum _{i=1}^n{x}_i$$

是充分统计量。

解 由条件，

$$T=\sum _{i=1}^n{x}_i\sim N(n\mu ,n).$$

在给定 $T=t$ 下 $x_1,x_2,\dots ,x_n$ 的条件密度函数为

$$\begin{array}{rl}{p}_{\mu }(x_1,x_2,\dots ,x_n\mid T=t)& =\frac{p_{\mu }(x_1,x_2,\dots ,x_n)}{p_{\mu }(t)}\left(\text{其中 }{x}_n=t-\sum _{i=1}^{n-1}{x}_i\right)\\ & =\frac{(2\pi {)}^{-n/2}\exp \left\{-\frac{1}{2}{\sum }_{i=1}^n(x_i-\mu {)}^2\right\}}{(2\pi n{)}^{-1/2}\exp \left\{-\frac{1}{2n}(t-n\mu {)}^2\right\}}\\ & =\frac{(2\pi {)}^{-n/2}\exp \left\{-\frac{1}{2}\left({\sum }_{i=1}^n{x}_i^2-2\mu t+n{\mu }^2\right)\right\}}{(2\pi n{)}^{-1/2}\exp \left\{-\frac{1}{2n}(t^2-2n\mu t+n^2{\mu }^2)\right\}}\\ & =\sqrt{n}(2\pi {)}^{-(n-1)/2}\exp \left\{-\frac{1}{2}\left(\sum _{i=1}^n{x}_i^2-\frac{t^2}{n}\right)\right\}.\end{array}$$

它与 $\mu$ 无关，从而

$$T=\sum _{i=1}^n{x}_i$$

是充分统计量。

讨论：$T={\sum }_{i=1}^n{x}_i$ 是 $\mu$ 的充分统计量，$T_1=\bar{x}$ 也是 $\mu$ 的充分统计量，因为 $T_1$ 与 $T$ 是一一对应的，但是

$$T_2=(\bar{x}{)}^2$$

则不是 $\mu$ 的充分统计量。事实上，由于

$$\bar{x}\sim N\left(\mu ,\frac{1}{n}\right),$$

记其密度函数为

$$f(\bar{x})=\sqrt{\frac{n}{2\pi }}{e}^{-n(\bar{x}-\mu {)}^2/2},$$

则 $T_2=(\bar{x}{)}^2$ 的密度函数为

$$\begin{array}{rl}g(t)& =f(\sqrt{t})\frac{1}{2\sqrt{t}}+f(-\sqrt{t})\frac{1}{2\sqrt{t}}\\ & =\frac{1}{2\sqrt{t}}\sqrt{\frac{n}{2\pi }}\left[e^{-n(\sqrt{t}-\mu {)}^2/2}+e^{-n(\sqrt{t}+\mu {)}^2/2}\right].\end{array}$$

于是条件密度函数（注意到 $\sqrt{t}=|\bar{x}|$）

$$f(x_1,x_2,\dots ,x_n\mid T_2=t)=\frac{(2\pi {)}^{-n/2}{e}^{-\frac{1}{2}{\sum }_{i=1}^n(x_i-\mu {)}^2}}{\frac{1}{2\sqrt{t}}\sqrt{\frac{n}{2\pi }}\left(e^{-n(\sqrt{t}-\mu {)}^2/2}+e^{-n(\sqrt{t}+\mu {)}^2/2}\right)}.$$

它是依赖于 $\mu$ 的，所以

$$T_2=(\bar{x}{)}^2$$

不是 $\mu$ 的充分统计量。

习题 5.5-5

设 $x_1,x_2,\dots ,x_n$ 是来自

$$p(x;\theta )=\theta x^{\theta -1},0<x<1,\theta >0$$

的样本，试给出一个充分统计量。

解 样本的联合密度函数为

$$p(x_1,x_2,\dots ,x_n;\theta )={\theta }^n(x_1{x}_2\cdots x_n{)}^{\theta -1}={\theta }^n{\left(\prod _{i=1}^n{x}_i\right)}^{\theta -1}.$$

令

$$T=\prod _{i=1}^n{x}_i,$$

取

$$g(t;\theta )=t^{\theta -1}{\theta }^n,h(x_1,x_2,\dots ,x_n)=1,$$

由因子分解定理，$T={\prod }_{i=1}^n{x}_i$ 为 $\theta$ 的充分统计量。另外，$T$ 的一一变换得到的统计量，如 $x_1,x_2,\dots ,x_n$ 的几何平均

$$(x_1{x}_2\cdots x_n{)}^{1/n}$$

或其对数

$$-\frac{1}{n}\sum _{i=1}^n\ln x_i$$

都是 $\theta$ 的充分统计量。

习题 5.5-6

设 $x_1,x_2,\dots ,x_n$ 是来自韦布尔分布

$$p(x;\theta )=m{x}^{m-1}{\theta }^{-m}{e}^{-(x/\theta {)}^m},x>0,\theta >0$$

的样本（$m>0$ 已知），试给出一个充分统计量。

解 样本的联合密度函数为

$$p(x_1,x_2,\dots ,x_n;\theta )=m^n(x_1{x}_2\cdots x_n{)}^{m-1}{\theta }^{-mn}{e}^{-{\sum }_{i=1}^n{x}_i^m/{\theta }^m}.$$

若令

$$T=\sum _{i=1}^n{x}_i^m,$$

取

$$g(t;\theta )={\theta }^{-mn}\exp \left\{-\frac{t}{{\theta }^m}\right\},h(x_1,x_2,\dots ,x_n)=m^n{\left(\prod _{i=1}^n{x}_i\right)}^{m-1},$$

由因子分解定理，

$$T=\sum _{i=1}^n{x}_i^m$$

是 $\theta$ 的充分统计量。

习题 5.5-7

设 $x_1,x_2,\dots ,x_n$ 是来自帕雷托（Pareto）分布

$$p(x;\theta )=\theta a^{\theta }{x}^{-(\theta +1)},x>a,\theta >0$$

的样本（$a>0$ 已知），试给出一个充分统计量。

解 样本的联合密度函数为

$$p(x_1,x_2,\dots ,x_n;\theta )={\theta }^n{a}^{n\theta }(x_1{x}_2\cdots x_n{)}^{-(\theta +1)},x_i>a,i=1,2,\dots ,n.$$

令

$$T=\prod _{i=1}^n{x}_i,$$

取

$$g(t;\theta )={\theta }^n{a}^{n\theta }{t}^{-(\theta +1)},h(x_1,x_2,\dots ,x_n)=1,$$

由因子分解定理，

$$T=\prod _{i=1}^n{x}_i$$

或

$$S=\frac{1}{n}\sum _{i=1}^n\ln x_i$$

是 $\theta$ 的充分统计量。

习题 5.5-8

设 $x_1,x_2,\dots ,x_n$ 是来自拉普拉斯（Laplace）分布

$$p(x;\theta )=\frac{1}{2\theta }{e}^{-|x|/\theta },\theta >0$$

的样本，试给出一个充分统计量。

解 样本的联合密度函数为

$$p(x_1,x_2,\dots ,x_n;\theta )={\left(\frac{1}{2\theta }\right)}^n{e}^{-{\sum }_{i=1}^n|x_i|/\theta }.$$

取

$$T=\sum _{i=1}^n|x_i|,g(t;\theta )={\left(\frac{1}{2\theta }\right)}^n{e}^{-t/\theta },h(x_1,x_2,\dots ,x_n)=1,$$

由因子分解定理，

$$T=\sum _{i=1}^n|x_i|$$

为 $\theta$ 的充分统计量。

习题 5.5-9

设 $x_1,x_2,\dots ,x_n$ 独立同分布，$x_1$ 服从以下分布，求相应的充分统计量：

1. 负二项分布

$$x_1\sim p(x_1;\theta )=\left(\genfrac{}{}{0ex}{}{x_1+r-1}{r-1}\right){\theta }^r(1-\theta {)}^{x_1},x_1=0,1,2,\dots ,r\text{ 已知};$$

1. 离散均匀分布

$$x_1\sim p(x_1;m)=\frac{1}{m},x_1=1,2,\dots ,m,m\text{ 未知};$$

1. 对数正态分布

$$x_1\sim p(x_1;\mu ,\sigma )=\frac{1}{\sqrt{2\pi }\sigma x_1}\exp \left\{-\frac{1}{2{\sigma }^2}(\ln x_1-\mu {)}^2\right\},x_1>0;$$

1. 瑞利（Rayleigh）分布

$$x_1\sim p(x_1;\lambda )=2\lambda x_1{e}^{-\lambda x_1^2}{I}_{[x_1\ge 0]}.$$

解 (1) 样本的联合密度函数为

$$\begin{array}{rl}p(x_1,x_2,\dots ,x_n;\theta )& =\prod _{i=1}^n\left(\genfrac{}{}{0ex}{}{x_i+r-1}{r-1}\right){\theta }^r(1-\theta {)}^{x_i}\\ & =\left(\prod _{i=1}^n\left(\genfrac{}{}{0ex}{}{x_i+r-1}{r-1}\right)\right){\theta }^{nr}(1-\theta {)}^{{\sum }_{i=1}^n{x}_i}\\ & =h(x){\theta }^{nr}(1-\theta {)}^{{\sum }_{i=1}^n{x}_i},\end{array}$$

其中

$$h(x)=\prod _{i=1}^n\left(\genfrac{}{}{0ex}{}{x_i+r-1}{r-1}\right).$$

由因子分解定理知

$$T=\sum _{i=1}^n{x}_i$$

是充分统计量。

(2) 样本的联合密度函数为

$$p(x_1,x_2,\dots ,x_n;m)=\frac{1}{m^n}{I}_{[x_{(1)}\ge 1]}{I}_{[x_{(n)}\le m]},$$

由因子分解定理知

$$T=x_{(n)}$$

是充分统计量。

(3) 样本的联合密度函数为

$$\begin{array}{rl}p(x_1,x_2,\dots ,x_n;\mu ,{\sigma }^2)& =\prod _{i=1}^n\frac{1}{\sqrt{2\pi }\sigma x_i}\exp \left\{-\frac{1}{2{\sigma }^2}\sum _{i=1}^n(\ln x_i-\mu {)}^2\right\}\\ & =\left(\prod _{i=1}^n\frac{1}{\sqrt{2\pi }{x}_i}\right){\sigma }^{-n}\exp \left\{-\frac{1}{2{\sigma }^2}\sum _{i=1}^n(\ln x_i{)}^2+\frac{\mu }{{\sigma }^2}\sum _{i=1}^n\ln x_i-\frac{n{\mu }^2}{2{\sigma }^2}\right\}.\end{array}$$

由因子分解定理知

$$T=\left(\sum _{i=1}^n\ln x_i,\sum _{i=1}^n(\ln x_i{)}^2\right)$$

是充分统计量。

(4) 样本的联合密度函数为

$$\begin{array}{rl}p(x_1,x_2,\dots ,x_n;\lambda )& =\prod _{i=1}^n\left[2\lambda x_i{e}^{-\lambda x_i^2}{I}_{[x_i\ge 0]}\right]\\ & =2^n\left(\prod _{i=1}^n{x}_i\right){\lambda }^n{e}^{-\lambda {\sum }_{i=1}^n{x}_i^2}{I}_{[x_{(1)}\ge 0]}.\end{array}$$

由因子分解定理知

$$T=\sum _{i=1}^n{x}_i^2$$

是充分统计量。

习题 5.5-10

设 $x_1,x_2,\dots ,x_n$ 是来自正态分布 $N(\mu ,{\sigma }^2)$ 的样本。

1. 在 $\mu$ 已知时给出 ${\sigma }^2$ 的一个充分统计量；
2. 在 ${\sigma }^2$ 已知时给出 $\mu$ 的一个充分统计量。

解 (1) 在 $\mu$ 已知时，样本联合密度函数为

$$p(x_1,x_2,\dots ,x_n;{\sigma }^2)=(2\pi {\sigma }^2{)}^{-n/2}\exp \left\{-\frac{1}{2{\sigma }^2}\sum _{i=1}^n(x_i-\mu {)}^2\right\}.$$

令

$$T=\sum _{i=1}^n(x_i-\mu {)}^2,$$

取

$$g(t;{\sigma }^2)=(2\pi {\sigma }^2{)}^{-n/2}\exp \left\{-\frac{t}{2{\sigma }^2}\right\},h(x_1,x_2,\dots ,x_n)=1,$$

由因子分解定理，

$$T=\sum _{i=1}^n(x_i-\mu {)}^2$$

为 ${\sigma }^2$ 的充分统计量。

(2) 在 ${\sigma }^2$ 已知时，样本联合密度函数为

$$\begin{array}{rl}p(x_1,x_2,\dots ,x_n;\mu )& =(2\pi {\sigma }^2{)}^{-n/2}\exp \left\{-\frac{1}{2{\sigma }^2}\sum _{i=1}^n(x_i-\mu {)}^2\right\}\\ & =(2\pi {\sigma }^2{)}^{-n/2}\exp \left\{-\frac{1}{2{\sigma }^2}\sum _{i=1}^n{x}_i^2\right\}\exp \left\{-\frac{1}{2{\sigma }^2}\left(n{\mu }^2-2\mu \sum _{i=1}^n{x}_i\right)\right\}.\end{array}$$

令

$$\bar{x}=\frac{1}{n}\sum _{i=1}^n{x}_i,$$

取

$$g(\bar{x};\mu )=\exp \left\{-\frac{1}{2{\sigma }^2}(n{\mu }^2-2n\mu \bar{x})\right\},h(x)=(2\pi {\sigma }^2{)}^{-n/2}\exp \left\{-\frac{1}{2{\sigma }^2}\sum _{i=1}^n{x}_i^2\right\},$$

由因子分解定理，$\bar{x}$ 为 $\mu$ 的充分统计量。

习题 5.5-11

设 $x_1,x_2,\dots ,x_n$ 是来自均匀分布 $U({\theta }_1,{\theta }_2)$ 的样本，试给出一个充分统计量。

解 总体的密度函数为

$$p(x;{\theta }_1,{\theta }_2)=\{\begin{array}{ll}\frac{1}{{\theta }_2-{\theta }_1},& {\theta }_1<x<{\theta }_2,\\ 0,& \text{其他}.\end{array}$$

于是样本的联合密度函数为

$$p(x_1,x_2,\dots ,x_n;{\theta }_1,{\theta }_2)={\left(\frac{1}{{\theta }_2-{\theta }_1}\right)}^n{I}_{\{{\theta }_1<x_{(1)}\le x_{(n)}<{\theta }_2\}}.$$

令

$$t_1=x_{(1)},t_2=x_{(n)},$$

并取

$$g(t;{\theta }_1,{\theta }_2)={\left(\frac{1}{{\theta }_2-{\theta }_1}\right)}^n{I}_{\{{\theta }_1<t_1\le t_2<{\theta }_2\}},h(x_1,x_2,\dots ,x_n)=1,$$

由因子分解定理，

$$T=(t_1,t_2)=(x_{(1)},x_{(n)})$$

为参数 $({\theta }_1,{\theta }_2)$ 的充分统计量。

习题 5.5-12

设 $x_1,x_2,\dots ,x_n$ 是来自均匀分布 $U(\theta ,2\theta )$，$\theta >0$ 的样本，试给出充分统计量。

解 总体的密度函数为

$$p(x;\theta )=\{\begin{array}{ll}\frac{1}{\theta },& \theta <x<2\theta ,\\ 0,& \text{其他}.\end{array}$$

于是样本的联合密度为

$$p(x_1,x_2,\dots ,x_n;\theta )={\left(\frac{1}{\theta }\right)}^n{I}_{\{\theta <x_{(1)}\le x_{(n)}<2\theta \}}.$$

令

$$t_1=x_{(1)},t_2=x_{(n)},$$

并取

$$g(t;\theta )={\left(\frac{1}{\theta }\right)}^n{I}_{\{\theta <t_1\le t_2<2\theta \}},h(x_1,x_2,\dots ,x_n)=1,$$

由因子分解定理，

$$T(t_1,t_2)=(x_{(1)},x_{(n)})$$

为 $\theta$ 的充分统计量（这里没有一维的充分统计量）。这表明：充分统计量的维数不一定能够等于未知参数个数。

习题 5.5-13

设 $x_1,x_2,\dots ,x_n$ 是来自伽马分布族 $\{Ga(\alpha ,\lambda ):\alpha >0,\lambda >0\}$ 的一个样本，寻求 $(\alpha ,\lambda )$ 的充分统计量。

解 样本的联合密度函数为

$$p(x_1,x_2,\dots ,x_n;\alpha ,\lambda )={\lambda }^{n\alpha }(\Gamma (\alpha ){)}^{-n}{\left(\prod _{i=1}^n{x}_i\right)}^{\alpha -1}{e}^{-\lambda {\sum }_{i=1}^n{x}_i}.$$

由因子分解定理，

$$T=\left(\prod _{i=1}^n{x}_i,\sum _{i=1}^n{x}_i\right)$$

或

$$S=\left(\frac{1}{n}\sum _{i=1}^n\ln x_i,\bar{x}\right)$$

是充分统计量。

习题 5.5-14

设 $x_1,x_2,\dots ,x_n$ 是来自贝塔分布族 $\{Be(a,b):a>0,b>0\}$ 的一个样本，寻求 $(a,b)$ 的充分统计量。

解 样本的联合密度函数为

$$p(x_1,x_2,\dots ,x_n;a,b)={\left(\frac{\Gamma (a+b)}{\Gamma (a)\Gamma (b)}\right)}^n{\left(\prod _{i=1}^n{x}_i\right)}^{a-1}{\left(\prod _{i=1}^n(1-x_i)\right)}^{b-1}.$$

由因子分解定理，

$$T=\left(\prod _{i=1}^n{x}_i,\prod _{i=1}^n(1-x_i)\right)$$

是充分统计量。

习题 5.5-15

若 $x=(x_1,x_2,\dots ,x_n)$ 为从分布族

$$f(x,\theta )=C(\theta )\exp \left\{\sum _{i=1}^k{Q}_i(\theta )T_i(x)\right\}h(x)$$

中抽取的简单样本，试证

$$T(x)=\left(\sum _{j=1}^n{T}_1(x_j),\sum _{j=1}^n{T}_2(x_j),\dots ,\sum _{j=1}^n{T}_k(x_j)\right)$$

为充分统计量。

解 样本的联合密度函数为

$$\begin{array}{rl}p(x_1,x_2,\dots ,x_n;\theta )& =(C(\theta ){)}^n\exp \left\{\sum _{j=1}^n\sum _{i=1}^k{Q}_i(\theta )T_i(x_j)\right\}\prod _{j=1}^{n}h(x_j).\end{array}$$

由因子分解定理知，

$$T(x)=\left(\sum _{j=1}^n{T}_1(x_j),\sum _{j=1}^n{T}_2(x_j),\dots ,\sum _{j=1}^n{T}_k(x_j)\right)$$

为充分统计量。

习题 5.5-16

设 $x_1,x_2,\dots ,x_n$ 是来自正态总体 $N(\mu ,{\sigma }_1^2)$ 的样本，$y_1,y_2,\dots ,y_m$ 是来自另一正态总体 $N(\mu ,{\sigma }_2^2)$ 的样本，这两个样本相互独立，试给出 $(\mu ,{\sigma }_1^2,{\sigma }_2^2)$ 的充分统计量。

解 样本 $x_1,x_2,\dots ,x_n,y_1,y_2,\dots ,y_m$ 的联合密度函数为

$$\begin{array}{rl}p(x_1,x_2,\dots ,x_n,y_1,y_2,\dots ,y_m)& =\prod _{i=1}^n\left\{\frac{1}{\sqrt{2\pi }{\sigma }_1}{e}^{-\frac{1}{2{\sigma }_1^2}(x_i-\mu {)}^2}\right\}\prod _{i=1}^m\left\{\frac{1}{\sqrt{2\pi }{\sigma }_2}{e}^{-\frac{1}{2{\sigma }_2^2}(y_i-\mu {)}^2}\right\}\\ & =(2\pi {)}^{-(n+m)/2}{\sigma }_1^{-n}{\sigma }_2^{-m}\exp \{-\frac{1}{2{\sigma }_1^2}\sum _{i=1}^n{x}_i^2-\frac{1}{2{\sigma }_2^2}\sum _{i=1}^m{y}_i^2\\ & +\left(\frac{n\bar{x}}{{\sigma }_1^2}+\frac{m\bar{y}}{{\sigma }_2^2}\right)\mu -\left(\frac{n}{2{\sigma }_1^2}+\frac{m}{2{\sigma }_2^2}\right){\mu }^2\}.\end{array}$$

其中

$$\bar{x}=\frac{1}{n}\sum _{i=1}^n{x}_i,\bar{y}=\frac{1}{m}\sum _{i=1}^m{y}_i,$$

令

$$t=(t_1,t_2,t_3,t_4)=\left(\bar{x},\bar{y},\sum _{i=1}^n{x}_i^2,\sum _{i=1}^m{y}_i^2\right),$$

取

$$\begin{array}{rl}g(t,\mu ,{\sigma }_1^2,{\sigma }_2^2)& =(2\pi {)}^{-(n+m)/2}{\sigma }_1^{-n}{\sigma }_2^{-m}\\ & \cdot \exp \left\{-\frac{1}{2{\sigma }_1^2}{t}_3-\frac{1}{2{\sigma }_2^2}{t}_4+\left(\frac{n}{{\sigma }_1^2}{t}_1+\frac{m}{{\sigma }_2^2}{t}_2\right)\mu -\left(\frac{n}{2{\sigma }_1^2}+\frac{m}{2{\sigma }_2^2}\right){\mu }^2\right\},\end{array}$$ $$h(x_1,x_2,\dots ,x_n,y_1,y_2,\dots ,y_m)=1,$$

由因子分解定理，

$$t=(t_1,t_2,t_3,t_4)=\left(\bar{x},\bar{y},\sum _{i=1}^n{x}_i^2,\sum _{i=1}^m{y}_i^2\right)$$

是 $(\mu ,{\sigma }_1^2,{\sigma }_2^2)$ 的充分统计量。

习题 5.5-17

设

$$\left(\genfrac{}{}{0ex}{}{x_i}{y_i}\right),i=1,2,\dots ,n$$

是来自正态分布族

$$\left\{N\left(\left(\genfrac{}{}{0ex}{}{{\theta }_1}{{\theta }_2}\right),\left(\begin{array}{cc}{\sigma }_1^2& \rho {\sigma }_1{\sigma }_2\\ \rho {\sigma }_1{\sigma }_2& {\sigma }_2^2\end{array}\right)\right),-\infty <{\theta }_1,{\theta }_2<\infty ,{\sigma }_1,{\sigma }_2>0,|\rho |\le 1\right\}$$

的一个二维样本，寻求 $({\theta }_1,{\sigma }_1,{\theta }_2,{\sigma }_2,\rho )$ 的充分统计量。

解

$$\begin{array}{rl}p(x_1,y_1;\dots ;x_n,y_n)& ={\left(\frac{1}{2\pi {\sigma }_1{\sigma }_2\sqrt{1-{\rho }^2}}\right)}^n\\ & \times \exp \left\{-\frac{1}{2(1-{\rho }^2)}\sum _{i=1}^n\left[{\left(\frac{x_i-{\theta }_1}{{\sigma }_1}\right)}^2-2\rho \left(\frac{x_i-{\theta }_1}{{\sigma }_1}\right)\left(\frac{y_i-{\theta }_2}{{\sigma }_2}\right)+{\left(\frac{y_i-{\theta }_2}{{\sigma }_2}\right)}^2\right]\right\}\\ & ={\left(\frac{1}{2\pi {\sigma }_1{\sigma }_2\sqrt{1-{\rho }^2}}\right)}^n\exp \left\{-\frac{n}{2(1-{\rho }^2)}\left[{\left(\frac{{\theta }_1}{{\sigma }_1}\right)}^2-\frac{2{\theta }_1{\theta }_2\rho }{{\sigma }_1{\sigma }_2}+{\left(\frac{{\theta }_2}{{\sigma }_2}\right)}^2\right]\right\}\\ & \times \exp \left\{-\frac{{\sum }_{i=1}^n{x}_i^2-2n\bar{x}{\theta }_1}{2(1-{\rho }^2){\sigma }_1^2}+\frac{\rho \left({\sum }_{i=1}^n{x}_i{y}_i-n{\theta }_1\bar{y}-n{\theta }_2\bar{x}\right)}{(1-{\rho }^2){\sigma }_1{\sigma }_2}-\frac{{\sum }_{i=1}^n{y}_i^2-2n\bar{y}{\theta }_2}{2(1-{\rho }^2){\sigma }_2^2}\right\}.\end{array}$$

由因子分解定理，

$$\left(\sum _{i=1}^n{x}_i,\sum _{i=1}^n{x}_i^2,\sum _{i=1}^n{y}_i,\sum _{i=1}^n{y}_i^2,\sum _{i=1}^n{x}_i{y}_i\right)$$

为充分统计量。

习题 5.5-18

设二维随机变量

$$X=\left(\genfrac{}{}{0ex}{}{X_1}{X_2}\right)$$

服从二元正态分布，其均值向量为零向量，协方差阵为

$$\left(\begin{array}{cc}{\sigma }^2+r^2& {\sigma }^2-r^2\\ {\sigma }^2-r^2& {\sigma }^2+r^2\end{array}\right),\sigma >0,r>0.$$ $$\left(\genfrac{}{}{0ex}{}{x_{1i}}{x_{2i}}\right),i=1,2,\dots ,n$$

是来自该总体的样本，证明：二维统计量

$$T=\left(\sum _{i=1}^n(x_{1i}+x_{2i}{)}^2,\sum _{i=1}^n(x_{1i}-x_{2i}{)}^2\right)$$

是该二元正态分布族的充分统计量。

解 该二元正态分布的密度函数为

$$p(x_1,x_2)=\frac{1}{2\pi {\sigma }_1{\sigma }_2\sqrt{1-{\rho }^2}}\exp \left\{-\frac{1}{2(1-{\rho }^2)}\left[{\left(\frac{x_1}{{\sigma }_1}\right)}^2-2\rho \left(\frac{x_1}{{\sigma }_1}\right)\left(\frac{x_2}{{\sigma }_2}\right)+{\left(\frac{x_2}{{\sigma }_2}\right)}^2\right]\right\},$$

此处，

$${\sigma }_1^2={\sigma }_2^2={\sigma }^2+r^2,\rho =\frac{\mathrm{Cov}(x_1,x_2)}{{\sigma }_1{\sigma }_2}=\frac{{\sigma }^2-r^2}{{\sigma }^2+r^2},$$

故

$$\begin{array}{rl}{\left(\frac{x_1}{{\sigma }_1}\right)}^2-2\rho \left(\frac{x_1}{{\sigma }_1}\right)\left(\frac{x_2}{{\sigma }_2}\right)+{\left(\frac{x_2}{{\sigma }_2}\right)}^2& =\frac{1}{{\sigma }^2+r^2}\left(x_1^2+x_2^2-2\frac{{\sigma }^2-r^2}{{\sigma }^2+r^2}{x}_1{x}_2\right)\\ & =\frac{1}{({\sigma }^2+r^2{)}^2}\left[({\sigma }^2+r^2)(x_1^2+x_2^2)-2({\sigma }^2-r^2)x_1{x}_2\right]\\ & =\frac{1}{({\sigma }^2+r^2{)}^2}\left[{\sigma }^2(x_1-x_2{)}^2+r^2(x_1+x_2{)}^2\right].\end{array}$$

从而

$$p(x_1,x_2)=\frac{1}{2\pi ({\sigma }^2+r^2)\sqrt{1-{\rho }^2}}\exp \left\{-\frac{1}{2(1-{\rho }^2)}\cdot \frac{1}{({\sigma }^2+r^2{)}^2}\left[{\sigma }^2(x_1-x_2{)}^2+r^2(x_1+x_2{)}^2\right]\right\}.$$

注意到

$$1-{\rho }^2=\frac{4{\sigma }^2{r}^2}{({\sigma }^2+r^2{)}^2},$$

上式可化为

$$p(x_1,x_2)=\frac{1}{4\pi \sigma r}\exp \left\{-\frac{1}{8{\sigma }^2{r}^2}\left[{\sigma }^2(x_1-x_2{)}^2+r^2(x_1+x_2{)}^2\right]\right\}.$$

于是样本的联合密度函数为

$$\begin{array}{rl}p(x_{11},x_{21},\dots ,x_{1n},x_{2n})& ={\left(\frac{1}{4\pi \sigma r}\right)}^n\exp \left\{-\frac{1}{8{\sigma }^2{r}^2}\left[{\sigma }^2\sum _{i=1}^n(x_{1i}-x_{2i}{)}^2+r^2\sum _{i=1}^n(x_{1i}+x_{2i}{)}^2\right]\right\}.\end{array}$$

由因子分解定理，结论成立。

习题 5.5-19

设 $x_1,x_2,\dots ,x_n$ 是来自两参数指数分布

$$p(x;\theta ,\mu )=\frac{1}{\theta }{e}^{-(x-\mu )/\theta },x>\mu ,\theta >0$$

的样本，证明 $(\bar{x},x_{(1)})$ 是充分统计量。

解 由已知，样本联合密度函数为

$$\begin{array}{rl}p(x_1,x_2,\dots ,x_n;\theta ,\mu )& ={\left(\frac{1}{\theta }\right)}^n{e}^{-{\sum }_{i=1}^n(x_i-\mu )/\theta }{I}_{\{x_{(1)}>\mu \}}\\ & ={\left(\frac{1}{\theta }\right)}^n{e}^{(-n\bar{x}+n\mu )/\theta }{I}_{\{x_{(1)}>\mu \}}.\end{array}$$

令

$$g(t;\theta ,\mu )={\left(\frac{1}{\theta }\right)}^n{e}^{(-n\bar{x}+n\mu )/\theta }{I}_{\{x_{(1)}>\mu \}},h(x_1,x_2,\dots ,x_n)=1,$$

由因子分解定理，

$$(\bar{x},x_{(1)})$$

是 $(\mu ,\theta )$ 的充分统计量。

习题 5.5-20

设随机变量

$$Y_i\sim N({\beta }_0+{\beta }_1{x}_i,{\sigma }^2),i=1,2,\dots ,n,$$

诸 $Y_i$ 独立，$x_1,x_2,\dots ,x_n$ 是已知常数，试证明

$$\left(\sum _{i=1}^n{Y}_i,\sum _{i=1}^n{x}_i{Y}_i,\sum _{i=1}^n{Y}_i^2\right)$$

是充分统计量。

解 $Y_1,Y_2,\dots ,Y_n$ 的联合密度函数为

$$\begin{array}{rl}p(y_1,y_2,\dots ,y_n)& =\prod _{i=1}^n\left\{\frac{1}{\sqrt{2\pi }\sigma }\exp \left[-\frac{1}{2{\sigma }^2}(y_i-{\beta }_0-{\beta }_1{x}_i{)}^2\right]\right\}\\ & =(2\pi {\sigma }^2{)}^{-n/2}\exp \left\{-\frac{1}{2{\sigma }^2}\sum _{i=1}^n(y_i-{\beta }_0-{\beta }_1{x}_i{)}^2\right\}\\ & =(2\pi {\sigma }^2{)}^{-n/2}\exp \left\{-\frac{1}{2{\sigma }^2}\left(\sum _{i=1}^n{y}_i^2+n{\beta }_0^2+{\beta }_1^2\sum _{i=1}^n{x}_i^2-2{\beta }_0\sum _{i=1}^n{y}_i-2{\beta }_1\sum _{i=1}^n{x}_i{y}_i+2{\beta }_0{\beta }_1\sum _{i=1}^n{x}_i\right)\right\}.\end{array}$$

注意到 $x_1,x_2,\dots ,x_n$ 是已知常数，令

$$t=(t_1,t_2,t_3)=\left(\sum _{i=1}^n{y}_i,\sum _{i=1}^n{x}_i{y}_i,\sum _{i=1}^n{y}_i^2\right),$$

取

$$\begin{array}{rl}g(t,{\sigma }^2,{\beta }_0,{\beta }_1)& =(2\pi {\sigma }^2{)}^{-n/2}\exp \left\{-\frac{1}{2{\sigma }^2}\left(n{\beta }_0^2+{\beta }_1^2\sum _{i=1}^n{x}_i^2+2{\beta }_0{\beta }_1\sum _{i=1}^n{x}_i\right)\right\}\\ & \cdot \exp \left\{-\frac{1}{2{\sigma }^2}(t_3-2{\beta }_0{t}_1-2{\beta }_1{t}_2)\right\},\end{array}$$ $$h(y_1,y_2,\dots ,y_n)=1.$$

由因子分解定理，

$$\left(\sum _{i=1}^n{Y}_i,\sum _{i=1}^n{x}_i{Y}_i,\sum _{i=1}^n{Y}_i^2\right)$$

是 $({\beta }_0,{\beta }_1,{\sigma }^2)$ 的充分统计量。