例 9.140

依赖于

• 例 9.139

被以下题目直接调用

• 无

例 9.140

设 $A$ 为 $m\times n$ 实矩阵，$\beta$ 是 $m$ 维实列向量，并取实列向量空间上的标准内积。求证：

(1) 若线性方程组 $Ax=\beta$ 有解，则 $z=A^{†}\beta$ 是唯一的长度最小的解；

(2) 若线性方程组 $Ax=\beta$ 无解，则 $z=A^{†}\beta$ 是最佳逼近，即满足

$$\Vert Az-\beta \Vert \le \Vert Ax-\beta \Vert ,\forall x\in {\mathbb{R}}^n,$$

并且是所有最佳逼近中唯一的长度最小的最佳逼近。

解答

证明 (1) 任取线性方程组的解 $x_0$，即满足 $A{x}_0=\beta$，则由 $A{A}^{†}A=A$ 可知，

$$z=A^{†}\beta =A^{†}A{x}_0$$

也满足 $Az=A{A}^{†}A{x}_0=A{x}_0=\beta$，即 $z$ 也是线性方程组的解。由例 9.139 可知， $z=A^{†}A{x}_0$ 是 $x_0$ 到 $(\mathrm{Ker}A{)}^{\perp }$ 上的正交投影，从而 $\Vert z\Vert \le \Vert x_0\Vert$，等号成立当且仅当 $x_0=z$。由 $x_0$ 的任意性可知， $z=A^{†}\beta$ 是唯一的长度最小的解。

(2) 由例 9.139 可知，$Az=A{A}^{†}\beta$ 是 $\beta$ 到 $\mathrm{Im}A$ 上的正交投影， 因此对任意的 $x\in {\mathbb{R}}^n$，$(\beta -A{A}^{†}\beta )\perp Ax$。于是由勾股定理可得

$$\begin{array}{rl}\Vert Ax-\beta {\Vert }^2& =\Vert (Az-\beta )+A(x-z){\Vert }^2\\ & =\Vert Az-\beta {\Vert }^2+\Vert A(x-z){\Vert }^2\ge \Vert Az-\beta {\Vert }^2.\end{array}$$

等号成立当且仅当 $A(x-z)=0$。对满足 $Ax=Az$ 的任一 $x$，存在 $y\in \mathrm{Ker}A$，使得 $x=y+z$。由例 9.139 的证明过程可知， $z=A^{†}\beta \in (\mathrm{Ker}A{)}^{\perp }$，因此 $\Vert x{\Vert }^2=\Vert y{\Vert }^2+\Vert z{\Vert }^2\ge \Vert z{\Vert }^2$，等号成立当且仅当 $x=z$，即 $z$ 是所有最佳逼近中唯一的长度最小的最佳逼近。$\square$