Gram–Schmidt 正交化

显式公式：设 $(e_1, \ldots, e_k)$ 是 $U$ 的标准正交基，令 $u := \sum_i \langle e_i, v\rangle e_i \in U$。则对每个 $j$，

故 $v - u \perp U$，即 $u = P_U v$。

最佳逼近：对任意 $u' \in U$，由 $v - P_U v \perp U$ 与 $P_U v - u' \in U$ 得（勾股定理）

等号仅当 $P_U v = u'$。

Bessel：把 $v = P_U v + (v - P_U v)$ 用勾股定理，并注意 $\|P_U v\|^{2} = \sum_i |\langle e_i, v\rangle|^{2}$（对标准正交组合直接展开）。∎

对 $j$ 归纳。$j = 1$ 时取 $e_1 := v_1 / \|v_1\|$（$v_1 \ne 0$，因为线性无关）。

归纳步：设已作出标准正交组 $e_1, \ldots, e_{j-1}$，且它们张成 $\operatorname{span}(v_1, \ldots, v_{j-1})$。令

1. $\langle e_k, w_j\rangle = 0$（$k < j$）：由 $\langle e_k, e_i\rangle = \delta_{ki}$ 逐个消掉。
2. $w_j \ne 0$：否则 $v_j \in \operatorname{span}(e_1, \ldots, e_{j-1}) = \operatorname{span}(v_1, \ldots, v_{j-1})$，与线性无关矛盾。
3. 于是 $e_j$ 与前面的都正交，且 $\|e_j\| = 1$。
4. 张成不变：$v_j \in \operatorname{span}(e_1, \ldots, e_j)$ 与 $e_j \in \operatorname{span}(v_1, \ldots, v_j)$ 互相给出，故两个张成相等。∎

有限维时对整组基做一遍，就得到标准正交基。