1. Introduction

Chapter 1 定义向量空间时，我们把 $\mathbf{R}^2$ 与 $\mathbf{R}^3$ 的线性结构（加法与标量乘法）抽象了出来。但这件事是有代价的，因为我们同时丢掉了几个很重要的特征，也就是长度与角度。

这两个概念其实都藏在同一个对象里，就是本讲要引入的内积。一旦有了内积，长度可以由内积读出（$\|v\| = \sqrt{\langle v,v\rangle}$），正交（垂直）也可以用内积判定（$\langle u,v\rangle = 0$），于是我们就能在任意维的抽象空间里做几何。

Chapter 6 的学习目标有四条：

• Cauchy–Schwarz 不等式；
• Gram–Schmidt 正交化过程；
• 内积空间上的线性泛函；
• 计算到一个子空间的最小距离。

本讲只做第一条的前半段，即第 6.A 节：内积的定义与例子、范数、正交性、Cauchy–Schwarz 不等式、三角不等式、平行四边形等式。

为什么值得单独花一讲？ 因为这一节建立的三样东西是后面全部内容的地基。Cauchy–Schwarz 不等式把内积与范数联系起来，没有它三角不等式根本证不出来；正交分解（定理 6.13）是 Gram–Schmidt 的雏形，也是”求最小距离”那个问题的解；而平行四边形等式反过来刻画了”什么样的范数来自内积”，这条线索通向习题里那个著名的判据。

2. Inner Products (内积)

2.1 引入：范数不是线性的

先看 $\mathbf{R}^2$ 与 $\mathbf{R}^3$ 里的情形。把向量看成从原点出发的箭头，箭头的长度称为向量的范数 (norm)，记作 $\|v\|$。于是

$$v = (a,b) \in \mathbf{R}^2 \quad\Longrightarrow\quad \|v\| = \sqrt{a^2 + b^2},$$ $$v = (a,b,c) \in \mathbf{R}^3 \quad\Longrightarrow\quad \|v\| = \sqrt{a^2+b^2+c^2}.$$

高维无法画图，但推广是显然的：对 $x = (x_1,\dots,x_n) \in \mathbf{R}^n$，令

$$\|x\| = \sqrt{x_1^2 + \dots + x_n^2}.$$

这里出现了一个麻烦：范数不是线性映射。也就是说，一般地

$$\|\lambda x\| \neq \lambda\|x\| \quad (\lambda \text{ 为负时}), \qquad \|x+y\| \neq \|x\| + \|y\|.$$

右式甚至可能是"$\le$"（这正是 定理 6.17 的三角不等式）。所以范数不能直接参与线性代数的讨论，我们没法对它用第三章的任何工具。

Axler 对此的描述很到位：为了”把线性注入讨论”，我们引入点积 (dot product)。它的做法是把”平方和”这个非线性运算拆开成两两相乘再相加，而后者对每个变量都是线性的。

Definition 6.1 (dot product)
对 $x, y \in \mathbf{R}^n$，$x$ 与 $y$ 的点积 $x \cdot y$ 定义为

$$x \cdot y = x_1y_1 + \dots + x_ny_n,$$

其中 $x = (x_1,\dots,x_n)$，$y = (y_1,\dots,y_n)$。

点积立刻带来两个好处：

• 范数可以从点积读出来，即 $x \cdot x = \|x\|^2$；
• 固定 $y$ 之后，$x \mapsto x\cdot y$ 是 $\mathbf{R}^n$ 上的线性函数。

而 $\mathbf{R}^n$ 上的点积还有下面这些性质：

• $x\cdot x \ge 0$ 对一切 $x$ 成立；
• $x\cdot x = 0$ 当且仅当 $x = 0$；
• 固定 $y$ 后，$x \mapsto x\cdot y$ 是线性的；
• $x\cdot y = y\cdot x$。

内积就是点积的推广。看到这里，一个自然的猜测是：把上面四条性质抽象出来当公理，就得到了内积的定义。在实向量空间上，这个猜测是对的。 但为了让定义同时适用于实与复两种情形，我们必须先看复情形，因为那里会有一个意外。

2.2 引入：为什么复数情形必须改变对称性

这一小节是全讲最值得慢慢读的地方，因为它解释了内积定义里那条看起来别扭的”共轭对称”从何而来。

先回顾 lecture 11 的三条基本事实。若 $\lambda = a + bi$（$a,b \in \mathbf{R}$），则 $|\lambda| = \sqrt{a^2+b^2}$，$\bar\lambda = a - bi$，且

$$|\lambda|^2 = \lambda\bar\lambda.$$

现在看 $\mathbf{C}^n$。对 $z = (z_1,\dots,z_n) \in \mathbf{C}^n$，我们希望范数仍然是一个非负实数，所以定义

$$\|z\| = \sqrt{|z_1|^2 + \dots + |z_n|^2}.$$

绝对值在这里是必需的，否则根号里可能是负数。而由 $|z_j|^2 = z_j\bar z_j$ 得

$$\|z\|^2 = z_1\bar z_1 + \dots + z_n\bar z_n. \tag{6.2\text{-}1}$$

我们想把 $\|z\|^2$ 看成”$z$ 与自己的内积”，就像在 $\mathbf{R}^n$ 里那样。于是 $(6.2\text{-}1)$ 提示：向量 $w = (w_1,\dots,w_n)$ 与 $z$ 的内积应当等于

$$w_1\bar z_1 + \dots + w_n\bar z_n. \tag{6.2\text{-}2}$$

关键观察来了：如果交换 $w$ 与 $z$ 的位置，$(6.2\text{-}2)$ 就变成它的复共轭。所以我们应该预期

$$\langle w,z\rangle = \overline{\langle z,w\rangle},$$

而不是 $\langle w,z\rangle = \langle z,w\rangle$。

为什么不能保留普通的对称性？ 这不是品味问题，而是一个不可能性。假设在复向量空间上存在一个满足以下三条的 $\langle\cdot,\cdot\rangle$：

1. 对第一个位置线性：$\langle\lambda u, v\rangle = \lambda\langle u,v\rangle$；
2. 普通对称：$\langle u,v\rangle = \langle v,u\rangle$；
3. 正性：$\langle v,v\rangle \ge 0$，且 $\langle v,v\rangle = 0 \Rightarrow v = 0$。

取任意 $z \in V$ 与 $\lambda = i$，连续使用 1 与 2：

$$\langle iz, iz\rangle \overset{1}{=} i\,\langle z, iz\rangle \overset{2}{=} i\,\langle iz, z\rangle \overset{1}{=} i\cdot i\,\langle z,z\rangle = -\langle z,z\rangle.$$

由 3，左端 $\ge 0$，右端 $\le 0$，故 $\langle z,z\rangle = 0$，再由 3 得 $z = 0$。可是 $z$ 是任意的，这与 $V \neq \{0\}$ 矛盾。

所以在复空间上，普通对称与正性无法共存。出路只有一条，就是把对称性换成共轭对称。这样上面那串推导的第一步就会多出一个共轭，$-1$ 也就不会出现。

这就是内积定义中”共轭对称”这条公理的来源，它不是数学家的偏好，而是被正性逼出来的。

2.3 Definition: inner product (6.2)

Definition 6.2 (inner product)
$V$ 上的内积 (inner product) 是把 $V$ 的每个有序对 $(u,v)$ 送到一个数 $\langle u,v\rangle \in \mathbf{F}$ 的函数，并满足下列性质。

positivity（正性）
$\langle v,v\rangle \ge 0$ 对一切 $v \in V$ 成立。

definiteness（定性）
$\langle v,v\rangle = 0$ 当且仅当 $v = 0$。

additivity in first slot（第一个位置的加性）
$\langle u+v, w\rangle = \langle u,w\rangle + \langle v,w\rangle$ 对一切 $u,v,w \in V$ 成立。

homogeneity in first slot（第一个位置的齐性）
$\langle \lambda u, v\rangle = \lambda\langle u,v\rangle$ 对一切 $\lambda \in \mathbf{F}$ 与 $u,v \in V$ 成立。

conjugate symmetry（共轭对称）
$\langle u,v\rangle = \overline{\langle v,u\rangle}$ 对一切 $u,v \in V$ 成立。

记号上有一点要说明：对 $\lambda \in \mathbf{C}$，记号 $\lambda \ge 0$ 的意思是”$\lambda$ 是实数且非负”。所以正性那条同时断言了 $\langle v,v\rangle$ 是实数。

实情形的简化：每个实数都等于自己的共轭。所以在实向量空间上，共轭对称可以写成普通的 $\langle u,v\rangle = \langle v,u\rangle$，而定义里也不会出现复共轭。

2.4 五条公理怎么读

把这五条按”功能”分组，会更容易记住。

公理	管什么
正性 $+$ 定性	让 $\sqrt{\langle v,v\rangle}$ 有意义，并保证只有零向量的”长度”为零
第一个位置的加性 $+$ 齐性	让 $u \mapsto \langle u,v\rangle$ 成为一个线性映射（这是”注入线性”的兑现）
共轭对称	保证 $\langle v,v\rangle$ 是实数（2.2 节已说明它不可省），并让第二个位置变成共轭线性

“第一个位置线性、第二个位置共轭线性”这个不对称是必须留意的。 由 定理 6.6，对第二个位置我们有

$$\langle u, \lambda v\rangle = \bar\lambda\langle u,v\rangle,$$

注意那个共轭。这是初学者最容易出错的地方，尤其是在做基变换或算坐标时。

一个术语注记：大多数数学家按上面的方式定义内积，但很多物理学家把齐性要求放在第二个位置。两种约定导致的公式差别恰好是全面的复共轭，所以做物理文献的推导时要先确认用的是哪一种。

2.5 Example: inner products (6.3)

Example 6.3 (inner products)

(a) $\mathbf{F}^n$ 上的欧几里得内积 (Euclidean inner product)：

$$\big\langle (w_1,\dots,w_n), (z_1,\dots,z_n)\big\rangle = w_1\bar z_1 + \dots + w_n\bar z_n$$

对一切 $(w_1,\dots,w_n), (z_1,\dots,z_n) \in \mathbf{F}^n$ 成立。

(b) $\mathbf{F}^n$ 上的加权内积：若 $c_1,\dots,c_n$ 是正数，则

$$\big\langle (w_1,\dots,w_n), (z_1,\dots,z_n)\big\rangle = c_1w_1\bar z_1 + \dots + c_nw_n\bar z_n$$

是 $\mathbf{F}^n$ 上的内积。

(c) 连续函数空间上的内积：在区间 $[-1,1]$ 上的连续实值函数构成的空间里，

$$\langle f, g\rangle = \int_{-1}^{1} fg$$

是内积。

(d) $\mathcal{P}(\mathbf{R})$ 上的内积：

$$\langle p, q\rangle = p(0)q(0) + \int_{-1}^{1} p'q'$$

(e) $\mathcal{P}(\mathbf{R})$ 上的另一个内积：

$$\langle p, q\rangle = \int_0^\infty p(x)q(x)e^{-x}\,dx$$

这几个例子各自的用处值得分开说。

(b) 说明内积不是唯一的：同一个空间 $\mathbf{F}^n$ 上可以装很多个不同的内积，它们给出不同的范数，也就给出不同的”长度”与”正交”概念。所以在内积空间里，“长度”是被选定的，不是天生的。 这也解释了为什么 定义 6.4 后面要约定：“说 $\mathbf{F}^n$ 是内积空间时，默认用欧几里得内积”。

(c) 是后面许多例子的主力：它把”函数”变成了”可以算长度和夹角的向量”。Cauchy–Schwarz 不等式的积分形式（例子 6.16(b)）就来自这里。

(e) 里的 $e^{-x}$ 是权重**，它保证无穷区间上的积分收敛。这是”高斯型”内积的雏形，在正交多项式理论里非常重要。

2.6 Definition: inner product space (6.4) and Notation (6.5)

Definition 6.4 (inner product space)
内积空间 (inner product space) 是一个向量空间 $V$ 连同 $V$ 上的一个内积。

内积空间最重要的例子是带欧几里得内积的 $\mathbf{F}^n$。当 $\mathbf{F}^n$ 被称为内积空间时，若无特别说明，应当假定内积是欧几里得内积。

Notation 6.5 ($V$, $W$)
本章与下一章中，$V$ 与 $W$ 都指 $\mathbf{F}$ 上的内积空间。

这里有一点语言上的滥用，值得指出：严格说，内积空间是”向量空间加上一个内积”这个二元组。当我们说”向量空间 $V$ 是内积空间”时，我们是在想”$V$ 上有一个内积在附近”——它可能由上下文确定，也可能就是欧几里得内积。这个约定省掉了每次都要写”$V$ 连同某个内积”的麻烦，代价是要记住内积是额外的一份数据。

2.7 Theorem: basic properties of an inner product (6.6)

Theorem 6.6 (basic properties of an inner product)

• (a) 对每个固定的 $v \in V$，函数 $u \mapsto \langle u,v\rangle$ 是 $V$ 到 $\mathbf{F}$ 的线性映射。
• (b) $\langle 0, v\rangle = 0$ 对每个 $v \in V$ 成立。
• (c) $\langle v, 0\rangle = 0$ 对每个 $v \in V$ 成立。
• (d) $\langle u, v+w\rangle = \langle u,v\rangle + \langle u,w\rangle$ 对一切 $u,v,w \in V$ 成立。
• (e) $\langle u, \lambda v\rangle = \bar\lambda\langle u,v\rangle$ 对一切 $\lambda \in \mathbf{F}$ 与 $u,v \in V$ 成立。

证明：

(a) 直接来自定义中”第一个位置的加性”与”齐性”。

(b) 每个线性映射都把 $0$ 送到 $0$，故由 (a) 即得。

(c) 由共轭对称与 (b)，

$$\langle v,0\rangle = \overline{\langle 0,v\rangle} = \bar 0 = 0.$$

(d) 由共轭对称，

$$\langle u, v+w\rangle = \overline{\langle v+w, u\rangle} = \overline{\langle v,u\rangle + \langle w,u\rangle} = \overline{\langle v,u\rangle} + \overline{\langle w,u\rangle} = \langle u,v\rangle + \langle u,w\rangle.$$

(e) 同样由共轭对称，

$$\langle u,\lambda v\rangle = \overline{\langle \lambda v, u\rangle} = \overline{\lambda\langle v,u\rangle} = \bar\lambda\,\overline{\langle v,u\rangle} = \bar\lambda\langle u,v\rangle. \qquad\blacksquare$$

这条定理的价值：它把”定义里只写了两条涉及第一个位置的性质”这件事补齐了。第二个位置不是没有性质，而是性质里都带一个共轭。 (d) 说明第二个位置仍然是可加的，(e) 说明它共轭齐性。

一个实务上的提醒，Axler 反复强调：用范数的平方做计算通常比直接用范数容易。 原因是范数的平方可以展开成内积，而内积有 (a)–(e) 这些可以操作的代数性质；范数本身只有一个根号。下面的 定理 6.9、定理 6.12、定理 6.17、定理 6.21 的证明全都遵循这条策略。

3. Norms (范数)

3.1 Definition: norm (6.7)

我们定义内积的最初动机，来自 $\mathbf{R}^2$ 与 $\mathbf{R}^3$ 中向量的范数。现在反过来看：每个内积都决定一个范数。

Definition 6.7 (norm, $\|v\|$)
对 $v \in V$，$v$ 的范数 (norm) $\|v\|$ 定义为

$$\|v\| = \sqrt{\langle v,v\rangle}.$$

这个定义为什么是良定义的？ 因为正性保证 $\langle v,v\rangle$ 是非负实数，所以开平方有意义。如果当初没有牺牲普通对称性去换共轭对称，那 $\langle v,v\rangle$ 可能是复数，这个根号就写不出来——这也从另一个角度说明了 2.2 节那场取舍的必要性。

3.2 Example: norms (6.8)

Example 6.8 (norms)

(a) 若 $(z_1,\dots,z_n) \in \mathbf{F}^n$（带欧几里得内积），则

$$\|(z_1,\dots,z_n)\| = \sqrt{|z_1|^2 + \dots + |z_n|^2}.$$

(b) 对 $[-1,1]$ 上的连续实值函数 $f$，取 例子 6.3(c) 的内积，则

$$\|f\| = \sqrt{\int_{-1}^{1} f^2}.$$

注意 (b) 的读法：$f$ 的”长度”是一个积分。所以”两个函数靠得近”在数学上就是”它们差的平方的积分很小”。这个思想是傅里叶分析与 $L^2$ 空间的起点。

3.3 Theorem: basic properties of the norm (6.9)

Theorem 6.9 (basic properties of the norm)
设 $v \in V$。

• (a) $\|v\| = 0$ 当且仅当 $v = 0$。
• (b) $\|\lambda v\| = |\lambda|\,\|v\|$ 对一切 $\lambda \in \mathbf{F}$ 成立。

证明：

(a) 由内积的定性，$\langle v,v\rangle = 0$ 当且仅当 $v = 0$，而 $\|v\| = 0$ 等价于 $\langle v,v\rangle = 0$。

(b) 用”范数平方更好算”的策略：

$$\|\lambda v\|^2 = \langle \lambda v, \lambda v\rangle = \lambda\langle v, \lambda v\rangle = \lambda\bar\lambda\langle v,v\rangle = |\lambda|^2\|v\|^2.$$

两端开平方即得。$\blacksquare$

(b) 的推导里有一个容易看漏的细节：第二步用的是”第一个位置的齐性”，得到因子 $\lambda$；第三步用的是 定理 6.6(e)，得到因子 $\bar\lambda$；两者相乘才是 $|\lambda|^2$。如果误以为第二个位置也给出 $\lambda$，就会得到 $\lambda^2\|v\|^2$，那就把共轭丢掉了。

(b) 的几何含义：把向量伸缩 $\lambda$ 倍，长度恰好伸缩 $|\lambda|$ 倍。注意是绝对值，因为 $\lambda = -2$ 时方向反转但长度只变 $2$ 倍。

4. Orthogonality (正交性)

4.1 Definition: orthogonal (6.10)

现在给出本章的核心概念。

Definition 6.10 (orthogonal)
两个向量 $u, v \in V$ 称为正交的 (orthogonal)，如果 $\langle u,v\rangle = 0$。

词源：orthogonal 来自希腊语 orthogonios，意思是”直角的”。

定义中两个向量的次序无关紧要，因为 $\langle u,v\rangle = 0$ 当且仅当 $\langle v,u\rangle = 0$（共轭）。

为什么”正交”就是”垂直”？ 习题 6.A.15 会证明：若 $u,v$ 是 $\mathbf{R}^2$ 中的非零向量，则

$$\langle u,v\rangle = \|u\|\|v\|\cos\theta,$$

其中 $\theta$ 是 $u$ 与 $v$ 的夹角（把两者都看成从原点出发的箭头）。于是

$$u \perp v \iff \langle u,v\rangle = 0 \iff \cos\theta = 0 \iff \theta = 90^\circ.$$

所以 orthogonal 只是一个”垂直”的雅致说法。 但它的好处是不再依赖画图：即使 $V$ 是 $1000$ 维的，或者 $V$ 是函数空间，$\langle u,v\rangle = 0$ 依然有意义。这正是抽象的价值——把一个只能看图的概念换成一个能算的条件。

一个真实世界的插曲，很能说明这个词的地位。2010 年，法学教授 Richard Friedman 在美国最高法院出庭时说了这样一句话：

Mr. Friedman: I think that issue is entirely orthogonal to the issue here because the Commonwealth is acknowledging— Chief Justice Roberts: I’m sorry. Entirely what? Mr. Friedman: Orthogonal. Right angle. Unrelated. Irrelevant. Chief Justice Roberts: Oh. Justice Scalia: What was that adjective? I liked that. Mr. Friedman: Orthogonal. Chief Justice Roberts: Orthogonal. Mr. Friedman: Right, right. Justice Scalia: Orthogonal, ooh. (Laughter.) Justice Kennedy: I knew this case presented us a problem. (Laughter.)

这个故事说明，“orthogonal”在英语里已经成了一个表示”毫不相干”的词——而它的字面意思正是**“成直角，因而不相交”**。

4.2 Theorem: orthogonality and 0 (6.11)

Theorem 6.11 (orthogonality and 0)

• (a) $0$ 与 $V$ 中每个向量都正交。
• (b) $0$ 是 $V$ 中唯一与自己正交的向量。

证明：(a) 即 定理 6.6(b)。

(b) 若 $v \in V$ 且 $\langle v,v\rangle = 0$，则由内积的定性得 $v = 0$。$\blacksquare$

(b) 这一条为什么值得单独列出？ 因为它说明**“正交”这个关系在非零向量上是对称的、互斥的**：一个非零向量不可能与自己垂直。这个看似平凡的事实，实际上是”内积”与”一般的双线性型”的分界线。例如在 $\mathbf{R}^2$ 上定义 $\langle (x_1,x_2),(y_1,y_2)\rangle = x_1y_1 - x_2y_2$，它满足前四条公理，但向量 $(1,1)$ 与自己”正交”。这种”负定方向”的存在正是闵可夫斯基时空的几何特征，而它不是内积空间。

4.3 Theorem: Pythagorean theorem (6.12)

Theorem 6.12 (Pythagorean theorem)
设 $u, v \in V$。若 $u$ 与 $v$ 正交，则

$$\|u+v\|^2 = \|u\|^2 + \|v\|^2.$$

证明：设 $\langle u,v\rangle = 0$。则

$$\begin{aligned} \|u+v\|^2 &= \langle u+v, u+v\rangle\\ &= \langle u,u\rangle + \langle u,v\rangle + \langle v,u\rangle + \langle v,v\rangle\\ &= \|u\|^2 + \|v\|^2, \end{aligned}$$

中间两项因为 $\langle u,v\rangle = 0$ 而消失（$\langle v,u\rangle = \overline{\langle u,v\rangle} = 0$）。$\blacksquare$

对 $V = \mathbf{R}^2$ 这个特例，这条定理在巴比伦已有 $3500$ 年以上的历史，后来在希腊被重新发现并证明，距今约 $2500$ 年。 当然，上面的证明不是原始的证明——它甚至不需要图，只需要内积的四条性质。这就是抽象的力量：同一条定理，从平面几何的一个事实，变成了在任意维数、任意内积空间都成立的代数恒等式。

为什么这条定理重要？ 因为它是后面一系列不等式证明的引擎。定理 6.14（Cauchy–Schwarz）的证明就是把 $u$ 正交分解，然后对两个正交分量用勾股定理；定理 6.21（平行四边形等式）则是勾股定理的”两次应用”。

4.4 Theorem: an orthogonal decomposition (6.13)

引入：我们想做什么？ 设 $u, v \in V$ 且 $v \neq 0$。我们希望把 $u$ 写成

$$u = c v + w,$$

其中 $c v$ 是 $v$ 的标量倍数，而 $w$ 与 $v$ 正交，如图所示的分解。几何上这就是”把 $u$ 投影到 $v$ 的方向上，剩下的部分垂直于 $v$”。

怎么找到 $c$？ 这是本小节值得细看的推导。取 $c \in \mathbf{F}$，则

$$u = cv + (u - cv)$$

对任何 $c$ 都成立。所以问题变成：怎么选 $c$ 使 $v$ 与 $u - cv$ 正交。也就是要求

$$0 = \langle u - cv, v\rangle = \langle u,v\rangle - c\|v\|^2,$$

这里用了第一个位置的线性。因为 $v \neq 0$，由 定理 6.9(a) 得 $\|v\|^2 \neq 0$，故可以解出

$$c = \frac{\langle u,v\rangle}{\|v\|^2}.$$

代回即得

$$u = \frac{\langle u,v\rangle}{\|v\|^2}v + \Big(u - \frac{\langle u,v\rangle}{\|v\|^2}v\Big).$$

这个推导的思路值得记住：不是先猜出答案再验证，而是先写下"$u = cv + w$"这个待定的形式，再利用”$w$ 与 $v$ 正交”这个条件去解出 $c$。这个”设未知、用条件定”的套路在处理正交问题时极其常用。

Theorem 6.13 (an orthogonal decomposition)
设 $u, v \in V$ 且 $v \neq 0$。令

$$c = \frac{\langle u,v\rangle}{\|v\|^2}, \qquad w = u - \frac{\langle u,v\rangle}{\|v\|^2}v.$$

则

$$u = cv + w \qquad\text{且}\qquad \langle w,v\rangle = 0.$$

这个结果的地位：它是本章后面几乎所有内容的原型。

• Cauchy–Schwarz 不等式（定理 6.14）的证明就是把 $u$ 这样分解，然后对两个正交分量用勾股定理。
• Gram–Schmidt 过程（下一讲）就是把这个分解反复使用，把一组基逐个”正交化”。
• 到子空间的最小距离（本章后面的内容）就是把这个分解推广到”把 $u$ 投影到整个子空间上”。

所以这个看起来只是”一个计算”的结果，实际上是整章的技术核心。

5. The Cauchy–Schwarz Inequality (柯西—施瓦茨不等式)

5.1 Theorem: Cauchy–Schwarz inequality (6.14)

Theorem 6.14 (Cauchy–Schwarz inequality)
设 $u, v \in V$。则

$$|\langle u,v\rangle| \le \|u\|\,\|v\|.$$

这个不等式取等号当且仅当 $u, v$ 中有一个是另一个的标量倍数。

证明：若 $v = 0$，则两边都等于 $0$，结论成立。故可设 $v \neq 0$。

由 定理 6.13 取正交分解

$$u = \frac{\langle u,v\rangle}{\|v\|^2}v + w,$$

其中 $\langle w,v\rangle = 0$。注意 $\frac{\langle u,v\rangle}{\|v\|^2}v$ 与 $w$ 也正交：因为

$$\Big\langle \frac{\langle u,v\rangle}{\|v\|^2}v,\ w\Big\rangle = \frac{\langle u,v\rangle}{\|v\|^2}\langle v,w\rangle = 0.$$

于是可以对这两个正交分量用勾股定理（定理 6.12）：

$$\begin{aligned} \|u\|^2 &= \Big\|\frac{\langle u,v\rangle}{\|v\|^2}v\Big\|^2 + \|w\|^2\\ &= \frac{|\langle u,v\rangle|^2}{\|v\|^2} + \|w\|^2\\ &\ge \frac{|\langle u,v\rangle|^2}{\|v\|^2}. \end{aligned}$$

（第二行用了 定理 6.9(b)：$\|cv\|^2 = |c|^2\|v\|^2$，故 $\big\|\tfrac{\langle u,v\rangle}{\|v\|^2}v\big\|^2 = \tfrac{|\langle u,v\rangle|^2}{\|v\|^4}\|v\|^2 = \tfrac{|\langle u,v\rangle|^2}{\|v\|^2}$。）

把上式两端乘以 $\|v\|^2$ 再开平方，即得 $|\langle u,v\rangle| \le \|u\|\|v\|$。$\blacksquare$

等号条件：上面的证明显示，Cauchy–Schwarz 取等号当且仅当中间那个不等式取等号，也就是 $\|w\|^2 = 0$，即 $w = 0$。而由 定理 6.13 的构造，$w = 0$ 等价于

$$u = \frac{\langle u,v\rangle}{\|v\|^2}v,$$

即 $u$ 是 $v$ 的标量倍数。反之亦然。故取等号当且仅当 $u, v$ 中有一个是另一个的标量倍数（这个说法同时涵盖了 $u = 0$ 或 $v = 0$ 的情形）。

这个证明为什么是这个证明？ 值得停下来体会一下它的逻辑结构：

$$\underbrace{\text{把 } u \text{ 正交分解}}_{\text{6.13}}\ \Longrightarrow\ \underbrace{\text{对两个正交分量用勾股定理}}_{\text{6.12}}\ \Longrightarrow\ \underbrace{\text{丢掉 } \|w\|^2 \text{ 这一项}}_{\text{不等式出现}}\ \Longrightarrow\ \text{Cauchy–Schwarz}.$$

不等式的来源是”丢掉了一个非负项”。 这是数学里产生不等式最典型的方式，值得记住。

一个历史注记：Augustin-Louis Cauchy 在 1821 年证明了 例子 6.16(a)。1859 年，Cauchy 的学生 Viktor Bunyakovsky 证明了像 (b) 那样的积分不等式。几十年后，Hermann Schwarz 独立发现了类似的结果，由于他的工作引起了更多注意，这个不等式就以 Cauchy 与 Schwarz 两人的名字命名。（顺带说，Bunyakovsky 的名字在很多文献里是应该出现的，所以有些书把它称为 Cauchy–Bunyakovsky–Schwarz 不等式。）

5.2 Example: Cauchy–Schwarz inequality (6.16)

Example 6.16 (Cauchy–Schwarz inequality)

(a) 若 $x_1,\dots,x_n,y_1,\dots,y_n \in \mathbf{R}$，则

$$(x_1y_1 + \dots + x_ny_n)^2 \le (x_1^2 + \dots + x_n^2)(y_1^2 + \dots + y_n^2),$$

这只要把 定理 6.14 用于 $\mathbf{R}^n$ 中的向量 $(x_1,\dots,x_n)$ 与 $(y_1,\dots,y_n)$（用通常的欧几里得内积）即得。

(b) 若 $f, g$ 是 $[-1,1]$ 上的连续实值函数，则

$$\Big|\int_{-1}^{1} fg\Big|^2 \le \Big(\int_{-1}^{1} f^2\Big)\Big(\int_{-1}^{1} g^2\Big),$$

这只要把 定理 6.14 用于 例子 6.3(c) 的内积即得。

这两个例子的分量在哪里？ (a) 是一个纯代数的不等式，高中生就能看懂陈述，但证明它需要向量空间的语言（或者一堆繁琐的配方）。(b) 是一个分析里的不等式，它的标准证明要用到变分法或二重积分，而这里一行就出来了。

这说明 Cauchy–Schwarz 不是”一条不等式”，而是一个”不等式工厂”：只要你能把问题装进某个内积空间，它就自动给你一条不等式。所以真正的工作量在于”找到合适的内积”，而这正是 例子 6.3 列那么多内积的原因。

5.3 为什么 Cauchy–Schwarz 重要

它的重要性可以从三个角度说。

（一）它把内积与范数连起来了。 在此之前，$\langle u,v\rangle$ 是一个数、$\|u\|\|v\|$ 是另一个数，两者没有已知关系。Cauchy–Schwarz 给出了第一个定量联系，于是”内积大”就意味着”两个向量都大或者方向接近”。有了这个联系，“夹角”这个概念才能在一般内积空间里有定义（习题 6.A.15 正是这么做的：$\cos\theta = \langle u,v\rangle/(\|u\|\|v\|)$，而 Cauchy–Schwarz 保证了这个比值落在 $[-1,1]$ 里，从而 $\theta$ 存在）。

（二）三角不等式靠它。 下一节会看到，三角不等式的证明只有一步是实质性的，那一步就是 Cauchy–Schwarz。

（三）它是”最小距离”问题的关键。 本章后面的目标是”给定子空间 $U$ 与向量 $v$，求 $U$ 中离 $v$ 最近的元素”。而答案正是 $v$ 在 $U$ 上的正交投影，其证明要靠 Cauchy–Schwarz。

6. The Triangle Inequality (三角不等式)

6.1 Theorem: triangle inequality (6.17)

几何含义：三角形的每一条边都短于另外两条边之和。Axler 还指出一个推论：两点之间最短的多边形路径就是一条线段（多边形路径由若干线段组成）。

Theorem 6.17 (triangle inequality)
设 $u, v \in V$。则

$$\|u+v\| \le \|u\| + \|v\|.$$

这个不等式取等号当且仅当 $u, v$ 中有一个是另一个的非负实数倍。

证明：仍然用”范数平方更好算”的策略。

$$\begin{aligned} \|u+v\|^2 &= \langle u+v, u+v\rangle\\ &= \langle u,u\rangle + \langle v,v\rangle + \langle u,v\rangle + \langle v,u\rangle\\ &= \langle u,u\rangle + \langle v,v\rangle + \langle u,v\rangle + \overline{\langle u,v\rangle}\\ &= \|u\|^2 + \|v\|^2 + 2\,\mathrm{Re}\langle u,v\rangle\\ &\le \|u\|^2 + \|v\|^2 + 2\,|\langle u,v\rangle|\\ &\le \|u\|^2 + \|v\|^2 + 2\|u\|\|v\|\\ &= \big(\|u\| + \|v\|\big)^2, \end{aligned}$$

其中倒数第二步用了 Cauchy–Schwarz（定理 6.14）。两端开平方即得。$\blacksquare$

这个证明里有两处不等号，它们的性质不同：

不等号	来源	何时取等
$\mathrm{Re}\langle u,v\rangle \le \lvert\langle u,v\rangle\rvert$	实部不超过模	$\langle u,v\rangle$ 是非负实数
$\lvert\langle u,v\rangle\rvert \le \lVert u\rVert \lVert v\rVert$	Cauchy–Schwarz	$u,v$ 成比例

前者是”复数的实部 $\le$ 模”，后者才是实质性的。 所以整个三角不等式只有一步是真功夫，而那一步是 Cauchy–Schwarz。

6.2 等号条件

证明显示，三角不等式取等号当且仅当上面两个不等号都取等号。合起来就是

$$\langle u,v\rangle = \|u\|\|v\|. \tag{6.17\text{-}1}$$

（充分性） 若 $u, v$ 中有一个是另一个的非负实数倍，比如 $u = tv$（$t \ge 0$），则

$$\langle u,v\rangle = t\langle v,v\rangle = t\|v\|^2 = \|tv\|\|v\| = \|u\|\|v\|,$$

故 $(6.17\text{-}1)$ 成立。

（必要性） 若 $(6.17\text{-}1)$ 成立，则由 Cauchy–Schwarz 的等号条件，$u, v$ 成比例。而这个比例常数必为非负实数，因为 $(6.17\text{-}1)$ 的右端是非负实数，而左端等于（比例常数）$\times\|v\|^2$。

为什么等号条件里必须是”非负”实数倍？ 因为反向的向量会拉长而不是抵消。取 $u = (1,0)$、$v = (-1,0)$，则 $\|u+v\| = 0$ 而 $\|u\|+\|v\| = 2$，差距极大。这就是”三角不等式是严格的”与”三点共线且同向”的区别。

6.3 Remark: 反向三角不等式

习题 6.A.20 要求证明反向三角不等式：

$$\big|\|u\| - \|v\|\big| \le \|u - v\|.$$

它与三角不等式是同一件事的两种写法（把 $u$ 换成 $u-v$ 再整理即可），几何含义是”两条边之差小于第三边”。

7. The Parallelogram Equality (平行四边形等式)

7.1 Theorem: parallelogram equality (6.21)

几何含义：在任何平行四边形中，两条对角线长度的平方和等于四条边长度平方和。

Theorem 6.21 (parallelogram equality)
设 $u, v \in V$。则

$$\|u+v\|^2 + \|u-v\|^2 = 2\big(\|u\|^2 + \|v\|^2\big).$$

证明：直接展开。

$$\begin{aligned} \|u+v\|^2 + \|u-v\|^2 &= \langle u+v,u+v\rangle + \langle u-v,u-v\rangle\\ &= \big(\|u\|^2 + \|v\|^2 + \langle u,v\rangle + \langle v,u\rangle\big)\\ &\qquad + \big(\|u\|^2 + \|v\|^2 - \langle u,v\rangle - \langle v,u\rangle\big)\\ &= 2\big(\|u\|^2 + \|v\|^2\big). \qquad\blacksquare \end{aligned}$$

这个证明的漂亮之处：在欧几里得几何里，证明平行四边形等式要作辅助线、用全等三角形；而这里只是把括号展开，然后发现交叉项互相抵消。Axler 评论说这条证明比通常的欧氏几何证明”更直接”，这话不夸张。

7.2 为什么这条等式值得单独列出

不是因为它难，而是因为它反过来刻画了内积。

问一个自然的问题：范数是一个比内积”弱”的对象，因为内积给出范数，但范数未必来自内积。那么什么样的范数来自内积？

答案是：恰好那些满足平行四边形等式的范数（Jordan–von Neumann 定理）。这条定理的构造是：若 $\|\cdot\|$ 满足平行四边形等式，则

$$\langle u,v\rangle = \frac{\|u+v\|^2 - \|u-v\|^2}{4}$$

（实情形）就是一个内积。习题 6.A.24（第四版 6A.24）正是要求判断”与内积相伴的范数”是否具有某个性质，而习题 6.A.28 给出了”范数”的一般定义并引导你发现：多数范数并不满足平行四边形等式，因而并不来自内积。

举个反例：在 $\mathbf{R}^2$ 上令

$$\|(x,y)\|_\infty = \max\{|x|, |y|\}.$$

它满足范数的通常性质，但取 $u = (1,0)$、$v = (0,1)$，则

$$\|u+v\|_\infty^2 + \|u-v\|_\infty^2 = 1 + 1 = 2, \qquad 2\big(\|u\|_\infty^2 + \|v\|_\infty^2\big) = 2(1+1) = 4,$$

两者不等。所以 $\|\cdot\|_\infty$ 不来自任何内积。 这个范数的”单位球”是一个正方形，而不是圆——而”单位球是椭圆”恰好是内积范数的几何特征。

所以平行四边形等式是一条”识别器”：它告诉你手上这个范数到底有没有资格谈”正交”与”夹角”。没有它，你就只能算长度，不能算角度。

8. 本讲概念映射 (Summary)

关心的问题	精确形式	编号
点积	$x\cdot y = x_1y_1 + \dots + x_ny_n$，且 $x\cdot x = \lVert x\rVert^2$	6.1
什么叫内积	正性、定性、第一个位置的加性与齐性、共轭对称	6.2
为什么必须共轭对称	否则正性与对称性矛盾（$i$ 的推导）	2.2 节
内积有哪些例子	欧几里得、加权、积分、$\mathcal{P}(\mathbf{R})$ 上两种	6.3
什么叫内积空间	向量空间 $+$ 一个内积	6.4
内积的基本性质	第一个位置线性；第二个位置共轭线性	6.6
范数怎么来	$\lVert v\rVert = \sqrt{\langle v,v\rangle}$	6.7
范数的性质	$\lVert v\rVert = 0 \iff v = 0$；$\lVert \lambda v\rVert = \lvert\lambda\rvert\lVert v\rVert$	6.9
什么叫正交	$\langle u,v\rangle = 0$，即”垂直”的一般化	6.10
谁与自己正交	只有 $0$	6.11
正交向量有什么好处	勾股定理：$\lVert u+v\rVert^2 = \lVert u\rVert^2+\lVert v\rVert^2$	6.12
怎么把 $u$ 拆成正交两块	$u = \frac{\langle u,v\rangle}{\lVert v\rVert^2}v + w$，$w \perp v$	6.13
内积能有多大	$\lvert\langle u,v\rangle\rvert \le \lVert u\rVert \lVert v\rVert$	6.14
它的具体形式	平方和不等式；积分不等式	6.16
长度能加多快	$\lVert u+v\rVert \le \lVert u\rVert +\lVert v\rVert$	6.17
范数来自内积吗	看它是否满足平行四边形等式	6.21

一条主线

本讲只做了一件事，即给向量空间装上”长度”与”角度”。为此先引入内积（6.2），再从内积读出范数（6.7），最后用内积定义正交（6.10）。

而在三者之间牵线的是一个分解与两条不等式：

• 定理 6.13 把任意向量拆成”沿 $v$ 方向的部分”与”垂直于 $v$ 的部分”。这是整章的技术核心。
• 对这两块用勾股（6.12），丢掉垂直那一块，就得到 Cauchy–Schwarz（6.14）。
• 再把 Cauchy–Schwarz 用在 $\|u+v\|^2$ 的展开上，就得到三角不等式（6.17）。

至于平行四边形等式（6.21），它走的是反方向：它不问”内积给出什么范数”，而问”哪些范数来自内积”，答案正是满足这条等式的那些。

一句话概括：内积是本讲唯一的源头，范数与正交都是它的派生物；而 Cauchy–Schwarz 是唯一把两者量化的桥梁，所以它承担了后面所有不等式的证明。

9. Questions to Carry Forward (下节课前瞻)

• 标准正交基：若一组基中任意两个向量都正交且范数都是 $1$，则称为标准正交基 (orthonormal basis)。它的好处是求坐标变成算内积，不必解线性方程组（下一讲）。
• Gram–Schmidt 过程：把 定理 6.13 的正交分解反复使用，可以把任意一组线性无关的列表化成标准正交列表。它的每一步就是一次”减掉在已有方向上的投影”。
• 正交投影：把 定理 6.13 从”投影到一条线”推广到”投影到一个子空间”。届时 $u = P_Uu + w$，其中 $w$ 与整个 $U$ 正交，而 $P_Uu$ 是 $U$ 中离 $u$ 最近的向量。这是”最小距离”问题的完整答案。
• 内积空间上的线性泛函：$v \mapsto \langle v,u\rangle$ 是 $\mathcal{L}(V,\mathbf{F})$ 中的元素（定理 6.6(a)）。Riesz 表示定理会说：每个线性泛函都是这个形式。这给 lecture 10 的”对偶空间”提供了一个具体的实现。
• Jordan–von Neumann：平行四边形等式反过来刻画了内积范数（7.2 节）。这是一个”用等式认出对象”的典范，与 lecture 13 的”用极小多项式认出可对角化”是同一类思想。

10. Exercises (Homework Assignment 15: LADR 6.A: 6, 16, 20, 24)

编号说明：正文定理编号一律用第四版；作业题号来自第三版。本章两版编号的差距很规整：第三版编号 = 第四版编号 $+ 1$，因为第四版删掉了第三版开头的 6.1 Notation F,V（讲义幻灯片引用 “6.3 Definition inner product”、“6.15 Cauchy–Schwarz”、“6.22 Parallelogram Equality”，正是第三版的编号，而第四版对应 6.2、6.14、6.21）。

讲义（第三版）	第四版	第四版中的位置
6.1 Notation $\mathbf{F}, V$	（删除）	—
6.3 Definition inner product	6.2	—
6.7 Basic properties of an inner product	6.6	—
6.8 Definition norm	6.7	—
6.11 Definition orthogonal	6.10	—
6.13 Pythagorean Theorem	6.12	—
6.14 An orthogonal decomposition	6.13	—
6.15 Cauchy–Schwarz Inequality	6.14	—
6.18 Triangle Inequality	6.17	—
6.22 Parallelogram Equality	6.21	—

习题的对应关系与定理不同，两版的题量与顺序都有差别（第三版 6.A 有 31 题，第四版有 35 题），故下表按内容逐条核对：

第三版题号（作业）	第四版对应题	考查内容
6.A.6	6A.6	$\langle u,v\rangle = 0 \iff \lVert u\rVert \le \lVert u+av\rVert$ 对一切 $a$ 成立
6.A.16	6A.21	已知 $\lVert u\rVert, \lVert u+v\rVert, \lVert u-v\rVert$，求 $\lVert v\rVert$
6.A.20	6A.27	复内积空间上的极化恒等式（用范数表示内积）
6.A.24	6A.2	$S$ 单射 $\iff$ $\langle Su,Sv\rangle$ 是内积

说明：只有 6.A.6 在两版中编号相同，其余三题都错位。第四版 6A.2 比第三版 6.A.24 更强，它要求证明”当且仅当 $S$ 单射”，而第三版只要求”若 $S$ 单射则是内积”。多出来的那半个方向正是本题的要点，所以下面按第四版的加强版作答。

6.A.6

Suppose $u, v \in V$. Prove that $\langle u,v\rangle = 0$ if and only if $\|u\| \le \|u + av\|$ for all $a \in \mathbf{F}$.

（第三版 6.A.6；第四版 6A.6。两版同题。）

solution:

思路：这是”用不等式刻画正交”的一个漂亮例子。它说的是：$u$ 与 $v$ 正交，当且仅当沿着 $v$ 的任何方向移动 $u$ 都不会让它变短。 直观上，若 $u$ 垂直于 $v$，那么把 $u$ 沿 $v$ 的方向滑动，出来的斜边当然比直角边长；反之，若 $u$ 与 $v$ 不正交，那么朝着 $v$ 的方向滑动一小步就能缩短它。

（$\Longrightarrow$）设 $\langle u,v\rangle = 0$。 任取 $a \in \mathbf{F}$，展开：

$$\begin{aligned} \|u + av\|^2 &= \langle u+av,\ u+av\rangle\\ &= \langle u,u\rangle + \bar a\langle u,v\rangle + a\langle v,u\rangle + |a|^2\langle v,v\rangle\\ &= \|u\|^2 + 0 + 0 + |a|^2\|v\|^2\\ &= \|u\|^2 + |a|^2\|v\|^2 \ \ge\ \|u\|^2, \end{aligned}$$

中间两项都因为 $\langle u,v\rangle = 0$ 而消失。开平方得 $\|u\| \le \|u+av\|$。

（$\Longleftarrow$）设 $\|u\| \le \|u+av\|$ 对一切 $a \in \mathbf{F}$ 成立。 两边平方并展开（同上），得

$$\|u\|^2 \le \|u\|^2 + \bar a\langle u,v\rangle + a\langle v,u\rangle + |a|^2\|v\|^2,$$

消去 $\|u\|^2$ 得

$$0 \le \bar a\langle u,v\rangle + a\langle v,u\rangle + |a|^2\|v\|^2 \qquad \text{对一切 } a \in \mathbf{F}. \tag{$\ast$}$$

现在对 $a$ 作特殊选取。 因为 $\mathbf{F}$ 是 $\mathbf{R}$ 或 $\mathbf{C}$，可以取 $a$ 为实数 $t$。此时 $\bar a = a = t$，$(\ast)$ 变成

$$0 \le 2t\,\mathrm{Re}\langle u,v\rangle + t^2\|v\|^2 \qquad \text{对一切 } t \in \mathbf{R}. \tag{$\ast\ast$}$$

若 $\mathrm{Re}\langle u,v\rangle \neq 0$，则取 $t$ 与 $\mathrm{Re}\langle u,v\rangle$ 反号且 $|t|$ 充分小，可使右端为负（一次项主导二次项），与 $(\ast\ast)$ 矛盾。故

$$\mathrm{Re}\langle u,v\rangle = 0.$$

若 $\mathbf{F} = \mathbf{R}$，到此结束（此时 $\langle u,v\rangle$ 本身就是实数，故 $\langle u,v\rangle = 0$）。

若 $\mathbf{F} = \mathbf{C}$，还需处理虚部。 在 $(\ast)$ 中取 $a = it$（$t \in \mathbf{R}$），则 $\bar a = -it$，且

$$\bar a\langle u,v\rangle + a\langle v,u\rangle = -it\,\langle u,v\rangle + it\,\overline{\langle u,v\rangle} = -it\big(\langle u,v\rangle - \overline{\langle u,v\rangle}\big) = -it\cdot 2i\,\mathrm{Im}\langle u,v\rangle = 2t\,\mathrm{Im}\langle u,v\rangle,$$

而 $|a|^2\|v\|^2 = t^2\|v\|^2$。于是 $(\ast)$ 变成

$$0 \le 2t\,\mathrm{Im}\langle u,v\rangle + t^2\|v\|^2 \qquad \text{对一切 } t \in \mathbf{R}.$$

与上面同理，必须有 $\mathrm{Im}\langle u,v\rangle = 0$。

于是实部与虚部都为零，即 $\langle u,v\rangle = 0$。$\blacksquare$

要点：这个证明的分两段结构值得注意——先把不等式化成关于 $a$ 的二次式，再用”若一次项系数非零则取反向小步会变负”这一观察。这是一类通用技巧，与习题 6.A.9（$\|u\|=\|v\|=1$、$\langle u,v\rangle=1 \Rightarrow u=v$）的证明思路相通。

这个结果的含义：它给出了正交的一个纯度量刻画，完全不用提到内积：

$$u \perp v \iff \|u\| \text{ 在任何"沿 } v \text{ 方向"的扰动下都不减}.$$

所以”正交”的本质是”$u$ 到 $v$ 所在直线的最近点就是 $u$ 自己”——这正是下一讲的投影理论的语言。

6.A.16

Suppose $u, v \in V$ are such that $\|u\| = 3$, $\|u+v\| = 4$, $\|u-v\| = 6$. What number does $\|v\|$ equal?

（第三版 6.A.16；第四版 6A.21。两版同题。）

solution:

这道题的关键是平行四边形等式（定理 6.21）。它把”$u+v$ 与 $u-v$ 的长度”和”$u$ 与 $v$ 的长度”联系起来，而题目给的恰好是前者。

由 定理 6.21，

$$\|u+v\|^2 + \|u-v\|^2 = 2\big(\|u\|^2 + \|v\|^2\big).$$

代入已知数值：

$$4^2 + 6^2 = 2\big(3^2 + \|v\|^2\big),$$

即

$$16 + 36 = 2\big(9 + \|v\|^2\big) \ \Longrightarrow\ 52 = 18 + 2\|v\|^2 \ \Longrightarrow\ 2\|v\|^2 = 34 \ \Longrightarrow\ \|v\|^2 = 17.$$

故

$$\|v\| = \sqrt{17}. \qquad\blacksquare$$

要点：这道题除了平行四边形等式没有别的做法。若试图从 $\|u+v\|$ 与 $\|u-v\|$ 反解出 $\langle u,v\rangle$，会得到两个方程三个未知量（$\|u\|^2$、$\|v\|^2$、$\operatorname{Re}\langle u,v\rangle$），是不定的。 而平行四边形等式恰好把 $\langle u,v\rangle$ 消掉了，所以能直接解出 $\|v\|$。

这个练习的意义在于它展示了 定理 6.21 的”计算价值”：它不只是一个漂亮的恒等式，而是一个能反解长度的工具。这跟 7.2 节说的”它能识别内积范数”是两个不同的用途，都值得记住。

6.A.20

Suppose $V$ is a complex inner product space. Prove that

$$\langle u,v\rangle = \frac{\|u+v\|^2 - \|u-v\|^2 + \|u+iv\|^2 i - \|u-iv\|^2 i}{4}$$

for all $u, v \in V$.

（第三版 6.A.20；第四版 6A.27。两版同题。这个公式称为极化恒等式 (polarization identity)。）

solution:

思路：这是 定理 6.21（平行四边形等式）的”加强版”。平行四边形等式只用到 $\|u+v\|^2$ 与 $\|u-v\|^2$，它把实部的信息提取出来；而复数情形还有虚部，那要靠把 $v$ 换成 $iv$ 来提取。

第一步：写出四个展开式。 由内积展开（同 定理 6.17 的证明）：

$$\begin{aligned} \|u+v\|^2 &= \|u\|^2 + \|v\|^2 + \langle u,v\rangle + \langle v,u\rangle,\\ \|u-v\|^2 &= \|u\|^2 + \|v\|^2 - \langle u,v\rangle - \langle v,u\rangle. \end{aligned}$$

两式相减，$\|u\|^2 + \|v\|^2$ 抵消：

$$\|u+v\|^2 - \|u-v\|^2 = 2\big(\langle u,v\rangle + \langle v,u\rangle\big) = 4\,\mathrm{Re}\langle u,v\rangle. \tag{6.20\text{-}1}$$

第二步：把 $v$ 换成 $iv$。 因为 $i\bar i = 1$，有 $\|iv\| = \|v\|$，故 $\|u \pm iv\|$ 的两个展开式形状与上面完全相同，只是 $v$ 换成了 $iv$：

$$\|u+iv\|^2 - \|u-iv\|^2 = 2\big(\langle u,iv\rangle + \langle iv,u\rangle\big).$$

由 定理 6.6(e)，$\langle u,iv\rangle = \bar i\langle u,v\rangle = -i\langle u,v\rangle$；而 $\langle iv,u\rangle = i\langle v,u\rangle$。故

$$\|u+iv\|^2 - \|u-iv\|^2 = 2\big(-i\langle u,v\rangle + i\langle v,u\rangle\big) = 2i\big(\langle v,u\rangle - \langle u,v\rangle\big).$$

第三步：认出括号里是什么。 因为 $\langle v,u\rangle = \overline{\langle u,v\rangle}$，令 $\langle u,v\rangle = p + qi$（$p,q \in \mathbf{R}$），则 $\langle v,u\rangle = p - qi$，故

$$\langle v,u\rangle - \langle u,v\rangle = -2qi = -2i\,\mathrm{Im}\langle u,v\rangle.$$

于是

$$\|u+iv\|^2 - \|u-iv\|^2 = 2i\cdot(-2i)\,\mathrm{Im}\langle u,v\rangle = 4\,\mathrm{Im}\langle u,v\rangle. \tag{6.20\text{-}2}$$

第四步：组合。 由 $(6.20\text{-}1)$ 与 $(6.20\text{-}2)$，

$$\frac{\|u+v\|^2 - \|u-v\|^2 + \big(\|u+iv\|^2 - \|u-iv\|^2\big)i}{4} = \frac{4\,\mathrm{Re}\langle u,v\rangle + 4i\,\mathrm{Im}\langle u,v\rangle}{4} = \mathrm{Re}\langle u,v\rangle + i\,\mathrm{Im}\langle u,v\rangle = \langle u,v\rangle. \qquad\blacksquare$$

要点：这道题揭示了范数与内积之间的信息关系，值得说透。

• 在实空间里，内积完全由范数决定，公式是 $\langle u,v\rangle = \big(\|u+v\|^2 - \|u-v\|^2\big)/4$（第四版 6A.26）。
• 在复空间里，光有 $\|u+v\|^2$ 与 $\|u-v\|^2$ 只能给出实部，因为那两个量对 $\langle u,v\rangle$ 的依赖只通过 $\langle u,v\rangle + \overline{\langle u,v\rangle}$。要拿到虚部，必须额外做一次”把 $v$ 乘 $i$“的实验。

所以”复内积空间比实内积空间多了什么”这个问题，答案就是”多了一个虚部，而它只能通过乘以 $i$ 来探测”。 换句话说，复内积空间上的范数仍然决定内积，但需要四个平方而不是两个。

这也解释了为什么极化恒等式在量子力学里重要：那里 $\langle u,v\rangle$ 是概率幅，而可观测量只给实部的信息（期望值），相位（虚部）要靠另外的干涉实验才能测到。

6.A.24

Suppose $S \in \mathcal{L}(V)$ is an injective operator on $V$. Define $\langle\cdot,\cdot\rangle_1$ by

$$\langle u,v\rangle_1 = \langle Su, Sv\rangle$$

for $u, v \in V$. Show that $\langle\cdot,\cdot\rangle_1$ is an inner product on $V$.

（第三版 6.A.24。第四版 6A.2 是它的加强版：”$\langle\cdot,\cdot\rangle_1$ 是内积当且仅当 $S$ 单射”。下面按加强版作答。）

solution:

思路：这个构造叫”用 $S$ 拉回内积”。想法是：$V$ 上本来有内积 $\langle\cdot,\cdot\rangle$，但我们想换一个内积。做法是先把两个向量都用 $S$ 送出去，再用原来的内积比较。这就像”先在 $S$ 的像里测量，再拉回来看”，所以叫 pullback。

逐条验证五条公理。

（正性） 对任意 $u$，$\langle u,u\rangle_1 = \langle Su,Su\rangle \ge 0$（原内积的正性）。

（定性） 有

$$\langle u,u\rangle_1 = 0 \iff \langle Su,Su\rangle = 0 \iff Su = 0,$$

最后一步用的是原内积的定性。而 $Su = 0 \iff u \in \text{null } S$。故

$$\langle u,u\rangle_1 = 0 \iff u \in \text{null } S.$$

这一步就是强化版的关键：要得到”$=0$ 当且仅当 $u = 0$“，必须要求 $\text{null } S = \{0\}$，即 $S$ 单射。若 $S$ 不单射，取 $u \neq 0$ 且 $Su = 0$，则 $\langle u,u\rangle_1 = 0$ 而 $u \neq 0$，定性失效。

所以：$S$ 单射 $\Longrightarrow$ 定性成立；反之若定性成立，则 $\text{null } S = \{0\}$，即 $S$ 单射。

（第一个位置的加性）

$$\langle u+v, w\rangle_1 = \langle S(u+v), Sw\rangle = \langle Su + Sv, Sw\rangle = \langle Su,Sw\rangle + \langle Sv,Sw\rangle = \langle u,w\rangle_1 + \langle v,w\rangle_1,$$

中间一步用了 $S$ 的线性与原内积的加性。

（第一个位置的齐性）

$$\langle \lambda u, v\rangle_1 = \langle S(\lambda u), Sv\rangle = \langle \lambda Su, Sv\rangle = \lambda\langle Su,Sv\rangle = \lambda\langle u,v\rangle_1.$$

（共轭对称）

$$\langle u,v\rangle_1 = \langle Su,Sv\rangle = \overline{\langle Sv,Su\rangle} = \overline{\langle v,u\rangle_1}.$$

五条公理全部成立，故 $\langle\cdot,\cdot\rangle_1$ 是 $V$ 上的内积 $\iff$ $S$ 单射。$\blacksquare$

要点：这道题的价值在于它给出了内积空间的一个巨大供给：每个单射算子都能把一个内积变成一个新的内积。而由 lecture 8 的 定理 3.65，在有限维空间上”$S$ 单射”等价于”$S$ 可逆”，所以有限维情形下这个构造就是用可逆算子做变量替换。

与 lecture 15 主线的联系：新内积给出新范数 $\|u\|_1 = \|Su\|$。这解释了 例子 6.3(b) 的加权内积从哪来：取 $S$ 为对角算子 $Se_j = \sqrt{c_j}\,e_j$（$c_j > 0$），则

$$\langle u,v\rangle_1 = \sum_j c_j u_j\bar v_j,$$

正是那个加权内积。而 $S$ 可逆（因为 $c_j > 0$），故它确是内积。所以”加权”的实质是”先用 $S$ 把坐标轴按 $\sqrt{c_j}$ 缩放一遍，再用普通内积”。

顺带说一个有用的视角：既然每个单射都给出一个内积，那么”$V$ 上有多少个内积”这个问题就变成”$\mathcal{L}(V)$ 里有多少个单射”。内积空间这个范畴里的”结构”远比向量空间丰富，这也是为什么 Chapter 6 之后（Chapter 7 的算子理论）内容会变得那么厚。