數學 - 數學分析 - II.3 賦范線性空間

II.3 賦范線性空間

在這一節中，我們考慮線性空間上的度量。當然，我們給定的該度量應該與線性空間結構是兼容的，所以我們先研究在線性空間 \(\mathbb{R}^2\) 上已經直觀存在的距離的概念。特別地，如果我們記 \(\mathbb{R}^2\) 上的一個向量 \(x\) 的長度為 \(\|x\|\)，則兩個點 \(x,y \in \mathbb{R}^2\) 之間的距離為 \(\|x-y\|\)。我們之后會看到這定義了 \(\mathbb{R}^2\) 上的一個度量（見 Remark 3.1(a)）。函數 \(x \mapsto \|x\|\) 不僅與度量有關系，還與線性空間的結構有關聯。

首先，我們注意到 \(\mathbb{R}^2\) 上一個向量的長度是非非負的，即是說，\(\|x\| \ge 0\)。而且向量的長度為零當且僅當它是零向量。

其次，對 \(x \in \mathbb{R}^2\) 和 \(\alpha > 0\)，我們將 \(\alpha x\) 看作是向量 \(x\) 以因子 \(\alpha\) 伸長（或縮短）的結果。如果綜合 \(\alpha < 0\) 的情況，我們得到向量 \(\alpha x\) 的長度 \(\|\alpha x\| = |\alpha| \|x\|\)。

最后，對所有 \(\mathbb{R}^2\) 中的向量 \(x\) 和 \(y\)，我們有三角不等式 \(\|x+y\|\le \|x\| + \|y\|\)。

我們自然地導出來賦范線性空間的概念。

范數

定義 范數

令 \(E\) 是一個 \(\mathbb{K}\) 上的線性空間，函數 \(\|\cdot\|:E \to \mathbb{R}^+\) 被稱為一個范數，如果滿足以下條件：

• \(\|x\|=0 \iff x=0\)。

• \(\| \lambda x \| = |\lambda| \|x\|, \, x \in E, \, \lambda \in \mathbb{K}\)

• \(\|x+y\| \le \|x\| + \|y\|, \, x,y \in E\)

對 \((E, \|\cdot\|)\) 由線性空間 \(E\) 和度量 \(\|\cdot\|\) 組成，將其稱為賦范線性空間。

3.1 Remarks

令 \(E:= (E,\|\cdot\|)\) 是一個賦范線性空間。

(a) 定義 \(E\) 上的度量

\[\begin{align*} d : E \times E & \to \mathbb{R}^+ \\ (x,y) & \mapsto \|x-y\| \end{align*} \]

稱 \(d\) 為范數誘導的度量。因此任一個賦范線性空間也是一個度量空間。

(b) 反三角不等式對范數成立：

\[\|x-y\| \ge \left| \|x\| - \|y\| \right|, \quad x,y \in E \]

(c) 由 (a) 可知，在第一節所有關於度量空間的性質也對賦范線性空間 \(E\) 保持。特別地，“鄰域”、“聚點”和“收斂”的概念也可以在 \(E\) 上定義。

例如，在 \(E\) 中的序列 \((x_n)\) 收斂到 \(x\) 可以表示為：

\[x_n \to x \in E \iff \forall \varepsilon>0, \, \exist N \in \mathbb{N} \, : \, \forall n \ge N, \, \|x_n - x\| \le \varepsilon \]

進一步，在第二節中那些證明中沒有用到 \(\mathbb{K}\) 中的域結構和序結構的定理對於 \(E\) 中的序列也成立。

特別地，Remarks 2.1 和 Propositions 2.2 和 2.10 對任一賦范線性空間也成立。

球

給定 \(a \in E\) 和 \(r > 0\)，我們定義中心為 \(a\)，半徑為 \(r\) 的開球和閉球。

\[\mathbb{B}_E (a,r) := \mathbb{B}(a,r) := \{x \in E \, ; \, \|x-a\| < r\} \]

\[\bar{\mathbb{B}}_E (a,r) := \bar{\mathbb{B}} (a,r) := \{x \in E \, ; \, \|x-a\| \le r\} \]

注意到該定義與度量空間 \((E,d)\) 是一致的，其中 \(d\) 是由范數誘導的度量。我們有時將 \(E\) 中的單位開球和單位閉球寫作

\[\mathbb{B} := \mathbb{B} (0,1) := \{x \in E \, ; \, \|x\| < 1\} \]

\[\bar{\mathbb{B}} := \bar{\mathbb{B}} (0,1) := \{x \in E \, ; \, \|x\| \le 1\} \]

使用 (1.4.1) 的記號可以得到

\[r \mathbb{B} = \mathbb{B} (0,r), \quad r \bar{\mathbb{B}} = \bar{\mathbb{B}} (0,r), \quad a + r \mathbb{B} = \mathbb{B} (a,r), \quad a + r \bar{\mathbb{B}} = \bar{\mathbb{B}} (a,r) \]

有界集

\(E\) 中的一個子集 \(X\) 在 \(E\) 中是有界的，如果它在其誘導度量空間中有界。

3.2 Remarks

令 \(E := (E, \|\cdot\|)\) 是一個賦范線性空間。

(a) \(X \subset E\) 有界當且僅當存在 \(r > 0\) 使得 \(X \subseteq r \mathbb{B}\)。

(b) 如果 \(X\) 和 \(Y\) 是 \(E\) 中的非空有界子集，則 \(X \bigcup Y\)，\(X+Y\) 和 \(\lambda X\)（\(\lambda \in \mathbb{K}\)）也是有界集。

(c) Examples 1.2(d) 表明，在每一個線性空間 \(V\)，都存在一個度量使得 \(V\) 有界。但是，如果 \(V\)不是一個零空間，則范數的第二點性質表明在 \(V\) 中沒有能讓 \(V\) 有界的范數。（范數比度量更嚴苛）

例子

我們給在 Section I.12 中介紹的線性空間定義合適的的范數。

3.3 Examples

(a) 絕對值 \(|\cdot|\) 是線性空間 \(\mathbb{K}\) 上的度量（今后若考慮 \(\mathbb{K}\) 上的范數時，都如此考慮）。

(b) 令 \(F\) 是賦范線性空間 \((E,\|\cdot\|)\) 上的子空間，限制在 \(F\) 上考慮的范數 \(\|\cdot\|_F := \|\cdot\| \big| F\) 是 \(F\) 上的一個范數。因此 \(F := (F, \|\cdot\|_F)\) 是一個賦范線性空間，其上定義的范數是誘導的限制范數。在不會導致矛盾的情況下，我們仍用 \(\|\cdot\|\) 表示在 \(F\) 誘導的限制范數。

(c) 令 \((E_j, \|\cdot\|_j),1\le j \le m\) 是 \(\mathbb{K}\) 上的一組線性空間，定義

\[\|x\|_{\infty} := \max_{1 \le j \le m} \|x_j\|_j, \quad x = (x_1, \cdots, x_m) \in E := E_1 \times \cdots \times E_m \]

上式在乘積線性空間 \(E\) 上定義了一個范數，稱為乘積范數。由該范數誘導的 \(E\) 上的度量與 Examples 1.2(e) 的乘積度量保持一致，只需讓 \(d_j\) 是從 \(E_j\) 的范數 \(\|\cdot\|_j\) 誘導的度量。

(d) 令 \(m \in \mathbb{N}^\times\)，\(\mathbb{K}^m\) 是一個定義有極大范數的線性空間。

\[|x|_{\infty} := \max_{1 \le j \le m} |x_j|, \quad x = (x_1,\cdots,x_m) \in \mathbb{K}^m \]

令 \(m=1\)，則有 \((\mathbb{K}^1, |\cdot|_{\infty}) = (\mathbb{K}, |\cdot|)=\mathbb{K}\)。

有界函數空間

令 \(X\) 是一個非空集，\((E,\|\cdot\|)\) 是一個賦范線性空間，一個函數 \(u \in E^X\) 被稱為有界，如果 \(u\) 的像在 \(E\) 中是有界的。對 \(u \in E^X\)，定義范數

\[\|u\|_{\infty} := \|u\|_{\infty, X} := \sup_{x \in X} \|u(x)\| \in (\mathbb{R}^+ \cup \{0\}) \tag{3.2} \]

3.4 Remarks

(a) 令 \(u \in E^X\)，則以下表訴是等價的：

• \(u\) 有界。

• \(u(X)\) 在 \(E\) 中有界。

• 存在 \(r > 0\) 使得對所有 \(x \in X\) 有 \(\|u(x)\| \le r\)。

• \(\|u\|_{\infty} < \infty\)。

(b) 顯然 \(\text{id} \in \mathbb{K}^{\mathbb{K}}\) 不是有界的，因此 \(\|\text{id}\|_{\infty} = \infty\)。

Remarks 3.4(b) 表明 \(\|\cdot\|_{\infty}\) 可能不是線性空間 \(E^X\) 上的一個范數。因此我們定義

\[B(X,E) := \{u \in E^X \, ; \, u \, \text{有界}\} \]

稱 \(B(X,E)\) 是從 \(X\) 到 \(E\) 的有界函數空間。

3.5 Proposition

\(B(X,E)\) 是 \(E^X\) 的一個子空間，且 \(\|\cdot\|_{\infty}\) 是一個范數，稱其為 \(B(X,E)\) 上的上確界范數。

證明：

證畢。

3.6 Remarks

(a) 如果 \(X := \mathbb{N}\)，則 \(B(X,E)\) 是 \(E\) 上有界序列組成的賦范線性空間。特別地，令 \(E := \mathbb{K}\)，同時將 \(B(\mathbb{N}, \mathbb{K})\) 記作 \(\ell_{\infty}\)，即

\[\ell_{\infty} := \ell_{\infty} (\mathbb{K}) := B(\mathbb{N}, \mathbb{K}) \]

稱其為有界序列賦范線性空間，定義其上的上確界范數為：

\[\|(x_n)\|_{\infty} = \sup_{n \in \mathbb{N}} |x_n|, \quad (x_n) \in \ell_{\infty} \]

(b) 由 Proposition 1.10 可知，任一個收斂序列都是有界的。由 Remark 2.3 可知 \(c\) 和 \(c_0\) 都是 \(\ell_{\infty}\) 的子空間。因此 \(c_0\) 和 \(c\) 也可以定義上確界范數成為賦范線性空間，且 \(c_0 \subseteq c \subseteq \ell_{\infty}\)。

(c) 如果對每某個 \(m \in \mathbb{N}^{\times}\) 有 \(X=\{1,\cdots,m\}\)，則

\[B(X,E) = (E^m, \|\cdot\|_{\infty}) \]

其中，\(\|\cdot\|_{\infty}\) 是 Examples 3.3(c) 的乘積范數，因此這里的記號與 Examples 3.3(c) 是保持一致的。

內積空間

我們現在考慮賦范線性空間 \(E := (\mathbb{R}^2, |\cdot|_{\infty})\)，按之前的記號，我們可以得到 \(E\) 的單位開球

\[\mathbb{B}_E := \{x \in \mathbb{R}^2 \, ; \, |x|_{\infty} < 1\} = \{ (x_1, x_2) \in \mathbb{R}^2 \, ; \, -1 < x_1 , x_2 < 1\} \]

因此 \(\mathbb{B}_E\) 是一個邊長為 \(2\)，中心在 \(0\) 點的平面上的正方形。在任何一個賦范線性空間 \((F,\|\cdot\|)\)，單位球的邊界為集合 \(\{x \in F \, ; \, \|x\| = 1\}\)，被稱為在 \((F, \|\cdot\|)\) 中的單位球面。

定義 內積
令 \(E\) 是一個域 \(\mathbb{K}\) 上的線性空間，函數

\[\begin{align*} (\cdot | \cdot) : E \times E & \to \mathbb{K} \\ (x,y) & \mapsto (x|y) \end{align*} \tag{3.4} \]

被稱為 \(E\) 上的標量積或內積如果以下成立：

• \((x|y) = \overline{(y|x)}, \quad x , y \in E\)

• \((\lambda x + \mu y | x) = \lambda (x | z) + \mu (y | z), \quad x,y,z \in E, \quad \lambda,\mu \in \mathbb{K}\)

• \((x|x) \ge 0, \quad x \in E \quad \text{and} \quad (x|x) = 0 \iff x = 0\)

定義了內積 \((\cdot|\cdot)\) 的線性空間被稱為內積空間，寫作 \((E,(\cdot|\cdot))\)。在不引起矛盾的情況下，我們用 \(E\) 代替 \((E,(\cdot|\cdot))\)。

3.7 Remarks

(a) 取 \(\mathbb{K} = \mathbb{R}\)，則內積的第一點性質可以寫作

\[(x|y) = (y|x), \quad x,y \in E \]

換句話說，函數 \((3.4)\) 在 \(E\) 為實線性空間時是對稱的。

(b) 由第一點性質和第二點性質可知

\[(x|\lambda y + \mu z) = \overline{\lambda} (x|y) + \overline{\mu} (x|z), \quad x,y,z \in E, \quad \lambda,\mu \in \mathbb{K} \tag{3.5} \]

因此，對任一固定 \(x \in E\)，函數 \((x|\cdot) : E \to \mathbb{K}\) 是線性共軛的。

(c) 對所有 \(x,y \in E\)，有 \((x \pm y | x \pm y) = (x|y) \pm 2 \text{Re} (x|y) + (y|y)\)。

(d) 對所有 \(x \in E\) 有 \((x|0) = 0\)。

令 \(m \in N^{\times}\)。對所有 \(x = (x_1,\cdots,x_m) \in \mathbb{K}^m\) 和 \(y=(y_1,\cdots,y_m) \in \mathbb{K}^m\)，定義

\[(x|y) := \sum_{i=1}^m x_i \overline{y}_i \]

我們容易驗證上式定義了 \(\mathbb{K}^m\) 上的一個內積，將其稱為 \(\mathbb{K}^m\) 的歐幾里得內積。

Cauchy-Schwarz 不等式

在初步的介紹之后，我們能證明關於內積空間的一個最有用的定理。

3.8 Theorem

令 \((E,(\cdot | \cdot))\) 是一個內積空間，則

\[|(x|y)|^2 \le (x|x) (y|y), \quad x, y \in E \tag{3.6} \]

上式等號成立當且僅當 \(x\) 與 \(y\) 線性相關。稱式 \((3.6)\) 為 \(\text{Cauchy-Schwarz}\) 不等式。

證明：

證畢。

3.9 Corollary

令 \(\xi_1,\cdots,\xi_m\) 和 \(\eta_1,\cdots,\eta_m\) 是 \(\mathbb{K}\) 中的元素，則

\[\left| \sum_{j=1}^m \xi_j \overline{\eta}_j\right|^2 \le \left( \sum_{j=1}^m |\xi_j|^2\right) \left( \sum_{j=1}^m |\eta_j|^2\right) \tag{3.8} \]

等式成立當且僅當存在 \(\alpha,\beta \in \mathbb{K}\) 使得 \((\alpha,\beta) \neq (0,0)\) 且 \(\alpha \xi_j + \beta \eta_j = 0,\forall j=1,\cdots,m\)。

證明：

證畢。

3.10 Theorem

令 \((E,(\cdot|\cdot))\) 是一個內積空間，則可以定義

\[\|x\| := \sqrt{(x|x)}, \quad x \in E \]

則 \(\|\cdot\|\) 是 \(E\) 中的范數，稱其為由內積 \((\cdot|\cdot)\) 誘導的范數。

證明：

證畢。

根據 Theorem 3.10 我們給一個約定，任一內積空間 \((E,(\cdot|\cdot))\) 都被視為一個賦范線性空間，其上定義的范數為內積誘導的范數。

從一個內積誘導得到的范數也叫做 \(\text{Hilbert}\) 內積。

3.11 Corollary

令 \((E,(\cdot|\cdot))\) 是一個內積空間，則

\[|(x|y)| \le \|x\| \|y\|, \quad x,y \in E \]

歐幾里得空間

一個特別重要的例子是 \(\mathbb{K}^m\) 上的歐幾里得內積空間。由於我們會非常頻繁地在這個內積空間中進行討論，為方便起見，有必要事先做一些約定。

除非有特別說明，我們考慮的 \(\mathbb{K}^m\) 上被賦予歐幾里得內積 \((\cdot|\cdot)\) 和由該內積誘導的范數，並稱該范數為歐幾里得范數。

\[|x| := \sqrt{(x|x)} = \sqrt{\sum_{j=1}^m |x_j|^2}, \quad x=(x_1,\cdots,x_m) \in \mathbb{K}^m \]

以實數作為例子，我們有時將內積 \((x|y)\) 寫作 \(x \cdot y\)。

現在對向量空間 \(\mathbb{K}^m\) 我們已經定義了兩種范數，一種極大范數

\[|x|_{\infty} = \max_{1\le j \le m} |x_j|, \quad x=(x_1,\cdots,x_m) \in \mathbb{K}^m \]

一種歐幾里得范數 \(|\cdot|\)，我們還可以定義另一種范數

\[|x|_1 := \sum_{j=1}^m |x_j|, \quad x=(x_1,\cdots,x_m) \in \mathbb{K}^m \]

下面的命題展現了 \(\text{Cauchy-Schwarz}\) 不等式的進一步應用，用它說明了歐幾里得范數與范數 \(|\cdot|_1\) 與范數 \(|\cdot|_{\infty}\) 是可比較的。

3.12 Proposition

令 \(m \in \mathbb{N}^{\times}\)，則有

\[|x|_{\infty} \le |x| \le \sqrt{m} |x|_{\infty}, \quad \frac{1}{\sqrt{m}} |x|_1 \le |x| \le |x|_1, \quad x \in \mathbb{K}^m \]

證明：

證畢。

等價范數

令 \(E\) 是一個線性空間，\(E\) 上的兩個范數 \(\|\cdot\|_1\) 與 \(\|\cdot\|_{\infty}\) 是等價的當且僅當存在 \(K \le 1\) 使得

\[\frac{1}{K} \|x\|_1 \le \|x\|_2 \le K \|x\|_1, \quad x \in E \tag{3.9} \]

將兩個范數等價記作 \(\|\cdot\|_1 \sim \|\cdot\|_2\)。

3.13 Remarks

(a) 對於一個給定的線性空間，考慮其上的所有范數構成的集合中，不難證明 \(\sim\) 對於該集合的元素是一個等價關系。

(b) Proposition 3.12 的一個等價描述是

\[|\cdot|_1 \sim |\cdot| \sim |\cdot|_{\infty} \quad \text{on} \quad \mathbb{K}^m \]

(c) 為了對 Proposition 3.12 做更詳細的介紹，我們將實歐幾里得單位開球記作 \(\mathbb{B}^m\)，即

\[\mathbb{B}^m := \mathbb{B}_{\mathbb{R}^m} \]

類似地，記 \(\mathbb{B}_1^m\) 與 \(\mathbb{B}_{\infty}^m\) 分別是 \((\mathbb{R}^m,|\cdot|_1)\) 和 \((\mathbb{R}^m,|\cdot|_{\infty})\) 的單位開球。則 Proposition 3.12 可以等價表述為

\[\mathbb{B}^m_{\infty} \subseteq \mathbb{B} \subseteq \sqrt{m} \, \mathbb{B}^m_{\infty}, \quad \mathbb{B}_1^m \subseteq \mathbb{B}^m \subseteq \sqrt{m} \, \mathbb{B}_1^m \]

乘積空間上的收斂

由之前討論的結果，對 \(\mathbb{K}^m\) 上的收斂序列，我們現在有了一個簡單，但非常有用的的描述。

3.14 Proposition

令 \(m \in \mathbb{N}^{\times}\)，\(n \in \mathbb{N}\)，\(x_n = (x_n^1,\cdots,x_n^m) \in \mathbb{K}^m\)，則以下描述是等價的：

(1) 序列 \((x_n)_{n \in \mathbb{N}}\) 收斂到 \(x=(x^1,\cdots,x^m) \in \mathbb{K}^m\)。

(2) 對任一 \(k \in \{1,\cdots,m\}\)，序列 \((x_n^k)_{n \in \mathbb{N}}\) 收斂到 \(x^k \in \mathbb{K}\)。

證明：

證畢。

Proposition 3.14 中的第二點刻畫經常被稱為序列 \((x_n)\) 的分量收斂，因此 Proposition 3.14 可以被非嚴格地表述為：\(\mathbb{K}^m\) 中的序列收斂當且僅當它的所有分量收斂。因此原則上說，研究 \(\mathbb{K}\) 中的序列收斂已經足夠了，事實上，根據 Remark 3.13(e)，研究 \(\mathbb{R}\) 上的收斂就足夠了。