Chapter2_MATH1408

线代回顾

1. 向量空间与内积空间 (Vector Spaces and Inner Product Spaces)

1.1 实向量空间 $R^n$ (Real Vector Space $R^n$)

• 定义: $R^n$ 是所有 $n$ 维实数列向量的集合。
  对于 $\alpha, \beta \in R^n$, $\alpha = (x_1, x_2, \dots, x_n)^T$, $\beta = (y_1, y_2, \dots, y_n)^T$.
• 标准内积 (点积): $\alpha \cdot \beta = \alpha^T \beta = x_1y_1 + x_2y_2 + \dots + x_ny_n$.
• 向量的长度 (范数): $|\alpha| = \sqrt{\alpha \cdot \alpha}$.
• 矩阵的转置: $A^T$ (原文用 $A’$).

1.2 三维向量的叉积 (Cross Product in $R^3$)

• 对于 $\alpha = (x_1, x_2, x_3)^T$, $\beta = (y_1, y_2, y_3)^T \in R^3$:
  $\alpha \times \beta = (x_2y_3 - x_3y_2, x_3y_1 - x_1y_3, x_1y_2 - x_2y_1)^T$.
• 几何意义:
  • $|\alpha \times \beta| = |\alpha| |\beta| \sin\theta$, 是由 $\alpha, \beta$ 张成的平行四边形的面积。
  • $\alpha \times \beta$ 垂直于 $\alpha$ 和 $\beta$ 张成的平面。
• 混合积 (标量三重积): 对于 $\alpha, \beta, \gamma \in R^3$:
  $(\alpha \times \beta) \cdot \gamma = \begin{vmatrix} x_1 & y_1 & z_1 \\ x_2 & y_2 & z_2 \\ x_3 & y_3 & z_3 \end{vmatrix}$
  其绝对值是由 $\alpha, \beta, \gamma$ 张成的平行六面体的体积。

1.3 (酉)内积空间 / 欧几里得空间 (Unitary/Inner Product Space / Euclidean Space)

• 定义: 一个复（或实）向量空间 $V$ 称为一个内积空间，如果存在一个映射 $\phi: V \times V \to C$ (或 $R$)，记作 $(\alpha, \beta)$，满足以下性质 (以复内积空间为例):
  1. (Hermitian对称性/共轭对称性): $(\alpha, \beta) = \overline{(\beta, \alpha)}$ (对于实内积空间，即对称性 $(\alpha, \beta) = (\beta, \alpha)$).
  2. (对第一变元的线性性): $(k\alpha + \beta, \gamma) = k(\alpha, \gamma) + (\beta, \gamma)$.
     (由1,2可知对第二变元共轭线性: $(\alpha, k\beta + \gamma) = \overline{(k\beta + \gamma, \alpha)} = \overline{k(\beta, \alpha) + (\gamma, \alpha)} = \bar{k}\overline{(\beta, \alpha)} + \overline{(\gamma, \alpha)} = \bar{k}(\alpha, \beta) + (\alpha, \gamma)$).
  3. (正定性): $(\alpha, \alpha) \ge 0$，且 $(\alpha, \alpha) = 0$ 当且仅当 $\alpha = 0$.
• 欧几里得空间: 实内积空间。
• 酉空间: 复内积空间。
• $C^n$ 中的标准内积: 对于 $\alpha = (x_1, \dots, x_n)^T, \beta = (y_1, \dots, y_n)^T \in C^n$:
  $(\alpha, \beta) = \beta^ \alpha = x_1\bar{y}_1 + x_2\bar{y}_2 + \dots + x_n\bar{y}_n$. (注意原文 $\alpha \cdot \beta = \beta^T \alpha$ 可能是针对实数，此处为复数标准内积，$\beta^$ 是 $\beta$ 的共轭转置)。
• 矩阵的共轭转置: $A^*$ (原文用 $A^T$ 可能指实数情况，或需区分)。

2. 矩阵分解 (Matrix Factorization)

2.1 Hermite标准形 (Hermite Normal Form / Row Echelon Form)

• 定义: 通过初等行变换可以将任何矩阵化为Hermite标准形（行最简形矩阵）。
• 特点:
  1. 若有零行，则零行在非零行的下方。
  2. 非零行的第一个非零元素（称为主元）为1。
  3. 主元所在列的其他元素均为0。
  4. 各非零行的主元所在列的列标随行标的增加而严格递增。
• 应用: 求解线性方程组 $AX=\beta$ (如高斯消元法)。

2.2 满秩分解 (Full Rank Factorization)

• 定理: 若 $m \times n$ 矩阵 $A$ 的秩为 $r$ ($r > 0$)，则存在 $m \times r$ 的列满秩矩阵 $L$ 和 $r \times n$ 的行满秩矩阵 $R$，使得 $A = LR$。这个分解称为矩阵 $A$ 的一个满秩分解。
• 构造一种满秩分解:
  设 $A$ 通过初等行变换化为 Hermite 标准形 $H = \begin{pmatrix} H_r \\ O \end{pmatrix}$，其中 $H_r$ 是 $r \times n$ 的行满秩矩阵，其主元分别在第 $j_1, j_2, \dots, j_r$ 列。
  令 $L = (A_{j_1}, A_{j_2}, \dots, A_{j_r})$ (即 $A$ 中对应 $H$ 主元列的那些列向量组成的矩阵)。
  令 $R = H_r$ (即 $H$ 的非零行组成的矩阵)。
  则 $A = LR$ 是一个满秩分解。
  • 证明思路:
    初等行变换不改变列向量之间的线性关系。$H$ 的第 $k$ 列 $H_k$ 可以由 $H$ 的主元列 $H_{j_1}, \dots, H_{j_r}$ 线性表示，即 $H_k = \sum_{s=1}^r c_s H_{j_s}$。那么 $A$ 的第 $k$ 列 $A_k$ 也满足 $A_k = \sum_{s=1}^r c_s A_{j_s}$。这表明 $A_k = L (H_r)_k$，其中 $(H_r)_k$ 是 $H_r$ 的第 $k$ 列。因此 $A=LR$。
    $L$ 的列向量是 $A$ 的 $r$ 个线性无关的列向量（因为它们对应 Hermite 形的主元列），所以 $L$ 列满秩。$H_r$ 是 Hermite 形的非零部分，显然行满秩。
• 应用: 求解线性方程组，理论分析。
• 示例:
  $A = \begin{pmatrix} 3 & -1 & 3 & 2 & 5 \\ 5 & -3 & 2 & 3 & 4 \\ 1 & -3 & -5 & 0 & -7 \\ 2 & -2 & -1 & 1 & -1 \end{pmatrix}$ 求一个满秩分解。
  (需要通过行变换得到Hermite标准形，然后找出主元列来构造 $L$ 和 $R$)

2.3 LU 分解 (LU Decomposition)

• 定义: 若方阵 $A$ 可以分解为一个下三角矩阵 $L$ (通常主对角线元素为1) 和一个上三角矩阵 $U$ 的乘积，即 $A=LU$，则称其为 $A$ 的 LU 分解。
• 存在性: 如果方阵 $A$ 的所有顺序主子式均非零，则 $A$ 有唯一的 $LDU$ 分解，其中 $L$ 是单位下三角阵， $D$ 是对角阵， $U$ 是单位上三角阵。若 $A$ 可逆，则 $A$ 有 $LU$ 分解（$L$为单位下三角阵）。
• 应用: 求解线性方程组 $AX=\beta$ 可转化为 $LY=\beta$ 和 $UX=Y$。计算行列式 $|A|=|L||U|=|U|$ (当 $L$ 为单位下三角时)。
• 高斯消元法与LU分解: 高斯消元的过程（不进行行交换时）可以看作是在构造LU分解。
• 带行交换的LU分解 (PA=LU): 对于任意可逆方阵 $A$，都存在一个置换矩阵 $P$，使得 $PA$ 有 $LU$ 分解。
• LDU分解: $A=LDU$，其中 $L$ 是单位下三角矩阵， $D$ 是对角矩阵， $U$ 是单位上三角矩阵。

2.4 Cholesky 分解 (Cholesky Decomposition)

• 定义: 若 $A$ 是一个对称正定矩阵 (Hermitian 正定矩阵)，则 $A$ 可以唯一地分解为一个下三角矩阵 $G$ 和其共轭转置 $G^$ (对于实对称矩阵是 $G^T$) 的乘积，即 $A=GG^$ (或 $A=GG^T$ 对于实数情况)。$G$ 通常要求对角线元素为正。
• 与LU分解的关系: Cholesky 分解可以看作是对称正定矩阵的一种特殊的 LU 分解 ($L=G, U=G^T$)。
• 优点: 计算效率高，数值稳定性好。

2.5 置换矩阵 (Permutation Matrix)

• 定义: 置换矩阵是由单位矩阵经过行（或列）的若干次交换得到的方阵。
• 性质:
  1. 每一行和每一列只有一个元素为1，其余元素为0。
  2. $P^{-1} = P^T$ (置换矩阵是正交矩阵)。
  3. 任意置换矩阵可以表示为若干个对换矩阵（交换两行的初等矩阵）的乘积。
• 应用: 在LU分解中处理行交换 (PA=LU)。

3. 线性方程组 (Systems of Linear Equations)

3.1 单个线性方程

• 方程 $a_1x_1 + a_2x_2 + \dots + a_nx_n = b$ 可以表示为 $\alpha^T X = b$，其中 $\alpha=(a_1, \dots, a_n)^T, X=(x_1, \dots, x_n)^T$。
• 几何意义 ($n=2,3$):
  • $n=2$: 平面上一条直线。
  • $n=3$: 空间中一个平面。
• 解的结构:
  • 若 $b=0$ (齐次方程)，解集是与向量 $\alpha$ 正交的向量组成的子空间（超平面）。
  • 若 $b \ne 0$ (非齐次方程)，解集是一个仿射子空间（平移的超平面）。

3.2 线性方程组 $AX=\beta$

• 可以写成向量形式: $x_1\alpha_1 + x_2\alpha_2 + \dots + x_n\alpha_n = \beta$，其中 $\alpha_j$ 是 $A$ 的列向量。
• 有解的充要条件: $\beta \in \text{span}\{\alpha_1, \dots, \alpha_n\}$，即 $\beta$ 可以由 $A$ 的列向量线性表示。
  等价于 $\text{rank}(A) = \text{rank}(A|\beta)$ (Rouché-Capelli 定理)。
• 列空间 (Column Space): $C(A) = \text{span}\{\alpha_1, \dots, \alpha_n\}$。方程组有解当且仅当 $\beta \in C(A)$。
• 行空间 (Row Space): $R(A) = C(A^T)$。
• 零空间 (Null Space): $N(A) = \{X | AX=0\}$。
  $N(A)$ 是 $R^n$ 的一个子空间。
• 左零空间 (Left Null Space): $N(A^T) = \{Y | A^TY=0 \text{ or } Y^TA=0\}$。

3.3 四个基本子空间 (Four Fundamental Subspaces)

对于 $m \times n$ 矩阵 $A$:

1. 列空间 (Column Space) $C(A) \subseteq R^m$ (由 $A$ 的列向量张成)
2. 零空间 (Null Space) $N(A) \subseteq R^n$ (齐次方程 $AX=0$ 的解空间)
3. 行空间 (Row Space) $R(A) = C(A^T) \subseteq R^n$ (由 $A$ 的行向量张成)
4. 左零空间 (Left Null Space) $N(A^T) \subseteq R^m$ (齐次方程 $A^TY=0$ 的解空间)

• 基本子空间的正交性:
  • 行空间 $R(A)$ 与零空间 $N(A)$ 正交 ($R(A) \perp N(A)$)。
    • 证明: 若 $y \in R(A)$, $x \in N(A)$。则 $y = A^T z$ 对于某个 $z$，且 $Ax=0$。
      $(y, x) = y^T x = (A^T z)^T x = z^T A x = z^T (Ax) = z^T 0 = 0$.
  • 列空间 $C(A)$ 与左零空间 $N(A^T)$ 正交 ($C(A) \perp N(A^T)$)。
    (应用上一条到 $A^T$ 即可)
• 维数定理 (Rank-Nullity Theorem):
  • $\text{dim } R(A) + \text{dim } N(A) = n$ (列数)
  • $\text{dim } C(A) + \text{dim } N(A^T) = m$ (行数)
• 且有 $\text{dim } R(A) = \text{dim } C(A) = \text{rank}(A)$.
• 直和分解:
  • $R^n = R(A) \oplus N(A)$
  • $R^m = C(A) \oplus N(A^T)$

4. 子空间 (Subspaces)

4.1 子空间的并集与和

证明是子空间需要：零向量，加法封闭，数乘封闭。

• 子空间的并集: 若干个子空间的并集通常不是子空间，除非其中一个包含其他所有子空间。
  • 引理: 若 $U_1, U_2, \dots, U_m$ 是向量空间 $V$ 的真子空间，则 $\bigcup_{i=1}^m U_i \neq V$ (如果域 $F$ 是无限域，或者 $V$ 的维数大于1且 $m < |F|+1$)。
    • 证明 (m=2, $U_1 \not\subseteq U_2, U_2 \not\subseteq U_1$):
      取 $\alpha \in U_1 \setminus U_2$, $\beta \in U_2 \setminus U_1$。
      考虑向量 $\alpha + \beta$。
      若 $\alpha + \beta \in U_1$，则 $\beta = (\alpha+\beta) - \alpha \in U_1$，与假设矛盾。
      若 $\alpha + \beta \in U_2$，则 $\alpha = (\alpha+\beta) - \beta \in U_2$，与假设矛盾。
      因此 $\alpha + \beta \notin U_1 \cup U_2$。所以 $U_1 \cup U_2$ 不是子空间，且 $U_1 \cup U_2 \neq V$ (如果V中还有其他元素)。
      PPT中的证明思路更一般，用了反证法和构造特定线性组合。
• 子空间的和: 若 $W, U$ 是 $V$ 的子空间，则它们的和 $W+U = \{w+u | w \in W, u \in U\}$ 也是 $V$ 的一个子空间。
  • 证明:
    1. 零向量: $0 \in W, 0 \in U \implies 0+0=0 \in W+U$.
    2. 加法封闭: 取 $\alpha_1 = w_1+u_1, \alpha_2 = w_2+u_2 \in W+U$.
       $\alpha_1 + \alpha_2 = (w_1+w_2) + (u_1+u_2)$. 因为 $w_1+w_2 \in W, u_1+u_2 \in U$，所以 $\alpha_1+\alpha_2 \in W+U$.
    3. 数乘封闭: 取 $\alpha = w+u \in W+U$, $k \in F$.
       $k\alpha = k(w+u) = kw + ku$. 因为 $kw \in W, ku \in U$，所以 $k\alpha \in W+U$.
• 子空间和的维数公式:
  $\text{dim}(W+U) = \text{dim } W + \text{dim } U - \text{dim}(W \cap U)$.
  • 证明思路:
    取 $W \cap U$ 的一组基 $\{ \gamma_1, \dots, \gamma_k \}$.
    将其扩充为 $W$ 的一组基 $\{ \gamma_1, \dots, \gamma_k, w_1, \dots, w_s \}$.
    将其扩充为 $U$ 的一组基 $\{ \gamma_1, \dots, \gamma_k, u_1, \dots, u_t \}$.
    可以证明 $\{ \gamma_1, \dots, \gamma_k, w_1, \dots, w_s, u_1, \dots, u_t \}$ 是 $W+U$ 的一组基。
    因此 $\text{dim}(W+U) = k+s+t$.
    $\text{dim } W = k+s$, $\text{dim } U = k+t$, $\text{dim}(W \cap U) = k$.
    所以 $\text{dim } W + \text{dim } U - \text{dim}(W \cap U) = (k+s) + (k+t) - k = k+s+t = \text{dim}(W+U)$.

4.2 直和 (Direct Sum)

• 定义: 若 $W, U$ 是 $V$ 的子空间，且 $W \cap U = \{0\}$，则称 $W+U$ 为 $W$ 和 $U$ 的直和，记作 $W \oplus U$.
• 等价条件:
  1. $W+U$ 是直和。
  2. $\forall \alpha \in W+U$，$\alpha$ 可以唯一地表示为 $w+u$，其中 $w \in W, u \in U$.
     • 证明 (1 $\implies$ 2): 假设 $\alpha = w_1+u_1 = w_2+u_2$. 则 $w_1-w_2 = u_2-u_1$.
       因为 $w_1-w_2 \in W$ 且 $u_2-u_1 \in U$, 所以 $w_1-w_2 \in W \cap U = \{0\}$.
       故 $w_1-w_2=0 \implies w_1=w_2$. 类似地 $u_1=u_2$. 唯一性得证。
     • 证明 (2 $\implies$ 1): 若 $W \cap U \neq \{0\}$, 取非零向量 $x \in W \cap U$.
       则 $0 = x + (-x)$, 其中 $x \in W, -x \in U$.
       也有 $0 = 0 + 0$, 其中 $0 \in W, 0 \in U$.
       这样零向量的表示不唯一，与条件2矛盾。所以 $W \cap U = \{0\}$.
  3. 若 $0 = w+u$ 且 $w \in W, u \in U$，则 $w=0, u=0$. (这是条件2的特例)
  4. $\text{dim}(W+U) = \text{dim } W + \text{dim } U$. (由维数公式和 $W \cap U = \{0\}$ 直接得到)

4.3 补子空间 (Complementary Subspace)

• 定义: 若 $U$ 是 $V$ 的子空间，如果存在子空间 $W$ 使得 $V = W \oplus U$，则称 $W$ 是 $U$ 的一个补子空间。
• 存在性: 对于 $V$ 的任意子空间 $U$，其补子空间总是存在的（但不唯一，除非 $U=\{0\}$ 或 $U=V$）。
• 正交补 (Orthogonal Complement): 在内积空间中，对于子空间 $U$，其正交补 $U^\perp = \{v \in V | (v,u)=0, \forall u \in U\}$ 是 $U$ 的一个补子空间，即 $V = U \oplus U^\perp$.
  • 正交补是唯一的。

5. 投影 (Projection)

5.1 向量到向量的投影 (Projection of a vector onto another vector)

• 向量 $\beta$ 在向量 $\alpha$ 方向上的投影向量 $\gamma$ (或 $\text{proj}_\alpha \beta$):
  $\gamma = \frac{(\beta, \alpha)}{(\alpha, \alpha)} \alpha = \frac{\alpha^T \beta}{\alpha^T \alpha} \alpha$ (对于实向量空间标准内积)。
• $\eta = \beta - \gamma$ 是与 $\alpha$ 正交的向量。
• 投影矩阵 (onto a line spanned by $\alpha$): $P = \frac{\alpha \alpha^T}{\alpha^T \alpha}$.
  则 $\gamma = P \beta$.
• 性质: $P^2=P$ (幂等性)，$P^T=P$ (对称性，因为 $\alpha \alpha^T$ 是对称的)。
• $E-P$ 是投影到 $\alpha$ 的正交补空间上的投影矩阵。

5.2 向量到子空间的投影 (Projection of a vector onto a subspace)

• 设 $W$ 是一个子空间，其一组基为 $\{\alpha_1, \dots, \alpha_m\}$. 令 $A = (\alpha_1, \dots, \alpha_m)$ (列向量构成矩阵 $A$)。
• 向量 $\beta$ 在子空间 $W = C(A)$ 上的投影 $\gamma = \text{proj}_W \beta$ 是 $W$ 中离 $\beta$ 最近的向量。
• $\beta - \gamma$ 必须与 $W$ 中的所有向量正交，即 $(\beta-\gamma, w)=0, \forall w \in W$.
  特别地，$(\beta-\gamma, \alpha_i)=0$ 对所有基向量 $\alpha_i$ 成立。
• $\gamma$ 可以表示为 $Ax$ 的形式，其中 $x=(x_1, \dots, x_m)^T$ 是坐标。
  $\alpha_i^T (\beta - Ax) = 0 \implies A^T(\beta - Ax) = 0 \implies A^T Ax = A^T \beta$.
  这个方程称为正规方程 (Normal Equations)。
• 如果 $A$ 的列向量线性无关 (即 $\{\alpha_i\}$ 确实是基)，则 $A^T A$ 是可逆的 $m \times m$ 矩阵。
  $x = (A^T A)^{-1} A^T \beta$.
  $\gamma = Ax = A(A^T A)^{-1} A^T \beta$.
• 投影矩阵 (onto subspace $W=C(A)$): $P_W = A(A^T A)^{-1} A^T$.
• 性质: $P_W^2 = P_W$ (幂等性)，$P_W^T = P_W$ (对称性)。
• $E-P_W$ 是投影到 $W$ 的正交补空间 $W^\perp$ 上的投影矩阵。

5.3 最小二乘法 (Least Squares)

• 对于无解的线性方程组 $AX=\beta$ (即 $\beta \notin C(A)$)，我们寻找一个“最佳”近似解 $\hat{X}$，使得 $|AX - \beta|$ 最小。
• 这个最小化问题等价于找到 $\beta$ 在 $A$ 的列空间 $C(A)$ 上的投影 $A\hat{X}$。
• 因此，最小二乘解 $\hat{X}$ 满足正规方程: $A^T A \hat{X} = A^T \beta$.
• 如果 $A$ 列满秩，则 $\hat{X} = (A^T A)^{-1} A^T \beta$ 是唯一的最小二乘解。
• 如果 $A$ 不是列满秩，则 $A^T A$ 不可逆，最小二乘解有无穷多个。通常取其中的范数最小解（使用伪逆）。

6. Gram-Schmidt 正交化过程 (Gram-Schmidt Orthogonalization)

• 目的: 将一组线性无关的向量 $\{\alpha_1, \dots, \alpha_m\}$ 转化为一组正交向量 $\{\beta_1, \dots, \beta_m\}$，使得 $\text{span}\{\alpha_1, \dots, \alpha_k\} = \text{span}\{\beta_1, \dots, \beta_k\}$ 对所有 $k=1, \dots, m$ 成立。
  进一步单位化可得到标准正交基。
• 过程:
  1. $\beta_1 = \alpha_1$.
  2. $\beta_2 = \alpha_2 - \text{proj}_{\beta_1} \alpha_2 = \alpha_2 - \frac{(\alpha_2, \beta_1)}{(\beta_1, \beta_1)} \beta_1$.
  3. $\beta_3 = \alpha_3 - \text{proj}_{\beta_1} \alpha_3 - \text{proj}_{\beta_2} \alpha_3 = \alpha_3 - \frac{(\alpha_3, \beta_1)}{(\beta_1, \beta_1)} \beta_1 - \frac{(\alpha_3, \beta_2)}{(\beta_2, \beta_2)} \beta_2$.
  4. …
  5. $\beta_k = \alpha_k - \sum_{j=1}^{k-1} \text{proj}_{\beta_j} \alpha_k = \alpha_k - \sum_{j=1}^{k-1} \frac{(\alpha_k, \beta_j)}{(\beta_j, \beta_j)} \beta_j$.
• 单位化: $\varepsilon_k = \frac{\beta_k}{|\beta_k|}$. 则 $\{\varepsilon_1, \dots, \varepsilon_m\}$ 是一组标准正交向量。

6.1 QR 分解 (QR Decomposition)

• 定理: 任何 $m \times n$ ($m \ge n$) 的列满秩矩阵 $A$ (即 $A$ 的列向量线性无关) 可以分解为一个 $m \times n$ 的正交列矩阵 $Q$ (其列向量构成标准正交组，即 $Q^T Q = I_n$) 和一个 $n \times n$ 的可逆上三角矩阵 $R$ (通常要求对角线元素为正) 的乘积，即 $A=QR$.
• 与Gram-Schmidt的关系: Gram-Schmidt 正交化过程是QR分解的一种构造方法。
  设 $A = (\alpha_1, \dots, \alpha_n)$，$Q = (\varepsilon_1, \dots, \varepsilon_n)$。
  由Gram-Schmidt过程:
  $\alpha_1 = r_{11}\varepsilon_1$
  $\alpha_2 = r_{12}\varepsilon_1 + r_{22}\varepsilon_2$
  …
  $\alpha_k = \sum_{j=1}^k r_{jk}\varepsilon_j$
  其中 $r_{jj} = |\beta_j|$ 且 $r_{ij} = (\alpha_j, \varepsilon_i)$ for $i < j$.
  写成矩阵形式即 $A=QR$.
  $R = Q^T A$.

7. 等价关系与商空间 (Equivalence Relations and Quotient Spaces)

7.1 等价关系 (Equivalence Relation)

• 定义: 集合 $S$ 上的一个二元关系 $\sim$ 称为等价关系，如果它满足:
  1. 自反性 (Reflexivity): $\forall a \in S, a \sim a$.
  2. 对称性 (Symmetry): $\forall a, b \in S$, if $a \sim b$, then $b \sim a$.
  3. 传递性 (Transitivity): $\forall a, b, c \in S$, if $a \sim b$ and $b \sim c$, then $a \sim c$.
• 等价类 (Equivalence Class): 对于 $a \in S$，其等价类 $\bar{a}$ (或 $[a]$) 定义为 $\bar{a} = \{x \in S | x \sim a\}$.
• 性质:
  1. $\forall a \in S, a \in \bar{a}$.
  2. $\bar{a} = \bar{b} \iff a \sim b$.
  3. 任意两个等价类要么相等，要么不相交。
• 划分 (Partition): 等价关系将集合 $S$ 划分为互不相交的等价类的并集。
• 商集 (Quotient Set): $S/\sim = \{\bar{a} | a \in S\}$，即所有等价类的集合。

7.2 商空间 (Quotient Space)

• 设 $V$ 是域 $F$ 上的向量空间，$W$ 是 $V$ 的一个子空间。
• 在 $V$ 上定义关系 $\sim$: $\alpha \sim \beta \iff \alpha - \beta \in W$.
  • 证明 (这是一个等价关系):
    1. 自反性: $\alpha - \alpha = 0 \in W \implies \alpha \sim \alpha$.
    2. 对称性: 若 $\alpha \sim \beta \implies \alpha - \beta \in W$. 则 $\beta - \alpha = -(\alpha - \beta) \in W$ (因为 $W$ 是子空间). 所以 $\beta \sim \alpha$.
    3. 传递性: 若 $\alpha \sim \beta, \beta \sim \gamma \implies \alpha - \beta \in W, \beta - \gamma \in W$.
       则 $\alpha - \gamma = (\alpha - \beta) + (\beta - \gamma) \in W$. 所以 $\alpha \sim \gamma$.
• 向量 $\alpha$ 所在的等价类记为 $\alpha+W = \{\alpha+w | w \in W\}$，称为 $W$ 的一个 陪集 (coset)。
• 商空间 $V/W$: 所有陪集构成的集合 $V/W = \{\alpha+W | \alpha \in V\}$.
• $V/W$ 上的向量空间结构:
  • 加法: $(\alpha+W) + (\beta+W) = (\alpha+\beta)+W$.
  • 数乘: $k(\alpha+W) = (k\alpha)+W$.
  • (需要验证这些运算是良定义的，即不依赖于陪集代表元的选取)。
    • 证明 (加法良定义): 设 $\alpha+W = \alpha’+W$ 且 $\beta+W = \beta’+W$.
      则 $\alpha-\alpha’ \in W$ 且 $\beta-\beta’ \in W$.
      我们想证明 $(\alpha+\beta)+W = (\alpha’+\beta’)+W$, 即 $(\alpha+\beta) - (\alpha’+\beta’) \in W$.
      $(\alpha+\beta) - (\alpha’+\beta’) = (\alpha-\alpha’) + (\beta-\beta’)$.
      因为 $\alpha-\alpha’ \in W$ 且 $\beta-\beta’ \in W$，且 $W$ 是子空间，所以它们的和也在 $W$ 中。故加法良定义。
      数乘类似可证。
• 零元素: $0+W = W$.
• 负元素: $-(\alpha+W) = (-\alpha)+W$.
• 商空间的维数:
  • 定理: 若 $V$ 是有限维向量空间，$W$ 是其子空间，则 $\text{dim}(V/W) = \text{dim } V - \text{dim } W$.
    • 证明思路:
      设 $\text{dim } W = s$, $\text{dim } V = n$.
      取 $W$ 的一组基 $\{\alpha_1, \dots, \alpha_s\}$.
      将其扩充为 $V$ 的一组基 $\{\alpha_1, \dots, \alpha_s, \alpha_{s+1}, \dots, \alpha_n\}$.
      可以证明 $\{\alpha_{s+1}+W, \dots, \alpha_n+W\}$ 构成 $V/W$ 的一组基。
      1. 张成性: 对任意 $\beta+W \in V/W$, $\beta = \sum_{i=1}^n b_i \alpha_i$.
         $\beta+W = (\sum_{i=1}^s b_i \alpha_i + \sum_{i=s+1}^n b_i \alpha_i) + W = (\sum_{i=s+1}^n b_i \alpha_i) + W = \sum_{i=s+1}^n b_i (\alpha_i+W)$.
      2. 线性无关性: 设 $\sum_{i=s+1}^n k_i (\alpha_i+W) = 0+W = W$.
         则 $(\sum_{i=s+1}^n k_i \alpha_i) + W = W \implies \sum_{i=s+1}^n k_i \alpha_i \in W$.
         所以 $\sum_{i=s+1}^n k_i \alpha_i = \sum_{j=1}^s c_j \alpha_j$ 对某些 $c_j$ 成立。
         即 $\sum_{j=1}^s (-c_j) \alpha_j + \sum_{i=s+1}^n k_i \alpha_i = 0$.
         因为 $\{\alpha_1, \dots, \alpha_n\}$ 线性无关，所以所有系数 $k_i=0$ (以及 $c_j=0$)。
         因此 $V/W$ 的维数为 $n-s$.
• 余维数 (Codimension): $\text{codim}_V W = \text{dim}(V/W)$.

7.3 商空间与直和的同构

• 定理 (第一同构定理的某种形式或推论): 若 $V$ 是向量空间，$W$ 是其子空间。如果 $U$ 是 $W$ 在 $V$ 中的一个补子空间 (即 $V = W \oplus U$)，则 $U \cong V/W$ ( $U$ 与 $V/W$同构)。
  • 证明思路:
    定义映射 $\phi: U \to V/W$ 为 $\phi(u) = u+W$.
    1. $\phi$ 是线性映射:
       $\phi(k u_1 + u_2) = (k u_1 + u_2) + W = k(u_1+W) + (u_2+W) = k\phi(u_1) + \phi(u_2)$.
    2. $\phi$ 是单射 (ker $\phi = \{0\}$):
       若 $\phi(u) = 0+W = W$, 则 $u+W = W \implies u \in W$.
       因为 $u \in U$ 且 $V=W \oplus U \implies W \cap U = \{0\}$, 所以 $u=0$.
    3. $\phi$ 是满射:
       对任意 $\alpha+W \in V/W$. 因为 $V=W+U$, 所以 $\alpha = w+u$ 对某个 $w \in W, u \in U$.
       则 $\alpha+W = (w+u)+W = u+W = \phi(u)$.
       因此 $\phi$ 是同构映射。