在几何空间内重新认识线性代数

博客

本文推荐两个讲解线性代数的视频:Bilibili 上的3Blue1Brown 的视频和 MIT Opercourseware上 Gilbert Strang 的课程视频

线性代数无疑是一门很重要的课程,我在本科和研究生阶段都有学习过,但是始终觉得不得其要领。在学习完上述两个课程后,我对线性代数有了新的理解。

# 两个视频

3Blue1Brown 的视频旨在让你建立一个几何上对线性代数的认识(Geometric Intuition)。毕竟线性代数是研究向量空间的科学,因此,在空间中探索向量的变化一定要比在纸面上来的容易。

MIT Opercourseware上的 Gilbert Strang 主讲的视频则可以看作是一个综述,用 30 页的幻灯片串联起线性代数中的一些要点。

# 笔记

我本来想着在这里复述一遍上述两个视频讲解的内容,但是考虑到我的文字描述必然没有动画演示来的直观,因此我在下文中仅仅记录了我印象深刻的一些知识要点。如果你很好奇上述视频里面传递的观点,建议你观看原视频。

> 向量的加法(Addition)和数乘(Scalar multiplication)

对于物理专业的学生来说,向量就是空间中的一个箭头,具有方向和长度两个属性;对于计算机专业的学生来手,向量则是一组数据;对于数学专业的学生来说,向量可以是任何事物,只要其满足向量加法和乘法的定义。

如果从几何上解释,在$N$维平面上,一个向量$N={a_1, a_2, \cdots, a_N}^T$,其每个数字的意义在于该向量在对应维度上的长度。

向量的加法则是对应位置的数字相加,在几何上,则表示为将第二个向量$v_2$的起点与第一个向量$v_1$的终点相连,则$v_1$的起点和$v_2$的终点连接起来表示的线段即为$v_1+v_2$

向量的数乘则表示对向量的缩放操作。

> 线性变换具有「Additivity」和「Scaling」

Lines remain lines, and the Origin remains fixed.

$$
L(\mathbb{v} + \mathbb{w}) = L(\mathbb{v}) + L(\mathbb{w}),
L(c\mathbb{v}) = cL(\mathbb{v})
$$

> 矩阵表示空间的线性变换(Matrix $\iff$ Linear transformation)

矩阵中的列向量表示原空间中的基在新空间中的表示。

> 线性组合(Linear Combination)

一个矩阵$A$可以分解成两个矩阵$C$和$R$,$A = CR$,则$A$为$C$中列向量的线性组合,为$R$中行向量的线性组合。$A\mathbb{x}$同时表示了$A$中列向量的线性组合。

> 矩阵左乘表示线性变换,线性变换可以复合

$$BA\mathbb{x} = C\mathbb{x}, C = BA$$

> $AB \ne BA$

> 行列式表示矩阵所表示的线性变换对面积的作用大小

矩阵所表示的线性变换对原空间具有拉伸或者压缩的作用,行列式即表示这个作用的大小。行列式的正负号与基向量的位置有关。对于二维空间来说,则是面积变化的倍数,三维空间则对应于体积变化的倍数。如果矩阵的行列式为 0,则表示该矩阵约简了空间的维度。表示该矩阵列向量线性相关。

$$det(MN) = det(M)det(N)$$

> 矩阵的秩(Rank)表示线性变化后新空间的维度

> 逆矩阵对应与矩阵的反变换。

$$A^{-1}A = I$$

> 列空间(Column sapce)和零空间(Null space)

对于所有的$\mathbb{x}$,$A\mathbb{x}$即为$A$的列空间。所有满足$A\mathbb{x} = 0$的$\mathbb{x}$组成的集合为$A$的零空间。$\mathbb{x}$表示线性变换后落在原点的向量。$\mathbb{x}$正交于$A$的行向量空间。

> 向量的点积等于做投影

一维向量表示为将空间压缩到数轴,变换矩阵刚好就是该向量,变换的作用就是将向量投影到数轴上。因此,一维向量的乘和点积具有相同的形式,表示投影。

> 向量的叉乘大小等于两个向量为邻边的平行四边形的面积,正负号和方向有关。

> 对于方阵来说,矩阵的特征向量即在其表示的线性变换下方向保持不变的向量,对应的缩放系数为特征值。对于非方阵来说,矩阵有对应的奇异值和奇异向量

> 基变换

基$I = {i_1, i_2, \cdots, i_n}$张成的空间$span(I)$中的一个向量$\mathbb{x}$,基$J = {j_1, j_2, \cdots, j_n}$张成的新空间$span(J)$中的一个向量$\mathbb{y}$。若$J = AI$,则有$\mathbb{x} = A \mathbb{y}$。线性变换$M$在$span(I)$上对$span(I)$中向量的变换效果,等效于$A^{-1}MA$在$span(J)$上对$span(J)$中向量的变换效果。

> 基变换在求解矩阵高次幂上很有帮助

对角矩阵具有一些很好的性质,比如其在计算幂乘时直接就是对角元素的幂乘。对于非对角矩阵,则有
$$A^n = V(V^{-1}AV)^nV^{-1}$$

全文完


参考文献

  1. 3Blue1Brown 的线性代数视频
  2. Gilbert Strang 的线性代数课程视频