本文推荐两个讲解线性代数的视频:Bilibili 上的3Blue1Brown 的视频和 MIT Opercourseware上 Gilbert Strang 的课程视频
线性代数无疑是一门很重要的课程,我在本科和研究生阶段都有学习过,但是始终觉得不得其要领。在学习完上述两个课程后,我对线性代数有了新的理解。
# 两个视频
3Blue1Brown 的视频旨在让你建立一个几何上对线性代数的认识(Geometric Intuition)。毕竟线性代数是研究向量空间的科学,因此,在空间中探索向量的变化一定要比在纸面上来的容易。
MIT Opercourseware上的 Gilbert Strang 主讲的视频则可以看作是一个综述,用 30 页的幻灯片串联起线性代数中的一些要点。
# 笔记
我本来想着在这里复述一遍上述两个视频讲解的内容,但是考虑到我的文字描述必然没有动画演示来的直观,因此我在下文中仅仅记录了我印象深刻的一些知识要点。如果你很好奇上述视频里面传递的观点,建议你观看原视频。
> 向量的加法(Addition)和数乘(Scalar multiplication)
对于物理专业的学生来说,向量就是空间中的一个箭头,具有方向和长度两个属性;对于计算机专业的学生来手,向量则是一组数据;对于数学专业的学生来说,向量可以是任何事物,只要其满足向量加法和乘法的定义。
如果从几何上解释,在$N$维平面上,一个向量$N={a_1, a_2, \cdots, a_N}^T$,其每个数字的意义在于该向量在对应维度上的长度。
向量的加法则是对应位置的数字相加,在几何上,则表示为将第二个向量$v_2$的起点与第一个向量$v_1$的终点相连,则$v_1$的起点和$v_2$的终点连接起来表示的线段即为$v_1+v_2$
向量的数乘则表示对向量的缩放操作。
> 线性变换具有「Additivity」和「Scaling」
Lines remain lines, and the Origin remains fixed.
$$
L(\mathbb{v} + \mathbb{w}) = L(\mathbb{v}) + L(\mathbb{w}),
L(c\mathbb{v}) = cL(\mathbb{v})
$$
> 矩阵表示空间的线性变换(Matrix $\iff$ Linear transformation)
矩阵中的列向量表示原空间中的基在新空间中的表示。
> 线性组合(Linear Combination)
一个矩阵$A$可以分解成两个矩阵$C$和$R$,$A = CR$,则$A$为$C$中列向量的线性组合,为$R$中行向量的线性组合。$A\mathbb{x}$同时表示了$A$中列向量的线性组合。
> 矩阵左乘表示线性变换,线性变换可以复合
$$BA\mathbb{x} = C\mathbb{x}, C = BA$$
> $AB \ne BA$
> 行列式表示矩阵所表示的线性变换对面积的作用大小
矩阵所表示的线性变换对原空间具有拉伸或者压缩的作用,行列式即表示这个作用的大小。行列式的正负号与基向量的位置有关。对于二维空间来说,则是面积变化的倍数,三维空间则对应于体积变化的倍数。如果矩阵的行列式为 0,则表示该矩阵约简了空间的维度。表示该矩阵列向量线性相关。
$$det(MN) = det(M)det(N)$$
> 矩阵的秩(Rank)表示线性变化后新空间的维度
> 逆矩阵对应与矩阵的反变换。
$$A^{-1}A = I$$
> 列空间(Column sapce)和零空间(Null space)
对于所有的$\mathbb{x}$,$A\mathbb{x}$即为$A$的列空间。所有满足$A\mathbb{x} = 0$的$\mathbb{x}$组成的集合为$A$的零空间。$\mathbb{x}$表示线性变换后落在原点的向量。$\mathbb{x}$正交于$A$的行向量空间。
> 向量的点积等于做投影
一维向量表示为将空间压缩到数轴,变换矩阵刚好就是该向量,变换的作用就是将向量投影到数轴上。因此,一维向量的乘和点积具有相同的形式,表示投影。
> 向量的叉乘大小等于两个向量为邻边的平行四边形的面积,正负号和方向有关。
> 对于方阵来说,矩阵的特征向量即在其表示的线性变换下方向保持不变的向量,对应的缩放系数为特征值。对于非方阵来说,矩阵有对应的奇异值和奇异向量
> 基变换
基$I = {i_1, i_2, \cdots, i_n}$张成的空间$span(I)$中的一个向量$\mathbb{x}$,基$J = {j_1, j_2, \cdots, j_n}$张成的新空间$span(J)$中的一个向量$\mathbb{y}$。若$J = AI$,则有$\mathbb{x} = A \mathbb{y}$。线性变换$M$在$span(I)$上对$span(I)$中向量的变换效果,等效于$A^{-1}MA$在$span(J)$上对$span(J)$中向量的变换效果。
> 基变换在求解矩阵高次幂上很有帮助
对角矩阵具有一些很好的性质,比如其在计算幂乘时直接就是对角元素的幂乘。对于非对角矩阵,则有
$$A^n = V(V^{-1}AV)^nV^{-1}$$
—全文完—