接下来我们讨论的实际上是同济大学教材的最后一章的内容，也就是 #6 线性空间与线性变换，这里对应的是维数、基与坐标。线性代数一般不做无限空间的研究，我们研究的一般是有限维度的向量空间 finite-dimensional vector space

线性组合和张成 Linear Combination & Span

[!definition] $Linear\ Combination$ 对于一个向量组 list of vectors $v_1,\cdots,v_m$，和 $a_1,\cdots,a_m\in F$，线性组合表示为 \(a_1v_1+\cdots+a_mv_m\) 这会最终返回一个同维的向量

[!definition] $Span/Spans$ 一个向量组所有可能的线性组合所返回的向量组成的集合，被称为该向量组张成(span)的集 \(span(v_1,\cdots,v_m)=\{a_1v_1+\cdots+a_mv_m:a_1,\cdots,a_m\in F\}\) 如果这个集和某个空间 $V$ 相等，那么我们就说该向量组张成(spans)空间 V \(span(v_1,\cdots,v_m)=V\)

几何上，这很容易理解，把一个向量组里面的几个向量看作是箭头，这几个箭头“张开来”所形成的空间就是张成的空间。另外一个容易理解的推论是张成的空间就是最小的“包含子空间”。

我们把张成这一个空间的向量组称为生成组。

有限维度的向量空间 finite-dimensional vector space

[!definition] $finite-dimensional\ vector\ space$ 如果一个向量空间能被一个一些向量组张成，那么这个向量空间就被称为有限维度的向量空间

接下来我们将视角转向函数空间，这几乎被排在同济大学教材的相当后面的部分，就是多项式定理那一块。我们已经对多项式 $\mathcal{P}(F)$ 很熟悉了，这里我们再来明确以下定义

[!definition] $polynomial\ \mathcal{P}(\mathbb{F})$ 对于一个函数 $\mathcal{p}:\mathbb{F}\to \mathbb{F}$ 和 $a_0,\cdots,a_m\in \mathbb{F}$ ，$z\in \mathbb{F}$ 若其形式可以写为 \(\mathcal{p}(z)=a_0+a_1z+a_2z^2+\cdots+a_mz^m\) 则将其称为 $\mathbb{F}$ 中带系数的多项式，而 $\mathcal{P}(\mathbb{F})$ 就表示所有这样存在的多项式的集。显然，$\mathcal{P}(\mathbb{F})$ 是 $\mathbb{F}^\mathbb{F}$ 的子集。

当然，还有一个可能相对陌生一点名词 度 degree，一个多项式的度就是这个多项式的最高次数，也被称为这个多项式的次数。如果一个多项式在向量空间里代表 $0$，那么我们规定它的度为 $-\infty$。

[!definition] 接上 我们再给定一个非负整数 $m$ 用于代表 $\mathcal{P}(\mathbb{F})$ 中的多项式的最高次数。当然，最高次系数依然可以为 $0$。这样我们记这个集为 $\mathcal{P}_m(F)=span(1,z,\cdots,z^m)$。

不过，$\mathcal{P}(F)$ 实际上是一个无限维度的向量空间，记其中多项式的次数为 $m$，则你总能找到一个 $z^{m+1}$ 不被包含在多项式内，所以没有任何一个列表可以展开为 $\mathcal{P}(F)$，但 $\mathcal{P}_m(F)$ 可以。

线性独立与相关 Linear Independence/dependence

别看我这里说的是独立，其实他就是线性无关 Linear Independence，不过英文里做描述时一般说Linearly Independent/dependent。

假设我们现在有一个向量组 $v_1,\cdots,v_m\in V$ 且 $v\in span(v_1,\cdots,v_m)$ ，那么 $v$ 可以表示为向量组的线性组合，即 \(v=a_1v_1+\cdots+a_mv_m\) 根据 直和 的定义，我们来看看这个变量的表示形式是否唯一，证法我们在 [[证明题 - 唯一性证明]] 里提到了，用反证法。我们假设有另外一组数字 $c_1,\cdots,c_m\in F$ 满足 \(v=c_1v_1+\cdots+c_mv_m\) 那么这两个式子相减就有 \(0=(a_1-c_1)v_1+\cdots+(a_m-c_m)v_m\)

我们先前在将 [[Linear Algebra - 1.2 子空间 Subspace#直和 $ oplus$ 直和]] 的时候提到了一点，就是如果要验证一系列空间是否符合直和的条件，那么就是看 $0$ 在这些子空间的和空间内看看 $0$ 有没有两种表示形式。

如果这里表示 $0$ 的方式只有将所有的系数变为 $0$ ，也就是 \((a_1-c_1)=0,\cdots,(a_m-c_m)=0\) 那么我们就称这个向量组线性无关。

[!definition] $linearly\ independent$ 如果对于一个向量组 $v_1,\cdots,v_m\in V$ 唯一让他们线性组合为 $0$ 的方式是将所有系数定为 $0$ ，那么称它们为线性无关 linearly independent的。 特殊的，空集也是线性无关的 这同时也等价于 $v\in span(v_1,\cdots,v_m)$ 有且只有一种由 $v_1,\cdots,v_m$ 线性组合的表示方式。

同样的，我们可以得到线性相关的定义

[!definition] $linearly\ dependent$ 如果对于一个向量组 $v_1,\cdots,v_m\in V$ 让他们线性组合为 $0$ 的方式不一定需要所有系数定为 $0$ ，那么称它们为线性相关 linearly dependent的。

几何上的理解是，如果一个向量组中的某些向量就能张成一个空间表示剩下的向量，就说明这个向量组是线性相关的。反之，如果每一个向量都为原来的空间增添了一个新维度，那么就说这个向量组线性无关。我们下面还会再提及。

线性无关与相关的推论

这里我们应用一下同济教材上的推论，并对其进行进一步的解释。

[!tip] 推论 (1) 若一个向量组 $v_1,\cdots,v_m$ 线性相关，那么加上一个新的向量 $v_{m+1}$ 后的向量组依然线性相关。特别的，$n + 1$ 个 $n$ 维向量一定线性相关。 (2) 若一个向量组 $v_1,\cdots,v_m$ 线性无关，那么去掉一个向量 $v_{k}$ 后的向量组依然线性无关。 (3) 若一个向量组 $v_1,\cdots,v_m$ 线性无关，而 $v_1,\cdots,v_m,b$ 线性相关，则说明 $b$ 一定能被 $v_1,\cdots,v_m$ 这个向量组线性组合出来，且表示形式唯一。

我来对上面的三个推论进一步解释一下：

  1. 在加上 $a_{m+1}$ 后，这个向量组里面的最大无关组^[1]只会变大，不会变小，所以依旧可以表示所有其他的量。
  2. 已经明确了 $m$ 个基底的 $\mathbb{R}^m$ ，去掉一个基底后会变成 $\mathbb{R}^{m-1}$
  3. “最极端的情况”即为每一个向量均为基底，均为这个空间提供了一个维度，若 $m>n$ ，则必有一个向量不为基底，即线性相关

线性相关引理 Linear dependence lemma

推论 (1) 和 LADR 提到的 Linear dependence lemma 说的实际上是一件事

[!tip] $linear\ dependence\ lemma$ 假设 $v_1,\cdots,v_m \in V$ ，那么一定存在一个 $v_k$，满足 \(v_k\in span(v_1,\cdots,v_{k-1})\) 也就是说这个 $v_k$ 对于这个向量组张成的空间实际上“没啥贡献”，是“冗余的”。当我这么说时，我的意思是它不会提供一个“未知的新维度”。所以你如果将 $v_k$ 去掉，剩下的 $k-1$ 个向量仍然满足 \(span(v_1,\cdots,v_{k-1})=span(v_1,\cdots,v_{k})\)

具体要怎么取验证一个向量组是否线性相关，你可以一点一点把 $k$ 从 $1$ 开始取，一直到 $m$。

[!tip] 推论 在同一个 $V$ 中，任取两个向量组：

  • 一个任意的线性无关组 $S={v_1,\cdots,v_m}$
  • 一个生成组 (spanning list) $L={w_1,\cdots,w_n}$ ，任何一个 $V$ 中的向量都能表示为它们的线性组合

定理给到一定有 $n \geq m$ 进一步，在学习了 [[Linear Algebra - 2.1 基底 Bases|基底]] 之后，它可以佐证 [[Linear Algebra - 2.1 基底 Bases#基扩展定理|基扩张定理]]

[!proof] 另类证明 因为如果 $m>n$，那么你就有一个矛盾： 用 $S$ 可以依次“表示”或“替换” $L$ 中的向量，如果 $m>n$，那么在替换过程中，$L$ 的前 $n$ 个向量会消耗完 $S$ 的所有“独立方向”，这样第 $m$ 个向量就会与前面的线性相关，违反了 $L$ 线性无关的条件。

替换定理

LADR 给到了一个有趣的证法，用到了替换定理

[!proof] 替换定理 我们把 $v_1$ 拿出来加入到 $w_1,\cdots,w_n$ 去，这样这个组，根据定义 (空间内任意向量能够被生成组唯一表示)，一定线性相关。新的组表示为 \(v_1,w_1,\cdots,w_n\) 不妨把 $v_1$ 放到最前面，依据线性相关引理，$k$ 取 $1$ 时，$v_1$肯定线性无关。也就说明后面的 $n$ 个 $w_i$ 肯定有一个是冗余的，可以被剔除。 就这样重复 $m$ 次，直到把所有 $v_i$ 压入 $L$ 中，你会发现，$m$ 一定会小于 $n$，因为一旦大于，$S$ 就无法满足线性无关的条件。