向量空间

向量空間是一群可縮放和相加的數學實體（如實數甚至是函數）所構成的特殊集合，其特殊之處在於縮放和相加後仍屬於這個集合。這些數學實體被稱為向量，而向量空間正是線性代數的主要研究對象。

線性代數
${\displaystyle \mathbf {A} ={\begin{bmatrix}1&2\\3&4\end{bmatrix}}}$
向量 · 向量空間 · 基底  · 行列式  · 矩陣
向量 標量 · 向量 · 向量空間 · 向量投影 · 外積（叉積 · 七維叉積） · 內積（點積） · 二重向量 矩陣與行列式 矩陣 · 行列式 · 線性方程組 · 秩 · 核 · 跡 · 單位矩陣 · 初等矩陣 · 方塊矩陣 · 分塊矩陣 · 三角矩陣 · 非奇異方陣 · 轉置矩陣 · 逆矩陣 · 對角矩陣 · 可對角化矩陣 · 對稱矩陣 · 反對稱矩陣 · 正交矩陣 · 幺正矩陣 · 埃爾米特矩陣 · 反埃爾米特矩陣 · 正規矩陣 · 伴隨矩陣 · 余因子矩陣 · 共軛轉置 · 正定矩陣 · 冪零矩陣 · 矩陣分解 （LU分解 · 奇異值分解 · QR分解 · 極分解 · 特徵分解） · 子式和餘子式 · 拉普拉斯展開 · 克羅內克積 線性空間與線性變換 線性空間 · 線性變換 · 線性子空間 · 線性生成空間 · 基 · 線性映射 · 線性投影 · 線性無關 · 線性組合 · 線性泛函 · 行空間與列空間 · 對偶空間 · 正交 · 特徵向量 · 最小二乘法 · 格拉姆-施密特正交化
閱 論 編

向量空間是可以縮放和相加的（叫做向量的）對象的集合

正式定義

給定域 ${\displaystyle \left(K,\,+,\,\times \right)}$ 和某集合 ${\displaystyle V}$ ，它們具有了以下兩種運算（函數）：^[1]

• 向量加法 ${\displaystyle \oplus :V\times V\to V}$ （其中 ${\displaystyle \oplus (u,\,v)}$ 慣例上簡記為 ${\displaystyle u\oplus v}$ ）
• 標量乘法 ${\displaystyle \cdot :K\times V\to V}$ （其中 ${\displaystyle \cdot \,(a,\,v)}$ 慣例上簡記為 ${\displaystyle a\cdot v}$ 甚至是 ${\displaystyle av}$ ）

且這兩種運算滿足：（特別注意 ${\displaystyle +}$ 和 ${\displaystyle \times }$ 是域 ${\displaystyle K}$ 是本身具有的加法和乘法）

名稱		前提條件	內容
向量加法	的單位元與逆元素	存在 ${\displaystyle V}$ 的元素 ${\displaystyle e\in V}$ 對所有 ${\displaystyle u\in V}$	有 ${\displaystyle e\oplus u=u\oplus e=u}$
			且存在 ${\displaystyle w\in V}$ 使得 ${\displaystyle w\oplus u=u\oplus w=e}$
	的結合律	對所有 ${\displaystyle u,\,v,\,w\in V}$	${\displaystyle u\oplus (v\oplus w)=(u\oplus v)\oplus w}$
	的交換律	對所有 ${\displaystyle u,\,v\in V}$	${\displaystyle u\oplus v=v\oplus u}$
標量乘法	的單位元	對所有 ${\displaystyle u\in V}$	若 ${\displaystyle 1_{K}\in K}$ 是 ${\displaystyle K}$ 的乘法單位元，則 ${\displaystyle 1_{K}\cdot u=u}$
	對向量加法的分配律	對所有 ${\displaystyle u,\,v\in V}$ 和所有 ${\displaystyle a\in K}$	${\displaystyle a\cdot (u\oplus v)=a\cdot u\oplus a\cdot v}$
	對域加法的分配律	對所有 ${\displaystyle u\in V}$ 和所有 ${\displaystyle a,\,b\in K}$	${\displaystyle (a+b)\cdot u=a\cdot u\oplus b\cdot u}$
	與域乘法		${\displaystyle a\cdot (b\cdot u)=(a\times b)\cdot v}$

這樣稱 「 ${\displaystyle V}$ 為定義在域 ${\displaystyle K}$ 上的向量空間」，而 ${\displaystyle V}$ 裡的元素 ${\displaystyle u\in V}$ 被稱為向量；域 ${\displaystyle K}$ 裡的元素 ${\displaystyle a\in K}$ 被稱為標量。這樣域 ${\displaystyle K}$ 就是囊括所有標量的集合，所以為了解說方便，有時會將 ${\displaystyle K}$ 暱稱為標量域或是標量母空間。在不跟域的加法混淆的情況下，向量加法 ${\displaystyle \oplus }$ 也可以簡寫成 ${\displaystyle +}$ 。

前四個條件規定 ${\displaystyle \left(V,\,\oplus \right)}$ 是交換群。上述的完整定義也可以抽象地概述成「 ${\displaystyle \left(K,\,+,\,\times \right)}$ 是個域，且 ${\displaystyle V}$ 是一個 ${\displaystyle K-}$模」。

基本性質

以下定理都沿用正式定義一節的符號與前提條件。

定理 （1） — 向量加法的單位元是唯一的。

以上的定理事實上繼承自群的單位元唯一性。這樣的話，可以仿造群的習慣以記號 ${\displaystyle 0_{V}}$ 代表「向量加法 ${\displaystyle \oplus }$ 的唯一單位元」，並稱之為 ${\displaystyle V}$ 的零向量。

在不跟標量域的加法單位元 ${\displaystyle 0_{K}\in K}$ 混淆的情況下，零向量 ${\displaystyle 0_{V}\in V}$ 也可以簡寫成 ${\displaystyle 0}$ 。

定理 （2） — 任意向量的向量加法逆元素是唯一的。

以上的定理事實上繼承自群的逆元唯一性，這樣的話，可以仿造群的習慣以 ${\displaystyle u^{-1}}$ 代表「向量 ${\displaystyle u}$ 在向量加法 ${\displaystyle \oplus }$ 下的唯一逆元素」，甚至可以把 ${\displaystyle v\oplus u^{-1}}$ 簡記為 ${\displaystyle v\ominus u}$ ，並暱稱為向量減法。在不跟標量的加法混淆的情況下， ${\displaystyle u^{-1}}$ 也可記為 ${\displaystyle -u}$ ； ${\displaystyle v\ominus u}$ 也可記為 ${\displaystyle v-u}$ 。

定理 （3） — 對所有的純量 ${\displaystyle a\in K}$ 都有 ${\displaystyle a\cdot 0_{V}=0_{V}}$ 。（零向量的伸縮還是零向量）

證明

考慮到標量乘法對向量加法的分配律和零向量的性質會有

${\displaystyle a\cdot 0_{V}=a\cdot (0_{V}+0_{V})=a\cdot 0_{V}+a\cdot 0_{V}}$

那取向量 ${\displaystyle u\in V}$ 為 ${\displaystyle a\cdot 0_{V}}$ 的向量加法逆元素，配上向量加法的結合律和單位元的定義會有

${\displaystyle {\begin{aligned}0_{V}&=u+a\cdot 0_{V}\\&=u+(a\cdot 0_{V}+a\cdot 0_{V})\\&=(u+a\cdot 0_{V})+a\cdot 0_{V}\\&=0_{V}+a\cdot 0_{V}\\&=a\cdot 0_{V}\\\end{aligned}}}$

故得証。${\displaystyle \Box }$

定理 （4） — 對所有的向量 ${\displaystyle u\in V}$ ，若純量 ${\displaystyle 0_{K}\in K}$ 是域加法的單位元，則 ${\displaystyle 0_{K}\cdot u=0_{V}}$ 。

證明

考慮到域 ${\displaystyle K}$ 自身的定義，還有標量乘法對域加法的分配律的話有

${\displaystyle 0_{K}\cdot u=(0_{K}+0_{K})\cdot u=0_{K}\cdot u+0_{K}\cdot u}$

那取向量 ${\displaystyle w\in V}$ 為 ${\displaystyle 0_{K}\cdot u}$ 的向量加法逆元素，配上向量加法的結合律和單位元的定義會有

${\displaystyle 0_{V}=w+0_{K}\cdot u=w+(0_{K}\cdot u+0_{K}\cdot u)=(w+0_{K}\cdot u)+0_{K}\cdot u=0_{V}+0_{K}\cdot u=0_{K}\cdot u}$

故得証。${\displaystyle \Box }$

定理 （5） — 對所有的向量 ${\displaystyle u\in V}$ 和標量 ${\displaystyle a\in K}$ ，如果 ${\displaystyle a\cdot u=0_{V}}$ ，則 ${\displaystyle u=0_{V}}$ 或 ${\displaystyle a=0_{K}}$ ( 其中 ${\displaystyle 0_{K}\in K}$ 是域加法的單位元)。

證明

若 ${\displaystyle K=\{0_{K}\}}$ ，根據定理(3)本定理顯然成立。下面只考慮 ${\displaystyle K\neq \{0_{K}\}}$ 的狀況。

假設存在向量 ${\displaystyle u\in V}$ 和標量 ${\displaystyle a\in K}$ 滿足 ${\displaystyle u\neq 0_{V}}$ 且 ${\displaystyle a\neq 0_{K}}$ ，但 ${\displaystyle a\cdot u=0_{V}}$ 。若以 ${\displaystyle 1_{K}\in K}$ 表示域的乘法單位元，那根據其性質與和定義關於標量乘法單位元的部分會有

${\displaystyle {\begin{aligned}u&=1_{K}\cdot u\\&=(a\times {\frac {1}{a}})\cdot u\end{aligned}}}$

那再根據定義關於標量乘法與域乘法的部分，還有域乘法的交換律會有

${\displaystyle {\begin{aligned}u&=(a\times {\frac {1}{a}})\cdot u\\&=({\frac {1}{a}}\times a)\cdot u\\&={\frac {1}{a}}\cdot (a\cdot u)\end{aligned}}}$

那再套用定理(3)和前提假設會有

${\displaystyle {\begin{aligned}u&={\frac {1}{a}}\cdot (a\cdot u)\\&={\frac {1}{a}}\cdot 0_{V}\\&=0_{V}\end{aligned}}}$

這跟前提假設是矛盾的，所以根據反證法和德摩根定理，對所有向量 ${\displaystyle u\in V}$ 和所有標量 ${\displaystyle a\in K}$ ，只有可能「 ${\displaystyle u=0_{V}}$ 或 ${\displaystyle a=0_{K}}$ 」或「${\displaystyle a\cdot u\neq 0_{V}}$」，但這段敘述正好等價於定理想證明的，故得証。${\displaystyle \Box }$

定理 （6） — 如果 ${\displaystyle -a\in K}$ 是 ${\displaystyle a\in K}$ 的域加法逆元素，那對所有的向量 ${\displaystyle u\in V}$ ，${\displaystyle a\cdot u}$ 的向量加法逆元素必為 ${\displaystyle -a\cdot u}$ 。

證明

以下設純量 ${\displaystyle 0_{K}\in K}$ 是域加法的單位元。

考慮到域 ${\displaystyle K}$ 自身的定義，還有標量乘法對域加法的分配律會有

${\displaystyle 0_{K}\cdot u=(-a+a)\cdot u=-a\cdot u+a\cdot u}$

${\displaystyle 0_{K}\cdot u=[a+(-a)]\cdot u=a\cdot u+(-a)\cdot u}$

然後考慮到前面的定理(4)，就有

${\displaystyle 0_{V}=0_{K}\cdot u=-a\cdot u+a\cdot u}$

${\displaystyle 0_{V}=0_{K}\cdot u=a\cdot u+(-a)\cdot u}$

然後考慮到定理(2)保證的逆元素唯一性，就可以知道向量 ${\displaystyle a\cdot u}$ 的加法逆元素必為 ${\displaystyle -a\cdot u}$ 。${\displaystyle \Box }$

系理 — 如果 ${\displaystyle {-1}_{K}\in K}$ 是域加法單位元 ${\displaystyle 1_{K}\in K}$ 的域加法逆元素，那對所有的向量 ${\displaystyle u\in V}$ ，其向量加法逆元素必為 ${\displaystyle {-1}_{K}\cdot u}$ 。

額外結構

研究向量空間很自然涉及一些額外結構。額外結構如下：

• 一個實數或複數向量空間加上長度概念（就是範數）則成為賦範向量空間。
• 一個實數或複數向量空間加上長度和角度的概念則成為內積空間。
• 一個向量空間加上拓撲結構並滿足連續性要求（加法及標量乘法是連續映射）則成為拓撲向量空間。
• 一個向量空間加上雙線性算子（定義為向量乘法）則成為域代數。

例子

對一般域F，V記為F-向量空間。若F是實數域ℝ，則V稱為實數向量空間；若F是複數域ℂ，則V稱為複數向量空間；若F是有限域，則V稱為有限域向量空間。

最簡單的F-向量空間是F自身。只要定義向量加法為域中元素的加法，標量乘法為域中元素的乘法就可以了。例如當F是實數域ℝ時，可以驗證對任意實數a、b以及任意實數u、v、w，都有：

1. u + (v + w) = (u + v) + w，
2. v + w = w + v，
3. 零元素存在：零元素0滿足：對任何的向量元素v，v + 0 = v，
4. 逆元素存在：對任何的向量元素v，它的相反數w = −v就滿足v + w = 0。
5. 標量乘法對向量加法滿足分配律：a(v + w) = a v + a w.
6. 向量乘法對標量加法滿足分配律：(a + b)v = a v + b v.
7. 標量乘法與標量的域乘法相容：a(bv) =(ab)v。
8. 標量乘法有單位元：ℝ中的乘法單位元，也就是實數「1」滿足：對任意實數v，1v = v。

更為常見的例子是給定了直角坐標系的平面：平面上的每一點${\displaystyle P}$都有一個坐標${\displaystyle P(x,y)}$，並對應着一個向量${\displaystyle (x,y)}$。所有普通意義上的平面向量組成了一個空間，記作ℝ²，因為每個向量都可以表示為兩個實數構成的有序數組${\displaystyle (x,y)}$。可以驗證，對於普通意義上的向量加法和標量乘法，ℝ²滿足向量空間的所有公理。實際上，向量空間是ℝ²的推廣。

同樣地，高維的歐幾里得空間ℝⁿ也是向量空間的例子。其中的向量表示為${\displaystyle v=(a_{1},a_{2},\cdots ,a_{n})}$，其中的${\displaystyle a_{1},a_{2},\cdots ,a_{n}}$都是實數。定義向量的加法和標量乘法是：

${\displaystyle \forall \lambda \in \mathbb {R} ,\,v=(a_{1},a_{2},\cdots ,a_{n})\in \mathbb {R} ^{n},\,w=(b_{1},b_{2},\cdots ,b_{n})\in \mathbb {R} ^{n}}$， ${\displaystyle v+w=(a_{1},a_{2},\cdots ,a_{n})+(b_{1},b_{2},\cdots ,b_{n})=(a_{1}+b_{1},a_{2}+b_{2},\cdots ,a_{n}+b_{n})}$ ${\displaystyle \lambda v=\lambda (a_{1},a_{2},\cdots ,a_{n})=(\lambda a_{1},\lambda a_{2},\cdots ,\lambda a_{n})}$

可以驗證這也是一個向量空間。

再考慮所有係數為實數的多項式的集合${\displaystyle \mathbb {R} [X]}$。對於通常意義上的多項式加法和標量乘法，${\displaystyle \mathbb {R} [X]}$也構成一個向量空間。更廣泛地，所有從實數域射到實數域的連續函數的集合${\displaystyle {\mathcal {C}}(\mathbb {R} ,\mathbb {R} )}$也是向量空間，因為兩個連續函數的和或差以及連續函數的若干倍都還是連續函數。

方程組與向量空間

向量空間的另一種例子是齊次線性方程組（常數項都是0的線性方程組）的解的集合。例如下面的方程組：

${\displaystyle 3x+2y-z=0}$

${\displaystyle x+5y+2z=0}$

如果${\displaystyle (x_{1},y_{1},z_{1})}$和${\displaystyle (x_{2},y_{2},z_{2})}$都是解，那麼可以驗證它們的「和」${\displaystyle (x_{1}+x_{2},y_{1}+y_{2},z_{1}+z_{2})}$也是一組解，因為：

${\displaystyle 3(x_{1}+x_{2})+2(y_{1}+y_{2})-(z_{1}+z_{2})=(3x_{1}+2y_{1}-z_{1})+(3x_{2}+2y_{2}-z_{2})=0}$

${\displaystyle (x_{1}+x_{2})+5(y_{1}+y_{2})+2(z_{1}+z_{2})=(x_{1}+5y_{1}+2z_{1})+(x_{2}+5y_{2}+2z_{2})=0}$

同樣，將一組解乘以一個常數後，仍然會是一組解。可以驗證這樣定義的「向量加法」和「標量乘法」滿足向量空間的公理，因此這個方程組的所有解組成了一個向量空間。

一般來說，當齊次線性方程組中未知數個數大於方程的個數時，方程組有無限多組解，並且這些解組成一個向量空間。

對於齊次線性微分方程，解的集合也構成向量空間。比如說下面的方程：

${\displaystyle f''+4xf'+\cos(x)f=0}$

出於和上面類似的理由，方程的兩個解${\displaystyle f_{1}}$和${\displaystyle f_{2}}$的和函數${\displaystyle f_{1}+f_{2}}$也滿足方程。可以驗證，這個方程的所有解構成一個向量空間。

子空間基底

如果一個向量空間V的一個非空子集合W對於V的加法及標量乘法都封閉（也就是說任意W中的元素相加或者和標量相乘之後仍然在W之中），那麼將W稱為V的線性子空間（簡稱子空間）。V的子空間中，最平凡的就是空間V自己，以及只包含0的子空間${\displaystyle {0}}$。

給出一個向量集合B，那麼包含它的最小子空間就稱為它的生成子空間，也稱線性包絡，記作span(B)。

給出一個向量集合B，若它的生成子空間就是向量空間V，則稱B為V的一個生成集。如果一個向量空間V擁有一個元素個數有限的生成集，那麼就稱V是一個有限維空間。

可以生成一個向量空間V的線性獨立子集，稱為這個空間的基。若V={0}，約定唯一的基是空集。對非零向量空間V，基是V「最小」的生成集。向量空間的基是對向量空間的一種刻畫。確定了向量空間的一組基B之後，空間內的每個向量都有唯一的方法表達成基中元素的線性組合。如果能夠把基中元素按下標排列：${\displaystyle \mathbf {B} =\left\{e_{1},e_{2},\cdots ,e_{n},\cdots \right\}}$，那麼空間中的每一個向量v便可以通過座標系統來呈現：

${\displaystyle v=\lambda _{1}e_{1}+\lambda _{2}e_{2}+\cdots +\lambda _{n}e_{n}+\cdots }$

這種表示方式必然存在，而且是唯一的。也就是說，向量空間的基提供了一個坐標系。

可以證明，一個向量空間的所有基都擁有相同基數，稱為該空間的維度。當V是一個有限維空間時，任何一組基中的元素個數都是定值，等於空間的維度。例如，各種實數向量空間：ℝ⁰, ℝ¹, ℝ², ℝ³,…, ℝ^∞,…中， ℝⁿ的維度就是n。在一個有限維的向量空間（維度是n）中，確定一組基${\displaystyle \mathbf {B} =\left\{e_{1},e_{2},\cdots ,e_{n}\right\}}$，那麼所有的向量都可以用n個標量來表示。比如說，如果某個向量v表示為：

${\displaystyle v=\lambda _{1}e_{1}+\lambda _{2}e_{2}+\cdots +\lambda _{n}e_{n}}$

那麼v可以用數組${\displaystyle v=(\lambda _{1},\lambda _{2},\cdots ,\lambda _{n})}$來表示。這種表示方式稱為向量的坐標表示。按照這種表示方法，基中元素表示為：

${\displaystyle e_{1}=(1,0,\cdots ,0)}$ ${\displaystyle e_{2}=(0,1,\cdots ,0)}$ ${\displaystyle e_{n}=(0,0,\cdots ,1)}$

可以證明，存在從任意一個n維的${\displaystyle \mathbf {F} }$-向量空間到空間${\displaystyle \mathbf {F} ^{n}}$的雙射。這種關係稱為同構。

線性映射

給定兩個係數域都是F的向量空間V和W,定義由V到W的線性變換（或稱線性映射）為所有從V射到W並且它保持向量加法和標量乘法的運算的函數f：

${\displaystyle f:\,V\rightarrow W}$ ${\displaystyle \forall a\in F,u,v\in V,\,f(u+v)=f(u)+f(v),\,f(a\cdot v)=a\cdot f(v)}$

所有線性變換的集合記為${\displaystyle {\mathcal {L}}(V,W)}$，這也是一個係數域為F的向量空間。在確定了V和W上各自的一組基之後，${\displaystyle {\mathcal {L}}(V,W)}$中的線性變換可以通過矩陣來表示。

如果兩個向量空間V和W之間的一個線性映射是一一映射，那麼這個線性映射稱為（線性）同構，表示兩個空間構造相同的意思。如果在V和W之間存在同構，那麼稱這兩個空間為同構的。如果向量空間V和W之間存在同構${\displaystyle f:\,V\rightarrow W}$，那麼其逆映射${\displaystyle g:\,W\rightarrow V}$也存在，並且對所有的${\displaystyle x\in V,\,y\in W}$，都有：

${\displaystyle g\circ f(x)=x,\,f\circ g(y)=y}$

參考文獻

• 《中國大百科全書》
• Howard Anton and Chris Rorres. Elementary Linear Algebra, Wiley, 9th edition, ISBN 0-471-66959-8.
• Kenneth Hoffmann and Ray Kunze. Linear Algebra, Prentice Hall, ISBN 0-13-536797-2.
• Seymour Lipschutz and Marc Lipson. Schaum's Outline of Linear Algebra, McGraw-Hill, 3rd edition, ISBN 0-07-136200-2.
• Gregory H. Moore. The axiomatization of linear algebra: 1875-1940, Historia Mathematica 22 (1995), no. 3, 262-303.
• Gilbert Strang. "Introduction to Linear Algebra, Third Edition", Wellesley-Cambridge Press, ISBN 0-9614088-9-8