内积空间

内积空间（英语：Inner product space）是增添了某种运算的向量空间，这种运算叫做内积，它推广了原来欧几里德空间的点积，而从比较一般的角度看待向量的“夹角”、“长度”还有正交性。

线性代数
${\displaystyle \mathbf {A} ={\begin{bmatrix}1&2\\3&4\end{bmatrix}}}$
向量 · 向量空间 · 基底  · 行列式  · 矩阵
向量 标量 · 向量 · 向量空间 · 向量投影 · 外积（向量积 · 七维向量积） · 内积（数量积） · 二重向量 矩阵与行列式 矩阵 · 行列式 · 线性方程组 · 秩 · 核 · 迹 · 单位矩阵 · 初等矩阵 · 方块矩阵 · 分块矩阵 · 三角矩阵 · 非奇异方阵 · 转置矩阵 · 逆矩阵 · 对角矩阵 · 可对角化矩阵 · 对称矩阵 · 反对称矩阵 · 正交矩阵 · 幺正矩阵 · 埃尔米特矩阵 · 反埃尔米特矩阵 · 正规矩阵 · 伴随矩阵 · 余因子矩阵 · 共轭转置 · 正定矩阵 · 幂零矩阵 · 矩阵分解 （LU分解 · 奇异值分解 · QR分解 · 极分解 · 特征分解） · 子式和余子式 · 拉普拉斯展开 · 克罗内克积 线性空间与线性变换 线性空间 · 线性变换 · 线性子空间 · 线性生成空间 · 基 · 线性映射 · 线性投影 · 线性无关 · 线性组合 · 线性泛函 · 行空间与列空间 · 对偶空间 · 正交 · 特征向量 · 最小二乘法 · 格拉姆-施密特正交化
查 论 编

相关术语

内积空间有时也叫做准希尔伯特空间（pre-Hilbert space），因为由内积定义的距离完备化之后就会得到一个希尔伯特空间。

在早期的著作中，本条目所定义的内积空间被称作酉空间，但这些著作里的“内积空间”反而指的是有限维Euclid空间或可数维的Lp空间。

正式定义

下文中 ${\displaystyle F}$ 有可能是实数系 ${\displaystyle \mathbb {R} }$ 或复数系 ${\displaystyle \mathbb {C} }$ 。

${\displaystyle V}$ 是一个定义在域 ${\displaystyle \left(F,\,+,\,\times \right)}$ 上的向量空间，其向量加法记为“ ${\displaystyle \oplus }$ ” ，且其标量乘法记为“ ${\displaystyle \cdot }$ ”。若它装配了一个二元函数 ${\displaystyle f:V\times V\to F}$ 满足：（以下将 ${\displaystyle f(v,\,w)}$ 简写为 ${\displaystyle \langle v,\,w\rangle }$ ）

名称	前提条件	内容
共轭对称	对所有 ${\displaystyle v,\,w\in V}$	${\displaystyle \langle v,\,w\rangle ={\overline {\langle w,\,v\rangle }}}$
线性	对所有 ${\displaystyle a,\,v,\,w\in V}$	${\displaystyle \langle v\oplus w,\,a\rangle =\langle v,\,a\rangle +\langle w,\,a\rangle }$
	对所有 ${\displaystyle v,\,w\in V}$ 和所有 ${\displaystyle \lambda \in F}$	${\displaystyle \langle \lambda \cdot v,\,w\rangle =\lambda \times \langle v,\,w\rangle }$
非负性	对所有 ${\displaystyle v\in V}$	${\displaystyle \langle v,\,v\rangle \geq 0}$
非退化		${\displaystyle (v=0_{V})\Leftrightarrow (\langle v,\,v\rangle =0)}$

这样的话， ${\displaystyle f}$ 会被称为定义在 ${\displaystyle V}$ 上的内积。更进一步的，若 ${\displaystyle F=\mathbb {C} }$ 则称 ${\displaystyle V}$ 是个复内积空间，反之，若 ${\displaystyle F=\mathbb {R} }$ 则称 ${\displaystyle V}$ 是个实内积空间。

如果 ${\displaystyle \langle v,\,w\rangle =0}$ ，也可记为 ${\displaystyle v\perp w}$ ，并称“ ${\displaystyle v}$ 与 ${\displaystyle w}$ 是正交的（perpendicular）”。

定义的分歧

为了与量子力学中的狄拉克符号的顺序相符，以上线性部分的定义常常被物理学家颠倒过来，也就是

线性	对所有 ${\displaystyle a,\,v,\,w\in V}$	${\displaystyle \langle a,\,v\oplus w\rangle =\langle a,\,v\rangle +\langle a,\,w\rangle }$
	对所有 ${\displaystyle v,\,w\in V}$ 和所有 ${\displaystyle \lambda \in F}$	${\displaystyle \langle v,\,\lambda \cdot w\rangle =\lambda \times \langle v,\,w\rangle }$

真正会造成影响的是第二条，因为可根据顺序颠倒的第二条，从顺序颠倒的第一条会推出原来的第一条，反之亦然（可参考基本性质一节第一个定理）。但这仍会造成许多定理的内积顺序也要颠倒过来才会成立。

例子

实数的乘法

因为实数系 ${\displaystyle \mathbb {R} }$ 可以视是为定义在自己之上的向量空间，所以可以验证：${\displaystyle \langle x,y\rangle :=xy}$ 满足内积的各种性质。

点积

欧几里德空间 ${\displaystyle \mathbb {R} ^{n}}$的点积：

${\displaystyle \langle (x_{1},\ldots ,x_{n}),\,(y_{1},\ldots ,y_{n})\rangle :=\sum _{i=1}^{n}x_{i}y_{i}=x_{1}y_{1}+\cdots +x_{n}y_{n}}$

是定义在 ${\displaystyle \mathbb {R} ^{n}}$上的一个内积。

基本性质

定理 — 若 ${\displaystyle V}$ 是复内积空间，那对所有的 ${\displaystyle a,\,v,\,w\in V}$ 和所有的有 ${\displaystyle \lambda \in \mathbb {C} }$ 有：

(a) ${\displaystyle \langle a,\,v\oplus w\rangle =\langle a,\,v\rangle +\langle a,\,w\rangle }$

(b) ${\displaystyle \langle v,\,\lambda \cdot w\rangle ={\overline {\lambda }}\times \langle v,\,w\rangle }$

证明

(a) ${\displaystyle {\begin{aligned}\langle a,\,v\oplus w\rangle &={\overline {\langle v\oplus w,\,a\rangle }}\\&={\overline {\langle v,\,a\rangle +\langle w,\,a\rangle }}\\&={\overline {\langle v,\,a\rangle }}+{\overline {\langle w,\,a\rangle }}\\&=\langle a,\,v\rangle +\langle a,\,w\rangle \end{aligned}}}$ (b) ${\displaystyle {\begin{aligned}\langle v,\,\lambda \cdot w\rangle &={\overline {\langle \lambda \cdot w,\,v\rangle }}\\&={\overline {\lambda \times \langle w,\,v\rangle }}\\&={\overline {\lambda }}\times {\overline {\langle w,\,v\rangle }}\\&={\overline {\lambda }}\times \langle v,\,w\rangle \end{aligned}}}$ 故得证。${\displaystyle \Box }$

一般线性 — 若 ${\displaystyle V}$ 是个复内积空间，对任意有限向量序列 ${\displaystyle {\{v_{i}\in V\}}_{i=1}^{n}}$ 和任意 ${\displaystyle w\in V}$ 有：

(a) ${\displaystyle \left\langle \sum _{i=1}^{n}v_{i},\,w\right\rangle =\sum _{i=1}^{n}\langle v_{i},\,w\rangle }$

(b) ${\displaystyle \left\langle w,\,\sum _{i=1}^{n}v_{i}\right\rangle =\sum _{i=1}^{n}\langle w,\,v_{i}\rangle }$

证明

若 ${\displaystyle n=2}$ ，本定理只是内积定义的线性部分，故成立。 若 ${\displaystyle n=k}$ 时，对任意有限向量序列 ${\displaystyle {\{u_{i}\in V\}}_{i=1}^{k}}$ 和任意 ${\displaystyle w\in V}$ 有： ${\displaystyle \left\langle \sum _{i=1}^{k}u_{i},\,w\right\rangle =\sum _{i=1}^{k}\langle u_{i},\,w\rangle }$ 这样的话，对任意有限向量序列 ${\displaystyle {\{v_{i}\in V\}}_{i=1}^{k+1}}$ 和任意 ${\displaystyle w\in V}$ 有： ${\displaystyle {\begin{aligned}\left\langle \sum _{i=1}^{k+1}v_{i},\,w\right\rangle &=\left\langle \left(\sum _{i=1}^{k}v_{i}\right)+v_{k+1},\,w\right\rangle \\&=\left\langle \sum _{i=1}^{k}v_{i},\,w\right\rangle +\langle v_{k+1},\,w\rangle \\&=\sum _{i=1}^{k}\langle v_{i},\,w\rangle +\langle v_{k+1},\,w\rangle \\&=\sum _{i=1}^{k+1}\langle v_{i},\,w\rangle \end{aligned}}}$ 所以根据数学归纳法，本定理(a)部分得证。这样根据共轭的线性性质有： ${\displaystyle {\begin{aligned}\left\langle w,\,\sum _{i=1}^{n}v_{i}\right\rangle &={\overline {\left\langle \sum _{i=1}^{n}v_{i},\,w\right\rangle }}\\&={\overline {\sum _{i=1}^{n}\langle v_{i},\,w\rangle }}\\&=\sum _{i=1}^{n}{\overline {\langle v_{i},\,w\rangle }}\\&=\sum _{i=1}^{n}\langle w,\,v_{i}\rangle \end{aligned}}}$ 故本定理的(b)部分也得证。${\displaystyle \Box }$

范数

以下根据内积定义的非负性部分，定义 ${\displaystyle g:V\to [0,\,\infty )}$ 为 ${\displaystyle g(v)={\sqrt {\langle v,\,v\rangle }}}$ ，并把 ${\displaystyle g(v)}$ 表记为 ${\displaystyle \|v\|}$ 。下面也将证明${\displaystyle \|v\|}$的确是${\displaystyle V}$上的范数。

柯西-施瓦茨不等式

柯西-施瓦茨不等式 — 
${\displaystyle V}$ 是个复内积空间，则对所有的 ${\displaystyle v,\,w\in V}$ 有：

(a) ${\displaystyle \|v\|\|w\|\geq |\langle v,\,w\rangle |}$

(b) ${\displaystyle \|v\|\|w\|=|\langle v,\,w\rangle |}$ ${\displaystyle \Leftrightarrow }$ 存在 ${\displaystyle \lambda \in \mathbb {C} }$ 使 ${\displaystyle v=\lambda \cdot w}$

证明

若 ${\displaystyle v=w=0_{V}}$ ，根据内积定义的非退化部分，本定理成立。若考虑 ${\displaystyle v,\,w\neq 0_{V}}$ ，取 ${\displaystyle e_{v}={\frac {1}{\|v\|}}\cdot v}$ 、${\displaystyle e_{w}={\frac {1}{\|w\|}}\cdot w}$ 与 ${\displaystyle \alpha =\langle e_{v},\,e_{w}\rangle }$ ，则根据内积定义有 ${\displaystyle {\begin{aligned}\langle e_{v}\oplus (-\alpha )\cdot e_{w},\,e_{v}\oplus (-\alpha )\cdot e_{w}\rangle &=\langle e_{v},\,e_{v}\rangle +\langle e_{v},\,(-\alpha )\cdot e_{w}\rangle +\langle (-\alpha )\cdot e_{w},\,e_{v}\rangle +\langle (-\alpha )\cdot e_{w},\,(-\alpha )\cdot e_{w}\rangle \\&=1-{\overline {\alpha }}\alpha -\alpha {\overline {\alpha }}+\alpha {\overline {\alpha }}\\&=1-{|\alpha |}^{2}\\&=1-{\left({\frac {|\langle v,\,w\rangle |}{\|v\|\|w\|}}\right)}^{2}\\&\geq 0\end{aligned}}}$ 这样定理的(a)部分就成立。考虑到 ${\displaystyle |\langle v,\,w\rangle |=\|v\|\|w\|}$ 等价于上式内积要为零，那再根据内积定义的非退化部分，又等价于 ${\displaystyle e_{v}\oplus (-\alpha )\cdot e_{w}=0_{V}}$ 那这样根据向量空间的基本运算性质，又等价于 ${\displaystyle v={\frac {\langle v,\,r\rangle }{{\|w\|}^{2}}}\cdot w}$ 所以(b)部分也成立，故得证。${\displaystyle \Box }$

三角不等式

三角不等式 — 
${\displaystyle V}$ 是个复内积空间，则对所有的${\displaystyle v,\,w\in V}$ 有：

${\displaystyle \|v\|+\|w\|\geq \|v\oplus w\|}$

证明

根据内积定义有 ${\displaystyle {\begin{aligned}{\|v\oplus w\|}^{2}&=\langle v\oplus w,\,v\oplus w\rangle \\&={\|v\|}^{2}+\langle v,\,w\rangle +\langle w,\,w\rangle +{\|w\|}^{2}\\&={\|v\|}^{2}+{\|w\|}^{2}+2\operatorname {Re} (\langle v,\,w\rangle )\\&\leq {\|v\|}^{2}+{\|w\|}^{2}+2|\langle v,\,w\rangle |\end{aligned}}}$ 这样根据上面的柯西-施瓦茨不等式有 ${\displaystyle {\begin{aligned}{\|v\oplus w\|}^{2}&\leq {\|v\|}^{2}+{\|w\|}^{2}+2|\langle v,\,w\rangle |\\&\leq {\|v\|}^{2}+{\|w\|}^{2}+2\|v\|\|w\|\\&={(\|v\|+\|w\|)}^{2}\end{aligned}}}$ 故本定理成立。${\displaystyle \Box }$

根据上面的三角不等式， ${\displaystyle g}$ 的确是个定义在 ${\displaystyle V}$ 上的范数。所以内积空间也是一个赋范向量空间。这样直观上 ${\displaystyle \|v\|}$ 就是向量 ${\displaystyle v}$ 的长度。这样内积定义的非退化部分，就可以直观理解为“任意向量 ${\displaystyle v\in V}$ 为零向量，当且仅当其长度为零”。另外根据柯西-施瓦茨不等式，若 ${\displaystyle \langle v,\,w\rangle \in \mathbb {R} }$ ，可以把 ${\displaystyle \langle v,\,w\rangle }$ 跟点积做类比，也就是依据反三角函数的性质，对“ ${\displaystyle v}$ 和 ${\displaystyle w}$ 间的夹角”做如下的定义：

${\displaystyle \angle (v,\,w):=\cos ^{-1}\left({\frac {\langle v,\,w\rangle }{\|v\|\|w\|}}\right)}$

这样柯西-施瓦茨不等式可以直观理解成上述的定义与“${\displaystyle cos{[\angle (v,\,w)]}=\pm 1}$ 等价于 ${\displaystyle v}$ 和 ${\displaystyle w}$ 相互平行”。

度量

根据三角不等式，以下的函数：

${\displaystyle d:V\times V\to \mathbb {R} ^{+};\;d(v,w)=\|v\ominus w\|}$

的确是 ${\displaystyle V}$ 上的度量。这样因为度量空间有自然的拓扑结构，所以内积空间 ${\displaystyle V}$ 也就有这种自然的拓扑结构；通常会把这个自然的拓扑记为 ${\displaystyle \tau _{V}}$。

毕氏定理

毕氏定理 — 
${\displaystyle V}$ 是个复内积空间，若有限向量序列 ${\displaystyle {\{v_{i}\in V\}}_{i=1}^{n}}$ 对任意不相等的正整数 ${\displaystyle 1\leq i\neq j\leq n}$ 都有 ${\displaystyle \langle v_{i},\,v_{j}\rangle =0}$ 则：

${\displaystyle \sum _{i=1}^{n}\|v_{i}\|^{2}=\left\|\sum _{i=1}^{n}v_{i}\right\|^{2}}$

证明
根据内积定义和上面的一般线性性质有 ${\displaystyle {\begin{aligned}\left\|\sum _{i=1}^{n}v_{i}\right\|^{2}&=\left\langle \sum _{i=1}^{n}v_{i},\,\sum _{i=1}^{n}v_{i}\ \right\rangle \\&=\sum _{j=1}^{n}\left\langle v_{j},\,\sum _{i=1}^{n}v_{i}\ \right\rangle \\&=\sum _{j=1}^{n}\sum _{i=1}^{n}\langle v_{j},\,v_{i}\rangle \\&=\sum _{j=1}^{n}{\|v_{j}\|}^{2}\end{aligned}}}$ 故得证。${\displaystyle \Box }$

平行四边形恒等式 — 
${\displaystyle V}$ 是个复内积空间，则对所有的 ${\displaystyle v,\,w\in V}$ 有：

(a) ${\displaystyle \|v\oplus w\|^{2}+\|v\ominus w\|^{2}=2\|v\|^{2}+2\|w\|^{2}}$

证明

根据内积定义和向量空间的基本运算性质有 ${\displaystyle {\begin{aligned}{\|v\oplus w\|}^{2}&=\langle v\oplus w,\,v\oplus w\rangle \\&={\|v\|}^{2}+\langle v,\,w\rangle +\langle w,\,w\rangle +{\|w\|}^{2}\\\end{aligned}}}$ ${\displaystyle {\begin{aligned}{\|v\ominus w\|}^{2}&=\langle v\oplus (w^{-1}),\,v\oplus (w^{-1})\rangle \\&={\|v\|}^{2}+\langle v,\,(-1)\cdot w\rangle +\langle (-1)\cdot w,\,v\rangle +\langle (-1)\cdot w,\,(-1)\cdot w\rangle \\&={\|v\|}^{2}-\langle v,\,w\rangle -\langle w,\,v\rangle +{\|w\|}^{2}\end{aligned}}}$ 故得证。${\displaystyle \Box }$

完备化

如果 ${\displaystyle V}$ 是个复内积空间，可以定义一个函数 ${\displaystyle d:V\times V\to \mathbb {R} }$ 且 ${\displaystyle d(v,\,w)=\|v\ominus w\|}$，根据上面的三角不等式和内积定义，${\displaystyle (V,\,d)}$ 的确是个度量空间。

在希尔伯特空间的文章中有一些内积空间的例子，其中引出自内积的度量诱导一个完备的度量空间。然而也存在诱导不完备度量空间的内积，比如在区间${\displaystyle [a,b]}$上连续复数值函数的空间${\displaystyle {\mathcal {C}}[a,b]}$上。内积是

${\displaystyle \langle f,g\rangle :=\int _{a}^{b}f(t){\overline {g(t)}}\,dt}$

这个空间是不完备的；比如考虑对于区间${\displaystyle [0,1]}$，考虑函数序列${\displaystyle \{f_{k}\}_{k\in \mathbb {N} }}$，其中

${\displaystyle \forall k\geqslant 2,\;\;\;f_{k}(t)={\begin{cases}0,&\forall t\in [0,{\frac {1}{2}}]\\k(t-{\frac {1}{2}}),&\forall t\in ({\frac {1}{2}},{\frac {1}{2}}+{\frac {1}{k}}]\\1,&\forall t\in ({\frac {1}{2}}+{\frac {1}{k}},1]\end{cases}}}$

每个${\displaystyle f_{k}}$都是连续函数，但${\displaystyle \{f_{k}\}_{k\in \mathbb {N} }}$在上面的内积诱导的拓扑中是不收敛于任何一个连续函数的柯西序列，因为它的极限不是连续的函数。

在内积空间上的算子

希尔伯特算子，协方差算子

退化内积

引用

• S. Axler, Linear Algebra Done Right, Springer, 2004
• G. Emch, Algebraic Methods in Statistical Mechanics and Quantum Field Theory, Wiley Interscience, 1972.
• N. Young, An Introduction to Hilbert Spaces, Cambridge University Press, 1988