内积空间

线性代数
${\displaystyle \mathbf {A} ={\begin{bmatrix}1&2\\3&4\end{bmatrix}}}$
向量 · 向量空间 · 基底  · 行列式  · 矩阵
向量 标量 · 向量 · 向量空间 · 向量投影 · 外积（向量积 · 七维向量积） · 内积（数量积） · 二重向量 矩阵与行列式 矩阵 · 行列式 · 线性方程组 · 秩 · 核 · 跡 · 單位矩陣 · 初等矩阵 · 方块矩阵 · 分块矩阵 · 三角矩阵 · 非奇异方阵 · 转置矩阵 · 逆矩阵 · 对角矩阵 · 可对角化矩阵 · 对称矩阵 · 反對稱矩陣 · 正交矩阵 · 幺正矩阵 · 埃尔米特矩阵 · 反埃尔米特矩阵 · 正规矩阵 · 伴随矩阵 · 余因子矩阵 · 共轭转置 · 正定矩阵 · 幂零矩阵 · 矩阵分解 （LU分解 · 奇异值分解 · QR分解 · 极分解 · 特征分解） · 子式和余子式 · 拉普拉斯展開 · 克罗内克积 线性空间与线性变换 线性空间 · 线性变换 · 线性子空间 · 线性生成空间 · 基 · 线性映射 · 线性投影 · 線性無關 · 线性组合 · 线性泛函 · 行空间与列空间 · 对偶空间 · 正交 · 特征向量 · 最小二乘法 · 格拉姆-施密特正交化
查 论 编

内积空间（英語：inner product space）是增添了某種運算的向量空间，這種運算叫做内积，它推廣了原來欧几里德空间的點積，而從比較一般的角度看待向量的“夹角”、“长度”還有正交性。

相關術語

内积空间有时也叫做准希尔伯特空间（pre-Hilbert space），因为由内积定义的距离完备化之后就会得到一个希尔伯特空间。

在早期的著作中，本條目所定義的内积空间被称作酉空间，但這些著作裡的“内积空间”反而指的是有限維Euclid空间或可數維的Lp空间。

正式定义

下文中 ${\displaystyle F}$ 有可能是实数系 ${\displaystyle \mathbb {R} }$ 或复数系 ${\displaystyle \mathbb {C} }$ 。

${\displaystyle V}$ 是一個定義在域 ${\displaystyle \left(F,\,+,\,\times \right)}$ 上的向量空间，其向量加法記為「 ${\displaystyle \oplus }$ 」 ，且其标量乘法記為「 ${\displaystyle \cdot }$ 」。若它裝配了一個二元函数 ${\displaystyle f:V\times V\to F}$ 滿足：（以下將 ${\displaystyle f(v,\,w)}$ 簡寫為 ${\displaystyle \langle v,\,w\rangle }$ ）

名稱	前提條件	內容
共轭对称	對所有 ${\displaystyle v,\,w\in V}$	${\displaystyle \langle v,\,w\rangle ={\overline {\langle w,\,v\rangle }}}$
线性	對所有 ${\displaystyle a,\,v,\,w\in V}$	${\displaystyle \langle v\oplus w,\,a\rangle =\langle v,\,a\rangle +\langle w,\,a\rangle }$
	對所有 ${\displaystyle v,\,w\in V}$ 和所有 ${\displaystyle \lambda \in F}$	${\displaystyle \langle \lambda \cdot v,\,w\rangle =\lambda \times \langle v,\,w\rangle }$
非负性	對所有 ${\displaystyle v\in V}$	${\displaystyle \langle v,\,v\rangle \geq 0}$
非退化		${\displaystyle (v=0_{V})\Leftrightarrow (\langle v,\,v\rangle =0)}$

這樣的話， ${\displaystyle f}$ 會被稱為定義在 ${\displaystyle V}$ 上的內積。更進一步的，若 ${\displaystyle F=\mathbb {C} }$ 則稱 ${\displaystyle V}$ 是個複內積空間，反之，若 ${\displaystyle F=\mathbb {R} }$ 則稱 ${\displaystyle V}$ 是個實內積空間。

如果 ${\displaystyle \langle v,\,w\rangle =0}$ ，也可記為 ${\displaystyle v\perp w}$ ，並稱「 ${\displaystyle v}$ 與 ${\displaystyle w}$ 是正交的（perpendicular）」。

定义的分歧

為了与量子力学中的狄拉克符号的順序相符，以上線性部分的定義常常被物理學家顛倒過來，也就是

线性	對所有 ${\displaystyle a,\,v,\,w\in V}$	${\displaystyle \langle a,\,v\oplus w\rangle =\langle a,\,v\rangle +\langle a,\,w\rangle }$
	對所有 ${\displaystyle v,\,w\in V}$ 和所有 ${\displaystyle \lambda \in F}$	${\displaystyle \langle v,\,\lambda \cdot w\rangle =\lambda \times \langle v,\,w\rangle }$

真正會造成影響的是第二條，因為可根據順序顛倒的第二條，從順序顛倒的第一條會推出原來的第一條，反之亦然（可參考基本性质一節第一個定理）。但這仍會造成許多定理的內積順序也要顛倒過來才會成立。

例子

实数的乘法

因為实数系 ${\displaystyle \mathbb {R} }$ 可以視是為定義在自己之上的向量空间，所以可以验证：${\displaystyle \langle x,y\rangle :=xy}$ 满足内积的各种性质。

点积

欧几里德空间 ${\displaystyle \mathbb {R} ^{n}}$的点积：

${\displaystyle \langle (x_{1},\ldots ,x_{n}),\,(y_{1},\ldots ,y_{n})\rangle :=\sum _{i=1}^{n}x_{i}y_{i}=x_{1}y_{1}+\cdots +x_{n}y_{n}}$

是定義在 ${\displaystyle \mathbb {R} ^{n}}$上的一個内积。

基本性质

定理 — 若 ${\displaystyle V}$ 是複內積空間，那對所有的 ${\displaystyle a,\,v,\,w\in V}$ 和所有的有 ${\displaystyle \lambda \in \mathbb {C} }$ 有：

(a) ${\displaystyle \langle a,\,v\oplus w\rangle =\langle a,\,v\rangle +\langle a,\,w\rangle }$

(b) ${\displaystyle \langle v,\,\lambda \cdot w\rangle ={\overline {\lambda }}\times \langle v,\,w\rangle }$

證明

(a) ${\displaystyle {\begin{aligned}\langle a,\,v\oplus w\rangle &={\overline {\langle v\oplus w,\,a\rangle }}\\&={\overline {\langle v,\,a\rangle +\langle w,\,a\rangle }}\\&={\overline {\langle v,\,a\rangle }}+{\overline {\langle w,\,a\rangle }}\\&=\langle a,\,v\rangle +\langle a,\,w\rangle \end{aligned}}}$ (b) ${\displaystyle {\begin{aligned}\langle v,\,\lambda \cdot w\rangle &={\overline {\langle \lambda \cdot w,\,v\rangle }}\\&={\overline {\lambda \times \langle w,\,v\rangle }}\\&={\overline {\lambda }}\times {\overline {\langle w,\,v\rangle }}\\&={\overline {\lambda }}\times \langle v,\,w\rangle \end{aligned}}}$ 故得証。${\displaystyle \Box }$

一般線性 — 若 ${\displaystyle V}$ 是個複內積空間，對任意有限向量序列 ${\displaystyle {\{v_{i}\in V\}}_{i=1}^{n}}$ 和任意 ${\displaystyle w\in V}$ 有：

(a) ${\displaystyle \left\langle \sum _{i=1}^{n}v_{i},\,w\right\rangle =\sum _{i=1}^{n}\langle v_{i},\,w\rangle }$

(b) ${\displaystyle \left\langle w,\,\sum _{i=1}^{n}v_{i}\right\rangle =\sum _{i=1}^{n}\langle w,\,v_{i}\rangle }$

證明

若 ${\displaystyle n=2}$ ，本定理只是內積定义的線性部分，故成立。 若 ${\displaystyle n=k}$ 時，對任意有限向量序列 ${\displaystyle {\{u_{i}\in V\}}_{i=1}^{k}}$ 和任意 ${\displaystyle w\in V}$ 有： ${\displaystyle \left\langle \sum _{i=1}^{k}u_{i},\,w\right\rangle =\sum _{i=1}^{k}\langle u_{i},\,w\rangle }$ 這樣的話，對任意有限向量序列 ${\displaystyle {\{v_{i}\in V\}}_{i=1}^{k+1}}$ 和任意 ${\displaystyle w\in V}$ 有： ${\displaystyle {\begin{aligned}\left\langle \sum _{i=1}^{k+1}v_{i},\,w\right\rangle &=\left\langle \left(\sum _{i=1}^{k}v_{i}\right)+v_{k+1},\,w\right\rangle \\&=\left\langle \sum _{i=1}^{k}v_{i},\,w\right\rangle +\langle v_{k+1},\,w\rangle \\&=\sum _{i=1}^{k}\langle v_{i},\,w\rangle +\langle v_{k+1},\,w\rangle \\&=\sum _{i=1}^{k+1}\langle v_{i},\,w\rangle \end{aligned}}}$ 所以根據数学归纳法，本定理(a)部分得証。這樣根據共轭的線性性質有： ${\displaystyle {\begin{aligned}\left\langle w,\,\sum _{i=1}^{n}v_{i}\right\rangle &={\overline {\left\langle \sum _{i=1}^{n}v_{i},\,w\right\rangle }}\\&={\overline {\sum _{i=1}^{n}\langle v_{i},\,w\rangle }}\\&=\sum _{i=1}^{n}{\overline {\langle v_{i},\,w\rangle }}\\&=\sum _{i=1}^{n}\langle w,\,v_{i}\rangle \end{aligned}}}$ 故本定理的(b)部分也得証。${\displaystyle \Box }$

范数

以下根據內積定义的非负性部分，定義 ${\displaystyle g:V\to [0,\,\infty )}$ 為 ${\displaystyle g(v)={\sqrt {\langle v,\,v\rangle }}}$ ，並把 ${\displaystyle g(v)}$ 表記為 ${\displaystyle \|v\|}$ 。下面也將證明${\displaystyle \|v\|}$的確是${\displaystyle V}$上的范数。

柯西-施瓦茨不等式

柯西-施瓦茨不等式 — 
${\displaystyle V}$ 是個複內積空間，則對所有的 ${\displaystyle v,\,w\in V}$ 有：

(a) ${\displaystyle \|v\|\|w\|\geq |\langle v,\,w\rangle |}$

(b) ${\displaystyle \|v\|\|w\|=|\langle v,\,w\rangle |}$ ${\displaystyle \Leftrightarrow }$ 存在 ${\displaystyle \lambda \in \mathbb {C} }$ 使 ${\displaystyle v=\lambda \cdot w}$

證明

若 ${\displaystyle v=w=0_{V}}$ ，根據內積定义的非退化部分，本定理成立。若考慮 ${\displaystyle v,\,w\neq 0_{V}}$ ，取 ${\displaystyle e_{v}={\frac {1}{\|v\|}}\cdot v}$ 、${\displaystyle e_{w}={\frac {1}{\|w\|}}\cdot w}$ 與 ${\displaystyle \alpha =\langle e_{v},\,e_{w}\rangle }$ ，則根據內積定义有 ${\displaystyle {\begin{aligned}\langle e_{v}\oplus (-\alpha )\cdot e_{w},\,e_{v}\oplus (-\alpha )\cdot e_{w}\rangle &=\langle e_{v},\,e_{v}\rangle +\langle e_{v},\,(-\alpha )\cdot e_{w}\rangle +\langle (-\alpha )\cdot e_{w},\,e_{v}\rangle +\langle (-\alpha )\cdot e_{w},\,(-\alpha )\cdot e_{w}\rangle \\&=1-{\overline {\alpha }}\alpha -\alpha {\overline {\alpha }}+\alpha {\overline {\alpha }}\\&=1-{|\alpha |}^{2}\\&=1-{\left({\frac {|\langle v,\,w\rangle |}{\|v\|\|w\|}}\right)}^{2}\\&\geq 0\end{aligned}}}$ 這樣定理的(a)部分就成立。考慮到 ${\displaystyle |\langle v,\,w\rangle |=\|v\|\|w\|}$ 等價於上式內積要為零，那再根據內積定义的非退化部分，又等價於 ${\displaystyle e_{v}\oplus (-\alpha )\cdot e_{w}=0_{V}}$ 那這樣根據向量空间的基本運算性质，又等價於 ${\displaystyle v={\frac {\langle v,\,r\rangle }{{\|w\|}^{2}}}\cdot w}$ 所以(b)部分也成立，故得証。${\displaystyle \Box }$

三角不等式

三角不等式 — 
${\displaystyle V}$ 是個複內積空間，則對所有的${\displaystyle v,\,w\in V}$ 有：

${\displaystyle \|v\|+\|w\|\geq \|v\oplus w\|}$

證明

根據內積定义有 ${\displaystyle {\begin{aligned}{\|v\oplus w\|}^{2}&=\langle v\oplus w,\,v\oplus w\rangle \\&={\|v\|}^{2}+\langle v,\,w\rangle +\langle w,\,w\rangle +{\|w\|}^{2}\\&={\|v\|}^{2}+{\|w\|}^{2}+2\operatorname {Re} (\langle v,\,w\rangle )\\&\leq {\|v\|}^{2}+{\|w\|}^{2}+2|\langle v,\,w\rangle |\end{aligned}}}$ 這樣根據上面的柯西-施瓦茨不等式有 ${\displaystyle {\begin{aligned}{\|v\oplus w\|}^{2}&\leq {\|v\|}^{2}+{\|w\|}^{2}+2|\langle v,\,w\rangle |\\&\leq {\|v\|}^{2}+{\|w\|}^{2}+2\|v\|\|w\|\\&={(\|v\|+\|w\|)}^{2}\end{aligned}}}$ 故本定理成立。${\displaystyle \Box }$

根據上面的三角不等式， ${\displaystyle g}$ 的確是個定義在 ${\displaystyle V}$ 上的范数。所以內積空間也是一個賦範向量空間。這樣直觀上 ${\displaystyle \|v\|}$ 就是向量 ${\displaystyle v}$ 的長度。這樣內積定义的非退化部分，就可以直觀理解為「任意向量 ${\displaystyle v\in V}$ 為零向量，当且仅当其長度為零」。另外根據柯西-施瓦茨不等式，若 ${\displaystyle \langle v,\,w\rangle \in \mathbb {R} }$ ，可以把 ${\displaystyle \langle v,\,w\rangle }$ 跟點積做類比，也就是依據反三角函数的性質，對「 ${\displaystyle v}$ 和 ${\displaystyle w}$ 間的夾角」做如下的定義：

${\displaystyle \angle (v,\,w):=\cos ^{-1}\left({\frac {\langle v,\,w\rangle }{\|v\|\|w\|}}\right)}$

這樣柯西-施瓦茨不等式可以直觀理解成上述的定義與「${\displaystyle cos{[\angle (v,\,w)]}=\pm 1}$ 等價於 ${\displaystyle v}$ 和 ${\displaystyle w}$ 相互平行」。

度量

根據三角不等式，以下的函数：

${\displaystyle d:V\times V\to \mathbb {R} ^{+};\;d(v,w)=\|v\ominus w\|}$

的確是 ${\displaystyle V}$ 上的度量。這樣因為度量空间有自然的拓撲結構，所以內積空間 ${\displaystyle V}$ 也就有這種自然的拓撲結構；通常會把這個自然的拓撲記為 ${\displaystyle \tau _{V}}$。

勾股定理

勾股定理 — 
${\displaystyle V}$ 是個複內積空間，若有限向量序列 ${\displaystyle {\{v_{i}\in V\}}_{i=1}^{n}}$ 對任意不相等的正整數 ${\displaystyle 1\leq i\neq j\leq n}$ 都有 ${\displaystyle \langle v_{i},\,v_{j}\rangle =0}$ 則：

${\displaystyle \sum _{i=1}^{n}\|v_{i}\|^{2}=\left\|\sum _{i=1}^{n}v_{i}\right\|^{2}}$

證明
根據內積定义和上面的一般線性性質有 ${\displaystyle {\begin{aligned}\left\|\sum _{i=1}^{n}v_{i}\right\|^{2}&=\left\langle \sum _{i=1}^{n}v_{i},\,\sum _{i=1}^{n}v_{i}\ \right\rangle \\&=\sum _{j=1}^{n}\left\langle v_{j},\,\sum _{i=1}^{n}v_{i}\ \right\rangle \\&=\sum _{j=1}^{n}\sum _{i=1}^{n}\langle v_{j},\,v_{i}\rangle \\&=\sum _{j=1}^{n}{\|v_{j}\|}^{2}\end{aligned}}}$ 故得証。${\displaystyle \Box }$

平行四边形恒等式 — 
${\displaystyle V}$ 是個複內積空間，則對所有的 ${\displaystyle v,\,w\in V}$ 有：

(a) ${\displaystyle \|v\oplus w\|^{2}+\|v\ominus w\|^{2}=2\|v\|^{2}+2\|w\|^{2}}$

證明

根據內積定义和向量空间的基本運算性质有 ${\displaystyle {\begin{aligned}{\|v\oplus w\|}^{2}&=\langle v\oplus w,\,v\oplus w\rangle \\&={\|v\|}^{2}+\langle v,\,w\rangle +\langle w,\,w\rangle +{\|w\|}^{2}\\\end{aligned}}}$ ${\displaystyle {\begin{aligned}{\|v\ominus w\|}^{2}&=\langle v\oplus (w^{-1}),\,v\oplus (w^{-1})\rangle \\&={\|v\|}^{2}+\langle v,\,(-1)\cdot w\rangle +\langle (-1)\cdot w,\,v\rangle +\langle (-1)\cdot w,\,(-1)\cdot w\rangle \\&={\|v\|}^{2}-\langle v,\,w\rangle -\langle w,\,v\rangle +{\|w\|}^{2}\end{aligned}}}$ 故得証。${\displaystyle \Box }$

完备化

如果 ${\displaystyle V}$ 是個複內積空間，可以定義一個函数 ${\displaystyle d:V\times V\to \mathbb {R} }$ 且 ${\displaystyle d(v,\,w)=\|v\ominus w\|}$，根據上面的三角不等式和內積定义，${\displaystyle (V,\,d)}$ 的確是個度量空间。

在希尔伯特空间的文章中有一些内积空间的例子，其中引出自内积的度量诱导一个完备的度量空间。然而也存在诱导不完备度量空间的内积，比如在区间${\displaystyle [a,b]}$上连续复数值函数的空间${\displaystyle {\mathcal {C}}[a,b]}$上。内积是

${\displaystyle \langle f,g\rangle :=\int _{a}^{b}f(t){\overline {g(t)}}\,dt}$

这个空间是不完备的；比如考虑对于区间${\displaystyle [0,1]}$，考虑函数序列${\displaystyle \{f_{k}\}_{k\in \mathbb {N} }}$，其中

${\displaystyle \forall k\geqslant 2,\;\;\;f_{k}(t)={\begin{cases}0,&\forall t\in [0,{\frac {1}{2}}]\\k(t-{\frac {1}{2}}),&\forall t\in ({\frac {1}{2}},{\frac {1}{2}}+{\frac {1}{k}}]\\1,&\forall t\in ({\frac {1}{2}}+{\frac {1}{k}},1]\end{cases}}}$

每个${\displaystyle f_{k}}$都是连续函数，但${\displaystyle \{f_{k}\}_{k\in \mathbb {N} }}$在上面的内积诱导的拓扑中是不收敛于任何一个连续函数的柯西序列，因为它的极限不是连续的函数。

在内积空间上的算子

希尔伯特算子，协方差算子

退化内积

引用

• S. Axler, Linear Algebra Done Right, Springer, 2004
• G. Emch, Algebraic Methods in Statistical Mechanics and Quantum Field Theory, Wiley Interscience, 1972.
• N. Young, An Introduction to Hilbert Spaces, Cambridge University Press, 1988