ベイジアン研究所

技術(人工知能、数学等)と心理の話をしています。

【線形代数入門】計量ベクトル空間

1. 記事の目的
下記の記事でベクトル空間について述べた。本記事ではベクトル空間に「計量」を導入すると、基底やそのベクトル空間がどのように述べられるかを見る。
本記事では、K=\mathbb{R}または\mathbb{C}を表すものとする。

camelsan.hatenablog.com

2. 計量ベクトル空間の定義
定義
K上のベクトル空間Vがさらに次を満たすとき、Vを計量ベクトル空間という。
Vの2元\boldsymbol{x}, \boldsymbol{y}に対し、内積と呼ばれるKの元((\boldsymbol{x}, \boldsymbol{y})と表す)が定まり、次の性質をもつ(下記で\bar{c}複素数c複素共役を表すものとする)。
(1)


\begin{split}
(\boldsymbol{x}, \boldsymbol{y}_1+\boldsymbol{y}_2)&=(\boldsymbol{x}, \boldsymbol{y}_1)+(\boldsymbol{x}, \boldsymbol{y}_2) \\
(\boldsymbol{x}_1+\boldsymbol{x}_2, \boldsymbol{y})&=(\boldsymbol{x}_1, \boldsymbol{y})+(\boldsymbol{x}_2, \boldsymbol{y})
\end{split}

(2)

(c\boldsymbol{x}, \boldsymbol{y})=c(\boldsymbol{x}, \boldsymbol{y}), \ \ (\boldsymbol{x}, c\boldsymbol{y})=\bar{c}(\boldsymbol{x}, \boldsymbol{y})

(3)

(\boldsymbol{x}, \boldsymbol{y})=\overline{(\boldsymbol{y}, \boldsymbol{x})}

(4) (\boldsymbol{x}, \boldsymbol{x})0または正の実数であり、(\boldsymbol{x}, \boldsymbol{x})=0となるのは\boldsymbol{x}=0のときに限る。

K=\mathbb{R}のとき、(2)、(3)のバールは不要で、\mathbb{R}上の計量ベクトル空間のことをユークリッド空間といい、K=\mathbb{C}のとき\mathbb{C}上の計量ベクトル空間のことをユニタリ空間とも言う。

(\boldsymbol{x}, \boldsymbol{x})の負でない平方根\sqrt{(\boldsymbol{x}, \boldsymbol{x})}を、\boldsymbol{x}の長さまたはノルムと言い、\|\boldsymbol{x}\|で表す。(\boldsymbol{x}, \boldsymbol{y})=0のとき、\boldsymbol{x}\boldsymbol{y}は直交するという。

直交性と線型独立性は次の関係がある。
定理2.1
\boldsymbol{0}でないベクトル\boldsymbol{x}_1,\boldsymbol{x}_2,\dots,\boldsymbol{x}_kが互いに直交するならば、それらは線型独立である。
証明: 線形関係

c_1\boldsymbol{x}_1+c_2\boldsymbol{x}_2+\dots+c_k\boldsymbol{x}_k=\boldsymbol{0}\tag{1}

があったとすると、式(1)の両辺で、\boldsymbol{x}_i \ \ (i=1,\dots,k)内積をとると


\begin{split}
\boldsymbol{0}=(\boldsymbol{0},\boldsymbol{x}_i)&=(c_1\boldsymbol{x}_1+c_2\boldsymbol{x}_2+\dots+c_k\boldsymbol{x}_k, \boldsymbol{x}_i) \\
&=c_1(\boldsymbol{x}_1,\boldsymbol{x}_i)+\dots+c_i(\boldsymbol{x}_i,\boldsymbol{x}_i)+\dots+c_k(\boldsymbol{x}_k,\boldsymbol{x}_i) \\
&=c_i
\end{split}

よって、c_1=c_2=\dots=c_k=0より式(1)は自明な線形関係なので、\boldsymbol{x}_1,\boldsymbol{x}_2,\dots,\boldsymbol{x}_kは線型独立である。

2.2
\mathbb{R}^nは次の計量によってユークリッド空間となる。


\boldsymbol{x}=\begin{pmatrix} x_1 \\ \vdots \\ x_n\end{pmatrix}, \ \
\boldsymbol{y}=\begin{pmatrix} y_1 \\ \vdots \\ y_n\end{pmatrix} \in \mathbb{R}^n

とすると


(\boldsymbol{x},\boldsymbol{y})=x_1 y_1+x_2 y_2+\dots+x_n y_n

\mathbb{C}^nは次の計量によってユニタリ空間となる。


\boldsymbol{x}=\begin{pmatrix} x_1 \\ \vdots \\ x_n\end{pmatrix}, \ \
\boldsymbol{y}=\begin{pmatrix} y_1 \\ \vdots \\ y_n\end{pmatrix} \in \mathbb{C}^n

とすると


(\boldsymbol{x},\boldsymbol{y})=x_1 \overline{y_1}+x_2\overline{ y_2}+\dots+x_n \overline{y_n}

3. 正規直交基底
定義
計量ベクトル空間Vのベクトル空間\boldsymbol{e}_1,\boldsymbol{e}_2,\dots,\boldsymbol{e}_kが互いに直交し、かつ、どのベクトルの長さも1に等しいとき、それらは正規直交系であるという。さらに、正規直交系がVの基底であるとき、正規直交基底という。

3.1
\mathbb{R}^nにおいて、


\boldsymbol{e}_1\begin{pmatrix} 1 \\ 0 \end{pmatrix}, \ \ \boldsymbol{e}_2\begin{pmatrix} 0 \\ 1 \end{pmatrix}

は正規直交基底である。実際、例2.2(n=2)の計量で、


\begin{split}
\|\boldsymbol{e}_1\|&=\sqrt{(\boldsymbol{e}_1,\boldsymbol{e}_1)}=\sqrt{1\cdot 1+0\cdot 0}=1 \\
\|\boldsymbol{e}_2\|&=\sqrt{(\boldsymbol{e}_2,\boldsymbol{e}_2)}=\sqrt{0\cdot 0+1\cdot 1}=1 \\
(\boldsymbol{e}_1,\boldsymbol{e}_2)&=1\cdot 0+0\cdot 1
\end{split}

である。

正規直交基底は、計量ベクトル空間には必ず存在する。その証明はシュミットの直交化法と呼ばれる次の方法によって証明される。

定理3.2
任意の計量ベクトル空間V\neq\{\boldsymbol{0}\}は正規直交基底をもつ。さらに詳しく、\boldsymbol{e}_1,\boldsymbol{e}_2,\dots,\boldsymbol{e}_rが正規直交系であるとき、これに何個かのベクトルを付け加えて、Vの正規直交基底を得ることができる。
証明V\neq\{\boldsymbol{0}\}より、\boldsymbol{v}\neq\boldsymbol{0}であるベクトルが存在する。このとき

\boldsymbol{e}_1=\frac{1}{\|\boldsymbol{v}\|}\boldsymbol{v}

とおくことで、少なくとも一つ正規直交基系\{\boldsymbol{e}_1\}が存在する。

\boldsymbol{e}_1,\boldsymbol{e}_2,\dots,\boldsymbol{e}_rが正規直交系であるとき、\boldsymbol{a}\boldsymbol{e}_1,\boldsymbol{e}_2,\dots,\boldsymbol{e}_rの線型結合として表されないとき、

\boldsymbol{a}^{\prime}=\boldsymbol{a}-(\boldsymbol{a},\boldsymbol{e}_1)\boldsymbol{e}_1-(\boldsymbol{a},\boldsymbol{e}_2)\boldsymbol{e}_2-\dots-(\boldsymbol{a},\boldsymbol{e}_r)\boldsymbol{e}_r

とおくと、


\begin{split}
(\boldsymbol{e}_i,\boldsymbol{a}^{\prime})&=(\boldsymbol{e}_i,\boldsymbol{a})-(\boldsymbol{a},\boldsymbol{e}_1)(\boldsymbol{e}_1,\boldsymbol{e}_i)-(\boldsymbol{a},\boldsymbol{e}_2)(\boldsymbol{e}_2,\boldsymbol{e}_i)-\dots-(\boldsymbol{a},\boldsymbol{e}_r)(\boldsymbol{e}_r,\boldsymbol{e}_i) \\
&=(\boldsymbol{e}_i,\boldsymbol{a})-(\boldsymbol{a},\boldsymbol{e}_i) \\
&=\boldsymbol{0} \ \ (i=1\dots,r)
\end{split}

従って、\boldsymbol{e}_{r+1}=\frac{1}{\|\boldsymbol{a}^{\prime}\|}\boldsymbol{a}^{\prime}とすれば、\boldsymbol{e}_1,\boldsymbol{e}_2,\dots,\boldsymbol{e}_r,\boldsymbol{e}_{r+1}は、正規直交基底となり、定理2.1からこれらは線型独立である。また、\boldsymbol{e}_1,\boldsymbol{e}_2,\dots,\boldsymbol{e}_r,\boldsymbol{e}_{r+1}が生成する部分空間は、\boldsymbol{e}_1,\boldsymbol{e}_2,\dots,\boldsymbol{e}_r,\boldsymbol{a}が生成する部分空間に等しい。従って、Vは有限次元なので、この操作は有限回で終了し、正規直交基底が得られる。

4. 直交補空間
計量ベクトル空間Vの部分空間Wに対しWのすべての元と直交するようなVの元全体の集合を考える。それをW^{\bot}で表すこととする。即ち

W^{\bot}=\{\boldsymbol{v}\in V : (\boldsymbol{v},\boldsymbol{w} )=0 \ \ (\boldsymbol{w}\in W) \}

W^{\bot}は部分空間である。実際、\boldsymbol{v}_1,\boldsymbol{v}_2\in W^{\bot}とすると、任意のWの元\boldsymbol{w}に対し

(\boldsymbol{v}_1+\boldsymbol{v}_2,\boldsymbol{w})=(\boldsymbol{v}_1,\boldsymbol{w})+(\boldsymbol{v}_2,\boldsymbol{w})=0

より\boldsymbol{v}_1+\boldsymbol{v}_2\in W^{\bot}である。また、\alpha\in\mathbb{R} (または\mathbb{C} )、\boldsymbol{v}\in W^{\bot}とすると、任意の\boldsymbol{w}\in Wに対して

(\alpha\boldsymbol{v}, \boldsymbol{w})=\alpha (\boldsymbol{v}, \boldsymbol{w})=0

より、\alpha\boldsymbol{v}\in W^{\bot}である。よって、W^{\bot}Vの部分空間である。W^{\bot}Wの直交補空間という。部分空間については以下の記事を参照。

camelsan.hatenablog.com

直交補空間に対し、次が成り立つ。
定理4.1
Vを計量ベクトル空間、WVの部分空間とする。このとき

V=W\oplus W^{\bot}

証明W\oplus W^{\bot}\subset Vは成り立つ。逆の包含関係を示せばよい。Wの正規直交基底が定理3.2より存在する。それを\boldsymbol{e}_1,\boldsymbol{e}_2,\dots,\boldsymbol{e}_rとする。Vの任意の元\boldsymbol{x}に対し、

\boldsymbol{x}_1=\displaystyle\sum_{i=1}^{r}(\boldsymbol{x},\boldsymbol{e}_i)\boldsymbol{e}_i, \ \ \boldsymbol{x}_2=\boldsymbol{x}-\boldsymbol{x}_1

とおくと、\boldsymbol{x}_1\in Wで、(\boldsymbol{x}_2,\boldsymbol{e}_i)=0 \ \ (i=1,\dots,r)より、\boldsymbol{x}_2\in W^{\bot}である。よって、\boldsymbol{x}\in W+W^{\bot}である。従って、

V=W+W^{\bot}

また、W\cap W^{\bot}の任意の元を\boldsymbol{x}とすると、\boldsymbol{x}\in Wでかつ、\boldsymbol{x}\in W^{\bot}でもある。よって(\boldsymbol{x},\boldsymbol{x})=0が成り立つ。計量の定義より、\boldsymbol{x}=\boldsymbol{0}である。即ち

W\cap W^{\bot}=\{\boldsymbol{0}\}

である。従って下記の記事の定理3.1より

V=W\oplus W^{\bot}

となる。

camelsan.hatenablog.com

5. 計量同型
V, V^{\prime}がともにK上の計量ベクトル空間であり、\varphiV, V^{\prime}への同型写像とする。このとき、Vの計量( \ , \ )V^{\prime}の計量( \ , \ )^{\prime}に対し

(\varphi(\boldsymbol{x}),\varphi(\boldsymbol{y}))^{\prime}=(\boldsymbol{x},\boldsymbol{y})

を満たすとき、\varphiVからV^{\prime}への計量同型写像という。

4.2
K^nには例3.1で定められる計量がある。Vが計量ベクトル空間で、\boldsymbol{e}_1,\dots,\boldsymbol{e}_nVの正規直交基底であるとき、この基底で定まるVからK^nへの同型写像

\varphi:V\rightarrow K^n;x_1\boldsymbol{e}_1+\dots+x_n\boldsymbol{e}_n\mapsto \begin{pmatrix}x_1 \\ \vdots \\ x_n\end{pmatrix}

Vから[tex:Kn]への計量同型写像である。実際、

\boldsymbol{x}=x_1\boldsymbol{e}_1+\dots+x_n\boldsymbol{e}_n, \ \ \boldsymbol{y}=y_1\boldsymbol{e}_1+\dots+y_n\boldsymbol{e}_n

ならば、


\begin{split}
(\boldsymbol{x}, \boldsymbol{y})&=\displaystyle\sum_{i=1}^n \displaystyle\sum_{j=1}^n x_i\overline{y_j} (\boldsymbol{e}_i,\boldsymbol{e}_j) \\
&=\displaystyle\sum_{i=j=1}^n x_i\overline{y_j} (\boldsymbol{e}_i,\boldsymbol{e}_j) \\
&=\displaystyle\sum_{i=1}^n x_i\overline{y_i}
\end{split}

一方

\varphi(\boldsymbol{x})=\begin{pmatrix}x_1 \\ \vdots \\ x_n \end{pmatrix}, \ \ \varphi(\boldsymbol{y})=\begin{pmatrix}y_1 \\ \vdots \\ y_n \end{pmatrix}

であるから、

(\varphi(\boldsymbol{x}), \varphi(\boldsymbol{y}))=x_1\overline{y_1}+\dots+x_n\overline{y_n}

となる。よって

(\varphi(\boldsymbol{x}), \varphi(\boldsymbol{y}))=(\boldsymbol{x}, \boldsymbol{y})

であり、\varphiは計量同型である。

特に、K上の次元の等しい計量ベクトル空間はすべて互いに計量同型である。実際、V, V^{\prime}n次元の計量ベクトル空間とし、\boldsymbol{e}_1,\dots,\boldsymbol{e}_nVの基底、\boldsymbol{f}_1,\dots,\boldsymbol{f}_nV^{\prime}の基底とすると、次の計量同型がある。


\varphi:V\rightarrow K^n\rightarrow V^{\prime};x_1\boldsymbol{e}_1+\dots+x_n\boldsymbol{e}_n\mapsto \begin{pmatrix} x_1 \\ \vdots \\ x_n \end{pmatrix}\mapsto x_1\boldsymbol{f}_1+\dots+x_n\boldsymbol{f}_n

5. 参考文献
[1] 線型代数入門

線型代数入門 (基礎数学) [ 斎藤正彦 ]

価格:2,090円
(2021/12/6 21:07時点)
感想(2件)