ベイジアン研究所

技術(人工知能、数学等)と心理の話をしています。

【線形代数学入門】正規変換

1. 記事の目的
下記の記事で、計量ベクトル空間について述べた。

camelsan.hatenablog.com

計量ベクトル空間の間の線型変換の対角化について述べる。特に、正規変換と呼ばれる変換の対角化について述べる。対角化については下記の記事を参照。

camelsan.hatenablog.com

2. 正規変換の定義
Vをユニタリ空間(つまり常に\mathbb{C}上で、計量が入っているものと仮定する)、TVの線型変換とする。
ある正規直交基底に関してTを表現する行列をAとする。このとき

A^*=^t\overline{A}

で表現されるVの線型変換をTの随伴変換といい、T^{\ast}で表す。T^{\ast}は次の定理で述べられるような条件でも特徴づけられる。

定理2.1
Vをユニタリ空間、TVの線型変換とする。
T^*Tの随伴変換であることの必要かつ十分な条件は、任意の\boldsymbol{x},\boldsymbol{y}\in Vに対して


(T^*\boldsymbol{x}, \boldsymbol{y})=(\boldsymbol{x}, Y\boldsymbol{y})

が成り立つことである。
証明T^*Tの随伴変換であるとき、Vの基底を(\boldsymbol{e}_1,\boldsymbol{e}_2,\dots,\boldsymbol{e}_n;\varphi)をとって、Tを基底(\boldsymbol{e}_1,\boldsymbol{e}_2,\dots,\boldsymbol{e}_n;\varphi)に関して、表示した行列をAとすると、T^{\ast}の行列表示はA^{\ast}である。このとき


(A^{\ast}\varphi(\boldsymbol{x}), \varphi(\boldsymbol{y}))=^t\varphi(\boldsymbol{x})^tA^t\overline{\varphi(\boldsymbol{y})}=(\varphi(\boldsymbol{x}), A\varphi(\boldsymbol{y}))

の両辺を\varphi^{-1}で写すと( \varphi^{-1}は計量同型なので、計量を保つ )


(T^{\ast}\boldsymbol{x}, \boldsymbol{y})=(\boldsymbol{x}, T\boldsymbol{y})

となる。逆に


(T^{\ast}\boldsymbol{x}, \boldsymbol{y})=(\boldsymbol{x}, T\boldsymbol{y})
\tag{1}

が成り立つとき、Tを基底(\boldsymbol{e}_1,\boldsymbol{e}_2,\dots,\boldsymbol{e}_n;\varphi)に関して表現した行列をAT^{\ast}を表現した行列をBとすると、式(1)の両辺を\varphiで写すと、


(B\varphi(\boldsymbol{x}), \varphi(\boldsymbol{y}))=(\varphi(\boldsymbol{x}), A\varphi(\boldsymbol{y}))=(A^{\ast}\varphi(\boldsymbol{x}), \varphi(\boldsymbol{y}))

となる。よって、

B=A^{\ast}

より、[tex^{\ast}]を基底(\boldsymbol{e}_1,\boldsymbol{e}_2,\dots,\boldsymbol{e}_n;\varphi)で表現した行列はA^{\ast}となり、tT^{\ast}は随伴行列である。

定理2.1から、式(1)を成り立たせるようなT^{\ast}\boldsymbol{x}は一つしか存在しないので、随伴行列T^{\ast}は、正規直交基底の取り方には無関係である。

正規変換を定義する。
定義
Tをユニタリ空間Vの線型変換とする。このとき

T^{\ast}T=TT^{\ast}

が成り立つ[tex;T]を、正規変換という。

n次正方行列Aが正規行列であるとは、

A^{\ast}A=AA^{\ast}

を満たすことである。よって、正規変換の、任意の正規直交基底に関する行列は、正規行悦である。

3. 正規変換の対角化
任意の正規変換は、適当な正規直交基底に関して対角行列によって表現されることを証明する。

まず、次の定理を証明する。
定理3.1
複素線形ベクトル空間Vの2つの線型変換S, Tが交換可能ならば、S, Tは少なくとも一つの共通な固有ベクトルをもつ。
証明Tのある固有値\alphaに対する固有空間をW_\alphaとする。このとき\boldsymbol{x}\in W_{\alpha}とすると、

T(S\boldsymbol{x})=S(T\boldsymbol{x})=S(\alpha\boldsymbol{x})=\alpha (S\boldsymbol{x})

である。よって、S\boldsymbol{x}\in W_\alphaとなる。Sの定義域をW_\alphaに制限した写像

S_{W_\alpha}:W_\alpha\rightarrow W_{\alpha}; \boldsymbol{x}\mapsto S\boldsymbol{x}

とする。ここで、上で証明したことから、S_{W_\alpha}の値域はW_\alphaとなる。よって、S_{W_\alpha}W_\alphaの線型変換であり、その固有ベクトル\boldsymbol{a}をとると(固有方程式を考えれば、少なくとも一つ複素数の解を持つので、固有値を持ち、その固有ベクトルがある)、\boldsymbol{a}S固有ベクトルであり、\boldsymbol{a}\in W_\alphaでもあるので、T固有ベクトルでもある。

次の定理を証明するために、不変部分空間の概念を導入する。
定義
V\mathbb{R} (または\mathbb{C} )上のベクトル空間として、TVの線型変換とする。また、WVの部分空間とする。このとき

T(W)\subset W

が成り立つとき、WTによる不変部分空間(またはT-不変部分空間)であるという。

次の定理を証明する。
定理3.2
n次元ユニタリ空間Vの2つの線型変換S,Tが交換可能ならば、次のようなVの部分空間の列W_0,W_1,\dots,W_nが存在する。
(1) W_i \ \ (i=0,1,\dots,n)T-不変部分空間かつS-不変部分空間である。
(2) \{\boldsymbol{0}\}=W_0\subset W_1\subset \dots \subset W_{n-1}\subset W_n=V
(3) {\rm{dim}}W_i={\rm{dim}}W_{i-1}+1 \ \ (i=1,2,\dots,n)
証明n=1のとき、W_0=\{\boldsymbol{0}\}, \ \ W_1=Vとすると成り立つ。
{\rm{dim}}V=n-1のときに主張が成り立つと仮定する。S,Tの随伴変換をそれぞれS^{\ast}, T^{\ast}とすると、任意の\boldsymbol{x}, \boldsymbol{y}\in Vに対し


\begin{split}
(T^{\ast}S^{\ast}\boldsymbol{x}, \boldsymbol{y})&=(S^{\ast}\boldsymbol{x}, T\boldsymbol{y}) \\
&=(\boldsymbol{x}, ST\boldsymbol{y}) \\
&=(\boldsymbol{x}, TS\boldsymbol{y}) \\
&=(T^{\ast}\boldsymbol{x}, S\boldsymbol{y}) \\
&=(S^{\ast}T^{\ast}\boldsymbol{x}, \boldsymbol{y})
\end{split}

より、T^{\ast}S^{\ast}=S^{\ast}T^{\ast}となる。即ちT^{\ast}S^{\ast}は交換可能である。定理3.1より、T^{\ast}S^{\ast}に共通な固有ベクトルが存在し、それを\boldsymbol{a}とする。


W_{n-1}=\{\boldsymbol{x}\in V:(\boldsymbol{x}, \boldsymbol{a})=0\}

とする( W_{n-1}\boldsymbol{a}と直交するVのベクトル全体 )。
W_{n-1}T-不変かつS-不変である。実際、\boldsymbol{x}\in W_{n-1}とすると、


\begin{split}
(\boldsymbol{a}, T\boldsymbol{x})&=(T^{\ast}\boldsymbol{a}, \boldsymbol{x}) \\
&=\alpha(\boldsymbol{a}, \boldsymbol{x}) \\
&=0
\end{split}

ここで、\alpha\boldsymbol{a}に対するT^{\ast}固有値である。よって、T\boldsymbol{x}\in W_{n-1}であり、W_{n-1}T-不変である。TSにして同じ議論ができるので、W_{n-1}S-不変である。T, SW_{n-1}への制限をT^{\prime}, S^{\prime}とすると、T^{\prime}S^{\prime}は交換可能である(もともとのTSが交換可能であるため)。また、


\begin{split}
V&=\langle \boldsymbol{a} \rangle\oplus \langle \boldsymbol{a} \rangle^{\bot} \\
&=\langle \boldsymbol{a} \rangle\oplus W_{n-1}
\end{split}

より、


n={\rm{dim}}V={\rm{dim}}\langle \boldsymbol{a} \rangle + {\rm{dim}}W_{n-1}=1+{\rm{dim}} W_{n-1}

なので、

{\rm{dim}}W_{n-1}=n-1

である。数学的帰納法の仮定より、次のようなW_{n-1}の部分空間の列W_0,W_1,\dots,W_{n-1}が存在する。 (1) W_i \ \ (i=0,1,\dots,n-1)T^{\prime}-不変部分空間かつS^{\prime}-不変部分空間である。
(2) \{\boldsymbol{0}\}=W_0\subset W_1\subset \dots \subset W_{n-1}\subset W_{n-1}
(3) {\rm{dim}}W_i={\rm{dim}}W_{i-1}+1 \ \ (i=1,2,\dots,n-1)
このとき、Vの部分空間の列W_0,W_1,\dots,W_{n-1},W_n=Vが定理の条件を満たす。

定理3.2を行列の言葉で述べると次のようになる。
定理3.3
2つの正方行列A, Bが交換可能ならば、適当なユニタリ行列Uが存在して、U^{-1}AU, U^{-1}BUは同時に、上三角行列となる。特に、A=Bとして、任意の正方行列Aに対してU^{-1}AUが上三角行列になるようなユニタリ行列Uが存在する。
証明:正方行列Cの対角線の左下にある成分がすべて0であるとき、Cを上三角行列であるという。即ち

C=
\begin{pmatrix}
c_{11} & c_{12} & \dots & c_{1n} \\
0 & c_{22} & \dots & c_{2n} \\
\vdots & \vdots& & \vdots \\
0 & 0 & \dots & c_{nn}
\end{pmatrix}

定理3.2において、V=\mathbb{C}^nT=T_AS=T_Bとする。W_iの元で、W_{i-1}と直交する長さ1のベクトル\boldsymbol{u}_iをとると、\mathbb{C}^nの正規直交基底\boldsymbol{u}_1, \boldsymbol{u}_2,\dots, \boldsymbol{u}_nに関するT_A, T_Bの行列はともに上三角行列である(各W_iS, T-不変であるため)。U=(\boldsymbol{u}_1 \ \ \boldsymbol{u}_2 \ \  \dots \ \ \boldsymbol{u}_n)とすれば、その行列表示は、U^{-1}AU, U^{-1}BUである。

固有値に関して次の定理が成り立つ。
定理3.4
(1) A, Bが交換可能ならば、A+B (あるいはAB )の固有値A固有値B固有値との和(あるいは積)である。
(2) A固有値を(重複をこめて) \alpha_1,\alpha_2,\dots,\alpha_nとすると、A^k固有値は、\alpha_1^k,\alpha_2^k,\dots,\alpha_n^kである。
証明:上三角行列の特性根、即ち固有値は、対角成分である。実際、


C=
\begin{pmatrix}
c_{11} & c_{12} & \dots & c_{1n} \\
0 & c_{22} & \dots & c_{2n} \\
\vdots & \vdots & & \vdots \\
0 & 0 & \dots & c_{nn}  
\end{pmatrix}

とすると、


\begin{split}
\Phi_C(c)&=
\begin{vmatrix}
x-c_{11} & x-c_{12} & \dots & x-c_{1n} \\
0 & x-c_{22} & \dots & x-c_{2n} \\
\vdots & \vdots & & \vdots \\
0 & 0 & \dots & x-c_{nn}  
\end{vmatrix}
&=(x-c_{11})
\begin{vmatrix}
x-c_{22} & x-c_{23} & \dots & x-c_{2n} \\
0 & x-c_{32} & \dots & x-c_{3n} \\
\vdots & \vdots & & \vdots \\
0 & 0 & \dots & x-c_{nn}  
\end{vmatrix}
&=\dots \\
&=(x-c_{11})(x-c_{22})\dots (x-c_{nn})
\end{split}

より成り立つ。ここで、2番目の等式に関して下記の記事の6節定理(A)を利用した。

camelsan.hatenablog.com

(1) 定理3.3より、U^{-1}AU, \ \ U^{-1}BUがともに上三角行列となるようにUを選べば、


\begin{split}
U^{-1}(A+B)U &= U^{-1}AU + U^{-1}BU \\
U^{-1}(AB)U &= (U^{-1}AU) (U^{-1}BU) 
\end{split}

より、これらの式とU^{-1}CUC固有値が等しいことと、上三角行列の固有値は対角成分に等しいことから成り立つ。
(2) (1)の積の主張から成り立つ。

ここまで準備して、本記事の目的の主張である次の定理が証明できる。
定理3.5
ユニタリ空間Vの線型変換Tが、適当な正規直交基底に関して対角行列によって表現されるためには、Tが正規変換であることが必要かつ十分な条件である。
証明TT^{\ast}=T^{\ast}Tが成り立つならば定理3.4より、適当な正規直交基底に関するT, T^{\ast}の行列による表現A, A^{\ast}はともに、上三角行列となる。A^{\ast}=^t\overline{A}が上三角行列ならば、Aは下三角行列


\begin{split}
a_{11} & 0 & \dots & 0 \\
a_{21} & a_{22} & \dots & 0 \\
\dots & \dots & & \dots \\
a_{n1} & a_{n2} & \dots & a_{nn}
\end{split}

である。従って、Aは上三角行列かつ下三角行列であり、結局Aは対角行列でなければならない。
逆に、ある正規直交基底に関するTの行列Aが対角行列ならば、AA^{\ast}=A^{\ast}Aであるから、TT^{\ast}=T^{\ast}Tが成り立つ。

定理3.5を行列の言葉で述べると次のようになる。
定理3.6
正方行列Aに対し、U^{-1}AUが対角行列になるようなユニタリ行列Uが存在するためには、Aが正規行列であることが必要かつ十分な条件である。

定理3.5から次の定理が導かれる。
定理3.7
ユニタリ空間Vの正規変換Tの相異なる固有値に対する固有値に対する固有ベクトルは互いに直交する。\beta_1,\beta_2,\dots,\beta_kTの相異なる固有値の全体とし、W_1,W_2,\dots,W_kを対応する固有空間とすれば、それらは互いに直交し、

V=W_1\oplus W_2\oplus\dots \oplus W_k

となる。
証明:定理3.5より、T固有ベクトルのみからなる正規直交基底\langle \boldsymbol{e}_1,\boldsymbol{e}_2,\dots,\boldsymbol{e}_n \rangleが存在する。このうち、\beta_iに対する固有ベクトルだけから生成される部分空間がW_iである。よって、

V=W_1\oplus W_2\oplus\dots \oplus W_k

となる。

4. 参考文献
[1] 線型代数入門

線型代数入門 (基礎数学) [ 斎藤正彦 ]

価格:2,090円
(2021/12/6 21:07時点)
感想(2件)