ベイジアン研究所

技術(人工知能、数学等)と心理の話をしています。

【線形代数学入門】線型独立

1. 記事の目的
本記事では、線型独立の定義に関して述べる。線型独立は、ベクトル空間の基底や次元の定義を理解する上で重要なものである(ベクトル空間については以下の記事を参照)。

camelsan.hatenablog.com

2. 線型独立とは
線型独立とは、2次元の幾何ベクトルの言葉で言うと、「2つのベクトルの長さがあり、互いに方向が異なる関係にある」ことである。つまり、図1のような状態にあるとき、2つのベクトルは線形独立な関係にあるということができる。

f:id:camelsan:20210717110004p:plain
図1 線型独立なベクトル

3. 線型独立と線形従属
2.のようなイメージに基づいて、線型独立を厳密に定義する。まず、ベクトルの線形結合を定義する。

定義
V\mathbb{R}または\mathbb{C}上のベクトル空間とする。
\boldsymbol{a}_1, \boldsymbol{a}_2, \dots, \boldsymbol{a}_k \in Vに対し、元

c_1\boldsymbol{a}_1+c_2\boldsymbol{a}_2+\dots+c_k\boldsymbol{a}_k,  c_i\in\mathbb{R}(または\mathbb{C}) (i=1,2,\dots,k)

を、\boldsymbol{a}_1,\boldsymbol{a}_2,\dots,\boldsymbol{a}_kの線形結合という。

k個のベクトル\boldsymbol{a}_1,\boldsymbol{a}_2,\dots,\boldsymbol{a}_kのどれか1つは、は他の元の線形結合で表示できる可能性がある。
例1:\mathbb{R}^2において、

\boldsymbol{a}_1=\begin{pmatrix}1 \\ 0 \end{pmatrix}, \boldsymbol{a}_2=\begin{pmatrix}0 \\ 1 \end{pmatrix}, \boldsymbol{a}_3=\begin{pmatrix}1 \\ 2 \end{pmatrix}

とすると

\boldsymbol{a}_3=\boldsymbol{a}_1+\boldsymbol{a}_2

となる。このとき、移項して

\boldsymbol{a}_1+\boldsymbol{a}_2-\boldsymbol{a}_3=\boldsymbol{0}

という関係が成り立つ。

上記の関係を一般化して、ベクトル\boldsymbol{a}_1,\boldsymbol{a}_2,\dots,\boldsymbol{a}_kの間の関係

c_1\boldsymbol{a}_1+c_2\boldsymbol{a}_2+\dots+c_k\boldsymbol{a}_k=\boldsymbol{0}

を線形関係という。

どんなベクトル\boldsymbol{a}_1,\boldsymbol{a}_2,\dots,\boldsymbol{a}_kに対しても、最も明らかな線形関係として、上式を

c_1=c_2=\dots=c_k=0

としたものがある。これを、自明な線形関係という。

戦記独立性および線形従属性を定義する。
定義
ベクトル空間Vのベクトル\boldsymbol{a}_1,\boldsymbol{a}_2,\dots,\boldsymbol{a}_kの間に自明でない線形関係が存在するとき、\boldsymbol{a}_1,\boldsymbol{a}_1,\dots,\boldsymbol{a}_kは線形従属という。一方で、自明な線形関係しかない場合は、線型独立であるという。

上記の例1の\boldsymbol{a}_1,\boldsymbol{a}_2,\boldsymbol{a}_3は線形従属である。」

例2 : \mathbb{R}^2において、

\boldsymbol{a}_1=\begin{pmatrix} 1 \\ 2 \end{pmatrix}, \boldsymbol{a}_2=\begin{pmatrix} 2 \\ 1 \end{pmatrix}

とすると、\boldsymbol{a}_1,\boldsymbol{a}_2は線型独立である。実際、


\begin{split}
    \boldsymbol{0}&=c_1\boldsymbol{a}_1+c_2\boldsymbol{a}_2 \\
    &=\begin{pmatrix}c_1+2c_2 \\ 2c_1+c_2 \end{pmatrix}
\end{split}

より、連立方程式を解くことにより、c_1=c_2=0が得られる。

4. 線型独立に関する定理
線型独立性に関し、3つの定理を証明する(基底に関する議論で重要になる)。

定理4.1
Vをベクトル空間、\boldsymbol{a}_1,\boldsymbol{a}_2,\dots,\boldsymbol{a}_k\in Vとする。
ベクトル\boldsymbol{a}_1,\boldsymbol{a}_2,\dots,\boldsymbol{a}_kが線型独立であることと、\boldsymbol{a}_1,\boldsymbol{a}_2,\dots,\boldsymbol{a}_kのうちある1個がほかのk-1個のベクトルの線形結合としてあらわされること、は同値である。
証明\boldsymbol{a}_1,\boldsymbol{a}_2,\dots,\boldsymbol{a}_kが線形従属であること、を仮定する。このとき自明でない線形関係

c_1\boldsymbol{a}_1+c_2\boldsymbol{a}_2+\dots+c_k\boldsymbol{a}_k=\boldsymbol{0}

が存在する。c_p\neq 0なるpがあるから、

\boldsymbol{a}_p=-\frac{c_1}{c_p}\boldsymbol{a}_1- \dots -\frac{c_{p-1}}{c_p}\boldsymbol{a}_{p-1}-\dots-\frac{c_k}{c_p}\boldsymbol{a}_k

よって、\boldsymbol{a}_1,\boldsymbol{a}_2,\dots,\boldsymbol{a}_kのうちある1個がほかのk-1個のベクトル線形結合としてあらわされる。
逆に\boldsymbol{a}_1,\boldsymbol{a}_2,\dots,\boldsymbol{a}_kのうちある1個がほかのk-1のベクトルの線形結合としてあらわされること、を仮定する。即ち、あるpに対して、

\boldsymbol{a}_p=b_1\boldsymbol{a}_1+ \dots +b_{p-1}\boldsymbol{a}_{p-1}+b_{p+1}\boldsymbol{a}_{p+1}+\dots+b_k\boldsymbol{a}_k

である。よって、移項することによって得られる\boldsymbol{a}_1,\boldsymbol{a}_2,\dots,\boldsymbol{a}_kの間の線形関係

b_1\boldsymbol{a}_1+ \dots +b_{p-1}\boldsymbol{a}_{p-1}-\boldsymbol{a}_p+b_{p+1}\boldsymbol{a}_{p+1}+\dots+b_k\boldsymbol{a}_k=\boldsymbol{0}

は自明でない線形関係である。

定理4.2
Vをベクトル空間とし、\boldsymbol{a}_1,\boldsymbol{a}_2,\dots,\boldsymbol{a}_k\in Vとする。
\boldsymbol{a}_1,\boldsymbol{a}_2,\dots,\boldsymbol{a}_kが線型独立で、\boldsymbol{a}\boldsymbol{a}_1,\boldsymbol{a}_2,\dots,\boldsymbol{a}_kの線形結合としてあらわされないならば、k+1個のベクトル\boldsymbol{a}_1,\boldsymbol{a}_2,\dots,\boldsymbol{a}_k, \boldsymbol{a}も線型独立である。
証明:\boldsymbol{a}_1,\boldsymbol{a}_2,\dots,\boldsymbol{a}_k, \boldsymbol{a}の間に線形関係

c_1\boldsymbol{a}_1+\dots+c_k\boldsymbol{a}_k+c\boldsymbol{a}\tag{1}

があるとする。c\neq 0と仮定すると、

\boldsymbol{a}=-\frac{c_1}{c}\boldsymbol{a}_1-\dots-\frac{c_k}{c}\boldsymbol{a}_k

となり、\boldsymbol{a}は、\boldsymbol{a}_1,\boldsymbol{a}_2,\dots,\boldsymbol{a}_kの線形結合としてあらわされ、仮定に反する。従って、c\neq 0である。このとき式(1)は、

c_1\boldsymbol{a}_1+\dots+c_k\boldsymbol{a}_k=0

となり、\boldsymbol{a}_1,\boldsymbol{a}_2,\dots,\boldsymbol{a}_kの線型独立性から、c_1=\dots =c_k=0である。よって、\boldsymbol{a}_1,\boldsymbol{a}_2,\dots,\boldsymbol{a}_k、\boldsymbol{a}は線型独立である。

定理4.3
Vをベクトル空間、\boldsymbol{a}_1,\boldsymbol{a}_2,\dots,\boldsymbol{a}_k, \boldsymbol{b}_1,\boldsymbol{b}_2,\dots,\boldsymbol{b}_l, \boldsymbol{c}\in Vとする。
ベクトル\boldsymbol{c}\boldsymbol{b}_1,\boldsymbol{b}_2,\dots,\boldsymbol{b}_lの線形結合であり各\boldsymbol{b}_i (i=1,2,\dots, l)\boldsymbol{a}_1,\boldsymbol{a}_2,\dots,\boldsymbol{a}_kの線形結合であれば、\boldsymbol{c}\boldsymbol{a}_1,\boldsymbol{a}_2,\dots,\boldsymbol{a}_kの線形結合である。
証明\boldsymbol{c}\boldsymbol{b}_1,\boldsymbol{b}_2,\dots,\boldsymbol{b}_lの線形結合なので、

\boldsymbol{c}=\displaystyle\sum_{i=1}^{l}c_i\boldsymbol{b}_i

また、\boldsymbol{b}_1,\boldsymbol{b}_2,\dots,\boldsymbol{b}_lは各々、\boldsymbol{a}_1,\boldsymbol{a}_2,\dots,\boldsymbol{a}_kの線形結合なので、

\boldsymbol{b}_i=\displaystyle\sum_{j=1}^{k}b_{ij}\boldsymbol{a}_j, (i=1,\dots,l)

よって、


\begin{split}
\boldsymbol{c}&=c_1\boldsymbol{b}_1+\dots+c_l\boldsymbol{b}_l \\
&=c_1\left(\displaystyle\sum_{j=1}^{k}b_{1j}\boldsymbol{a}_j\right)+\dots+c_l\left(\displaystyle\sum_{j=1}^{k}b_{lj}\boldsymbol{a}_j\right) \\
&=\displaystyle\sum_{j=1}^{k}c_1b_{1j}\boldsymbol{a}_j+\dots+\displaystyle\sum_{j=1}^{k}c_lb_{lj}\boldsymbol{a}_j \\
&=\displaystyle\sum_{j=1}^{k}\left(\displaystyle\sum_{i=1}^lc_ib_{ij}\right)\boldsymbol{a}_j
\end{split}

従って、\boldsymbol{c}は、\boldsymbol{a}_1,\boldsymbol{a}_2,\dots,\boldsymbol{a}_kの線形結合であらわされる。

次の記事

camelsan.hatenablog.com

5. 参考文献
[1] 線型代数入門

線型代数入門 (基礎数学) [ 斎藤正彦 ]

価格:2,090円
(2021/12/6 21:07時点)
感想(2件)

[2] ベクトルの一次独立って何?「わかった!」を増やします~数bベクトル

ベクトルの一次独立って何?「わかった!」を増やします~数bベクトル