선형대수학

선형대수학(線型代數學, 영어: linear algebra)은 벡터 공간, 벡터, 선형 변환, 행렬, 연립 선형 방정식 등을 연구하는 대수학의 한 분야이다. 현대적인 관점에서 선형대수학의 중심 대상은 체 위의 벡터 공간과 그 사이의 선형 사상이다. 행렬은 유한 차원 벡터 공간과 선형 사상을 좌표로 나타내는 도구이며, 선형 방정식계의 풀이, 기저변환, 행렬식, 고윳값 문제 등을 다루는 데 핵심적인 역할을 한다.

선형대수학의 가장 기본적인 문제 가운데 하나는 여러 개의 선형 방정식을 동시에 푸는 것이다. 예를 들어

${\begin{cases}2x+y-z=8,\\-3x-y+2z=-11,\\-2x+y+2z=-3\end{cases}}$

와 같은 선형 방정식계는 행렬과 벡터를 사용하여

$A\mathbf {x} =\mathbf {b}$

의 꼴로 쓸 수 있다. 이러한 표현은 방정식계의 풀이를 체계적인 행렬 계산으로 바꾸어 주며, 가우스 소거법, 역행렬, 행렬식 등의 개념과 연결된다.

선형대수학은 기하학과도 밀접하게 관련되어 있다. 데카르트 좌표계를 사용하면 평면과 공간의 점은 수의 순서쌍 또는 튜플로 표현되고, 직선과 평면은 선형 방정식으로 나타난다. 따라서 직선과 평면의 교점을 구하는 문제는 선형 방정식계를 푸는 문제로 해석된다. 또한 회전, 반사, 사영, 확대·축소와 같은 많은 기하학적 변환은 선형 변환 또는 행렬로 표현된다.

선형대수학은 순수수학과 응용수학 전반에서 기본적인 언어로 쓰인다. 미분기하학에서는 접공간과 미분을 다루는 데 사용되고, 함수해석학에서는 무한 차원 벡터 공간과 선형 연산자를 연구하는 출발점이 된다. 통계학에서는 최소제곱법, 공분산 행렬, 주성분 분석에 쓰이며, 물리학에서는 양자역학과 선형계 이론의 기본 도구가 된다. 컴퓨터 과학, 데이터 과학, 기계 학습, 컴퓨터 그래픽스에서도 행렬과 벡터 계산은 핵심적인 역할을 한다.

개요

선형대수학에서 “선형”이라는 말은 벡터의 덧셈과 스칼라배를 보존한다는 뜻이다. 예를 들어 두 벡터 공간 $V,W$ 사이의 함수

$T\colon V\to W$

가 모든 벡터 $\mathbf {u} ,\mathbf {v} \in V$와 모든 스칼라 $a$에 대하여

$T(\mathbf {u} +\mathbf {v} )=T(\mathbf {u} )+T(\mathbf {v} ),\qquad T(a\mathbf {v} )=aT(\mathbf {v} )$

를 만족하면 $T$를 선형 변환 또는 선형 사상이라고 한다. 이 조건은 $T$가 선형 결합을 보존한다는 뜻이며, 선형대수학의 많은 개념은 이 성질을 중심으로 전개된다.

선형대수학은 두 가지 관점에서 이해할 수 있다. 하나는 벡터 공간과 선형 사상을 다루는 추상적 관점이고, 다른 하나는 행렬과 연립 선형 방정식을 계산하는 구체적 관점이다. 유한 차원 벡터 공간에서는 기저를 선택하면 모든 벡터가 좌표로 표현되고, 모든 선형 사상이 행렬로 표현된다. 따라서 추상적인 선형 사상의 성질은 행렬의 성질로 계산할 수 있고, 반대로 행렬 계산은 벡터 공간 위의 선형 사상으로 해석될 수 있다.

초등적인 선형대수학은 보통 다음과 같은 주제를 포함한다.

• 연립 선형 방정식과 가우스 소거법
• 행렬과 행렬 연산
• 행렬식과 역행렬
• 벡터 공간, 부분공간, 기저, 차원
• 선형 변환과 행렬 표현
• 핵, 상, 차원 정리
• 고윳값과 고유벡터
• 대각화와 행렬의 닮음
• 내적 공간, 직교성, 그람-슈미트 과정
• 양의 정부호 행렬, 직교 행렬, 특이값 분해

선형대수학의 기본적인 흐름은 선형 결합에서 출발한다. 여러 벡터의 선형 결합으로 어떤 벡터들을 만들 수 있는지 살펴보면 생성 집합과 부분공간의 개념이 나오고, 어떤 벡터가 다른 벡터들의 선형 결합으로 표현되는지를 따지면 일차독립과 일차종속의 개념이 나온다. 벡터 공간을 생성하면서 동시에 일차독립인 벡터들의 집합은 기저가 되며, 기저의 원소 수는 그 벡터 공간의 차원이다.

행렬의 관점에서는 선형대수학이 선형 방정식계의 풀이와 밀접하게 연결된다. 행렬 $A$와 벡터 $\mathbf {b}$가 주어졌을 때

$A\mathbf {x} =\mathbf {b}$

를 만족하는 벡터 $\mathbf {x}$를 찾는 문제는 선형대수학의 가장 기본적인 문제이다. 이 문제의 해가 존재하는지, 해가 유일한지, 해공간의 차원이 얼마인지는 행렬의 랭크, 선형 사상의 핵과 상, 그리고 차원 정리로 설명된다.

또 다른 중요한 주제는 선형 변환의 구조를 단순한 형태로 이해하는 것이다. 정사각행렬 $A$에 대하여

$A\mathbf {v} =\lambda \mathbf {v}$

를 만족하는 0이 아닌 벡터 $\mathbf {v}$와 스칼라 $\lambda$를 각각 고유벡터와 고윳값이라고 한다. 고윳값과 고유벡터를 이용하면 선형 변환이 어떤 방향을 단순히 늘리거나 줄이는지를 이해할 수 있으며, 충분한 수의 고유벡터가 있으면 행렬을 대각화할 수 있다.

내적이 주어진 벡터 공간에서는 길이와 각도, 직교성도 다룰 수 있다. 이 경우 내적 공간의 벡터는 노름을 가지며, 두 벡터의 내적이 0이면 서로 직교한다고 한다. 정규직교기저는 계산을 크게 단순화하고, 그람-슈미트 과정은 일차독립인 벡터들을 정규직교 벡터들로 바꾸는 방법을 제공한다. 이러한 개념은 최소제곱법, 직교사영, 푸리에 해석, 통계학의 주성분 분석 등에서 중요하다.

선형대수학은 유한 차원에서 가장 먼저 배우지만, 그 개념은 더 넓은 분야로 확장된다. 체 대신 일반적인 환 위에서 스칼라배를 생각하면 가군 이론이 되고, 무한 차원 벡터 공간에 위상이나 노름을 함께 고려하면 함수해석학으로 이어진다. 또한 여러 변수에 대해 선형인 사상을 다루는 다중선형대수학과 텐서 이론은 미분기하학과 물리학에서 중요한 역할을 한다.

기본 대상

 이 부분의 본문은 벡터 공간, 선형 결합, 부분공간, 기저 (선형대수학) 및 차원입니다.

선형대수학의 기본 대상은 벡터 공간과 그 원소인 벡터이다. 초등적인 예에서는 벡터를 $(x_{1},\dots ,x_{n})$과 같은 수의 순서쌍 또는 순서열로 생각하지만, 일반적인 선형대수학에서 벡터는 덧셈과 스칼라배가 가능한 대상이면 된다. 따라서 수열, 다항식, 함수, 행렬도 적절한 연산 아래에서는 벡터가 될 수 있다.

벡터와 선형 결합

3차원 유클리드 공간 $\mathbb {R} ^{3}$에서 벡터는 방향과 크기를 가진 화살표로 이해할 수 있다. 그러나 선형대수학의 추상적 정의에서는 이러한 기하학적 해석이 필수적이지 않다.

선형대수학에서 벡터(영어: vector)는 벡터 공간의 원소를 뜻한다. 예를 들어

$\mathbb {R} ^{n}=\{(x_{1},\dots ,x_{n})\mid x_{i}\in \mathbb {R} \}$

의 원소 $(x_{1},\dots ,x_{n})$은 실수 벡터 공간 $\mathbb {R} ^{n}$의 벡터이다. 기하학적으로 $\mathbb {R} ^{2}$나 $\mathbb {R} ^{3}$의 벡터는 방향과 크기를 가진 화살표로 생각할 수 있지만, 선형대수학의 추상적 정의에서는 이러한 기하학적 해석이 필수적이지 않다.

벡터 $\mathbf {v} _{1},\dots ,\mathbf {v} _{k}$와 스칼라 $a_{1},\dots ,a_{k}$가 주어졌을 때,

$a_{1}\mathbf {v} _{1}+\cdots +a_{k}\mathbf {v} _{k}$

꼴의 벡터를 이 벡터들의 선형 결합(영어: linear combination)이라고 한다. 여기서 스칼라는 보통 실수, 복소수, 또는 더 일반적인 체의 원소이다.

예를 들어 $\mathbb {R} ^{3}$에서

$\mathbf {e} _{1}=(1,0,0),\qquad \mathbf {e} _{2}=(0,1,0),\qquad \mathbf {e} _{3}=(0,0,1)$

라고 하면, 임의의 벡터 $(x,y,z)$는

$(x,y,z)=x\mathbf {e} _{1}+y\mathbf {e} _{2}+z\mathbf {e} _{3}$

로 나타난다. 따라서 $\mathbb {R} ^{3}$의 모든 벡터는 세 벡터 $\mathbf {e} _{1},\mathbf {e} _{2},\mathbf {e} _{3}$의 선형 결합으로 표현된다.

선형 결합은 선형대수학의 거의 모든 기본 개념을 정의하는 데 사용된다. 어떤 벡터들이 다른 벡터들의 선형 결합으로 만들어질 수 있는지 묻는 것은 생성의 개념으로 이어지고, 어떤 벡터가 다른 벡터들의 선형 결합으로 중복 표현되는지 묻는 것은 일차독립의 개념으로 이어진다.

벡터 공간

3차원 유클리드 공간 $\mathbb {R} ^{3}$은 벡터 공간의 기본적인 예이며, 원점을 지나는 직선과 평면은 그 부분공간이다.

$F$를 체라고 하자. $F$ 위의 벡터 공간(영어: vector space)은 집합 $V$와 두 연산, 즉 벡터 덧셈

$V\times V\to V,\qquad (\mathbf {u} ,\mathbf {v} )\mapsto \mathbf {u} +\mathbf {v}$

및 스칼라배

$F\times V\to V,\qquad (a,\mathbf {v} )\mapsto a\mathbf {v}$

가 주어진 구조이다. 이 연산들은 벡터 덧셈의 결합법칙과 교환법칙, 영벡터와 덧셈의 역원의 존재, 스칼라배의 결합법칙, 분배법칙 등을 만족해야 한다.

가장 기본적인 예는 $F^{n}$이다. 이는 $F$의 원소 $n$개로 이루어진 순서열 전체의 집합

$F^{n}=\{(a_{1},\dots ,a_{n})\mid a_{i}\in F\}$

이며, 덧셈과 스칼라배는 성분별로 정의한다. 즉,

$(a_{1},\dots ,a_{n})+(b_{1},\dots ,b_{n})=(a_{1}+b_{1},\dots ,a_{n}+b_{n})$

이고,

$c(a_{1},\dots ,a_{n})=(ca_{1},\dots ,ca_{n})$

이다.

벡터 공간의 예는 수의 순서열에만 한정되지 않는다. 예를 들어 다음과 같은 집합들도 자연스러운 덧셈과 스칼라배에 대해 벡터 공간이 된다.

• 계수가 $F$에 속하는 모든 다항식의 집합
• 고정된 구간에서 정의된 실수값 함수들의 집합
• 고정된 크기의 행렬 전체의 집합
• 어떤 선형 방정식계의 동차해 전체의 집합

이러한 일반성은 선형대수학이 여러 분야에서 공통의 언어로 사용되는 이유 가운데 하나이다. 서로 다른 종류의 대상이라도 덧셈과 스칼라배가 같은 법칙을 만족하면, 벡터 공간의 이론을 적용할 수 있다.

부분공간

벡터 공간 $V$의 부분집합 $W$가 그 자체로 벡터 공간을 이루면, $W$를 $V$의 부분공간(영어: subspace)이라고 한다. 보다 구체적으로, $W$가 부분공간이기 위해서는 다음 조건을 만족하면 충분하다.

• 영벡터 $\mathbf {0}$가 $W$에 속한다.
• $\mathbf {u} ,\mathbf {v} \in W$이면 $\mathbf {u} +\mathbf {v} \in W$이다.
• $a\in F$, $\mathbf {v} \in W$이면 $a\mathbf {v} \in W$이다.

즉, 부분공간은 벡터 덧셈과 스칼라배에 대해 닫혀 있는 부분집합이다. 이 조건은 임의의 선형 결합에 대해서도 닫혀 있다는 말과 같다. 따라서 $W$가 부분공간이면, $W$ 안의 벡터들의 모든 선형 결합도 다시 $W$ 안에 있다.

예를 들어 $\mathbb {R} ^{3}$에서 원점을 지나는 직선과 원점을 지나는 평면은 부분공간이다. 반면 원점을 지나지 않는 직선이나 평면은 보통 부분공간이 아니다. 부분공간은 반드시 영벡터를 포함해야 하기 때문이다.

선형 사상 $T\colon V\to W$의 핵과 상도 중요한 부분공간의 예이다. 핵은 $V$의 부분공간이고, 상은 $W$의 부분공간이다.

생성과 일차독립

벡터 공간 $V$의 벡터들의 집합 $S$가 주어졌을 때, $S$에 속한 벡터들의 모든 유한 선형 결합으로 이루어진 집합을 $S$의 생성 부분공간 또는 선형 생성(영어: linear span)이라고 한다. 보통

$\operatorname {span} (S)$

로 나타낸다. $\operatorname {span} (S)$는 $S$를 포함하는 가장 작은 부분공간이다.

만약

$\operatorname {span} (S)=V$

이면, $S$가 $V$를 생성한다(영어: span)고 한다. 예를 들어

$(1,0),\qquad (0,1)$

은 $\mathbb {R} ^{2}$를 생성한다. 임의의 $(x,y)\in \mathbb {R} ^{2}$가

$(x,y)=x(1,0)+y(0,1)$

로 표현되기 때문이다.

벡터들 $\mathbf {v} _{1},\dots ,\mathbf {v} _{k}$에 대하여

$a_{1}\mathbf {v} _{1}+\cdots +a_{k}\mathbf {v} _{k}=\mathbf {0}$

이 성립할 때 항상

$a_{1}=\cdots =a_{k}=0$

이면, 이 벡터들은 일차독립(영어: linearly independent)이라고 한다. 반대로 모든 계수가 0인 경우 말고도 위 등식이 성립하는 경우가 있으면, 이 벡터들은 일차종속(영어: linearly dependent)이라고 한다.

일차종속이라는 것은 어떤 벡터가 나머지 벡터들의 선형 결합으로 표현될 수 있다는 뜻이다. 예를 들어 $\mathbb {R} ^{2}$에서

$(1,0),\quad (0,1),\quad (1,1)$

은 일차종속이다. 실제로

$(1,1)=(1,0)+(0,1)$

이므로 세 번째 벡터는 앞의 두 벡터의 선형 결합이다.

생성과 일차독립은 서로 반대 방향의 조건으로 볼 수 있다. 생성은 벡터들이 충분히 많아서 전체 공간을 만들 수 있다는 조건이고, 일차독립은 벡터들 사이에 불필요한 중복이 없다는 조건이다.

기저와 차원

벡터 공간 $V$의 벡터들의 집합 $B$가 $V$를 생성하고 동시에 일차독립이면, $B$를 $V$의 기저(영어: basis)라고 한다. 기저는 벡터 공간을 표현하기에 충분하면서도 중복이 없는 벡터들의 집합이다.

기저의 가장 중요한 성질은 모든 벡터가 기저 벡터들의 선형 결합으로 유일하게 표현된다는 것이다. 즉, $B=\{\mathbf {b} _{1},\dots ,\mathbf {b} _{n}\}$이 $V$의 기저이면, 임의의 벡터 $\mathbf {v} \in V$는

$\mathbf {v} =a_{1}\mathbf {b} _{1}+\cdots +a_{n}\mathbf {b} _{n}$

의 꼴로 표현되며, 이때 계수 $a_{1},\dots ,a_{n}$는 유일하다.

3차원 유클리드 공간에서 표준기저는 벡터 $e_{1},e_{2},e_{3}$이다.

예를 들어 $\mathbb {R} ^{n}$의 표준기저는

$\mathbf {e} _{1}=(1,0,\dots ,0),\quad \mathbf {e} _{2}=(0,1,\dots ,0),\quad \dots ,\quad \mathbf {e} _{n}=(0,0,\dots ,1)$

이다. 임의의 벡터 $(x_{1},\dots ,x_{n})$는

$(x_{1},\dots ,x_{n})=x_{1}\mathbf {e} _{1}+\cdots +x_{n}\mathbf {e} _{n}$

으로 유일하게 표현된다.

유한 차원 벡터 공간에서는 모든 기저의 원소 수가 같다. 이 공통된 수를 벡터 공간의 차원(영어: dimension)이라고 한다. 예를 들어 $\mathbb {R} ^{n}$의 차원은 $n$이다. 차원은 벡터 공간의 크기 또는 자유도를 나타내는 기본적인 불변량이다.

기저를 선택하면 추상적인 벡터 공간의 원소를 좌표로 나타낼 수 있다. $n$차원 벡터 공간 $V$에 기저를 하나 정하면, $V$의 각 벡터는 $F^{n}$의 한 벡터와 대응된다. 따라서 유한 차원 선형대수학에서는 추상적인 벡터 공간의 문제를 좌표와 행렬 계산의 문제로 바꾸어 다룰 수 있다.

좌표

벡터 공간 $V$의 기저

$B=(\mathbf {b} _{1},\dots ,\mathbf {b} _{n})$

가 주어졌다고 하자. 벡터 $\mathbf {v} \in V$가

$\mathbf {v} =a_{1}\mathbf {b} _{1}+\cdots +a_{n}\mathbf {b} _{n}$

로 표현될 때, 스칼라 $a_{1},\dots ,a_{n}$를 $B$에 대한 $\mathbf {v}$의 좌표(영어: coordinate)라고 한다. 이 좌표를 열벡터로 모아

$[\mathbf {v} ]_{B}={\begin{bmatrix}a_{1}\\\vdots \\a_{n}\end{bmatrix}}$

와 같이 쓴다.

같은 벡터(검은색 화살표)라도 선택한 기저(빨간색 벡터와 파란색 벡터)가 달라지면 좌표가 달라질 수 있다.

같은 벡터라도 선택한 기저가 달라지면 좌표는 달라질 수 있다. 그러나 벡터 자체는 변하지 않는다. 이 점은 선형대수학에서 매우 중요하다. 행렬 역시 선형 사상 자체가 아니라, 선택한 기저에 대한 좌표 표현으로 이해해야 한다.

예를 들어 $\mathbb {R} ^{2}$의 표준기저

$\mathbf {e} _{1}=(1,0),\quad \mathbf {e} _{2}=(0,1)$

에 대해서 벡터 $(3,2)$의 좌표는

${\begin{bmatrix}3\\2\end{bmatrix}}$

이다. 그러나 다른 기저

$\mathbf {b} _{1}=(1,1),\quad \mathbf {b} _{2}=(1,0)$

를 사용하면 같은 벡터는

$(3,2)=2(1,1)+1(1,0)$

로 표현되므로 좌표는

${\begin{bmatrix}2\\1\end{bmatrix}}$

가 된다.

이처럼 좌표는 기저에 의존하지만, 선형 결합·부분공간·차원·선형 사상 같은 개념은 기저 선택과 무관하게 정의된다. 선형대수학은 이러한 좌표에 의존하지 않는 구조와, 좌표를 사용한 계산을 함께 다루는 이론이다.

선형 사상과 행렬

 이 부분의 본문은 선형 변환, 행렬, 계수 (선형대수학) 및 계수-퇴화차수 정리입니다.

벡터 공간 사이의 구조를 보존하는 함수는 선형 사상이다. 유한 차원 벡터 공간에서는 기저를 선택하면 선형 사상을 행렬로 나타낼 수 있다. 이 때문에 행렬은 단순한 수의 배열이 아니라, 선형 사상을 좌표로 표현한 대상이라고 이해할 수 있다.

선형 사상

$V$와 $W$가 같은 체 $F$ 위의 벡터 공간이라고 하자. 함수

$T\colon V\to W$

가 모든 $\mathbf {u} ,\mathbf {v} \in V$와 모든 $a\in F$에 대하여

$T(\mathbf {u} +\mathbf {v} )=T(\mathbf {u} )+T(\mathbf {v} ),\qquad T(a\mathbf {v} )=aT(\mathbf {v} )$

를 만족하면 $T$를 선형 사상(영어: linear map) 또는 선형 변환(영어: linear transformation)이라고 한다.

동치적으로, 모든 $a,b\in F$와 $\mathbf {u} ,\mathbf {v} \in V$에 대해

$T(a\mathbf {u} +b\mathbf {v} )=aT(\mathbf {u} )+bT(\mathbf {v} )$

가 성립하면 $T$는 선형 사상이다. 즉, 선형 사상은 선형 결합을 보존하는 함수이다. 더 일반적으로,

$T(a_{1}\mathbf {v} _{1}+\cdots +a_{k}\mathbf {v} _{k})=a_{1}T(\mathbf {v} _{1})+\cdots +a_{k}T(\mathbf {v} _{k})$

가 성립한다.

선형 사상의 기본적인 예로는 다음이 있다.

• 임의의 벡터 공간 $V$에서 항등 사상

$I_{V}\colon V\to V,\qquad I_{V}(\mathbf {v} )=\mathbf {v}$

은 선형 사상이다.

• 모든 벡터를 영벡터로 보내는 영사상

$0\colon V\to W,\qquad 0(\mathbf {v} )=\mathbf {0}$

도 선형 사상이다.

• $\mathbb {R} ^{2}$에서

$T(x,y)=(x,0)$

로 정의되는 사상은 $x$축으로의 사영이며 선형 사상이다.

• $\mathbb {R} ^{2}$에서 원점을 중심으로 하는 회전과 원점을 지나는 직선에 대한 반사는 선형 사상이다.

반면

$f(x)=x+1$

과 같은 함수는 일반적으로 선형 사상이 아니다. 예를 들어 $f(0)=1$이므로 영벡터를 영벡터로 보내지 않는다. 선형 사상은 항상

$T(\mathbf {0} )=\mathbf {0}$

을 만족한다.

선형 사상은 기저 벡터들의 값을 알면 전체가 결정된다. 실제로 $V$의 기저가

$\mathbf {v} _{1},\dots ,\mathbf {v} _{n}$

이고

$\mathbf {v} =a_{1}\mathbf {v} _{1}+\cdots +a_{n}\mathbf {v} _{n}$

이면, 선형성에 의해

$T(\mathbf {v} )=a_{1}T(\mathbf {v} _{1})+\cdots +a_{n}T(\mathbf {v} _{n})$

이다. 따라서 $T(\mathbf {v} _{1}),\dots ,T(\mathbf {v} _{n})$을 정하면 $T$의 모든 값이 정해진다.

행렬 표현

유한 차원 벡터 공간에서는 기저를 선택하여 선형 사상을 행렬(영어: matrix)로 나타낼 수 있다. $V$의 기저를

$B=(\mathbf {v} _{1},\dots ,\mathbf {v} _{n})$,

$W$의 기저를

$C=(\mathbf {w} _{1},\dots ,\mathbf {w} _{m})$

이라고 하자. 선형 사상 $T\colon V\to W$에 대하여 각 기저 벡터의 상은 $W$의 기저 $C$에 대한 선형 결합으로 유일하게 표현된다.

$T(\mathbf {v} _{j})=a_{1j}\mathbf {w} _{1}+a_{2j}\mathbf {w} _{2}+\cdots +a_{mj}\mathbf {w} _{m}\qquad (j=1,\dots ,n).$

이 계수들을 열별로 모은 $m\times n$ 행렬

$[T]_{C\leftarrow B}={\begin{bmatrix}a_{11}&a_{12}&\cdots &a_{1n}\\a_{21}&a_{22}&\cdots &a_{2n}\\\vdots &\vdots &\ddots &\vdots \\a_{m1}&a_{m2}&\cdots &a_{mn}\end{bmatrix}}$

을 기저 $B$와 $C$에 대한 $T$의 행렬 표현(영어: matrix representation)이라고 한다. 이 행렬의 $j$번째 열은 $T(\mathbf {v} _{j})$의 $C$에 대한 좌표이다.

벡터 $\mathbf {v} \in V$의 $B$에 대한 좌표열을 $[\mathbf {v} ]_{B}$라고 쓰고, $T(\mathbf {v} )$의 $C$에 대한 좌표열을 $[T(\mathbf {v} )]_{C}$라고 쓰면,

$[T(\mathbf {v} )]_{C}=[T]_{C\leftarrow B}[\mathbf {v} ]_{B}$

가 성립한다. 즉, 선형 사상은 좌표를 사용하면 행렬곱으로 계산된다.

특히 $V=F^{n}$, $W=F^{m}$이고 표준기저를 사용하면, 임의의 $m\times n$ 행렬 $A$는 선형 사상

$T_{A}\colon F^{n}\to F^{m},\qquad T_{A}(\mathbf {x} )=A\mathbf {x}$

을 정의한다. 반대로 $F^{n}$에서 $F^{m}$으로 가는 모든 선형 사상은 어떤 $m\times n$ 행렬로 유일하게 표현된다.

예를 들어

$A={\begin{bmatrix}2&1\\-1&3\end{bmatrix}}$

라고 하면, 이에 대응하는 선형 사상 $T_{A}\colon \mathbb {R} ^{2}\to \mathbb {R} ^{2}$는

$T_{A}(x,y)={\begin{bmatrix}2&1\\-1&3\end{bmatrix}}{\begin{bmatrix}x\\y\end{bmatrix}}={\begin{bmatrix}2x+y\\-x+3y\end{bmatrix}}$

이다.

행렬 연산과 선형 사상

행렬의 연산은 선형 사상의 연산과 대응한다. 두 선형 사상

$S,T\colon V\to W$

와 스칼라 $a\in F$에 대하여

$(S+T)(\mathbf {v} )=S(\mathbf {v} )+T(\mathbf {v} ),\qquad (aT)(\mathbf {v} )=aT(\mathbf {v} )$

로 정의하면 $S+T$와 $aT$도 선형 사상이다. 선택한 기저에 대해 이 연산은 행렬의 덧셈과 스칼라배에 대응한다.

또한 선형 사상의 합성은 행렬곱에 대응한다. $U,V,W$가 유한 차원 벡터 공간이고

$S\colon U\to V,\qquad T\colon V\to W$

가 선형 사상이라고 하자. 적절한 기저를 선택하면 합성

$T\circ S\colon U\to W$

의 행렬은 $T$의 행렬과 $S$의 행렬의 곱으로 주어진다.

예를 들어 표준기저를 사용하는 경우 $S$가 행렬 $B$로, $T$가 행렬 $A$로 표현되면,

$T(S(\mathbf {x} ))=A(B\mathbf {x} )=(AB)\mathbf {x}$

이다. 따라서 합성 $T\circ S$의 행렬은 $AB$이다. 이 때문에 행렬곱의 순서는 일반적으로 중요하며,

$AB$

와

$BA$

는 둘 다 정의되더라도 서로 다를 수 있다.

정사각행렬 $A$가 역행렬 $A^{-1}$을 가지면 $A$는 가역 행렬(영어: invertible matrix)이라고 한다. 이는 대응하는 선형 사상이 동형 사상이라는 뜻이다. 즉, 선형 사상 $T\colon V\to V$가 가역이면 역함수 $T^{-1}$도 선형 사상이며, 그 행렬은 $A^{-1}$이다.

기저변환과 닮음

같은 벡터나 같은 선형 사상도 기저를 바꾸면 다른 좌표와 다른 행렬로 표현된다. 따라서 행렬을 다룰 때에는 그것이 어떤 기저에 대한 표현인지가 중요하다.

벡터 공간 $V$의 두 기저 $B$와 $B'$가 주어졌다고 하자. 어떤 벡터 $\mathbf {v} \in V$의 $B$에 대한 좌표와 $B'$에 대한 좌표 사이에는 가역 행렬 $P$가 존재하여

$[\mathbf {v} ]_{B}=P[\mathbf {v} ]_{B'}$

가 성립한다. 이 행렬 $P$를 기저변환 행렬이라고 한다.

이제 $T\colon V\to V$가 선형 변환이고, 같은 선형 변환을 기저 $B$와 $B'$에서 각각 행렬 $A$와 $A'$로 나타낸다고 하자. 기저변환 행렬이 $P$이면 두 행렬은

$A'=P^{-1}AP$

의 관계를 가진다. 이때 $A$와 $A'$는 닮음(영어: similar)이라고 한다.

닮은 행렬은 서로 다른 기저에서 같은 선형 변환을 나타낸다. 따라서 닮은 행렬은 많은 중요한 불변량을 공유한다. 예를 들어 행렬식, 대각합, 랭크, 특성다항식, 고윳값은 닮음 변환에 의해 변하지 않는다. 선형 변환을 가능한 한 단순한 행렬로 나타내려는 문제는 대각화와 표준형 이론으로 이어진다.

핵과 상

선형 사상 $T\colon V\to W$에 대하여

$\ker T=\{\mathbf {v} \in V\mid T(\mathbf {v} )=\mathbf {0} \}$

를 $T$의 핵(영어: kernel)이라고 한다. 핵은 $V$의 부분공간이다. 핵은 $T$가 영벡터로 보내는 벡터들의 모임이므로, 선형 사상이 얼마나 많은 정보를 잃는지를 나타낸다.

또한

$\operatorname {im} T=\{T(\mathbf {v} )\mid \mathbf {v} \in V\}$

를 $T$의 상(영어: image) 또는 치역이라고 한다. 상은 $W$의 부분공간이다. 상은 $T$를 통해 실제로 도달할 수 있는 벡터들의 모임이다.

행렬 $A$가 선형 사상 $T_{A}\colon F^{n}\to F^{m}$을 나타낼 때, $T_{A}$의 핵은 동차 선형 방정식계

$A\mathbf {x} =\mathbf {0}$

의 해공간이다. $T_{A}$의 상은 $A$의 열벡터들이 생성하는 부분공간, 즉 열공간이다.

선형 사상 $T\colon V\to W$가 단사일 필요충분조건은

$\ker T=\{\mathbf {0} \}$

이다. 또한 $T$가 전사일 필요충분조건은

$\operatorname {im} T=W$

이다. 따라서 핵과 상은 선형 사상의 단사성·전사성을 판단하는 기본 도구이다.

차원 정리

유한 차원 벡터 공간 $V$에서 선형 사상

$T\colon V\to W$

가 주어졌다고 하자. 이때 핵의 차원을 $T$의 널리티(영어: nullity) 또는 퇴화차수라고 하고, 상의 차원을 $T$의 랭크(영어: rank) 또는 계수라고 한다.

$\operatorname {nullity} T=\dim \ker T,\qquad \operatorname {rank} T=\dim \operatorname {im} T.$

차원 정리(영어: rank theorem)는 다음 등식을 말한다.

$\dim V=\dim \ker T+\dim \operatorname {im} T.$

즉,

$\dim V=\operatorname {nullity} T+\operatorname {rank} T$

이다.

이 정리는 선형 사상의 정의역 차원이 핵의 차원과 상의 차원으로 나뉜다는 사실을 나타낸다. 직관적으로 말하면, 정의역의 자유도 가운데 일부는 영벡터로 사라지고, 나머지는 상에서 실제로 나타난다.

행렬 $A$가 $m\times n$ 행렬이면, 대응하는 선형 사상은 $F^{n}$에서 $F^{m}$으로 가는 사상이다. 이 경우 차원 정리는

$n=\dim \ker A+\operatorname {rank} A$

로 쓸 수 있다. 이는 선형 방정식계의 해공간 차원과 행렬의 랭크 사이의 관계를 설명한다.

선형 사상의 동형

두 벡터 공간 $V,W$ 사이에 가역인 선형 사상

$T\colon V\to W$

가 존재하면 $V$와 $W$는 서로 동형(영어: isomorphic)이라고 한다. 동형인 두 벡터 공간은 선형대수학의 관점에서 같은 구조를 가진다.

유한 차원 벡터 공간에서는 같은 체 위의 두 벡터 공간이 동형일 필요충분조건은 차원이 같은 것이다. 특히 $F$ 위의 $n$차원 벡터 공간은 모두 $F^{n}$과 동형이다. 그러나 동형을 구체적으로 주려면 기저를 선택해야 하며, 선택한 기저에 따라 좌표 표현은 달라질 수 있다.

이 사실은 유한 차원 선형대수학에서 매우 중요하다. 추상적인 $n$차원 벡터 공간의 문제는 기저를 선택하면 $F^{n}$의 행렬 계산 문제로 바꿀 수 있다. 반대로 행렬 계산의 결과는 기저 선택에 의존하지 않는 선형 사상의 성질로 해석될 수 있다.

선형 방정식계

 이 부분의 본문은 연립 선형 방정식 및 가우스 소거법입니다.

선형대수학의 역사적 출발점 가운데 하나는 여러 개의 일차 방정식을 동시에 푸는 문제이다. 이러한 방정식들의 모임을 선형 방정식계(영어: linear system) 또는 연립 선형 방정식이라고 한다. 선형 방정식계는 행렬과 벡터를 사용하여 간결하게 표현할 수 있으며, 그 해의 존재 여부와 구조는 선형 변환의 핵, 상, 랭크와 밀접하게 관련된다.

행렬 표현

체 $F$ 위의 미지수 $x_{1},\dots ,x_{n}$에 대한 선형 방정식계는 일반적으로

${\begin{cases}a_{11}x_{1}+a_{12}x_{2}+\cdots +a_{1n}x_{n}=b_{1},\\a_{21}x_{1}+a_{22}x_{2}+\cdots +a_{2n}x_{n}=b_{2},\\\qquad \vdots \\a_{m1}x_{1}+a_{m2}x_{2}+\cdots +a_{mn}x_{n}=b_{m}\end{cases}}$

의 꼴로 쓸 수 있다. 여기서 $a_{ij}$와 $b_{i}$는 $F$의 원소이다.

행렬

$A={\begin{bmatrix}a_{11}&a_{12}&\cdots &a_{1n}\\a_{21}&a_{22}&\cdots &a_{2n}\\\vdots &\vdots &\ddots &\vdots \\a_{m1}&a_{m2}&\cdots &a_{mn}\end{bmatrix}},\qquad \mathbf {x} ={\begin{bmatrix}x_{1}\\x_{2}\\\vdots \\x_{n}\end{bmatrix}},\qquad \mathbf {b} ={\begin{bmatrix}b_{1}\\b_{2}\\\vdots \\b_{m}\end{bmatrix}}$

를 사용하면, 이 방정식계는

$A\mathbf {x} =\mathbf {b}$

로 나타난다. 이때 $A$를 계수행렬, $\mathbf {x}$를 미지수 벡터, $\mathbf {b}$를 상수벡터라고 한다.

계수행렬 $A$와 상수벡터 $\mathbf {b}$를 나란히 붙인 행렬

$[A\mid \mathbf {b} ]$

를 확대행렬(영어: augmented matrix)이라고 한다. 확대행렬은 가우스 소거법으로 선형 방정식계를 풀 때 주로 사용된다.

동차 방정식계와 비동차 방정식계

상수벡터가 영벡터인 방정식계

$A\mathbf {x} =\mathbf {0}$

를 동차 선형 방정식계(영어: homogeneous linear system)라고 한다. 동차 방정식계는 항상 적어도 하나의 해를 가진다. 실제로

$\mathbf {x} =\mathbf {0}$

은 언제나 해이다. 이를 자명해(영어: trivial root)라고 한다.

동차 방정식계의 해 전체는 $F^{n}$의 부분공간이다. 이 해공간은 행렬 $A$가 정의하는 선형 사상

$T_{A}\colon F^{n}\to F^{m},\qquad T_{A}(\mathbf {x} )=A\mathbf {x}$

의 핵과 같다. 따라서 동차 방정식계의 해공간 차원은 $A$의 널리티이다.

반대로 상수벡터 $\mathbf {b}$가 반드시 영벡터가 아닌 방정식계

$A\mathbf {x} =\mathbf {b}$

를 비동차 선형 방정식계라고 한다. 비동차 방정식계의 해집합은 일반적으로 부분공간이 아니다. 그러나 해가 하나라도 존재하면, 그 해집합은 하나의 특수해에 동차 방정식계의 해공간을 더한 꼴이다.

구체적으로 $A\mathbf {x} =\mathbf {b}$의 한 해를 $\mathbf {x} _{0}$라고 하면, 모든 해는

$\mathbf {x} =\mathbf {x} _{0}+\mathbf {z} ,\qquad A\mathbf {z} =\mathbf {0}$

의 꼴로 주어진다. 따라서 비동차 방정식계의 해집합은 동차해공간의 평행이동으로 볼 수 있다.

가우스 소거법

선형 방정식계를 푸는 기본적인 방법은 가우스 소거법이다. 가우스 소거법은 확대행렬에 기본 행 연산을 적용하여 방정식계를 더 단순한 형태로 바꾸는 절차이다. 기본 행 연산은 다음 세 종류이다.

• 두 행을 서로 바꾸는 연산
• 한 행에 0이 아닌 스칼라를 곱하는 연산
• 한 행에 다른 행의 스칼라배를 더하는 연산

이러한 연산은 원래 선형 방정식계와 같은 해집합을 갖는 방정식계를 만든다. 따라서 확대행렬을 더 단순한 행 사다리꼴 또는 기약 행 사다리꼴로 바꾼 뒤, 그 형태에서 해를 읽어 낼 수 있다.

예를 들어

${\begin{cases}x+y=3,\\2x-y=0\end{cases}}$

은 확대행렬

$\left[{\begin{array}{cc|c}1&1&3\\2&-1&0\end{array}}\right]$

로 나타낼 수 있다. 두 번째 행에서 첫 번째 행의 두 배를 빼면

$\left[{\begin{array}{cc|c}1&1&3\\0&-3&-6\end{array}}\right]$

을 얻고, 여기서 $y=2$, $x=1$을 얻는다.

가우스 소거법은 해를 구하는 것뿐 아니라 행렬의 랭크, 역행렬, 행렬식을 계산하는 데도 사용된다. 실제 수치 계산에서는 소거 과정의 안정성을 위해 피벗 선택과 같은 기법을 함께 사용한다.

해의 존재와 개수

선형 방정식계 $A\mathbf {x} =\mathbf {b}$가 적어도 하나의 해를 가지면 이를 일관적(영어: consistent)이라고 하고, 해가 없으면 불일관적이라고 한다. 해의 존재 여부는 상수벡터 $\mathbf {b}$가 행렬 $A$의 열벡터들이 생성하는 부분공간에 속하는지로 판단할 수 있다.

행렬 $A$의 열공간을 $\operatorname {Col} (A)$라고 하면,

$A\mathbf {x} =\mathbf {b}$

가 해를 가질 필요충분조건은

$\mathbf {b} \in \operatorname {Col} (A)$

이다. 선형 사상의 언어로 말하면, $\mathbf {b}$가 $T_{A}$의 상에 속해야 한다.

랭크를 사용하면 이 조건을 다음과 같이 나타낼 수 있다. 선형 방정식계 $A\mathbf {x} =\mathbf {b}$가 해를 가질 필요충분조건은

$\operatorname {rank} (A)=\operatorname {rank} ([A\mid \mathbf {b} ])$

이다. 즉, 상수벡터를 계수행렬에 덧붙였을 때 랭크가 증가하지 않아야 한다.

해가 존재할 때, 해의 개수는 자유변수의 수에 의해 결정된다. 미지수의 수가 $n$이고 계수행렬의 랭크가 $r$이면, 동차해공간의 차원은

$n-r$

이다. 따라서 해가 존재하고 $n-r=0$이면 해는 유일하며, $n-r>0$이면 보통 무한히 많은 해가 존재한다. 다만 유한체 위에서는 해공간의 차원이 양수이면 해의 수가 유한하지만 하나보다 많다.

해공간의 구조

동차 선형 방정식계 $A\mathbf {x} =\mathbf {0}$의 해공간은 $A$의 핵이다. 이 해공간의 기저를 구하면 모든 해를 매개변수로 표현할 수 있다. 예를 들어 해공간의 기저가

$\mathbf {z} _{1},\dots ,\mathbf {z} _{k}$

이면, 모든 동차해는

$c_{1}\mathbf {z} _{1}+\cdots +c_{k}\mathbf {z} _{k}$

의 꼴이다.

비동차 선형 방정식계 $A\mathbf {x} =\mathbf {b}$의 해가 존재하고, 한 특수해가 $\mathbf {x} _{0}$라면 모든 해는

$\mathbf {x} _{0}+c_{1}\mathbf {z} _{1}+\cdots +c_{k}\mathbf {z} _{k}$

로 쓸 수 있다. 여기서 $\mathbf {z} _{1},\dots ,\mathbf {z} _{k}$는 동차 방정식계 $A\mathbf {x} =\mathbf {0}$의 해공간의 기저이다.

이 구조는 선형 방정식계의 해집합이 기하학적으로 어떤 모양인지도 설명한다. 예를 들어 실수 벡터 공간에서 해집합은 공집합이거나, 한 점이거나, 직선·평면·고차원 아핀 부분공간이다. 동차 방정식계의 해집합은 항상 원점을 지나는 부분공간이고, 비동차 방정식계의 해집합은 그 부분공간을 평행이동한 아핀 부분공간이다.

정사각 선형계

미지수와 방정식의 수가 같은 경우, 즉 $A$가 $n\times n$ 정사각행렬인 경우에는 여러 조건이 서로 동치가 된다. 체 위의 정사각행렬 $A$에 대하여 다음 조건들은 서로 동치이다.

• $A$는 가역 행렬이다.
• $A\mathbf {x} =\mathbf {b}$는 모든 $\mathbf {b} \in F^{n}$에 대해 유일한 해를 가진다.
• 동차 방정식계 $A\mathbf {x} =\mathbf {0}$는 자명해만 가진다.
• $\operatorname {rank} (A)=n$이다.
• $A$의 열벡터들은 $F^{n}$의 기저를 이룬다.
• $\det A\neq 0$이다.

이러한 동치들은 선형대수학의 여러 개념이 하나로 연결되어 있음을 보여 준다. 행렬의 가역성, 선형 방정식계의 유일한 해, 열벡터의 일차독립성, 행렬식이 0이 아님은 모두 같은 현상의 서로 다른 표현이다.

정사각 선형계에서 $A$가 가역이면 해는

$\mathbf {x} =A^{-1}\mathbf {b}$

로 주어진다. 또한 행렬식을 사용하여 각 성분을 나타내는 크라메르 공식도 있다. 다만 큰 행렬에 대한 실제 계산에서는 역행렬이나 크라메르 공식보다 가우스 소거법이나 수치 선형대수학의 방법이 더 효율적이다.

행렬식과 고윳값

 이 부분의 본문은 행렬식, 고윳값과 고유 벡터, 대각화, 조르당 표준형 및 케일리-해밀턴 정리입니다.

정사각행렬과 벡터 공간의 자기 선형 변환을 연구할 때 중요한 불변량으로 행렬식, 대각합, 특성다항식, 고윳값과 고유벡터가 있다. 이들은 선형 변환이 가역인지, 어떤 방향을 보존하는지, 적절한 기저에서 얼마나 단순한 행렬로 표현될 수 있는지를 설명한다.

행렬식

행렬식은 정사각행렬에 대응되는 스칼라 값이다. $n\times n$ 행렬 $A$의 행렬식은 보통

$\det A$

또는

$|A|$

로 쓴다. 행렬식은 행렬의 행 또는 열에 대한 다중선형성과 교대성을 만족하는 함수로 정의할 수 있으며, 순열을 사용하면

$\det A=\sum _{\sigma \in S_{n}}\operatorname {sgn} (\sigma )a_{1\sigma (1)}a_{2\sigma (2)}\cdots a_{n\sigma (n)}$

으로 나타낼 수 있다. 여기서 $S_{n}$은 $n$개의 원소의 대칭군이고, $\operatorname {sgn} (\sigma )$는 순열 $\sigma$의 부호이다.

2차 정사각행렬

$A={\begin{bmatrix}a&b\\c&d\end{bmatrix}}$

의 행렬식은

$\det A=ad-bc$

이다. 행렬식은 정사각행렬의 가역성을 판정한다. 체 위의 정사각행렬 $A$가 가역 행렬일 필요충분조건은

$\det A\neq 0$

이다. 반대로 $\det A=0$이면 $A$는 가역이 아니다.

실수 벡터 공간에서 행렬식은 기하학적으로도 해석된다. 실수 $n\times n$ 행렬 $A$가 정의하는 선형 변환

$\mathbf {x} \mapsto A\mathbf {x}$

는 $n$차원 부피를 $|\det A|$배로 바꾼다. 행렬식의 부호는 방향을 보존하는지 뒤집는지와 관련된다. 예를 들어 $\mathbb {R} ^{2}$에서 행렬식의 절댓값은 넓이의 확대율이고, $\mathbb {R} ^{3}$에서는 부피의 확대율이다.

행렬식은 행렬곱에 대해

$\det(AB)=\det(A)\det(B)$

를 만족한다. 따라서 가역 행렬 $P$에 대하여

$\det(P^{-1}AP)=\det A$

가 성립한다. 즉, 행렬식은 닮음 변환에 의해 변하지 않는다. 그러므로 같은 선형 변환을 서로 다른 기저에서 나타낸 행렬들은 같은 행렬식을 가진다.

대각합과 특성다항식

정사각행렬 $A=(a_{ij})$의 대각합 또는 트레이스는 주대각 성분의 합

$\operatorname {tr} A=a_{11}+a_{22}+\cdots +a_{nn}$

이다. 대각합도 닮음 변환에 의해 변하지 않는다. 즉, 가역 행렬 $P$에 대해

$\operatorname {tr} (P^{-1}AP)=\operatorname {tr} A$

가 성립한다.

정사각행렬 $A$의 특성다항식은

$p_{A}(t)=\det(tI-A)$

로 정의되는 다항식이다. 문헌에 따라 $\det(A-tI)$를 사용하기도 하는데, 이는 부호 차이만 있을 수 있으며 고윳값에 관한 같은 정보를 담는다. 여기서 $I$는 단위행렬이다.

특성다항식은 행렬의 중요한 불변량이다. 두 행렬 $A$와 $B$가 닮음이면 두 행렬의 특성다항식은 같다. 따라서 특성다항식은 선택한 기저에 의존하지 않는 선형 변환의 불변량으로 볼 수 있다.

특성다항식이 대수적 폐포에서 일차식들의 곱으로 분해될 때, 중복도를 포함한 고윳값들의 합은 대각합과 같고, 고윳값들의 곱은 행렬식과 같다. 더 정확히 말해 $A$가 $n\times n$ 행렬이고 그 고윳값을 중복도를 포함하여

$\lambda _{1},\dots ,\lambda _{n}$

이라고 하면,

$\lambda _{1}+\cdots +\lambda _{n}=\operatorname {tr} A,\qquad \lambda _{1}\cdots \lambda _{n}=\det A$

가 성립한다.

고윳값과 고유벡터

벡터 공간 $V$ 위의 선형 변환

$T\colon V\to V$

가 주어졌다고 하자. 0이 아닌 벡터 $\mathbf {v} \in V$와 스칼라 $\lambda$가

$T(\mathbf {v} )=\lambda \mathbf {v}$

를 만족하면, $\mathbf {v}$를 $T$의 고유벡터라고 하고, $\lambda$를 그에 대응하는 고윳값이라고 한다. 행렬 $A$에 대해서는 같은 조건을

$A\mathbf {v} =\lambda \mathbf {v}$

로 쓴다.

실수 벡터 공간의 기하학적 관점에서 고유벡터는 선형 변환을 적용해도 자신이 생성하는 1차원 부분공간 안에 남는 벡터이다. 즉, 고유벡터의 방향은 변환 뒤에도 같은 직선 위에 있으며, 고윳값은 그 방향에서의 확대·축소 비율을 나타낸다. 다만 일반적인 체나 복소수 벡터 공간에서는 “방향”이라는 표현보다 1차원 부분공간이 보존된다는 표현이 더 정확하다.

행렬 $A$의 고윳값은 특성방정식

$\det(A-\lambda I)=0$

또는 동치인 식

$\det(\lambda I-A)=0$

의 해로 구할 수 있다. 실제로

$A\mathbf {v} =\lambda \mathbf {v}$

는

$(A-\lambda I)\mathbf {v} =\mathbf {0}$

와 같고, 0이 아닌 해 $\mathbf {v}$가 존재하려면 행렬 $A-\lambda I$가 가역이 아니어야 한다. 이는 그 행렬식이 0이라는 조건과 같다.

고윳값 $\lambda$에 대하여

$E_{\lambda }=\{\mathbf {v} \in V\mid T(\mathbf {v} )=\lambda \mathbf {v} \}$

는 $V$의 부분공간이다. 이를 $\lambda$에 대한 고유공간이라고 한다. 고유공간은

$E_{\lambda }=\ker(T-\lambda I)$

로 쓸 수 있으므로, 선형 사상 $T-\lambda I$의 핵이다.

고윳값은 선택한 체에 따라 존재하지 않을 수도 있다. 예를 들어 실수 평면에서 원점을 중심으로 90도 회전하는 선형 변환은 실수 고윳값과 실수 고유벡터를 갖지 않는다. 그러나 복소수체로 스칼라를 확장하면 고윳값이 나타난다. 이처럼 고윳값 이론에서는 어떤 체 위에서 벡터 공간을 다루는지가 중요하다.

대수적 중복도와 기하적 중복도

고윳값 $\lambda$가 특성다항식의 근으로 나타나는 중복도를 $\lambda$의 대수적 중복도라고 한다. 반면 고유공간 $E_{\lambda }$의 차원

$\dim E_{\lambda }$

을 $\lambda$의 기하적 중복도라고 한다.

항상

$1\leq \dim E_{\lambda }\leq$ $\lambda$의 대수적 중복도

가 성립한다. 즉, 어떤 고윳값에 대응하는 일차독립인 고유벡터의 수는 그 고윳값이 특성다항식에서 나타나는 중복도를 넘을 수 없다.

예를 들어

$A={\begin{bmatrix}1&1\\0&1\end{bmatrix}}$

의 특성다항식은

$(t-1)^{2}$

이므로 고윳값 1의 대수적 중복도는 2이다. 그러나

$(A-I)\mathbf {v} =\mathbf {0}$

의 해공간은 1차원이므로 기하적 중복도는 1이다. 따라서 이 행렬은 충분한 수의 일차독립인 고유벡터를 갖지 않는다.

대각화

정사각행렬 $A$가 어떤 가역 행렬 $P$와 대각행렬 $D$에 대하여

$A=PDP^{-1}$

로 표현될 수 있으면, $A$는 대각화 가능하다고 한다. 동치적으로,

$P^{-1}AP=D$

가 대각행렬이 되도록 하는 가역 행렬 $P$가 존재하면 $A$는 대각화 가능하다.

대각화는 선형 변환을 어떤 기저에서 대각행렬로 표현하는 과정이다. $A$가 $n$개의 일차독립인 고유벡터

$\mathbf {v} _{1},\dots ,\mathbf {v} _{n}$

를 가지면, 이 벡터들을 열로 갖는 행렬

$P={\begin{bmatrix}\mathbf {v} _{1}&\cdots &\mathbf {v} _{n}\end{bmatrix}}$

는 가역이고,

$P^{-1}AP=\operatorname {diag} (\lambda _{1},\dots ,\lambda _{n})$

가 된다. 여기서 $\lambda _{i}$는 $\mathbf {v} _{i}$에 대응하는 고윳값이다.

따라서 $A$가 대각화 가능할 필요충분조건은 벡터 공간이 $A$의 고유벡터들로 이루어진 기저를 갖는 것이다. 특히 $n\times n$ 행렬 $A$가 서로 다른 $n$개의 고윳값을 가지면 $A$는 대각화 가능하다. 그러나 서로 다른 고윳값의 수가 $n$보다 작더라도, 각 고유공간의 차원이 충분하면 대각화 가능할 수 있다.

대각화가 가능하면 행렬의 거듭제곱과 행렬 함수 계산이 단순해진다. 예를 들어

$A=PDP^{-1}$

이면

$A^{k}=PD^{k}P^{-1}$

이다. 대각행렬 $D$의 거듭제곱은 대각 성분의 거듭제곱으로 계산되므로, 대각화는 미분방정식, 마르코프 연쇄, 동역학계, 수치해석 등에서 유용하다.

표준형과 케일리-해밀턴 정리

모든 행렬이 대각화 가능한 것은 아니다. 대각화가 불가능한 경우에도 선형 변환을 더 단순한 형태로 표현하는 표준형이 존재할 수 있다. 대수적으로 닫힌 체 위에서는 행렬을 조르당 표준형으로 나타낼 수 있으며, 조르당 표준형은 고윳값뿐 아니라 대각화가 실패하는 방식도 함께 보여 준다.

일반적인 체 위에서는 특성다항식이 일차식들의 곱으로 분해되지 않을 수 있으므로 조르당 표준형이 항상 존재하지 않는다. 이 경우에는 유리 표준형 또는 프로베니우스 표준형을 사용한다. 이러한 표준형들은 선형 변환을 기저 선택에 따라 가능한 한 단순하게 표현하려는 이론의 일부이다.

정사각행렬 $A$의 특성다항식을 $p_{A}(t)$라고 하자. 케일리-해밀턴 정리는 모든 정사각행렬이 자기 자신의 특성다항식을 만족한다는 정리이다. 즉,

$p_{A}(A)=0$

이 성립한다. 여기서 $0$은 영행렬이다.

예를 들어 2차 행렬 $A$에 대하여

$p_{A}(t)=t^{2}-(\operatorname {tr} A)t+\det A$

이면, 케일리-해밀턴 정리는

$A^{2}-(\operatorname {tr} A)A+(\det A)I=0$

을 말한다. 이 정리는 행렬의 높은 차수의 거듭제곱을 낮은 차수의 행렬들의 선형 결합으로 표현하는 데 사용되며, 최소다항식과 표준형 이론에도 연결된다.

내적 공간

 이 부분의 본문은 내적 공간, 직교, 그람-슈미트 과정, 직교 행렬, 스펙트럼 정리 및 양의 정부호 행렬입니다.

벡터 공간에 내적이 주어지면 벡터의 길이, 두 벡터 사이의 각도, 직교성, 직교사영 등을 정의할 수 있다. 이러한 구조를 갖는 벡터 공간을 내적 공간이라고 한다. 내적 공간은 유클리드 공간의 기하학을 일반적인 벡터 공간으로 확장한 것으로 볼 수 있으며, 최소제곱법, 직교 행렬, 에르미트 행렬, 스펙트럼 정리, 이차 형식 등과 밀접하게 관련된다.

내적과 노름

실수 또는 복소수 벡터 공간 $V$ 위의 내적은 두 벡터 $\mathbf {u} ,\mathbf {v} \in V$에 스칼라

$\langle \mathbf {u} ,\mathbf {v} \rangle$

를 대응시키는 함수이다. 실수 벡터 공간에서는 보통 다음 성질을 만족하는 쌍선형 형식을 내적으로 본다.

• $\langle a\mathbf {u} +b\mathbf {v} ,\mathbf {w} \rangle =a\langle \mathbf {u} ,\mathbf {w} \rangle +b\langle \mathbf {v} ,\mathbf {w} \rangle$
• $\langle \mathbf {u} ,\mathbf {v} \rangle =\langle \mathbf {v} ,\mathbf {u} \rangle$
• $\langle \mathbf {v} ,\mathbf {v} \rangle \geq 0$이고, $\langle \mathbf {v} ,\mathbf {v} \rangle =0$일 필요충분조건은 $\mathbf {v} =\mathbf {0}$이다.

복소수 벡터 공간에서는 한쪽 변수에 켤레가 들어가며, 어느 변수를 선형으로 둘지는 문헌에 따라 관습이 다르다. 이 문서에서는 첫 번째 변수를 선형으로 두는 관습을 따른다. 이 경우 복소수 내적은

$\langle \mathbf {u} ,\mathbf {v} \rangle ={\overline {\langle \mathbf {v} ,\mathbf {u} \rangle }}$

을 만족한다.

가장 기본적인 예는 $\mathbb {R} ^{n}$의 표준 내적이다.

$\langle \mathbf {x} ,\mathbf {y} \rangle =x_{1}y_{1}+\cdots +x_{n}y_{n}$

복소수 공간 $\mathbb {C} ^{n}$에서는, 위 관습에 따라

$\langle \mathbf {x} ,\mathbf {y} \rangle =x_{1}{\overline {y_{1}}}+\cdots +x_{n}{\overline {y_{n}}}$

을 표준 내적으로 둔다.

내적이 주어지면 벡터의 노름 또는 길이를

$\|\mathbf {v} \|={\sqrt {\langle \mathbf {v} ,\mathbf {v} \rangle }}$

으로 정의한다. 노름을 사용하면 두 벡터 사이의 거리도

$d(\mathbf {u} ,\mathbf {v} )=\|\mathbf {u} -\mathbf {v} \|$

로 정의할 수 있다. 따라서 내적 공간은 벡터 공간이면서 동시에 길이와 거리의 개념을 가진 공간이다.

직교성과 직교사영

내적 공간 $V$의 두 벡터 $\mathbf {u} ,\mathbf {v}$가

$\langle \mathbf {u} ,\mathbf {v} \rangle =0$

을 만족하면 두 벡터는 서로 직교한다고 한다. 이는 유클리드 공간에서 두 벡터가 수직이라는 개념을 일반화한 것이다.

부분공간 $U\subseteq V$에 대하여, $U$의 모든 벡터와 직교하는 벡터들의 집합

$U^{\perp }=\{\mathbf {v} \in V\mid \langle \mathbf {v} ,\mathbf {u} \rangle =0\ {\text{for all }}\mathbf {u} \in U\}$

을 $U$의 직교 여공간이라고 한다. $U^{\perp }$는 항상 $V$의 부분공간이다.

유한 차원 내적 공간에서 부분공간 $U$가 주어지면

$V=U\oplus U^{\perp }$

가 성립한다. 즉, 임의의 벡터 $\mathbf {v} \in V$는

$\mathbf {v} =\mathbf {u} +\mathbf {w} ,\qquad \mathbf {u} \in U,\ \mathbf {w} \in U^{\perp }$

의 꼴로 유일하게 표현된다. 이때 $\mathbf {u}$를 $\mathbf {v}$의 $U$ 위로의 직교사영이라고 한다.

직교사영은 “주어진 부분공간 안에서 원래 벡터에 가장 가까운 벡터”를 찾는 과정으로 이해할 수 있다. 실제로 $\mathbf {u} =\operatorname {proj} _{U}(\mathbf {v} )$이면, $\mathbf {u}$는 $U$에 속하는 벡터들 가운데 $\mathbf {v}$와의 거리가 최소인 유일한 벡터이다. 이 사실은 최소제곱법의 기하학적 기초가 된다.

두 벡터 $\mathbf {u} ,\mathbf {v}$가 직교하면

$\|\mathbf {u} +\mathbf {v} \|^{2}=\|\mathbf {u} \|^{2}+\|\mathbf {v} \|^{2}$

가 성립한다. 이는 피타고라스 정리의 내적 공간 버전이다.

정규직교기저와 그람-슈미트 과정

내적 공간의 벡터들 $\mathbf {v} _{1},\dots ,\mathbf {v} _{k}$가 서로 다른 임의의 두 벡터에 대해 직교하면 이 벡터들은 직교 집합을 이룬다고 한다. 여기에 각 벡터의 노름이 1이라는 조건

$\|\mathbf {v} _{i}\|=1$

이 추가되면 정규직교 집합이라고 한다.

벡터 공간의 기저가 직교 집합이면 이를 직교기저라고 하고, 정규직교 집합이면 정규직교기저라고 한다. 정규직교기저

$\mathbf {e} _{1},\dots ,\mathbf {e} _{n}$

이 주어지면 임의의 벡터 $\mathbf {v}$는

$\mathbf {v} =\langle \mathbf {v} ,\mathbf {e} _{1}\rangle \mathbf {e} _{1}+\cdots +\langle \mathbf {v} ,\mathbf {e} _{n}\rangle \mathbf {e} _{n}$

으로 표현된다. 따라서 정규직교기저에 대한 좌표는 각 기저 벡터와의 내적을 계산하여 얻을 수 있다.

그람-슈미트 과정은 일차독립인 벡터들의 집합으로부터 같은 생성 부분공간을 갖는 정규직교 벡터들의 집합을 만드는 절차이다. 예를 들어 일차독립인 벡터

$\mathbf {v} _{1},\dots ,\mathbf {v} _{k}$

가 주어졌을 때, 앞에서 얻은 정규직교 벡터들의 방향 성분을 차례로 제거하고 남은 벡터를 정규화하여

$\mathbf {e} _{1},\dots ,\mathbf {e} _{k}$

를 만든다. 이때 각 $j$에 대해

$\operatorname {span} (\mathbf {e} _{1},\dots ,\mathbf {e} _{j})=\operatorname {span} (\mathbf {v} _{1},\dots ,\mathbf {v} _{j})$

가 성립한다.

그람-슈미트 과정은 유한 차원 내적 공간의 임의의 기저로부터 정규직교기저를 만들 수 있음을 보여 준다. 또한 QR 분해, 직교사영, 최소제곱법, 수치 선형대수학에서 기본적인 역할을 한다.

직교 행렬과 유니터리 행렬

실수 정사각행렬 $Q$가

$Q^{\mathsf {T}}Q=I$

를 만족하면 $Q$를 직교 행렬이라고 한다. 이는 $Q$의 열벡터들이 $\mathbb {R} ^{n}$의 표준 내적에 대한 정규직교기저를 이룬다는 뜻과 같다.

직교 행렬은 길이와 내적을 보존한다.

$\langle Q\mathbf {x} ,Q\mathbf {y} \rangle =\langle \mathbf {x} ,\mathbf {y} \rangle$

따라서 직교 행렬은 유클리드 공간에서 원점을 고정하는 거리 보존 선형 변환을 나타낸다. 예를 들어 원점을 중심으로 하는 회전과 원점을 지나는 직선이나 평면에 대한 반사는 직교 행렬로 표현된다. 직교 행렬 $Q$는 항상 가역이고

$Q^{-1}=Q^{\mathsf {T}}$

를 만족한다.

복소수 벡터 공간에서는 직교 행렬에 대응하는 개념으로 유니터리 행렬이 있다. 복소 정사각행렬 $U$가

$U^{*}U=I$

를 만족하면 $U$를 유니터리 행렬이라고 한다. 여기서 $U^{*}$는 $U$의 켤레전치이다. 유니터리 행렬은 복소 내적을 보존하며

$U^{-1}=U^{*}$

를 만족한다.

수반과 스펙트럼 정리

내적 공간 $V$의 선형 변환 $T\colon V\to V$에 대하여, 모든 $\mathbf {u} ,\mathbf {v} \in V$에 대해

$\langle T\mathbf {u} ,\mathbf {v} \rangle =\langle \mathbf {u} ,T^{*}\mathbf {v} \rangle$

를 만족하는 선형 변환 $T^{*}$를 $T$의 수반이라고 한다. 유한 차원 내적 공간에서는 수반이 항상 존재하고 유일하다.

표준 내적에 대한 행렬 표현에서 수반은 전치 또는 켤레전치에 대응한다. 실수 행렬의 경우 수반은 전치행렬 $A^{\mathsf {T}}$이고, 복소수 행렬의 경우 수반은 켤레전치행렬 $A^{*}$이다. 실수 행렬 $A$가

$A^{\mathsf {T}}=A$

를 만족하면 대칭 행렬이라고 하고, 복소 행렬 $A$가

$A^{*}=A$

를 만족하면 에르미트 행렬이라고 한다.

선형 변환 $T$가

$TT^{*}=T^{*}T$

를 만족하면 $T$를 정규라고 한다. 행렬에 대해서도 같은 조건을 사용한다. 직교 행렬, 유니터리 행렬, 실수 대칭 행렬, 에르미트 행렬은 모두 정규 행렬의 중요한 예이다.

스펙트럼 정리는 내적 공간에서 중요한 행렬들을 정규직교기저에 대해 대각화할 수 있음을 말한다. 대표적으로 실수 대칭 행렬 $A$에 대해서는 어떤 직교 행렬 $Q$와 실수 대각행렬 $D$가 존재하여

$Q^{\mathsf {T}}AQ=D$

가 성립한다. 즉, 실수 대칭 행렬은 직교대각화 가능하다.

복소수 에르미트 행렬 $A$에 대해서도 어떤 유니터리 행렬 $U$와 실수 대각행렬 $D$가 존재하여

$U^{*}AU=D$

가 성립한다. 더 일반적으로, 복소 정규 행렬은 유니터리 행렬에 의해 대각화된다. 스펙트럼 정리는 이차 형식, 주성분 분석, 양자역학, 수치해석 등에서 널리 사용된다.

양의 정부호 행렬과 이차 형식

실수 대칭 행렬 $A$에 대하여

$q(\mathbf {x} )=\mathbf {x} ^{\mathsf {T}}A\mathbf {x}$

는 이차 형식을 정의한다. 모든 0이 아닌 벡터 $\mathbf {x}$에 대해

$\mathbf {x} ^{\mathsf {T}}A\mathbf {x} >0$

이면 $A$를 양의 정부호 행렬이라고 한다. 모든 $\mathbf {x}$에 대해

$\mathbf {x} ^{\mathsf {T}}A\mathbf {x} \geq 0$

이면 양의 준정부호 행렬이라고 한다.

실수 대칭 행렬의 경우, 양의 정부호성은 고윳값을 통해 판정할 수 있다. 즉, 실수 대칭 행렬 $A$가 양의 정부호일 필요충분조건은 $A$의 모든 고윳값이 양수인 것이다. 양의 준정부호일 필요충분조건은 모든 고윳값이 0 이상인 것이다.

양의 정부호 행렬은 내적을 만드는 데도 사용된다. 실수 대칭 양의 정부호 행렬 $A$가 주어지면

$\langle \mathbf {x} ,\mathbf {y} \rangle _{A}=\mathbf {x} ^{\mathsf {T}}A\mathbf {y}$

는 $\mathbb {R} ^{n}$ 위의 내적을 정의한다. 이러한 내적은 최적화, 통계학, 미분기하학, 수치해석에서 자주 나타난다.

기하학과의 관계

선형대수학은 기하학의 많은 개념을 대수적으로 표현하는 언어를 제공한다. 좌표계를 사용하면 점, 직선, 평면, 변환 등을 수와 벡터, 행렬로 나타낼 수 있으며, 기하학적 문제를 선형 방정식계나 선형 변환의 문제로 바꿀 수 있다. 반대로 선형대수학의 많은 개념은 기하학적 직관을 통해 이해할 수 있다.

좌표와 선형 방정식

데카르트 좌표계를 사용하면 평면의 점은 순서쌍

$(x,y)$

으로, 3차원 공간의 점은 순서삼쌍

$(x,y,z)$

으로 나타낼 수 있다. 더 일반적으로 $n$차원 좌표공간의 점은

$(x_{1},\dots ,x_{n})$

과 같은 벡터로 표현된다. 따라서 기하학적 대상은 벡터와 방정식을 통해 연구할 수 있다.

예를 들어 평면에서 원점을 지나는 직선은 하나의 1차원 부분공간이다. $\mathbb {R} ^{2}$에서 벡터 $\mathbf {v} \neq \mathbf {0}$가 주어졌을 때,

$\{t\mathbf {v} \mid t\in \mathbb {R} \}$

는 원점을 지나는 직선이다. 마찬가지로 $\mathbb {R} ^{3}$에서 두 일차독립 벡터 $\mathbf {u} ,\mathbf {v}$가 주어지면,

$\{s\mathbf {u} +t\mathbf {v} \mid s,t\in \mathbb {R} \}$

는 원점을 지나는 평면이다.

직선과 평면은 선형 방정식으로도 나타난다. 예를 들어 $\mathbb {R} ^{3}$에서 방정식

$ax+by+cz=0$

의 해집합은 원점을 지나는 평면이다. 더 일반적으로 동차 선형 방정식계의 해집합은 벡터 공간의 부분공간이다. 따라서 부분공간은 선형 방정식계의 해집합으로도, 벡터들의 선형 결합으로도 이해할 수 있다.

아핀 공간과 아핀 부분공간

벡터 공간의 부분공간은 항상 영벡터를 포함한다. 그러나 기하학에서는 원점을 지나지 않는 직선이나 평면도 중요하다. 이러한 대상을 다루기 위해 아핀 공간과 아핀 부분공간의 개념을 사용한다.

벡터 공간 $V$의 부분공간 $W$와 벡터 $\mathbf {p} \in V$가 주어졌을 때,

$\mathbf {p} +W=\{\mathbf {p} +\mathbf {w} \mid \mathbf {w} \in W\}$

를 $W$의 평행이동이라고 한다. 이러한 집합을 아핀 부분공간이라고 한다. 예를 들어 $\mathbb {R} ^{2}$에서 원점을 지나지 않는 직선은 1차원 부분공간을 평행이동한 아핀 부분공간이다.

비동차 선형 방정식계

$A\mathbf {x} =\mathbf {b}$

의 해집합도 해가 존재할 경우 아핀 부분공간이다. 실제로 한 특수해를 $\mathbf {x} _{0}$라고 하면 모든 해는

$\mathbf {x} =\mathbf {x} _{0}+\mathbf {z} ,\qquad A\mathbf {z} =\mathbf {0}$

의 꼴로 나타난다. 따라서 비동차 방정식계의 해집합은 동차 방정식계의 해공간을 평행이동한 것이다.

이 관점에서 선형대수학은 직선과 평면의 교점, 평행성, 차원, 교차 여부 같은 아핀기하학의 기본 문제를 방정식과 부분공간의 언어로 설명한다.

선형 변환의 기하학적 의미

선형 변환은 원점을 고정하고 직선과 평면 같은 선형 구조를 보존하는 변환이다. 예를 들어 $T\colon V\to W$가 선형 변환이면,

$T(a\mathbf {u} +b\mathbf {v} )=aT(\mathbf {u} )+bT(\mathbf {v} )$

이므로, 선형 결합으로 이루어진 구조는 변환 뒤에도 선형 결합으로 이루어진 구조로 남는다.

평면이나 공간에서 중요한 선형 변환으로는 다음과 같은 것들이 있다.

• 원점을 중심으로 하는 회전
• 원점을 지나는 직선이나 평면에 대한 반사
• 특정 방향으로의 확대와 축소
• 한 부분공간 위로의 사영
• 특정 방향으로 미는 전단 변환

이러한 변환은 모두 적절한 기저를 선택하면 행렬로 표현된다. 예를 들어 평면에서 원점을 중심으로 각도 $\theta$만큼 회전하는 변환은 표준기저에 대해

${\begin{bmatrix}\cos \theta &-\sin \theta \\\sin \theta &\cos \theta \end{bmatrix}}$

로 나타난다. 이처럼 행렬은 기하학적 변환을 계산 가능한 형태로 나타내는 도구이다.

선형 변환은 원점을 반드시 영벡터로 보낸다. 따라서 평행이동은 선형 변환이 아니다. 그러나 평행이동과 선형 변환을 합친 변환

$\mathbf {x} \mapsto A\mathbf {x} +\mathbf {b}$

은 아핀 변환이라고 하며, 기하학과 컴퓨터 그래픽스에서 널리 사용된다.

행렬식과 부피

행렬식은 기하학적으로 부피의 변화율을 나타낸다. 실수 $n\times n$ 행렬 $A$가 정의하는 선형 변환

$\mathbf {x} \mapsto A\mathbf {x}$

는 $n$차원 공간의 부피를

$|\det A|$

배로 바꾼다. $\det A$의 부호는 방향을 보존하는지 뒤집는지와 관련된다.

예를 들어 $\mathbb {R} ^{2}$에서 두 벡터

$\mathbf {u} =(a,c),\qquad \mathbf {v} =(b,d)$

가 만드는 평행사변형의 부호 있는 넓이는

$\det {\begin{bmatrix}a&b\\c&d\end{bmatrix}}=ad-bc$

이다. 이 값의 절댓값이 실제 넓이이다.

3차원에서는 세 벡터가 만드는 평행육면체의 부피가 이 세 벡터를 열로 갖는 행렬의 행렬식의 절댓값으로 주어진다. 이러한 해석은 행렬식이 왜 선형 변환의 가역성과 관련되는지도 설명한다. 행렬식이 0이면 어떤 부피 있는 영역이 더 낮은 차원으로 눌려 부피가 0이 되므로, 변환은 가역일 수 없다.

고윳값과 불변 방향

고윳값과 고유벡터도 기하학적 의미를 가진다. 선형 변환 $T$에 대해

$T(\mathbf {v} )=\lambda \mathbf {v}$

를 만족하는 0이 아닌 벡터 $\mathbf {v}$는 변환 뒤에도 같은 직선 위에 남는다. 즉, 고유벡터가 생성하는 직선은 $T$에 의해 자기 자신으로 보내지는 불변 방향이다.

예를 들어 평면에서 어떤 선형 변환이 한 방향으로는 두 배 늘리고, 다른 방향으로는 절반으로 줄인다면, 그 두 방향의 벡터들은 고유벡터가 된다. 대응하는 고윳값은 각각 늘어나는 비율과 줄어드는 비율을 나타낸다.

실수 행렬이 항상 실수 고유벡터를 갖는 것은 아니다. 예를 들어 원점을 중심으로 90도 회전하는 변환은 실수 평면에서 어떤 0이 아닌 벡터도 자기 자신이 놓인 직선 위로 보내지 않는다. 따라서 실수 고유벡터가 없다. 그러나 복소수 벡터 공간으로 확장하면 고윳값과 고유벡터를 가질 수 있다.

고유벡터로 이루어진 기저가 존재하면 선형 변환은 기하학적으로 서로 독립적인 방향들에서의 확대·축소로 분해된다. 이것이 대각화의 기하학적 의미이다.

내적과 유클리드 기하학

내적 공간은 유클리드 기하학의 길이와 각도 개념을 일반적인 벡터 공간으로 확장한다. 내적이 주어지면 벡터의 길이

$\|\mathbf {v} \|={\sqrt {\langle \mathbf {v} ,\mathbf {v} \rangle }}$

와 두 벡터 사이의 각도를 정의할 수 있다. 실수 내적 공간에서는 0이 아닌 두 벡터 $\mathbf {u} ,\mathbf {v}$에 대해

$\cos \theta ={\frac {\langle \mathbf {u} ,\mathbf {v} \rangle }{\|\mathbf {u} \|\|\mathbf {v} \|}}$

로 각도 $\theta$를 정의한다.

내적이 0인 두 벡터는 서로 직교한다. 직교성은 유클리드 기하학의 수직 개념을 일반화한 것이다. 직교기저나 정규직교기저를 사용하면 벡터의 좌표, 길이, 사영을 쉽게 계산할 수 있다.

특히 부분공간 위로의 직교사영은 “가장 가까운 점”을 찾는 기하학적 문제로 이해할 수 있다. 벡터 $\mathbf {v}$와 부분공간 $U$가 주어졌을 때, $U$ 위로의 직교사영은 $U$에 속하는 벡터들 가운데 $\mathbf {v}$와의 거리가 가장 짧은 벡터이다. 이 사실은 최소제곱법의 기하학적 기초이다.

쌍대성

벡터 공간 $V$에서 스칼라체 $F$로 가는 선형 사상

$f\colon V\to F$

을 선형 범함수라고 한다. 모든 선형 범함수들의 벡터 공간을 $V$의 쌍대공간이라고 하며

$V^{*}$

로 쓴다.

쌍대공간은 기하학적으로 초평면과 관련된다. 예를 들어 0이 아닌 선형 범함수 $f$에 대해

$\ker f=\{\mathbf {v} \in V\mid f(\mathbf {v} )=0\}$

는 $V$의 초평면이다. 실수 공간에서 하나의 선형 방정식

$a_{1}x_{1}+\cdots +a_{n}x_{n}=0$

은 원점을 지나는 초평면을 정의한다.

유한 차원 벡터 공간에서는 $V$와 그 이중쌍대공간 $V^{**}$가 자연스럽게 동형이다. 또한 기저를 선택하면 쌍대기저를 정의할 수 있으며, 이는 좌표 함수의 역할을 한다. 쌍대성은 선형 방정식, 초평면, 사영기하학, 텐서 이론에서 중요한 역할을 한다.

사영기하학과 선형대수학

사영기하학도 선형대수학으로 구성할 수 있다. 체 $F$ 위의 벡터 공간 $V$에서 0이 아닌 벡터들을 스칼라배까지 같은 것으로 보면 사영 공간을 얻는다. 즉, 사영공간의 점은 $V$의 1차원 부분공간으로 볼 수 있다.

예를 들어 실수 사영평면의 점은 $\mathbb {R} ^{3}$의 원점을 지나는 직선에 해당한다. 사영기하학에서 직선과 평면은 벡터 공간의 더 높은 차원 부분공간에 대응된다. 이러한 관점은 무한원점과 평행선의 만남을 자연스럽게 설명한다.

사영 변환은 벡터 공간의 가역 선형 변환에서 유도된다. 따라서 사영기하학의 많은 문제는 선형대수학의 문제로 바꿀 수 있다. 이 때문에 선형대수학은 현대 기하학, 대수기하학, 컴퓨터 비전에서 중요한 역할을 한다.

미분기하학에서의 선형화

미분기하학과 미적분학에서도 선형대수학은 기본적이다. 매끄러운 함수의 미분은 각 점에서 선형 사상으로 주어진다. 함수

$f\colon \mathbb {R} ^{n}\to \mathbb {R} ^{m}$

의 한 점에서의 미분은 야코비 행렬로 표현되며, 이는 그 점 근처에서 $f$를 가장 잘 근사하는 선형 사상이다.

매끄러운 다양체의 각 점에는 접공간이 붙어 있으며, 접공간은 벡터 공간이다. 다양체 사이의 매끄러운 사상은 각 점에서 접공간 사이의 선형 사상인 접사상을 유도한다. 따라서 곡선, 곡면, 고차원 다양체를 국소적으로 연구할 때 선형대수학이 필수적으로 사용된다.

리만 기하학에서는 각 접공간에 내적이 주어진다. 이러한 내적은 길이, 각도, 부피, 곡률을 정의하는 데 사용된다. 이처럼 선형대수학은 비선형적인 기하학적 대상을 국소적으로 분석하는 기본 언어이다.

응용

 최소제곱법, 선형 회귀, 주성분 분석, 컴퓨터 그래픽스 및 수치선형대수학 문서를 참고하십시오.

선형대수학은 수학 내부뿐 아니라 자연과학, 공학, 통계학, 컴퓨터 과학, 경제학 등 여러 분야에서 기본 도구로 사용된다. 그 이유는 많은 현상이 벡터, 행렬, 선형 변환, 선형 방정식계, 고윳값 문제, 직교사영, 최소제곱 문제의 형태로 나타나기 때문이다. 비선형 문제가 직접 선형적이지 않더라도, 한 점 근처에서 선형 근사를 하거나 반복 계산의 각 단계에서 선형 문제를 풀어야 하는 경우가 많다.

수학 내부의 응용

선형대수학은 현대 수학의 여러 분야에서 공통 언어로 쓰인다. 추상대수학에서는 군 표현, 가군, 대수, 쌍선형 형식, 이차 형식 등을 다룰 때 벡터 공간과 선형 사상이 기본적인 역할을 한다. 예를 들어 군 표현론에서는 군의 원소를 벡터 공간 위의 가역 선형 변환으로 나타내어 군의 구조를 연구한다.

대수기하학과 사영기하학에서도 선형대수학은 기본적이다. 사영 공간은 벡터 공간의 1차원 부분공간들로 구성되고, 선형 방정식의 해집합은 선형 부분공간이나 아핀 부분공간을 이룬다. 더 복잡한 대수다양체를 연구할 때에도 접공간, 선형계, 선형 사상 등이 반복해서 나타난다.

해석학에서는 함수들의 집합을 벡터 공간으로 보고, 미분 연산자나 적분 연산자 같은 선형 연산자를 연구한다. 이러한 관점은 함수해석학으로 이어진다. 함수해석학은 무한 차원 벡터 공간과 그 위의 선형 연산자를 연구하는 분야로, 선형대수학의 개념을 해석학적 구조와 결합한 것이다.

미분기하학에서는 매끄러운 다양체의 각 점에 붙는 접공간이 벡터 공간이며, 매끄러운 사상의 미분은 접공간 사이의 선형 사상이다. 리만 계량은 각 접공간 위의 내적이고, 곡률과 접속 같은 개념도 선형대수학적 구조를 바탕으로 정의된다.

선형 근사와 미분방정식

미적분학에서 다변수 함수의 미분은 한 점 근처에서 함수를 가장 잘 근사하는 선형 사상이다. 함수

$f\colon \mathbb {R} ^{n}\to \mathbb {R} ^{m}$

의 미분은 야코비 행렬로 표현되며, 이는 비선형 함수를 국소적으로 선형 변환으로 이해하게 해 준다.

미분방정식에서도 선형대수학은 중요하다. 선형 미분방정식계는 행렬을 사용하여

${\frac {d\mathbf {x} }{dt}}=A\mathbf {x}$

와 같은 형태로 쓸 수 있다. 이때 행렬 $A$의 고윳값과 고유벡터는 해의 장기적인 거동과 안정성을 분석하는 데 사용된다.

비선형 미분방정식에서도 평형점 근처에서는 선형화가 사용된다. 비선형 벡터장

${\frac {d\mathbf {x} }{dt}}=F(\mathbf {x} )$

의 평형점 근처에서 야코비 행렬을 계산하면, 그 고윳값을 통해 평형점의 안정성이나 불안정성을 판단할 수 있다. 이처럼 선형대수학은 비선형 현상을 분석하는 첫 단계로 자주 사용된다.

물리학과 공학

물리학에서 선형대수학은 여러 이론의 기본 언어이다. 고전역학에서는 작은 진동 문제나 선형화된 운동 방정식을 행렬과 고윳값 문제로 다룬다. 예를 들어 여러 질량과 스프링으로 이루어진 계의 정상 모드는 행렬의 고유벡터로 나타나며, 고윳값은 진동수와 관련된다.

양자역학에서는 상태를 벡터로, 관측량을 에르미트 행렬 또는 더 일반적인 자기수반 연산자로 나타낸다. 관측 가능한 값은 연산자의 고윳값과 관련되고, 고유벡터는 그 관측값에 대응하는 상태를 나타낸다. 따라서 내적 공간, 직교성, 스펙트럼 정리는 양자역학의 수학적 형식화에서 중심적인 역할을 한다.

공학에서는 선형 방정식계와 행렬 계산이 회로 분석, 구조해석, 제어이론, 신호처리, 전력망 분석, 유체역학 계산 등에 사용된다. 예를 들어 전기 회로의 선형 모델은 행렬 방정식으로 표현되고, 구조물의 변형이나 응력 계산도 대규모 선형 방정식계로 귀착되는 경우가 많다.

제어이론에서는 선형 시스템

$\mathbf {x} _{k+1}=A\mathbf {x} _{k}+B\mathbf {u} _{k}$

또는

${\frac {d\mathbf {x} }{dt}}=A\mathbf {x} +B\mathbf {u}$

을 통해 시스템의 상태 변화와 입력의 영향을 분석한다. 이때 행렬의 랭크, 고윳값, 가제어성, 가관측성 같은 개념이 중요하다.

통계학과 데이터 분석

통계학에서 선형대수학은 자료를 벡터와 행렬로 표현하는 데 사용된다. 여러 관측값과 변수로 이루어진 자료는 보통 데이터 행렬로 나타낼 수 있으며, 평균 벡터, 공분산 행렬, 상관행렬 등은 자료의 구조를 요약하는 기본 도구이다.

선형 회귀와 최소제곱법은 선형대수학의 대표적인 통계 응용이다. 관측값 벡터 $\mathbf {y}$와 설계행렬 $X$가 주어졌을 때, 선형 회귀는

$\mathbf {y} \approx X{\boldsymbol {\beta }}$

가 되도록 계수 벡터 ${\boldsymbol {\beta }}$를 찾는다. 최소제곱 추정은 오차

$\|X{\boldsymbol {\beta }}-\mathbf {y} \|^{2}$

를 최소로 하는 문제이며, 이는 직교사영과 정규방정식으로 설명된다.

주성분 분석은 공분산 행렬의 고윳값과 고유벡터를 사용하여 고차원 자료의 주요 변동 방향을 찾는 방법이다. 큰 고윳값에 대응하는 고유벡터는 자료가 가장 많이 퍼져 있는 방향을 나타내며, 이를 이용하여 차원 축소와 시각화, 잡음 제거를 수행할 수 있다.

다변량 통계학에서도 선형대수학은 필수적이다. 다변량 정규분포의 밀도 함수에는 공분산 행렬의 역행렬과 행렬식이 나타나며, 마할라노비스 거리는 양의 정부호 행렬이 정의하는 이차 형식을 사용하여 거리를 측정한다.

컴퓨터 과학과 데이터 과학

컴퓨터 과학에서 벡터와 행렬은 자료 표현과 알고리즘의 기본 도구이다. 컴퓨터 그래픽스에서는 2차원과 3차원 공간의 점과 방향을 벡터로 나타내고, 회전·확대·축소·사영·좌표변환을 행렬로 표현한다. 동차좌표를 사용하면 평행이동을 포함한 아핀 변환과 사영 변환도 행렬곱으로 처리할 수 있다.

검색 엔진과 정보 검색에서도 선형대수학이 사용된다. 문서와 단어의 관계는 행렬로 나타낼 수 있으며, 문서의 유사도 계산이나 랭킹 알고리즘은 벡터 공간 모델과 행렬 계산을 기반으로 한다. 그래프의 인접 행렬과 전이 행렬도 웹 페이지의 링크 구조나 네트워크 분석에 사용된다.

기계 학습과 딥 러닝에서는 대부분의 계산이 벡터와 행렬 연산으로 이루어진다. 선형 회귀, 로지스틱 회귀, 서포트 벡터 머신, 신경망의 선형층, 임베딩, 어텐션 연산 등은 모두 선형대수학의 개념을 바탕으로 한다. 대규모 학습에서는 행렬곱과 텐서 연산을 빠르게 수행하는 것이 계산 효율의 핵심이다.

데이터 과학에서는 고차원 데이터를 행렬로 보고, 특이값 분해, 주성분 분석, 행렬 분해, 저랭크 근사 등을 사용하여 자료의 구조를 파악한다. 예를 들어 추천 시스템에서는 사용자와 상품의 평점 행렬을 저랭크 행렬로 근사하여 알려지지 않은 선호도를 예측하는 방법이 사용된다.

최적화와 수치 계산

최적화에서 선형대수학은 기본적인 계산 도구이다. 선형 계획법은 선형 부등식과 선형 목적함수를 다루며, 이차 계획법은 행렬이 정의하는 이차 형식을 목적함수에 포함한다. 볼록 최적화에서는 양의 준정부호 행렬과 내적 공간의 기하학이 자주 사용된다.

뉴턴 방법과 같은 비선형 최적화 알고리즘에서는 각 단계에서 선형 방정식계나 최소제곱 문제를 풀어야 한다. 목적함수의 헤세 행렬은 극값의 성질과 탐색 방향을 결정하는 데 사용된다. 헤세 행렬이 양의 정부호이면 해당 점은 국소 최소점의 후보가 된다.

수치 선형대수학은 컴퓨터로 선형대수 문제를 안정적이고 효율적으로 푸는 방법을 연구한다. 실제 응용에서는 행렬의 크기가 매우 클 수 있고, 반올림 오차와 조건수가 계산 결과에 큰 영향을 줄 수 있다. 따라서 가우스 소거법, LU 분해, QR 분해, 촐레스키 분해, 반복법, 특이값 분해 등 다양한 알고리즘이 사용된다.

과학 계산과 공학 계산에서는 편미분방정식을 수치적으로 풀 때 대규모 선형 방정식계가 나타난다. 유한 요소법, 유한 차분법, 유한 체적법 등은 연속적인 문제를 이산화하여 행렬 방정식으로 바꾸며, 이를 효율적으로 푸는 것이 계산의 핵심이다.

경제학과 사회과학

경제학에서도 선형대수학은 여러 모형에서 사용된다. 예를 들어 투입산출분석에서는 산업 간의 생산과 소비 관계를 행렬로 나타내고, 경제 전체의 균형 산출을 선형 방정식계로 분석한다. 게임 이론, 계량경제학, 금융공학에서도 행렬과 벡터 계산이 자주 등장한다.

사회과학에서는 설문 자료, 사회 연결망, 인구 통계, 경제 지표 등을 행렬과 벡터로 표현할 수 있다. 사회 연결망 분석에서는 인접 행렬, 중심성, 고윳값 기반 지표 등이 사용된다. 텍스트 분석이나 요인 분석에서도 선형대수학적 방법이 널리 쓰인다.

이처럼 선형대수학은 단순한 계산 도구를 넘어, 여러 분야의 자료와 구조를 통일된 방식으로 표현하고 분석하게 해 주는 공통 언어의 역할을 한다.

일반화와 관련 분야

 이 부분의 본문은 가군, 다중선형대수학, 텐서, 함수해석학, 수치선형대수학 및 표현론입니다.

선형대수학의 기본 대상은 체 위의 벡터 공간이지만, 그 개념과 방법은 여러 방향으로 일반화된다. 체 대신 일반적인 환 위에서 스칼라배를 생각하면 가군 이론이 되고, 여러 변수에 대해 선형인 사상을 다루면 다중선형대수학과 텐서 이론이 된다. 또한 무한 차원 벡터 공간에 위상이나 노름을 더하면 함수해석학으로 이어진다.

가군 이론

벡터 공간은 스칼라가 체의 원소일 때 정의된다. 체에서는 0이 아닌 스칼라가 항상 역원을 가지므로, 일차독립성·기저·차원 이론이 비교적 단순하게 전개된다. 체 대신 더 일반적인 환 $R$ 위에서 덧셈과 스칼라배를 생각하면 가군의 개념을 얻는다.

가군은 벡터 공간과 비슷하게 덧셈과 스칼라배를 가지지만, 스칼라가 항상 나눗셈을 허용하지 않기 때문에 더 복잡하다. 예를 들어 모든 가군이 기저를 갖는 것은 아니며, 같은 환 위의 가군들이 차원 하나만으로 분류되지도 않는다. 따라서 벡터 공간에서 자명하게 성립하는 많은 명제가 가군 이론에서는 추가 조건을 필요로 한다.

대표적인 예로, 정수환 $\mathbb {Z}$ 위의 가군은 아벨 군과 같은 개념이다. 유한 생성 아벨 군의 구조 정리는 가군 이론의 관점에서 이해할 수 있으며, 이는 선형대수학의 구조 정리가 정수환 위에서는 더 정교한 형태로 나타난다는 것을 보여 준다.

가군 이론은 환론, 호몰로지 대수, 대수적 위상수학, 대수기하학 등에서 기본적인 역할을 한다. 특히 자유 가군, 사영 가군, 단사 가군, 텐서곱, 완전열 등의 개념은 선형대수학의 방법을 더 일반적인 대수적 상황으로 확장한다.

다중선형대수와 텐서

선형대수학은 하나의 벡터에 대해 선형인 사상을 주로 다루지만, 여러 변수 각각에 대해 선형인 사상도 중요하다. 함수

$f\colon V_{1}\times \cdots \times V_{k}\to W$

가 각 변수에 대해 따로 선형이면 $f$를 다중선형 사상이라고 한다. 두 변수에 대해 선형인 경우는 쌍선형 사상 또는 쌍선형 형식이라고 한다.

예를 들어 두 벡터의 내적은 두 변수에 대한 쌍선형 형식 또는 복소수의 경우 한쪽 변수에 대해 켤레선형인 형식으로 볼 수 있다. 행렬식은 행렬의 열벡터들에 대한 교대 다중선형 형식으로 해석할 수 있다. 이러한 관점은 행렬식의 성질을 개념적으로 설명하는 데 유용하다.

텐서곱은 다중선형 사상을 선형 사상으로 바꾸어 다룰 수 있게 해 주는 보편적인 구성이다. 벡터 공간 $V$와 $W$의 텐서곱 $V\otimes W$는 $V\times W$에서 출발하는 쌍선형 사상들을 하나의 선형 사상으로 표현하게 해 준다. 이 개념은 텐서대수, 외대수, 대칭대수, 미분 형식의 기초가 된다.

다중선형대수와 텐서 이론은 미분기하학, 리만 기하학, 상대성이론, 연속체역학, 표현론, 양자역학에서 널리 쓰인다. 예를 들어 리만 계량, 곡률 텐서, 응력 텐서, 전자기장 텐서는 모두 다중선형대수의 언어로 표현된다.

함수해석학과 위상 벡터 공간

유한 차원 벡터 공간에서는 모든 노름이 같은 위상적 성질을 주고, 선형 사상은 자동으로 연속이다. 그러나 무한 차원 벡터 공간에서는 상황이 크게 달라진다. 함수들의 공간처럼 무한 차원인 공간을 다루려면 거리, 노름, 위상, 완비성 같은 해석학적 구조가 필요하다.

벡터 공간에 위상이 주어지고 덧셈과 스칼라배가 연속이면 이를 위상 벡터 공간이라고 한다. 특히 노름이 주어진 벡터 공간을 노름 공간이라고 하고, 노름에 대해 완비이면 바나흐 공간이라고 한다. 내적에서 유도되는 노름에 대해 완비인 공간은 힐베르트 공간이다.

함수해석학은 이러한 무한 차원 벡터 공간과 그 위의 선형 연산자를 연구하는 분야이다. 힐베르트 공간은 유클리드 공간의 무한 차원 일반화로 볼 수 있으며, 푸리에 해석과 양자역학에서 중심적인 역할을 한다. 바나흐 공간은 미분방정식, 적분방정식, 최적화, 확률론 등에서 중요하다.

함수해석학에서는 유한 차원 선형대수학의 많은 개념이 확장되지만, 새로운 현상도 나타난다. 예를 들어 무한 차원에서는 닫힌 부분공간, 조밀한 부분공간, 유계 선형 연산자와 비유계 선형 연산자의 구별이 중요하다. 또한 고윳값 이론은 스펙트럼 이론으로 확장된다.

수치 선형대수학

수치 선형대수학은 선형대수학의 계산적 측면을 연구한다. 주요 대상은 선형 방정식계, 최소제곱 문제, 고윳값 문제, 특이값 분해, 행렬 분해 등을 컴퓨터로 안정적이고 효율적으로 계산하는 방법이다.

이론적으로는 가역 행렬의 역행렬을 사용하여 선형 방정식계의 해를 쓸 수 있지만, 실제 계산에서는 보통 역행렬을 직접 구하지 않는다. 대신 가우스 소거법, LU 분해, QR 분해, 촐레스키 분해 같은 방법을 사용한다. 이러한 분해는 계산량과 수치 안정성을 고려하여 선택된다.

수치 선형대수학에서는 반올림 오차와 조건수가 중요하다. 같은 문제라도 행렬의 조건수가 크면 작은 입력 오차가 큰 출력 오차로 증폭될 수 있다. 따라서 알고리즘의 정확성뿐 아니라 안정성과 오차 분석도 함께 고려해야 한다.

현대 과학기술에서는 수백만 개 이상의 변수를 갖는 대규모 선형 문제가 나타난다. 이런 문제에서는 행렬이 대부분 0인 희소행렬인 경우가 많으며, 직접법보다 반복법이 더 효율적일 수 있다. 켤레기울기법, GMRES, 란초스 방법 등은 대규모 선형계와 고윳값 문제에서 사용되는 대표적인 반복 알고리즘이다.

표현론과 선형화

표현론은 대수적 대상을 벡터 공간 위의 선형 변환으로 나타내어 연구하는 분야이다. 예를 들어 군 $G$의 표현은 각 군 원소를 어떤 벡터 공간의 가역 선형 변환에 대응시키는 구조이다. 즉, 군의 곱셈 구조를 행렬곱으로 표현한다.

표현론의 기본 생각은 추상적인 대수적 대상을 선형대수학의 구체적인 도구로 연구하는 것이다. 유한군, 리 군, 리 대수, 대수군의 표현은 수학과 물리학에서 모두 중요하다. 특히 고유공간 분해, 불변 부분공간, 직합 분해, 쌍대공간, 텐서곱 같은 선형대수학의 개념이 표현론의 기본 언어가 된다.

더 넓게 보면, 선형화는 비선형 대상을 한 점 근처에서 선형 대상으로 근사하는 방법이다. 미분가능한 함수의 미분은 선형 사상이고, 다양체의 접공간은 국소적인 선형 근사이다. 이처럼 선형대수학은 비선형 수학을 이해하는 첫 단계로도 작용한다.

역사

선형대수학의 역사는 선형 방정식계의 풀이, 행렬식의 계산, 기하학의 좌표화, 행렬과 벡터 공간의 추상화가 서로 결합하면서 형성되었다. 현대적인 벡터 공간과 선형 사상의 언어는 비교적 최근에 정식화되었지만, 그 계산적 방법은 고대 수학에서도 나타난다.

고대와 선형 방정식계

선형대수학의 가장 오래된 뿌리 가운데 하나는 여러 미지수를 가진 선형 방정식계의 해법이다. 고대 중국 수학서 《구장산술》의 「방정」 장에는 오늘날 가우스 소거법과 유사한 방식으로 연립 선형 방정식을 푸는 절차가 나타난다.

《구장산술》의 방법은 계수들을 표처럼 배열하고 행에 해당하는 조작을 수행하여 미지수를 차례로 제거하는 방식이었다. 이는 현대의 행렬 표기법과는 다르지만, 선형 방정식계의 계수를 배열하고 변형하여 해를 구한다는 점에서 선형대수학의 초기 형태로 볼 수 있다.

고대와 중세의 수학에서는 이러한 계산이 주로 실용적인 문제와 연결되어 있었다. 토지 측량, 세금 계산, 물자의 배분, 상업 계산 같은 문제들이 여러 미지수를 가진 일차 방정식계로 나타났고, 이를 해결하기 위한 계산법이 발전하였다.

좌표기하학과 행렬식

17세기에는 르네 데카르트와 피에르 드 페르마의 좌표기하학이 등장하면서 대수와 기하학이 밀접하게 연결되었다. 좌표를 사용하면 직선과 평면을 방정식으로 나타낼 수 있고, 기하학적 교점 문제를 대수적 방정식계의 문제로 바꿀 수 있다. 이 관점은 선형대수학이 기하학의 언어로 자리 잡는 데 중요한 역할을 했다.

행렬식의 개념은 선형 방정식계의 해와 관련하여 발전하였다. 고트프리트 빌헬름 라이프니츠는 17세기 말 행렬식과 관련된 계산을 연구하였고, 18세기에는 가브리엘 크라메르가 선형 방정식계의 해를 행렬식으로 나타내는 크라메르 공식을 제시하였다. 행렬식은 이후 선형 방정식계의 가역성, 기하학적 부피, 선형 변환의 성질을 나타내는 핵심 불변량으로 이해되었다.

카를 프리드리히 가우스는 측지학과 천문 계산에서 소거법을 체계적으로 사용하였다. 오늘날의 가우스 소거법은 이러한 계산 전통을 바탕으로 정식화되었으며, 선형 방정식계 풀이의 기본 알고리즘으로 남아 있다.

행렬 이론의 형성

19세기에는 행렬이 독립적인 대수적 대상으로 연구되기 시작하였다. 제임스 조지프 실베스터는 1850년에 “matrix”라는 용어를 도입한 것으로 알려져 있으며, 아서 케일리는 1858년 「행렬 이론에 관한 회고록」에서 행렬의 대수적 연산을 체계적으로 연구하였다.

케일리의 연구는 행렬의 덧셈, 곱셈, 역행렬, 행렬 방정식 등을 하나의 대수적 이론으로 다루는 데 기여하였다. 행렬은 더 이상 단순히 선형 방정식계의 계수를 배열한 표가 아니라, 그 자체로 연산을 가지는 수학적 대상이 되었다.

이 시기에는 행렬식, 이차 형식, 선형 변환, 불변식 이론도 함께 발전하였다. 특히 대칭 행렬과 이차 형식의 연구는 고윳값, 대각화, 직교 변환과 관련된 선형대수학의 중요한 주제로 이어졌다.

벡터 공간과 추상화

현대적인 선형대수학은 행렬 계산뿐 아니라 추상적인 벡터 공간과 선형 변환의 이론으로 구성된다. 이러한 관점은 19세기와 20세기에 걸쳐 형성되었다.

헤르만 그라스만은 1844년 《확장론》에서 오늘날 선형대수학, 외대수, 다중선형대수로 이어지는 여러 개념을 전개하였다. 그라스만의 연구는 당시에는 널리 이해되지 못했지만, 이후 벡터 공간과 외대수의 발전에 큰 영향을 주었다.

19세기 말에는 주세페 페아노 등이 벡터 공간에 가까운 공리적 개념을 제시하였다. 20세기에 들어서면서 벡터 공간, 선형 사상, 기저, 차원, 쌍대공간 같은 개념이 선형대수학의 표준적인 언어로 자리 잡았다.

이 추상화는 서로 다른 대상들을 하나의 이론 안에서 다룰 수 있게 했다. 수의 순서열, 함수, 다항식, 행렬, 해공간이 모두 벡터 공간의 예가 되며, 이들 사이의 구조 보존 사상은 선형 사상으로 이해된다. 따라서 선형대수학은 구체적인 계산법에서 출발하여 광범위한 수학적 구조를 다루는 일반 이론으로 발전하였다.

현대 선형대수학

20세기 이후 선형대수학은 수학 교육의 핵심 과목이 되었고, 동시에 여러 분야의 기본 언어가 되었다. 함수해석학, 표현론, 미분기하학, 양자역학, 통계학, 최적화, 수치해석 등은 모두 선형대수학의 개념과 방법을 사용한다.

컴퓨터의 발전은 선형대수학의 응용 범위를 크게 넓혔다. 대규모 행렬 계산, 수치 선형대수학, 데이터 분석, 기계 학습, 컴퓨터 그래픽스, 과학 계산은 모두 행렬과 벡터 계산에 의존한다. 특히 특이값 분해, 고윳값 알고리즘, 희소행렬 계산, 반복법 등은 현대 계산과학에서 필수적인 도구가 되었다.

오늘날 선형대수학은 순수수학과 응용수학을 잇는 기본 분야로 자리 잡았다. 그 핵심 개념은 비교적 단순한 선형 결합에서 출발하지만, 이를 통해 매우 다양한 수학적·과학적 현상을 통일적으로 설명할 수 있다.

같이 보기

• 벡터 공간
• 벡터
• 부분공간
• 기저 (선형대수학)
• 차원
• 선형 변환
• 행렬
• 행렬식
• 역행렬
• 연립 선형 방정식
• 가우스 소거법
• 차원 정리
• 고윳값
• 고유벡터
• 대각화
• 조르당 표준형
• 내적 공간
• 그람-슈미트 과정
• 직교 행렬
• 스펙트럼 정리
• 특이값 분해
• 이차 형식
• 수치 선형대수학
• 다중선형대수학
• 함수해석학

참고 문헌

• Axler, Sheldon (2024). 《Linear Algebra Done Right》 4판 (영어). Undergraduate Texts in Mathematics. Springer. doi:10.1007/978-3-031-41026-0. ISBN 978-3-031-41026-0. 
• Strang, Gilbert (2016). 《Introduction to Linear Algebra》 5판 (영어). Wellesley-Cambridge Press. ISBN 978-0-9802327-7-6. 
• Friedberg, Stephen H.; Insel, Arnold J.; Spence, Lawrence E. (2019). 《Linear Algebra》 5판 (영어). Pearson. ISBN 978-0-13-486024-4. 
• Horn, Roger A.; Johnson, Charles R. (2012). 《Matrix Analysis》 2판 (영어). Cambridge University Press. ISBN 978-0-521-83940-2. 
• Trefethen, Lloyd N.; Bau, David (1997). 《Numerical Linear Algebra》 (영어). SIAM. ISBN 978-0-89871-361-9. 
• “18.06 Linear Algebra” (영어). 《MIT OpenCourseWare》. 2026년 5월 7일에 확인함. 
• Weisstein, Eric W. “Linear Algebra” (영어). 《MathWorld》. Wolfram Research. 2026년 5월 7일에 확인함. 
• “Linear algebra” (영어). 《Encyclopaedia Britannica》. 2026년 5월 7일에 확인함. 

외부 링크

• Weisstein, Eric Wolfgang. “Linear Algebra” (영어). 《Wolfram MathWorld》. Wolfram Research. 
• MIT OpenCourseWare 18.06 Linear Algebra
• Sheldon Axler, Linear Algebra Done Right