선형대수학에서 유니터리 행렬(영어: unitary matrix)는 켤레 전치가 역행렬과 같은 복소수 정사각 행렬이다.
복소수 정사각 행렬 에 대하여, 다음 조건들이 서로 동치이며, 이를 만족시키는 를 유니터리 행렬이라고 한다.
- 의 열들은 의 정규 직교 기저를 이룬다.
- 의 행들은 의 정규 직교 기저를 이룬다.
- 에서, 모든 정규 직교 기저 에 대하여, 는 정규 직교 기저이다.
- 에서, 어떤 정규 직교 기저 에 대하여, 는 정규 직교 기저이다.
- 는 정규 행렬이며, 모든 고윳값의 절댓값은 1이다.
- 임의의 에 대하여, .
- 임의의 에 대하여, .
여기서 는 켤레 전치, 는 의 표준 내적, 는 의 표준 노름이다.
실수 행렬의 경우 유니터리 행렬은 직교 행렬과 동치이다.[1]:304
유니터리 행렬 는 다음과 같은 성질을 갖는다.
- 정규 행렬이다.
- 대각화 가능하다. 이는 스펙트럼 정리의 결과에 따라 가 대각행렬과 유니터리하게 닮음이란 것이다. 는 와 같이 분해할 수 있다. 여기서 는 유니터리 행렬, 는 대각 유니터리 행렬이다.
- 의 고유 공간은 정규 직교다.
- 인 에르미트 행렬 가 존재한다. (는 행렬 지수 함수)
모든 유니터리 행렬의 집합은 행렬 곱셈에 따라 군을 이루며, 이를 유니터리 군 이라고 한다.
복소수 행렬의 경우, 유니터리 행렬은 다음과 같다.
복소수 행렬의 경우, 유니터리 행렬은 다음과 같다.