종이를 회전하거나 뒤집으면 두 점 사이의 거리는 그대로다. 이런 변환은 되돌리는 계산도 간단하다. 행과 열을 바꾸기만 하면 역방향 변환을 얻는다.
종이를 돌리거나 뒤집는 변환이 직교행렬이고, 행과 열을 바꾸는 연산이 전치다. 모든 행렬의 전치가 역행렬이 되지는 않는다. 그 조건을 정규직교기저에서 읽는다.
전치행렬은 행과 열을 맞바꾼 행렬이다
m×n 행렬 M의 행과 열을 맞바꾼 n×m 행렬을 M의 전치행렬이라 하고 MT로 쓴다. MT의 (i,j) 성분은 M의 (j,i) 성분이다. 예를 들어 (142536)T=123456로, 첫 행이 첫 열이 된다.
열벡터 x는 n×1 행렬이므로 xTy는 1×1 행렬, 곧 내적 x⋅y다. 두 번 전치하면 (MT)T=M이고, 행렬곱의 전치는 순서가 뒤집힌다.
(MN)T=NTMT.(1)
(MN)T의 (i,j) 성분은 MN의 (j,i) 성분, 곧 M의 j행과 N의 i열의 곱이다. 이것은 NT의 i행과 MT의 j열의 곱과 같다. 예를 들어 M=(1021), N=(1301)이면 (MN)T=NTMT=(7231)이지만, 순서를 그대로 둔 MTNT는 (1237)이다.
직교행렬은 전치와 곱하면 단위행렬이 되는 실수 정사각행렬이다
직교행렬은 실수 정사각행렬 Q가 아래 관계를 만족하는 경우다. 같은 뜻으로, 열들이 서로 수직이고 각각 길이가 1인 정규직교기저를 이룬다고 말한다.
QTQ=I⟺Q−1=QT.(2)
정의
기호
이름
원어
뜻
Q
직교행렬
orthogonal matrix
QTQ=I인 실수 정사각행렬
QT
전치행렬
transpose
(i,j) 성분이 Q의 (j,i) 성분
qj
열벡터
column vector
Q의 j번째 열
I
단위행렬
identity matrix
대각 1, 나머지 0
xTy
내적
dot product
같은 차원 실수 벡터의 성분별 곱의 합
λ
고윳값
eigenvalue
Qv=λv를 만족하는 수
QT의 i행은 Q의 i열 qi이므로, QTQ의 (i,j) 성분은 qi⋅qj다. 대각이 1이라는 것은 각 열의 제곱길이가 1이라는 뜻이고, 나머지가 0이라는 것은 서로 다른 열이 수직이라는 뜻이다. 그림 1은 정규직교기저 글의 두 단위벡터를 열로 둔 Q로 네 칸을 실제로 계산한다.
그림 1QTQ의 네 칸은 열끼리의 내적이다. 열이 q1=(53,54), q2=(−54,53)인 Q에서 대각 두 칸은 제곱길이 259+16=1, 나머지 두 칸은 내적 25−12+12=0이라 단위행렬이 된다. figures/gram_table.py
QTQ=I이면 Qx=0에서 x=QTQx=0이므로 열들이 일차독립이다. 정사각행렬이므로 역행렬이 있고, Q−1=(QTQ)Q−1=QT가 된다. 거꾸로 Q−1=QT이면 QTQ=Q−1Q=I다.
2×2 직교행렬로 역변환을 직접 확인한다
그림 1의 두 단위벡터 (53,54), (−54,53)를 열로 모은다. 두 열의 제곱길이는 (32+42)/25=1, 내적은 (−12+12)/25=0이다.
Q=51(34−43),QT=51(3−443).(3)
입력 x=(2,1)T에 Q를 곱하면 ((6−4)/5,(8+3)/5)T=(2/5,11/5)T다. 그 결과에 QT를 곱하면 첫 성분은 (6+44)/25=2, 둘째는 (−8+33)/25=1로 복원된다. 두 벡터의 제곱길이도 각각 5와 (4+121)/25=5다. 그림 2는 삼각형의 모양이 보존됨을 보여 준다.
그림 2 식 (3)의 직교행렬이 꼭짓점 (0,0),(2,0),(2,1)인 삼각형을 회전한다. 회색과 강조색 삼각형의 대응하는 세 변 길이는 같고 좌표축의 눈금은 같다. figures/orthogonal_triangle.py
QT를 처음 벡터에 곱하면 다른 뜻도 읽힌다. QTx=(2,−1)T는 x를 정규직교기저 q1,q2로 나타낸 좌표이고, 실제로 2q1−q2=(2,1)T다. 좌표를 연립방정식 없이 전치 한 번으로 얻는다.
내적과 길이는 왜 모든 입력에서 보존될까?
특정 삼각형이 같아 보인다는 것보다 강한 일반 이유는 식 (1)과 식 (2)에 있다. 곱의 전치를 뒤집어 쓰면 가운데에 QTQ=I가 생긴다.
(Qx)T(Qy)=xTQTQy=xTy.(4)
예를 들어 (2,0)T⋅(2,1)T=4이고, Q로 옮긴 (56,58)T⋅(52,511)T=2512+88=4로 같다. y=x이면 길이가 보존되고, x−y에 적용하면 두 점 사이 거리도 보존된다. 영벡터가 아닌 두 벡터의 사잇각도 내적과 길이로 정해지므로 보존된다.
행렬식을 취하면 det(QT)=detQ이므로 (detQ)2=det(QTQ)=1이고, detQ는 1 또는 −1이다. 그러나 행렬식이 1이라는 것만으로 직교행렬이 되지는 않는다. 그림 3에서 diag(2,21)는 행렬식이 1이지만 (1,0)을 길이 2인 (2,0)으로 보내, 단위원이 타원이 된다.
그림 3 단위원을 두 행렬로 옮긴 결과. 식 (3)의 Q로 옮기면 (1,0)이 (0.6,0.8)로 가며 원 전체가 그대로 단위원이다(점선). 행렬식이 똑같이 1인 diag(2,21)로 옮기면 가장 긴 방향은 2, 가장 짧은 방향은 0.5인 타원이 된다. figures/circle_preserved.py
2×2 직교행렬은 왜 회전 아니면 반사일까?
2×2 직교행렬의 첫 열은 단위원 위의 점 (cosφ,sinφ)이고, 둘째 열은 그에 수직인 단위벡터 두 개 중 하나다. 그래서 행렬식이 1인 회전행렬이거나 행렬식이 −1인 반사행렬, 두 꼴뿐이다.
(cosφsinφ−sinφcosφ)또는(cosφsinφsinφ−cosφ).(5)
식 (3)의 Q는 cosφ=53, sinφ=54인 왼쪽 꼴로, φ≈53.13∘의 회전이다. 같은 첫 열에 둘째 열의 부호만 바꾼 R=51(344−3)는 오른쪽 꼴이다. R(2,1)T=(2,1)T, R(−1,2)T=(1,−2)T이므로 R은 원점과 (2,1)을 지나는 직선 y=21x, 곧 x축과 2φ≈26.57∘를 이루는 직선에 대한 대칭변환이다.
그림 4 첫 열 q1=(53,54)가 정해지면 둘째 열은 q1에 수직인 단위벡터 q2 또는 −q2뿐이다. q2를 고르면 행렬식 1인 회전, −q2를 고르면 행렬식 −1인 반사이며, 점선은 그 반사의 대칭축(기울기 21)이다. figures/rotation_or_reflection.py
그림 4의 두 선택은 도형의 방향에서 갈린다. 그림 2의 삼각형 (0,0)→(2,0)→(2,1)은 시계 반대 방향으로 돈다. Q로 옮긴 꼭짓점도 같은 방향이지만, R로 옮긴 (0,0)→(56,58)→(2,1)은 시계 방향으로 뒤집힌다.
직교행렬끼리 곱하거나 더하면 어떻게 될까?
직교행렬끼리 곱하면 다시 직교행렬이고, 더하면 일반적으로 직교행렬이 아니다. 곱은 식 (1)로 바로 확인된다.
(Q1Q2)T(Q1Q2)=Q2T(Q1TQ1)Q2=Q2TQ2=I.(6)
예를 들어 Q2=251(−724−24−7)은 2φ≈106.26∘의 회전이고, Qdiag(1,−1)=R은 반사다. 역행렬 Q−1=QT도 (QT)TQT=QQT=I라 직교행렬이다. 반면 Q+QT=56I는 열의 길이가 56라 직교행렬이 아니다.
행렬식은 곱에서 곱해지므로 회전인지 반사인지도 곱으로 정해진다. 반사끼리 곱하면 행렬식이 (−1)(−1)=1이라 회전이다. 실제로 x축 대칭 diag(1,−1) 다음에 R을 적용한 Rdiag(1,−1)은 회전 Q다. 같은 반사를 두 번 하면 R2=I로 제자리이므로 R−1=R=RT다.
3×3 행렬이 직교행렬인지 어떻게 판정할까?
정사각행렬인지 먼저 보고, 각 열의 제곱길이가 1인지와 서로 다른 두 열의 내적이 0인지를 확인한다. 이 세 가지를 한꺼번에 계산한 것이 QTQ다. 판정이 끝나면 역행렬은 계산 없이 전치로 적는다.
H=3112221−22−21(7)
식 (7)의 세 열 (1,2,2), (2,1,−2), (2,−2,1)은 제곱길이가 모두 9이므로 3으로 나눈 열의 길이는 1이다. 서로의 내적은 2+2−4=0, 2−4+2=0, 4−2−2=0이다. 따라서 H는 직교행렬이고 H−1=HT다. 게다가 H는 대칭이라 H−1=H, 곧 두 번 적용하면 제자리로 돌아온다. 행렬식은 −1로, 원점을 지나는 평면 x−y−z=0에 대한 대칭변환이다.
Q3=51340−430005처럼 평면 회전에 셋째 좌표를 그대로 두는 행렬도 직교행렬이다. 앞 두 열은 식 (3)에서 확인했고 셋째 열 (0,0,1)T도 길이 1이며 나머지와 수직이다. 입력 (2,1,3)T는 (2/5,11/5,3)T가 되어 제곱길이 14를 보존한다.
반면 E=100010는 수직인 단위 열을 갖지만 정사각행렬이 아니다. ETE=I2여도 EET=diag(1,1,0)=I3다. 이런 행렬은 '정규직교인 열을 가진 행렬'이라 부르고, 직교행렬이라 하거나 양쪽 역행렬이 있다고 말하지 않는다.
직교행렬은 다음 단원에서 어디에 쓰일까?
직교행렬은 길이와 각을 바꾸지 않고 좌표축만 돌리거나 뒤집으므로, 좌표를 바꿔도 도형의 모양이 그대로다. 직교대각화는 대칭행렬을 A=QDQT로 쓰는데, 이때 Q−1을 따로 구하지 않고 전치로 대신한다. 대각화로 읽는 이차곡선은 그 Q로 좌표축을 회전해 xy항을 없애며, 길이가 보존되므로 타원의 반축 길이도 바뀌지 않는다.
핵심
직교행렬은 열들이 정규직교기저를 이루는 실수 정사각행렬이며, 전치가 역행렬이고 내적과 길이를 보존한다. 열들의 수직성만으로는 부족하고 길이 1도 필요하며, 행렬식은 1 또는 −1이다.
Q. 열들이 수직이기만 하면 직교행렬인가요?
아니다. 직교행렬은 이름과 달리 열이 '정규직교'여야 한다. 2I의 두 열은 수직이지만 제곱길이가 4이고 (2I)T(2I)=4I다.
Q. 직교행렬의 고윳값은 무엇이 될 수 있나요?
직교행렬의 실수 고윳값은 1 또는 −1뿐이다. Qv=λv이면 길이 보존에서 ∣λ∣∥v∥=∥v∥이기 때문이다. 반사 R은 (2,1)에서 1, (−1,2)에서 −1을 갖고, 식 (3)의 회전 Q는 특성다항식 t2−56t+1의 판별식이 −2564<0이라 실수 고윳값이 없다.
Q. 직교행렬의 행들도 정규직교한가요?
그렇다. 실수 정사각 직교행렬은 Q−1=QT이므로 QQT=I도 성립하고, 이 곱의 성분이 행벡터끼리의 내적이다. 직사각행렬 E에는 EET=diag(1,1,0)이라 같은 결론이 성립하지 않는다.