직교대각화는 실수 정사각행렬 A를 직교행렬 Q와 대각행렬 D로 A=QDQᵀ처럼 나타내는 것이며, 실수 행렬은 대칭일 때만 가능하다. 서로 다른 고유공간이 직교하는 이유, 2×2를 처음부터 푸는 순서, 중복 고윳값의 고유공간 안에서만 그람–슈미트를 쓰는 3×3 계산을 다룬다.
대각화의 새 축은 꼭 직각일 필요가 없었다. 하지만 직각을 이루는 단위 축으로 바꿀 수 있다면 길이와 각도를 그대로 읽는다. 되돌아오는 계산도 행과 열을 바꾸는 것으로 끝난다.
직각을 이루는 단위 축을 열로 모은 기저행렬이 직교행렬Q다. 직교대각화에서는 Q−1 대신 전치 QT를 쓴다. 행렬이 대칭인지가 그 가능성을 판별해 준다.
직교대각화는 정규직교 고유벡터로 좌표를 바꾼다
직교대각화는 실수 정사각행렬 A를 직교행렬 Q와 실수 대각행렬 D로 다음처럼 표현하는 일이다. 실수 행렬은 대칭행렬일 때, 그리고 그때만 직교대각화 가능하다.
QTAQ=D,A=QDQT.(1)
정의
기호
이름
원어
뜻
A
대칭행렬
symmetric matrix
AT=A인 실수 정사각행렬
Q
직교행렬
orthogonal matrix
정규직교 고유벡터를 열로 모은 행렬
D
대각행렬
diagonal matrix
열에 대응하는 고윳값을 같은 순서로 배치
λ,μ
고윳값
eigenvalues
비교할 두 고윳값
u,v
고유벡터
eigenvectors
각 고윳값에 대응하는 영벡터가 아닌 벡터
식 (1)은 대각화의 A=PDP−1에서 P를 직교행렬로 고른 경우다. 그래서 Q의 j번째 열은 D의 j번째 대각성분에 대응하는 길이 1인 고유벡터다.
'그때만'의 방향은 바로 증명된다. 식 (1)의 전치를 취하면 AT=(QT)TDTQT=QDQT=A다. 따라서 대칭이 아닌 행렬은 어떤 직교행렬로도 이 꼴로 만들 수 없다.
서로 다른 고윳값의 벡터는 왜 직교할까?
대칭행렬에서는 서로 다른 고윳값의 고유벡터가 자동으로 수직이다. Au=λu, Av=μv일 때 같은 내적을 두 방식으로 계산할 수 있기 때문이다.
λuTv=(Au)Tv=uTAv=μuTv.(2)
둘째 등호에서 AT=A를 썼다. λ=μ이면 (λ−μ)uTv=0이므로 내적은 0이어야 한다. 그림 1에서 대칭인 A=(2112)의 고유 방향 (1,1), (1,−1)은 내적이 0이다. 대칭이 아닌 F=(1012)의 고유 방향 (1,0), (1,1)은 내적이 1이고 45∘로 만난다.
그림 1 두 행렬의 고유 방향 비교. 위는 대칭행렬 A=(2112)로, 고윳값 3과 1의 방향이 수직이다. 아래는 대칭이 아닌 F=(1012)로, 고윳값 1과 2의 방향이 45∘를 이루어 길이만 맞춰서는 직교행렬을 만들 수 없다. figures/eigen_directions_compare.py
같은 고윳값에서는 식 (2)가 0=0이 되어 직교를 보장하지 않는다. 그때는 같은 고유공간의 기저에 그람–슈미트 과정을 적용한다. 같은 고유공간 안의 일차결합은 영벡터가 아니면 여전히 그 고윳값의 고유벡터라서 이 과정이 안전하다.
2×2·3×3 실수 대칭행렬에 정규직교 고유벡터 기저가 존재하는 이유
2×2 대칭행렬 (abbd)의 특성방정식 판별식은 (a−d)2+4b2≥0이다. 따라서 실수 고윳값이 있고 영벡터가 아닌 실수 고유벡터 u를 단위 길이로 정규화할 수 있다. 그 벡터에 수직인 방향도 A에 의해 자기 안에 남는다. 실제로 uTw=0이면 uTAw=(Au)Tw=0이다. 이 1차원 방향에서는 작용이 실수배이므로 두 번째 고유벡터를 얻는다.
3×3에서는 실수 계수 삼차 특성다항식에 실근이 적어도 하나 있다. 양끝에서 부호가 달라 연속함수의 사잇값 정리를 적용할 수 있기 때문이다. 그 고유벡터를 정규화한 뒤 수직인 2차원 평면을 택하면 위 내적 계산에 의해 이 평면도 보존된다. 평면의 정규직교기저에서 제한된 작용의 행렬은 여전히 대칭이다. 앞의 2×2 결과로 그 평면의 두 정규직교 고유벡터를 얻어 전체 세 벡터를 완성한다. 이 논증은 특정 예의 수치 확인과 구별된다.
Q. 직교대각화와 대각화는 무엇이 다른가요?
직교대각화는 기저행렬을 직교행렬로 고른 대각화라서 P−1 대신 QT를 쓰지만, 실수 행렬에서는 대칭행렬만 가능하다. 그림 1의 F는 서로 다른 고윳값 1, 2를 가져 보통 대각화는 되지만, 두 고유 방향이 45∘를 이루어 어떤 길이와 부호로 골라도 수직인 열을 만들 수 없다. 대칭인 A는 두 방식이 모두 되고, 정규화 여부에 따라 P−1=21P와 Q−1=QT로 갈린다.
대각화한 2×2 대칭행렬은 정규화만 하면 될까?
두 고윳값이 서로 다르면 그렇다. 그 두 고유벡터는 식 (2)에 의해 이미 수직이므로 각각 길이로 나누기만 하면 된다. A=(2112)의 고윳값 3, 1에 대응하는 (1,1)T, (1,−1)T를 각각 2로 나눈다.
Q=21(111−1),QTAQ=diag(3,1).(3)
정규화 전의 P=(111−1)에는 P−1=21P를 쓰고, 정규화한 Q에는 Q−1=QT를 쓴다. 식 (1)을 오른쪽부터 읽으면 QT로 고유축 좌표를 읽고, D로 축마다 늘이고, Q로 돌아온다. 그림 2에서 A는 단위원을 q1 방향으로 3배, q2 방향으로 1배 늘인 타원으로 보낸다.
그림 2A=QDQT가 단위원(회색)을 옮긴 타원(강조색). 타원의 긴 반축은 q1=21(1,1) 방향의 길이 3, 짧은 반축은 q2=21(1,−1) 방향의 길이 1로, 두 고윳값이 서로 수직인 두 축의 늘임 비율이다. figures/circle_to_ellipse.py
식 (3)의 Q는 행렬식이 −1인 반사다. 둘째 열의 부호를 바꾼 21(11−11)를 쓰면 행렬식이 1인 45∘ 회전이 되고, D=diag(3,1)은 그대로다. 고유벡터의 부호는 자유롭게 고를 수 있기 때문이다. 대각화로 읽는 이차곡선은 좌표축을 돌리기 위해 이 회전 쪽을 고른다.
2×2 대칭행렬을 처음부터 직교대각화하는 순서는?
순서는 다섯 단계다. 고윳값과 고유벡터를 구하는 부분은 고윳값과 고유벡터와 같고, 대칭 확인과 정규화가 더해진다.
AT=A인지 확인한다. 대칭이 아니면 여기서 멈춘다.
특성방정식 det(tI−A)=0으로 고윳값을 구한다.
고윳값마다 (A−λI)x=0을 풀어 고유공간의 기저를 구한다.
고유공간이 2차원 이상이면 그 안에서만 그람–슈미트로 직교화한다.
얻은 벡터를 각각 길이로 나누어 Q의 열로 놓고, 같은 순서로 고윳값을 D에 놓는다.
M=(5222)는 대칭이다. 특성다항식을 구한다.
det(tI−M)=(t−5)(t−2)−4=t2−7t+6=(t−6)(t−1).(4)
고윳값 6에서는 −x+2y=0이므로 (2,1)T, 고윳값 1에서는 4x+2y=0이므로 (1,−2)T를 고른다. 두 벡터의 내적은 2−2=0으로 식 (2)가 예고한 대로 수직이고, 길이는 모두 5다.
QM=51(211−2),QMTMQM=diag(6,1).(5)
검산은 정규화 전 벡터로 하면 근호가 없다. M(2,1)T=(12,6)T=6(2,1)T이고, 정규화 전 열로 만든 곱은 5diag(6,1)이 되어 5의 제곱 5로 나누면 식 (5)와 맞는다.
3×3의 중복 고윳값에서는 어떻게 직교화할까?
B=211121112를 보자. B=I+J이고 J는 모든 성분이 1인 행렬이다. J(x,y,z)T=(x+y+z)(1,1,1)T이므로 (1,1,1)T의 고윳값은 4, 평면 x+y+z=0의 영벡터가 아닌 벡터는 고윳값 1이다. 따라서 pB(t)=(t−4)(t−1)2이다.
그 평면의 기저 w1=(1,−1,0)T, w2=(1,0,−1)T는 내적이 1이라 수직이 아니다. 사영 계수는 w1⋅w1w2⋅w1=21이므로 다음 잔차를 얻는다.11 그람–슈미트 글의 기호로는 입력 a1,a2가 여기의 w1,w2이고, 잔차 w2가 여기의 r이다.
r=w2−21w1=(1/2,1/2,−1)T,∥r∥2=3/2.(6)
그림 3은 이 평면 안의 사영과 잔차를 보여 준다. r은 w1과 내적이 21−21+0=0이다.
그림 3 고윳값 1의 평면에서 w2를 w1 방향 성분과 수직 잔차 r로 분해한다. 축은 이 평면의 정규직교 좌표 s,t이며 원래 공간의 x,y,z축이 아니다. figures/eigenspace_orthogonalization.py
3×3 직교대각화의 세 열은 공간에서 어떻게 놓일까?
고윳값 4의 열은 고윳값 1의 평면 전체에 수직이고, 평면 안의 두 열도 서로 수직이다. (1,1,1)T와 평면 안의 w1, 식 (6)의 r을 각각 정규화하면 다음 세 벡터를 Q3의 열로 쓸 수 있다.
q3은 r을 2배 한 (1,1,−2)를 길이 6으로 나눈 것이다. 각 열의 길이는 1이고 서로 내적이 0이다. Bq1=4q1, Bq2=q2, Bq3=q3이므로 Q3TBQ3=diag(4,1,1)이다. 그림 4는 세 열을 공간에 놓는다. q1은 평면 x+y+z=0에 수직이고, 식 (2)가 말한 대로 고윳값 4의 방향과 고윳값 1의 평면 전체가 서로 수직이다.
그림 4B의 고유공간을 공간에 그린 모습. 회색 평면 x+y+z=0이 고윳값 1의 고유공간이고, 그 안의 q2,q3은 서로 수직이다. 고윳값 4의 q1=31(1,1,1)은 평면에 수직으로 선다. figures/eigenspace_plane_3d.py
핵심
직교대각화는 실수 정사각행렬이 대칭일 때, 그리고 그때만 가능하다. 서로 다른 고윳값의 고유벡터는 이미 수직이므로 정규화만 하고, 중복 고윳값에서는 같은 고유공간 안에서 직교화한 뒤 정규화한다.
Q. 아무 고유벡터들에 그람–슈미트를 해도 되나요?
아니다. 그람–슈미트는 같은 고윳값의 고유공간 안에서만 쓴다. 대칭이 아닌 F=(1012)의 고유벡터 (1,1)T에서 (1,0)T 방향 성분을 빼면 (0,1)T가 되는데, F(0,1)T=(1,2)T라 더 이상 고유벡터가 아니다. 대칭행렬에서는 다른 고유공간끼리 이미 수직이라 빼는 양이 0이다.
Q. 같은 고윳값이면 고유벡터가 모두 직교하나요?
아니다. 같은 고윳값의 고유벡터는 직교하지 않을 수 있다. 위 w1,w2는 둘 다 고윳값 1이지만 내적이 1이다. 다만 그 고유공간 안에서 정규직교기저를 새로 고를 수 있다.
Q. 직교대각화 결과도 여러 개가 가능한가요?
가능하다. 직교대각화의 Q는 고유벡터의 부호, 열과 대각의 순서, 중복 고유공간 안의 정규직교기저에 따라 달라진다. 식 (3)의 Q를 회전으로 바꿔도 D는 diag(3,1) 그대로였다. 계산기 출력의 모양이 다르다고 틀렸다고 판단하지 말고 QTQ=I와 QTAQ=D를 확인한다.
직교대각화는 어디에 쓰일까?
식 (1)을 열벡터의 곱으로 풀어 쓰면, 대칭행렬은 서로 수직인 고유 방향으로 정사영한 뒤 고윳값만큼 늘인 것들의 합이다. qqTx=(q⋅x)q가 단위벡터 q 방향의 정사영이기 때문이다.
이 표현에서 거듭제곱은 고윳값만 바꾸어 Ak=QDkQT이다. 예를 들어 A4=81⋅21(1111)+21(1−1−11)=(41404041)로, 대각화와 행렬의 거듭제곱의 결과와 같다. 역행렬을 따로 구하지 않고 전치만 쓰는 것이 차이다. 이차곡선에서는 같은 Q로 좌표축을 돌려 xy항을 없앤다.
직교대각화의 흔한 오해
대칭이면 고윳값이 모두 양수다 — diag(2,−1)은 대칭이며 이미 직교대각화된 꼴이지만 음의 고윳값을 갖는다.
정규화하지 않은 고유벡터 행렬에도 전치를 역행렬로 쓸 수 있다 — 정규화 전 P로 PTAP를 계산하면 diag(6,2)가 나와 D=diag(3,1)의 2배다. 열의 제곱길이 2가 곱해졌기 때문이다.
열의 길이가 1이면 충분하다 — 같은 단위벡터를 두 열에 반복하면 역행렬조차 없다. 열 사이 내적 0도 필요하다.
직접 해보기
C=(3−1−13)를 직교대각화하라.
C3=311131113의 직교대각화를 구하라.
T=(1023)의 보통 대각화와 직교대각화 가능성을 각각 판단하라.
N=(0223)를 특성다항식부터 직교대각화하라.
B의 고윳값 1 평면에서 순서를 바꾸어 w2를 먼저 두고 그람–슈미트를 하면 어떤 Q가 나오는가?
답
(1,1)T의 고윳값은 2, (1,−1)T의 고윳값은 4다. 둘을 2로 나눈 열로 Q를 만들면 QTCQ=diag(2,4)다.
C3=2I+J이므로 식 (7)의 세 열을 그대로 사용한다. 고윳값은 첫 열에서 5, 나머지 두 열에서 2가 되어 Q3TC3Q3=diag(5,2,2)다.
서로 다른 실수 고윳값 1, 3을 가지므로 보통 대각화는 가능하다. 그러나 TT=T여서 직교대각화는 불가능하다. 실제로 고유 방향 (1,0), (1,1)은 수직이 아니다.
2026-11-17 · 전수 검수 반영 — 대칭·비대칭 고유 방향 비교와 단위원이 타원이 되는 기하적 뜻, 2×2를 특성다항식부터 푸는 다섯 단계와 예제, 회전행렬로 고르는 방법, 3×3 고유공간의 공간 그림, 스펙트럼 분해와 활용, 정규화를 빠뜨린 오류를 보강하고 해보기 5문항으로 확대 (에이전트 수정, 그림 1→4)
2026-11-17 · 전수 검수(에이전트 편집·독립 검증) 통과 — 주인 요청으로 완성으로 올림