격자판을 변형하면 화살표 대부분은 기울기도 바뀐다. 그런데 어떤 화살표는 원래 놓였던 직선 위에 남는다. 그 방향을 찾으면 복잡한 변형을 몇 개의 배수로 나누어 읽을 수 있다.
격자판의 변형은 행렬 곱이고, 직선 위에 남는 화살표는 고유벡터, 그 화살표가 늘어나는 배수는 고윳값이다. 방향이 반대로 바뀌거나 원점으로 눌릴 수도 있으므로 '같은 방향'보다 '같은 직선 위'라는 말이 정확하다. 이 관계는 다음 대각화와 케일리–해밀턴 정리의 출발점이다.
고윳값과 고유벡터는 행렬 곱을 배수 관계로 나타낸다
고윳값과 고유벡터는 정사각행렬 A에 대해 아래 관계를 만족하는 수 λ와 영벡터가 아닌 열벡터 v다. 이 글은 실수 2×2, 3×3 행렬과 실수 벡터로 계산한다.
Av=λv,v=0.(1)
정의
기호
이름
원어
뜻
A
정사각행렬
square matrix
입력과 출력의 성분 개수가 같은 행렬
v
고유벡터
eigenvector
식 (1)을 만족하는 영벡터가 아닌 벡터
λ
고윳값
eigenvalue
해당 고유벡터에 곱해지는 배수
I
단위행렬
identity matrix
곱해도 벡터를 바꾸지 않는 행렬
t
다항식의 변수
polynomial variable
특성다항식에 넣는 수
pA(t)
특성다항식
characteristic polynomial
det(tI−A)
'고유값'이라는 표기도 쓰지만 2022 개정 교육과정의 용어는 '고윳값'이다. 단위행렬을 E로 쓰는 교재도 있으며, 이 글의 I와 같다.
어떤 벡터가 고유벡터인지는 직접 곱해서 판정한다. A=(2112)에 (1,1)T를 곱하면 (3,3)T이므로 고윳값 3의 고유벡터다. (1,−1)T를 곱하면 그대로 (1,−1)T이므로 고윳값 1의 고유벡터다. 반면 (1,0)T의 상 (2,1)T는 둘째 성분이 0에서 1이 되어 (1,0)T의 실수배로 쓸 수 없다. 그림 1은 이 차이를 같은 눈금으로 비교한다.
그림 1A가 (1,1)T는 같은 직선 위에서 3배로 늘리고, (1,0)T는 다른 직선 위의 (2,1)T로 옮긴다. 회색은 입력이고 강조색은 출력이다. figures/eigen_directions.py
특성다항식의 근을 구하면 왜 고윳값이 나올까?
λ가 고윳값이라는 말은 아래 동차연립방정식이 영벡터가 아닌 해를 가진다는 뜻이다. 그런 해는 A−λI의 역행렬이 없을 때, 곧 그 행렬식이 0일 때 생기고 그때에만 생긴다.
(A−λI)v=0.(2)
식 (2)는 식 (1)의 λv를 λIv로 바꿔 왼쪽으로 옮긴 식이다. A−λI에 역행렬이 있으면 양변에 곱해 v=0만 남는다. 역행렬이 없으면, 즉 행렬식이 0이면 영벡터가 아닌 해가 생긴다11 2×2에서는 행렬식이 0이면 두 행이 비례하거나 0이 되어 실제 방정식이 하나 이하로 줄고, 미지수 하나를 자유롭게 정할 수 있다. 3×3에서 같은 결론은 행렬식의 성질의 역행렬 판정에서 온다.. 그래서 다음 다항식의 근을 찾는다.
pA(t)=det(tI−A),pA(λ)=0.(3)
pA(t)를 특성다항식, pA(t)=0을 특성방정식이라고 한다. 교재에 따라 det(A−tI)로 쓰기도 하는데, 두 식은 (−1)n배만 다르므로 근이 같다. 이 글은 최고차항의 계수가 1이 되는 det(tI−A)를 쓴다.
두 행이 같은 방정식이라 하나만 남는다. 같은 방법으로 고윳값 1에서는 x+y=0이므로 s(1,−1)T, s=0이다. 행렬식은 값을 찾고, 연립방정식은 방향을 찾는다.
영벡터까지 더한 해집합을 고유공간이라고 부른다. 같은 고윳값의 벡터를 실수배하거나 더해도 식 (2)의 해이므로 고유공간은 부분공간이 된다. 영벡터는 고유공간에는 들어가지만 고유벡터는 아니다.
2×2 고윳값의 합과 곱은 대각성분의 합과 행렬식이다
A=(acbd)의 특성다항식을 전개하면 일차항과 상수항에 행렬의 두 수가 그대로 나타난다.
pA(t)=t2−(a+d)t+(ad−bc).(6)
특성방정식이 실근 λ1,λ2를 가지면 이차방정식의 근과 계수의 관계에 의해 두 고윳값에 대해 다음이 성립한다. 중근이면 같은 수를 두 번 센다.
λ1+λ2=a+d,λ1λ2=ad−bc.(7)
대각성분의 합 a+d를 대각합(trace)이라고 부른다. 대표 A에서 3+1=4=2+2, 3×1=3=4−1로 맞는다. 이 관계는 고윳값을 구한 뒤 검산하는 데 쓰고, 행렬식이 0인지와 고윳값 0이 있는지가 같은 질문이라는 사실도 보여 준다.
실수 고윳값이 없거나 중근이면 어떻게 될까?
식 (6)의 판별식이 실수 고윳값의 개수를 정한다. 판별식을 정리하면 다음과 같다.
(a+d)2−4(ad−bc)=(a−d)2+4bc.(8)
양수이면 서로 다른 실수 고윳값이 둘, 0이면 실수 중근 하나, 음수이면 실수 고윳값이 없다. 대표 A는 0+4=4>0이다. J=(2012)는 0+0=0이라 중근 2만 갖고, 90° 회전행렬 R=(01−10)는 0−4=−4<0이다. b=c인 대칭행렬은 식 (8)이 (a−d)2+4b2≥0이므로 언제나 실수 고윳값을 갖는다.
그림 2는 세 특성다항식의 그래프다. 고윳값은 그래프가 t축과 만나는 점이다. pJ는 t=2에서 축에 닿기만 하고, J−2I의 동차식은 y=0 하나뿐이라 고유벡터의 방향도 하나다. pR은 축과 만나지 않는다.
그림 2 세 2×2 행렬의 특성다항식 pA(t)=t2−4t+3, pJ(t)=(t−2)2, pR(t)=t2+1. 실수 고윳값은 t축과의 교점 1, 3과 접점 2뿐이고, pR은 그린 범위에서 1 이상이라 축과 만나지 않는다. figures/char_poly_roots.py
3×3에서 중근이면 고유벡터가 몇 방향일까?
3×3에서 중근이 나와도 독립인 고유벡터의 방향 수는 행렬마다 다르다. 같은 중근이 직선 하나만 줄 수도, 평면 전체를 줄 수도 있다.
먼저 삼각행렬은 tI−B도 삼각행렬이어서 특성다항식이 대각성분 bii로 만든 (t−bii)의 곱이다.
B=200120003,pB(t)=(t−2)2(t−3).(9)
고윳값 2를 넣은 동차식은 y=0, z=0을 준다. 따라서 고유공간은 (x,0,0)T 전체로 한 방향뿐이다. 고윳값 3에서는 −x+y=0, −y=0이므로 (0,0,z)T 전체다.
삼각행렬이 아니면 여인수 전개로 계산한다. 대칭행렬 M=211121112에서 첫 행으로 전개하면 세 항이 모두 t−1을 인수로 가진다.
고윳값 1에서 M−I의 세 행은 모두 (1,1,1)이므로 남는 식은 x+y+z=0 하나다. 고유공간은 평면이고 (1,−1,0)T, (1,0,−1)T처럼 독립인 두 방향을 고를 수 있다. 고윳값 4의 고유공간은 (1,1,1)T 방향의 직선이다.
그림 3은 두 행렬의 고유공간을 나란히 보여 준다. 근이 몇 번 나오는지는 같아도 B는 직선, M은 평면이다22 근으로 나온 횟수를 대수적 중복도, 고유공간의 독립 방향 수를 기하적 중복도라고 부르기도 한다. B의 고윳값 2는 2와 1, M의 고윳값 1은 2와 2다.. 이 차이가 대각화의 가능 여부를 가른다.
3×3에서도 특성다항식이 실수 범위에서 일차식 세 개의 곱 (t−λ1)(t−λ2)(t−λ3)으로 인수분해되면, 중근을 중복해 센 고윳값의 합은 대각합, 곱은 행렬식과 같다33 실수 고윳값이 하나뿐인 3×3도 있다. (2000110−11)은 특성다항식이 (t−2)(t2−2t+2)여서 실수 고윳값은 2뿐인데, 대각합과 행렬식은 모두 4다. 복소수 근 1±i까지 세면 합과 곱이 4로 맞는다.. B는 2+2+3=7과 2×2×3=12, M은 1+1+4=6과 1×1×4=4다.
이유는 3×3 행렬 X=(xij)의 det(tI−X)와 위 곱의 계수를 비교하면 보인다. 상수항은 t=0을 넣은 det(−X)=−detX이면서 −λ1λ2λ3이다. det(tI−X)의 여섯 항은 행마다, 열마다 성분을 하나씩 고른 곱인데, 대각 칸을 둘 고르면 남은 칸도 대각이다. 그래서 대각 칸 셋의 곱 (t−x11)(t−x22)(t−x33) 말고는 t를 많아야 한 번 포함하고, t2의 계수는 −(x11+x22+x33)=−(λ1+λ2+λ3)이다.
그림 3 중근을 가진 두 3×3 행렬의 고유공간. 위의 B는 고윳값 2의 고유공간이 x축 한 직선이고, 아래의 M은 고윳값 1의 고유공간이 평면 x+y+z=0이다. 점선은 다른 고윳값(3, 4)의 고유공간이다. figures/eigenspaces_3d.py
거듭제곱과 역행렬의 고윳값은 어떻게 바뀔까?
같은 고유벡터를 그대로 쓰고, 고윳값만 같은 연산을 받는다. Av=λv의 양변에 A를 한 번 더 곱하면 A2v=λAv=λ2v다.
Akv=λkv,A−1v=λ1v,(A+cI)v=(λ+c)v.(11)
둘째 식은 A가 가역일 때만 쓴다. 이때 λ=0이고, v=A−1Av=λA−1v를 λ로 나눈 식이다. 대표 A에서 A2=(5445)는 (1,1)T를 (9,9)T로 보내 고윳값 32=9를 갖는다. A−1은 같은 벡터를 (1/3,1/3)T로 보내 고윳값 1/3을 갖는다.
고윳값 0과 역행렬의 관계도 여기서 나온다. pA(0)=det(−A)=(−1)ndetA이므로 0이 고윳값인 것과 detA=0, 곧 역행렬이 없는 것은 같은 조건이다.
같은 행렬을 거듭 곱하면 벡터는 어느 고유벡터 쪽으로 끌려갈까?
2×2 행렬의 두 실수 고윳값 가운데 절댓값이 더 큰 쪽의 고유벡터 직선으로 끌려간다. 단, 출발 벡터에 그 고유벡터 성분이 있어야 한다. 출발 벡터를 두 고유벡터로 나누어 쓰면 이유가 보인다.
Ak(10)=23k(11)+21k(1−1).(12)
(1,0)T=21(1,1)T+21(1,−1)T이고, 식 (11)에 의해 각 부분에 3k와 1k가 곱해진다. 3k 쪽이 빠르게 커지므로 k=4에서 벡터는 (41,40)T가 된다. 그림 4는 방향의 각이 0°, 26.6°, 38.7°, 42.9°, 44.3°로 45°에 다가가는 모습이다.
그림 4A=(2112)를 (1,0)T에 k=0,1,2,3,4번 곱한 벡터의 방향. 위는 길이를 1로 맞춘 화살표, 아래는 x축에서 잰 각(도)이다. 각은 0에서 44.3까지 늘며 고유벡터 (1,1)T의 각 45에 다가간다. figures/repeated_direction.py
핵심
고윳값은 특성다항식의 근이고, 고유벡터는 그 근을 넣은 동차연립방정식의 영벡터가 아닌 해다. 실수 근이 있는지와 각 고유공간의 독립 방향 수를 함께 확인한다.
Q. 고윳값이 0이어도 되나요?
고윳값은 0이어도 된다. 제외하는 것은 고유벡터가 영벡터인 경우다. diag(0,2)는 (1,0)T를 영벡터로 보내 고윳값 0을 가지며, 이런 행렬은 행렬식이 0이라 역행렬이 없다.
Q. 고유벡터는 하나로 정해지나요, 길이를 1로 맞춰야 하나요?
고유벡터는 하나로 정해지지 않으며 길이를 1로 맞출 필요도 없다. Av=λv이면 0이 아닌 실수 s에 대해 A(sv)=λ(sv)이므로 (1,1)T 대신 (2,2)T를 답해도 맞다. 길이 1의 정규화는 나중에 직교대각화에서 편리하게 쓴다.
Q. 실수 행렬이면 실수 고윳값이 반드시 있나요?
실수 행렬이라도 실수 고윳값이 없을 수 있다. 90° 회전행렬 R의 특성다항식은 t2+1이어서 실수 근이 없다. 복소수까지 허용하면 i,−i가 근이지만, 실수 고유벡터를 찾는 이 글의 범위와는 구별한다.
고윳값과 고유벡터의 흔한 오해
대각성분이 언제나 고윳값이다. — 대표 A의 대각은 2, 2지만 고윳값은 3, 1이다. 대각성분을 바로 읽는 성질은 삼각행렬에만 적용한다.
A−λI 대신 모든 성분에서 λ를 빼도 된다. — 대표 A의 네 성분에서 3을 빼면 (−1−2−2−1)이고 행렬식이 −3이라 3이 고윳값이 아닌 것처럼 보인다. λI는 대각성분에서만 뺀다.
특성다항식이 같으면 고유공간도 같다. — 식 (9)의 B와 diag(2,2,3)은 특성다항식이 같지만 고윳값 2의 고유공간이 직선과 평면으로 다르다.
직접 해보기
C=(4012)의 고윳값과 각 고유공간을 구하라.
위 C에 대해 w=(1,1)T가 고유벡터인지 판정하라.
T=110110002의 특성다항식과 각 고유공간을 구하라.
대표 A의 고윳값이 3, 1임을 이용해 A2−2A와 A−1의 고윳값을 구하라. A2−2A는 직접 곱해 검산하라.
(11k1)가 실수 고윳값을 갖도록 하는 실수 k의 범위를 구하고, k=4일 때 고윳값과 고유벡터를 구하라.
답
pC(t)=(t−4)(t−2)다. 4에서는 C−4I=(001−2)에서 y=0이므로 (x,0)T 전체다. 2에서는 2x+y=0이므로 s(1,−2)T 전체다. 고유벡터를 쓸 때는 각 집합에서 영벡터를 뺀다.
Cw=(5,2)T다. 첫 성분은 5배, 둘째 성분은 2배를 요구하므로 공통의 λ가 없어 고유벡터가 아니다.
셋째 행으로 전개하면 pT(t)=(t−2){(t−1)2−1}=t(t−2)2이다. 고윳값 0에서는 x+y=0, z=0이므로 s(1,−1,0)T다. 고윳값 2에서는 −x+y=0 하나만 남아 (1,1,0)T, (0,0,1)T가 만드는 평면이다. 고윳값 0이 있으므로 T는 역행렬이 없다.
식 (11)에서 같은 고유벡터에 대해 λ2−2λ가 되므로 9−6=3, 1−2=−1이다. 실제로 A2−2A=(1221)는 (1,1)T를 (3,3)T로, (1,−1)T를 (−1,1)T로 보낸다. A−1의 고윳값은 1/3과 1이다.
특성다항식은 (t−1)2−k이고 판별식은 4k이므로 k≥0이다. k=0이면 중근 1이고 고유벡터 방향은 (0,1)T 하나다. k=4이면 (t−1)2=4에서 고윳값 3, −1이고, 고유벡터는 각각 (2,1)T, (2,−1)T의 0이 아닌 실수배다.