케일리–해밀턴 정리는 정사각행렬이 자신의 특성다항식을 만족한다는 정리이다. 상수항을 단위행렬의 배수로 해석하고, 2×2 증명과 3×3 계산으로 높은 거듭제곱·다항식의 값·역행렬을 낮은 거듭제곱의 일차결합으로 구하며, 이차식을 만족하는 행렬에서 계수를 정할 때의 예외를 구별한다.
교육과정 문서는 '케일리-해밀턴 정리'처럼 붙임표로 쓰며 같은 정리다. 단위행렬을 E로 쓰는 교재에서는 같은 식이 A2−(a+d)A+(ad−bc)E=O처럼 보인다. 상수항이 E, 곧 I의 배수가 되는 것은 같다.
먼저 스칼라 변수의 다항식을 전개하고, 그 계수로 행렬의 합을 만든다. A=(2112)이면 pA(t)=t2−4t+3이므로 정리는 A2−4A+3I=O를 말한다. 그림 1은 이 합을 성분별로 쓴 것이다. 상수 3은 3I가 되어 대각에만 3이 들어가고 나머지 자리는 0이다.
그림 1A=(2112)에서 A2, −4A, 3I를 성분별로 더하면 네 자리 모두 0이 된다. 3I의 비대각성분은 0이며 모든 성분에 3을 더하는 것이 아니다. figures/matrix_polynomial_sum.py
2×2에서는 왜 항상 성립할까?
A=(acbd)라 두면 pA(t)=t2−(a+d)t+ad−bc다. 성분을 제한하지 않고 실제로 곱해 보면 다음과 같다.
A2=(a2+bcac+cdab+bdbc+d2)=(a+d)A−(ad−bc)I.(2)
오른쪽의 왼쪽 위 성분은 (a+d)a−(ad−bc)=a2+bc다. 오른쪽 위는 (a+d)b=ab+bd, 왼쪽 아래는 (a+d)c=ac+cd, 오른쪽 아래는 (a+d)d−(ad−bc)=bc+d2으로 네 성분이 모두 맞는다. 이 계산은 특정 숫자의 검산이 아니라 임의의 네 실수에 대한 증명이다.
높은 거듭제곱은 어떻게 줄일까?
A2=4A−3I의 양변에 A를 곱하고, 새로 생긴 A2에 다시 이 관계를 넣는다. 그러면 차수가 매번 1 이하로 내려온다.
A3=4A2−3A=13A−12I,A4=13A2−12A=40A−39I.(3)
따라서 A4=(41404041)다. 일반적으로 Ak=ukA+vkI로 두면 Ak+1=ukA2+vkA에 A2=4A−3I를 넣어 uk+1=4uk+vk, vk+1=−3uk를 얻는다. 그림 2는 이 계수의 변화를 보여 준다. 큰 행렬을 매번 곱하지 않고 수 두 개만 갱신하면 된다.
두 식을 합치면 uk+1=4uk−3uk−1이다. 특성다항식 t2−4t+3의 계수가 그대로 이차 점화식의 계수가 되어, uk는 1, 4, 13, 40으로 이어진다. 실제로 4×13−3×4=40이다.
그림 2A=(2112)에서 k=1,2,3,4일 때 Ak=ukA+vkI의 계수. 강조색은 uk, 회색은 vk이며 점은 정수 단계만 나타낸다. figures/power_coefficients.py
나머지를 이용하면 n제곱을 한 번에 구할 수 있다
A의 n제곱은 tn을 특성다항식으로 나눈 나머지에 A를 넣은 행렬이다. 이 절의 n은 행렬의 크기가 아니라 지수다. 2×2이면 나머지가 일차 이하의 식 αt+β이므로 An=αA+βI다.
tn=q(t)pA(t)+αt+β⟹An=q(A)pA(A)+αA+βI=αA+βI.(4)
A의 다항식끼리는 곱하는 순서를 바꿔도 같으므로 t에 A를 넣어도 등식이 유지되고, 정리에 의해 pA(A)=O다. 이제 α,β를 구하려고 왼쪽 등식에 pA의 근인 고윳값 1, 3을 넣는다. 그 자리에서 pA(t)=0이므로 몫 q(t)를 몰라도 된다.
1n=α+β,3n=3α+β.(5)
두 식을 빼면 α=23n−1, 다시 넣으면 β=23−3n다.
An=23n−1A+23−3nI.(6)
n=4이면 α=40, β=−39로 식 (3)과 같다. n=10이면 α=29524, β=−29523이어서 A10=(29525295242952429525)를 곱셈 열 번 없이 얻는다. 그림 3은 나머지 직선 40t−39가 곡선 y=t4과 고윳값 t=1,3에서 만나는 모습이다.
그림 3t4을 pA(t)=t2−4t+3으로 나눈 나머지 40t−39(점선)와 곡선 y=t4. 두 그래프는 pA의 근인 t=1, t=3에서 만나 식 (5)의 두 등식을 준다. figures/remainder_line.py
다항식의 값도 같은 방법으로 줄인다. t3−4t2+4t=t(t2−4t+3)+t이므로 A3−4A2+4A=A다. 두 근이 같은 중근이면 식 (5)의 두 식이 하나로 겹치므로, 식 (3)처럼 차수를 하나씩 낮춘다.
거듭제곱이 되풀이되는 행렬은 어떻게 알아볼까?
특성다항식에 알맞은 식을 곱해 tm±1 꼴을 만들면 거듭제곱이 몇 번마다 되풀이되는지 보인다. G=(01−11)는 대각성분의 합이 1, 행렬식이 1이므로 G2−G+I=O를 만족한다. 양변에 G+I를 곱하면 t3+1=(t+1)(t2−t+1)에 대응하는 계산이 된다.
G3+I=(G+I)(G2−G+I)=O,G3=−I,G6=I.
따라서 지수를 6으로 나눈 나머지만 보면 된다. 2026=6×337+4이므로 G2026=G4=G3G=−G=(0−11−1)다. 이 계산은 G2−G+I=O라는 식만 썼으므로 같은 식을 만족하는 다른 행렬에도 그대로 쓸 수 있다.
3×3에서도 대각화 없이 사용할 수 있을까?
사용할 수 있다. B=200120003는 고윳값 2의 독립 방향이 하나뿐이라 대각화되지 않지만 pB(t)=(t−2)2(t−3)=t3−7t2+16t−12를 만족한다. 3×3의 특성다항식은 대각성분의 합인 대각합을 써서 t3−(대각합)t2+(소행렬식셋의합)t−det 꼴이다. 여기서 소행렬식 셋은 i행과 i열을 함께 지운 2×2 행렬식이다. B에서는 대각합 7, 소행렬식 4,6,6의 합 16, 행렬식 12로 위 계수와 맞는다.
B3=7B2−16B+12I=80012800027.(7)
직접 곱한 B2의 첫 행은 (4,4,0)이다. 식 (7)의 첫 행은 (28,28,0)−(32,16,0)+(12,0,0)=(8,12,0)로 맞는다. 이것은 이 예의 검산이고, 모든 3×3에 대한 이유는 아래 계수 비교다. 한 번 더 곱하면 B4=7B3−16B2+12B=33B2−100B+84I다. 이 과정을 되풀이하면 B의 높은 거듭제곱을 B2,B,I의 일차결합으로 줄일 수 있다.
3×3의 일반 이유 — 여인수 행렬로 계수를 비교한다
여인수들을 배열한 뒤 전치한 행렬을 수반행렬 adjM이라 한다. 여인수 전개에 의해 MadjM=det(M)I다. 같은 행의 전개는 대각성분을, 서로 다른 행을 섞은 전개는 두 행이 같은 행렬식 0을 주기 때문이다.
pA(t)=t3+c2t2+c1t+c0라 쓰자. tI−A의 여인수는 t의 차수가 2 이하이므로 그 수반행렬을 상수 행렬 Q0,Q1,Q2로 Q0+tQ1+t2Q2라 쓸 수 있다. 위 항등식을 전개하여 t의 계수를 비교하면 −AQ0=c0I, Q0−AQ1=c1I, Q1−AQ2=c2I, Q2=I를 얻는다. 이 네 식에 왼쪽부터 차례로 I,A,A2,A3를 곱해 더하면 모든 Qj 항이 상쇄되어 c0I+c1A+c2A2+A3=O가 된다. 대각화나 행렬의 교환법칙을 가정하지 않았다.
케일리–해밀턴 정리로 역행렬도 구할 수 있을까?
상수항이 0이 아니면 구할 수 있다. 정리의 식에서 c0I만 남기고 나머지를 A로 묶는다. 2×2에서는 식 (2)를 A{(a+d)I−A}=(ad−bc)I로 바꿔 쓴 것이다.
A−1=ad−bc(a+d)I−A(ad−bc=0).(8)
대표 A에서는 A(4I−A)=3I이므로 A−1=31(2−1−12)다. 성분으로 쓰면 익숙한 역행렬 공식 ad−bc1(d−c−ba)와 같다. 4I−A는 A의 다항식이라 A와 곱하는 순서를 바꿔도 같으므로 반대쪽 곱도 I다.
3×3도 같다. B3−7B2+16B=12I에서 B(B2−7B+16I)=12I이므로 B−1=121(B2−7B+16I)다. B2−7B+16I=600−360004이므로 B−1=1/200−1/41/20001/3다. 상수항은 c0=pA(0)=det(−A)=(−1)ndetA이므로 상수항이 0이 아니라는 조건은 행렬식이 0이 아니라는 조건과 같다.
이차식을 만족하는 행렬이면 계수가 정해질까?
2×2 행렬 X가 단위행렬의 실수배인 스칼라 행렬 kI가 아니면 정해진다. 그때 X2−pX+qI=O이면 p=a+d, q=ad−bc다. 그러나 kI는 서로 다른 이차식을 여럿 만족하므로 계수를 정할 수 없다. 이것이 케일리–해밀턴 정리의 역이 그대로 성립하지 않는 지점이다.
X2=pX−qI와 식 (2)의 X2=(a+d)X−(ad−bc)I를 빼면 다음을 얻는다.
{p−(a+d)}X={q−(ad−bc)}I.(9)
p=a+d이면 양변을 나누어 X가 단위행렬의 실수배가 된다. 그러므로 X=kI이면 p=a+d이고, 식 (9)의 왼쪽이 O라서 q=ad−bc다. 반대로 X=2I는 X2−5X+6I=4I−10I+6I=O를 만족하지만 a+d=4, ad−bc=4다. 2I는 일차식 t−2에 넣기만 해도 O가 되므로, (t−2)(t−3)=t2−5t+6처럼 t−2를 인수로 갖는 어떤 이차식도 만족하기 때문이다.
그림 4는 X2−4X+3I=O를 만족하는 행렬을 (a+d,ad−bc) 평면에 찍은 것이다. 스칼라 행렬이 아닌 A와 C=(1023)는 모두 (4,3)에 놓이고, 예외는 곡선 위의 I와 3I뿐이다.
그림 4X2−4X+3I=O를 만족하는 2×2 행렬의 (a+d,ad−bc). 스칼라 행렬이 아닌 A와 C는 (4,3) 한 점에 놓이고, 스칼라 행렬 I와 3I는 kI들이 놓이는 곡선 ad−bc=(a+d)2/4 위의 (2,1)과 (6,9)에 있다. figures/converse_trace_det.py
핵심
케일리–해밀턴 정리는 정사각행렬이 자신의 특성다항식을 만족한다는 정리로, 높은 거듭제곱과 역행렬을 낮은 거듭제곱의 일차결합으로 바꾼다. 상수항은 단위행렬의 배수이며 대각화 가능성을 요구하지 않는다.
Q. 특성다항식에 행렬을 넣으면 행렬식도 바로 0 아닌가요?
det(tI−A)의 t에 A를 넣어 det(AI−A)=detO=0이라고 하는 논증은 케일리–해밀턴 정리의 증명이 아니다. 결과가 행렬이 아니라 수 0이 되어 증명하려는 pA(A)=O와 대상부터 다르다. pA(A)는 먼저 전개한 다항식에 행렬을 넣은 행렬이고, 식 (2)나 계수 비교가 그 값을 증명한다.
Q. 역행렬이 없어도 케일리–해밀턴 정리를 쓸 수 있나요?
역행렬이 없어도 케일리–해밀턴 정리는 성립한다. N2=(0010)는 행렬식이 0이라 역행렬이 없지만 pN2(t)=t2이고 실제 N22=O다. 가역성은 식 (8)로 역행렬을 구할 때만 필요하다.
Q. 계산기로 한 행렬을 확인하면 정리를 증명한 건가요?
한 행렬의 수치 확인은 케일리–해밀턴 정리의 증명이 아니다. 2×2 한 행렬이나 3×3 한 행렬의 확인은 그 입력의 계산 오류를 찾는 검산이다. 임의의 성분을 둔 식 (2)와 임의의 계수를 비교한 논증이 전체 범위의 이유를 맡는다.
케일리–해밀턴 정리의 흔한 오해
상수항을 모든 성분에 더한다. — 대표 A에서 A2−4A의 네 성분에 3을 더하면 (0330)로 영행렬이 아니다. 그림 1처럼 3I는 대각에만 3이 있다.
(A−I)(A−3I)=O이므로 A=I 또는 A=3I다. — 대표 A는 둘 다 아닌데 (A−I)(A−3I)=A2−4A+3I=O다. 행렬에서는 곱이 O여도 어느 한쪽이 O라고 할 수 없다.
대각화되는 행렬에서만 성립한다. — 식 (7)의 B는 대각화되지 않지만 정리를 만족한다. 접힌 계수 비교 증명도 대각화를 쓰지 않는다.
직접 해보기
C=(1023)의 특성다항식으로 C3을 구하라.
N=000100010의 특성다항식과 N3,N5를 구하라.
1번의 C의 역행렬을 케일리–해밀턴 정리로 구하라.
대표 A에 대해 A5−4A4+3A3+2A−I를 구하라.
스칼라 행렬이 아닌 2×2 행렬 X가 X2−5X+6I=O를 만족한다. X의 대각성분의 합과 행렬식을 구하고, 그런 X의 예를 하나 들어라.
답
pC(t)=(t−1)(t−3)=t2−4t+3이므로 C2=4C−3I, C3=13C−12I=(102627)다. 특성다항식이 대표 A와 같으므로 식 (6)의 계수도 그대로 쓰여 Cn=23n−1C+23−3nI다.
pN(t)=t3이다. 정리에 의해 N3=O이고, 실제로 N2에는 첫 행 셋째 성분만 1이 남고 한 번 더 곱하면 O다. 따라서 N5=N3N2=O다.
C(4I−C)=3I이므로 C−1=31(4I−C)=(10−2/31/3)다. 4I−C는 C와 곱하는 순서를 바꿔도 같으므로 반대 순서의 곱도 I다.
t5−4t4+3t3+2t−1=t3(t2−4t+3)+2t−1이므로 값은 2A−I=(3223)다.
식 (9)에 의해 a+d=5, ad−bc=6이다. 예를 들어 (2013)를 넣으면 X2−5X+6I=O가 맞는다. 2I도 이 식을 만족하지만 스칼라 행렬이라 제외했고, 그 대각합과 행렬식은 4, 4다.
2026-11-17 · 전수 검수 반영 — 성분별로 본 행렬 다항식과 단위행렬 E 표기, 나머지로 n제곱을 한 번에 구하는 방법과 다항식의 값, 2×2·3×3 역행렬, 이차식을 만족하는 행렬의 계수와 스칼라 행렬 예외, 영인자·대각화 오해, 숫자 앞 띄어쓰기, 해보기 5문항 (에이전트 수정, 그림 1→4)
2026-11-17 · 전수 검수(에이전트 편집·독립 검증) 통과 — 주인 요청으로 완성으로 올림