같은 규칙으로 입력을 바꾸되 목표만 세 종류라고 하자. 목표마다 같은 계산을 따로 반복하는 대신 나란히 적어 한꺼번에 처리할 수 있다. 모든 목표를 되돌리는 방법을 모은 것이 역행렬이다.
2×2 역행렬의 뜻은 크기가 커져도 같다. 다만 공식을 외워 성분을 바꾸는 대신 가우스 소거법으로 3×3의 각 열을 함께 구해 보자. 여기서는 실수 성분을 갖는 2×2·3×3 정사각행렬을 다룬다.
가우스 소거법으로 역행렬을 구할 때는 단위행렬을 함께 바꾼다
정사각행렬 A의 역행렬A−1은 양쪽에서 곱했을 때 단위행렬이 되는 행렬이다. A의 오른쪽에 같은 크기의 단위행렬을 붙여 같은 행연산을 끝까지 적용한다.
AA−1=A−1A=I,[A∣I]⟶[I∣A−1].(1)
정의
기호
이름
원어
뜻
A
정사각행렬
square matrix
역행렬을 구하려는 2×2 또는 3×3 행렬
I
단위행렬
identity matrix
대각성분은 1, 나머지는 0인 같은 크기의 행렬
A−1
역행렬
inverse matrix
식 (1)의 두 곱이 모두 I가 되는 행렬
X
미지의 행렬
unknown matrix
AX=I를 만족하도록 찾는 행렬, 소거가 끝난 오른쪽 블록
Ri
제 i행
row
세로선 양쪽을 합친 행 전체
ej
표준 단위벡터
standard unit vector
j번째 성분만 1인 열벡터, I의 제 j열
xj
X의 제 j열
column
Axj=ej의 해
E
기본행렬
elementary matrix
I에 기본행연산을 한 번 한 행렬
예를 들어 I의 첫째 열은 e1=(1,0,0)T다. 위첨자 T는 가로로 쓴 성분을 세로로 세우는 전치를 나타낸다. 마지막에 왼쪽을 I로 만들려면 피벗 아래뿐 아니라 위의 성분까지 0으로 만들고 피벗을 1로 맞춘다. 이를 가우스–조르당 소거법이라 한다. 역행렬이 있는 행렬을 가역행렬이라고도 부른다.
2×2 역행렬을 행연산으로 구하면 공식과 같은 답이 나온다
역행렬에서는 2×2 공식으로 역행렬을 구했다. 같은 답을 행연산으로 얻어 보자. M=(1327)의 행렬식은 1⋅7−2⋅3=1이다.
[13271001]R2←R2−3R1[10211−301].(2)
첫 피벗 1 아래의 3을 없앴다. 오른쪽도 (0,1)−3(1,0)=(−3,1)로 바뀐다. 이제 둘째 피벗 위의 2를 없앤다.
R1←R1−2R2[10017−3−21].(3)
오른쪽 (7−3−21)은 공식에서 대각성분 1과 7을 바꾸고 2와 3의 부호를 바꾼 뒤 1/1배한 것과 같다. 일반 2×2에서도 같은 행연산이 공식을 만든다는 유도를 아래에 접어 두었다.
2×2 역행렬 공식이 행연산에서 나오는 이유
A=(acbd), a=0, ad−bc=0이라 하자. a=0이면 ad−bc=0에서 c=0이므로 먼저 두 행을 바꾼다. 둘째 행에서 첫째 행의 c/a배를 빼면 식 (4)이다.
[a0baad−bc1−ac01].(4)
둘째 피벗 aad−bc가 0이 아니어야 다음 단계로 갈 수 있다. 여기서 ad−bc=0이 필요하다. 둘째 행을 ad−bca배하면 식 (5)다.
[a0b11−ad−bcc0ad−bca].(5)
첫째 행에서 둘째 행의 b배를 빼고 a1배하면 오른쪽 첫 행은 a1(1+ad−bcbc)=ad−bcd와 −ad−bcb가 된다.
[1001ad−bcd−ad−bcc−ad−bcbad−bca].(6)
식 (6)의 오른쪽이 2×2 공식 ad−bc1(d−c−ba)이다.
왜 오른쪽에 역행렬이 나타날까?
AX=I를 열별로 읽으면 Ax1=e1, Ax2=e2, Ax3=e3이다. 같은 계수행렬을 가진 세 연립계이므로 세 상수항 열에 같은 행연산을 적용할 수 있다. 왼쪽이 I가 되면 오른쪽 각 열에서 해를 바로 읽고, 그 열을 모은 X가 AX=I를 만족한다.
다른 쪽 곱 XA=I는 기본행렬로 설명한다. 곱 EA는 A에 E를 만든 행연산을 한 결과다. 예를 들어 식 (2)의 R2←R2−3R1은 I의 (2,1) 성분을 −3으로 바꾼 E1에, 식 (3)의 R1←R1−2R2는 (1,2) 성분을 −2로 바꾼 E2에 해당한다. 그림 1의 첫 두 줄이 이 두 곱이다.
그림 1 기본행렬을 왼쪽에 곱하면 행연산이 된다. 첫 줄은 E1M이 식 (2) 결과의 왼쪽 블록과 같고, 둘째 줄은 E2(E1M)=I다. 셋째 줄의 곱 E2E1은 식 (3) 결과의 오른쪽 블록, 곧 M−1이다. 색으로 표시한 수는 바뀐 성분이다. figures/elementary_products.py
연산 순서대로 E1,E2,…,Ek라 쓰면 전체 행연산은 왼쪽에 Ek⋯E1을 곱하는 일이다. 왼쪽 블록은 Ek⋯E1A=I가 되고, 오른쪽 블록은 Ek⋯E1I=Ek⋯E1이 된다. 따라서 오른쪽에 남은 X는 XA=I도 만족한다. 기본행연산마다 역연산이 있으므로 이 과정에서 정보를 잃지 않는다.
3×3 역행렬을 모든 중간 행렬과 함께 구해 보자
가우스 소거법 글과 같은 계수행렬 A=012113114를 사용한다. 첫 피벗이 0이므로 먼저 행을 바꾼다.
식 (8)은 셋째 행에서 첫째 행의 2배를 빼는 단계다. 오른쪽도 (0,0,1)−2(0,1,0)=(0,−2,1)로 바뀐다.
R3←R3−2R110011111201010−2001.(8)
식 (9)에서는 이어 둘째 행을 빼서 세 번째 피벗을 얻는다.
R3←R3−R210011011101−110−2001.(9)
여기까지가 전진소거다. 이제 피벗 위를 소거한다. 식 (10)에서 먼저 둘째 행의 셋째 열 성분을 없앤다.
R2←R2−R310011010102−112−20−11.(10)
식 (11)에서는 첫째 행의 셋째 열 성분도 없앤다.
R1←R1−R310011000112−132−2−1−11.(11)
마지막으로 현재 둘째 행을 첫째 행에서 뺀다.
R1←R1−R2100010001−12−112−20−11.(12)
따라서 얻은 역행렬은
A−1=−12−112−20−11.(13)
그림 2는 여섯 행연산이 왼쪽 블록의 각 성분을 0으로 만든 순서를 한 장에 모은 것이다. 아래 삼각형을 왼쪽 열부터 먼저 지우고, 위 삼각형은 오른쪽 열부터 지운다. 위를 오른쪽부터 지우면 이미 만든 0이 다시 깨지지 않는다.
그림 2 식 (7)–(12)에서 왼쪽 3×3 블록의 각 성분이 0이 되는 식 번호. 색칠한 아래 삼각형은 전진소거, 점선의 위 삼각형은 피벗 위 소거에서 지운다. 원으로 표시한 대각성분은 마지막에 모두 1이다. figures/elimination_order.py
3×3 곱도 2×2와 같이 왼쪽 행렬의 행과 오른쪽 행렬의 열에서 대응 성분을 곱해 더한다. AA−1의 첫째 열은 (0+2−1,−1+2−1,−2+6−4)T=e1이고, 다른 두 열도 각각 e2,e3가 된다. 반대 곱의 행은 (−1,1,0)A=(1,0,0), (2,2,−1)A=(0,1,0), (−1,−2,1)A=(0,0,1)이다.
그림 3은 첫째 열만 골라 ‘원래 행렬로 목표에 보내기’와 ‘역행렬로 되돌리기’를 나타낸다.
그림 3A는 역행렬의 첫째 열 (−1,2,−1)T를 e1=(1,0,0)T로 보낸다. 아래의 반대 방향은 A−1e1=(−1,2,−1)T이며, 행렬 전체의 역관계에서 한 입력을 골라 확인한 그림이다. figures/inverse_column.py
Q. 3×3 역행렬도 2×2 공식처럼 성분을 바꾸면 되나요?
아니다. 대각성분을 맞바꾸고 나머지 부호를 바꾸는 2×2 공식은 3×3에 그대로 쓸 수 없다. 3×3 역행렬을 성분으로 쓰는 공식도 있지만 2×2 행렬식을 아홉 번 계산해야 한다. 고급 대수에서는 식 (7)–(12)의 여섯 행연산처럼 가우스 소거법으로 구한다.
Q. 역행렬을 구할 때 오른쪽 단위행렬에는 행교환을 하지 않아도 되나요?
아니다. 오른쪽은 같은 연립계 세 개의 상수항이므로 모든 행연산을 함께 받아야 한다. 식 (7)의 오른쪽 첫 두 행도 서로 바뀐다. 왼쪽에만 행교환하면 다른 계산이 된다.
왼쪽이 단위행렬이 되지 않으면 역행렬이 없다
소거를 끝냈는데 왼쪽에 피벗이 없는 열이 남으면, A를 계수행렬로 하고 상수항이 모두 0인 동차계에 자유변수가 있다. 그 값을 0 아닌 수로 골라 Av=O(영행렬)인 0 아닌 열 v를 만들 수 있다. 역행렬이 있다고 가정하면 Av=O의 양변 왼쪽에 역행렬을 곱해 v=O가 되어 모순이다. 이런 행렬을 특이행렬이라 한다.
예를 들어 S=(1224)에서 S(−2,1)T=(0,0)T이다. 실제로 [S∣I]의 둘째 행에서 첫째 행의 2배를 빼면 [00∣−21]이 남아 왼쪽에 두 피벗을 만들 수 없다.
3×3에서도 같다. N=121253374에 단위행렬을 붙여 첫 열을 소거하면 식 (14)이다.
둘째 행과 셋째 행의 왼쪽이 같아졌다. 셋째 행에서 둘째 행을 빼면 왼쪽에 0행이 생긴다.
R3←R3−R21002103101−2101−1001.(15)
그림 4처럼 같은 전진소거 단계에서 A는 피벗이 셋이고 N은 둘이다. 그래서 N은 왼쪽을 I로 만들 수 없고 역행렬이 없다. 식 (15)의 왼쪽에서 피벗이 없는 셋째 열의 미지수를 1로 두고 후진대입하면 N(−1,−1,1)T=(0,0,0)T인 0 아닌 해도 얻는다.11 오른쪽 셋째 행 (1,−1,1)은 원래 행을 R1−R2+R3로 더하면 0행이 된다는 기록이다.
그림 4 전진소거를 마친 왼쪽 블록 비교. A는 식 (9)에서 세 열 모두에 피벗(원)이 있어 계속 소거하면 I가 되고, N은 식 (15)에서 피벗이 둘뿐이고 점선으로 표시한 셋째 행이 0행이라 I가 될 수 없다. figures/singular_compare.py
핵심
행연산으로 역행렬을 구할 때는 정사각행렬에 단위행렬을 붙여 같은 기본행연산을 적용한다. 왼쪽이 단위행렬이 되면 오른쪽이 역행렬이고, 소거 중 왼쪽에 0행이 생기면 역행렬이 없다.
Q. 3×3 행렬에 역행렬이 있는지 미리 알 수 있나요?
전진소거에서 피벗이 세 개 나오면 역행렬이 있고, 0행이 생기면 없다. 행렬식으로도 판정할 수 있어서 본문의 A는 행렬식이 −1이라 역행렬이 있고, N은 0이라 없다. 행렬식과 역행렬의 관계는 행렬식의 성질에서 다룬다.
Q. 역행렬을 알면 연립방정식은 어떻게 푸나요?
계수행렬의 역행렬을 상수항 열 B의 왼쪽에 곱한 A−1B가 해다. 가우스 소거법 글의 연립방정식은 계수행렬이 본문의 A이고 B=(5,6,20)T다. 식 (13)을 곱하면 (−5+6,10+12−20,−5−12+20)T=(1,2,3)T로 소거법의 해와 같다.
행연산으로 구하는 역행렬의 흔한 오해
역행렬은 각 성분의 역수다 — 본문 A의 왼쪽 위 성분은 0이라 역수가 없지만, 식 (13)의 역행렬은 존재한다. 역행렬은 성분별 나눗셈이 아니라 곱이 I가 되는 행렬이다.
전진소거만 끝나면 오른쪽이 역행렬이다 — 식 (9)에서 멈추면 오른쪽은 01−110−2001이다. A와 곱한 결과의 첫 열이 (0,0,−1)T여서 I가 아니다. 왼쪽이 I가 될 때까지 위쪽도 소거해야 한다.
직접 해보기
P=(1023)의 역행렬을 행연산으로 구하고 두 곱을 확인하라.
Q=100110011의 역행렬을 구하라. 각 단계의 오른쪽을 빠뜨리지 마라.
T=120240001에 단위행렬을 붙여 소거하면 어디서 막히는지 보이고, 0 아닌 동차해로 역행렬이 없음을 설명하라.
본문의 A를 계수행렬, (2,−1,3)T를 상수항 열로 하는 연립방정식을 식 (13)으로 풀고 세 식을 검산하라.
G=111112121의 역행렬을 구하라. 둘째 피벗 자리에 0이 생긴다.
답과 풀이
[P∣I]의 둘째 행을 31배하면 [01∣031], 첫째 행에서 둘째 행의 2배를 빼면 [10∣1−32]이다. 따라서 P−1=(10−2/31/3). PP−1의 오른쪽 위는 −32+32=0, P−1P의 오른쪽 위는 2−2=0이고 나머지 성분도 I와 같다.
먼저 R2←R2−R3로 둘째 행이 [010∣01−1]이 된다. 다음에 현재 행으로 R1←R1−R2를 하면 첫째 행이 [100∣1−11]이다. 따라서 Q−1=100−1101−11이고, 두 곱의 첫째 행 셋째 성분도 1−1=0, −1+1=0으로 맞는다.
R2←R2−2R1을 하면 둘째 행이 [000∣−210]이 되어 왼쪽 둘째 열에 피벗을 만들 수 없다. v=(−2,1,0)T에 대해 Tv=(0,0,0)T다. 역행렬이 있다면 v=T−10=0이어야 하므로 모순이다.
R2←R2−R1, R3←R3−R1을 하면 [001∣−110], [010∣−101]이다. 둘째 행 둘째 열이 0이므로 R2↔R3을 한다. 이어서 R1←R1−R3, R1←R1−R2를 하면 G−1=3−1−1−101−110이다. G의 첫 행과 G−1의 첫 열을 곱하면 3−1−1=1이다.
더 읽기
College Algebra 2e 7.7절 — OpenStax. 2×2·3×3의 확대행렬 계산과 양쪽 곱 검산을 확인했다. 일부 표시 예제의 행교환 성분 오기는 따르지 않고 본문 행연산을 별도 검산했다.