과일 가게 계산대가 사과와 배의 개수를 받아 영수증에 두 줄을 찍는다고 하자. 한 줄은 금액, 다른 줄은 전체 개수다. 영수증만 보고 원래 개수를 하나로 되짚을 수 있으면 계산을 되돌릴 수 있고, 개수가 달라도 같은 영수증이 나오는 계산대라면 되돌릴 수 없다.
개수의 묶음이 입력벡터 x, 계산대가 선형변환T, 영수증이 출력벡터 y다. 영수증에서 개수를 되짚는 규칙이 역변환T−1이다. 이 글은 실수 좌표공간 Rn에서 같은 Rn으로 가는 변환을 다루고, 계산은 2×2·3×3 행렬로 한다. 행연산으로 구한 역행렬이 되짚는 도구다.
선형변환의 역변환은 양쪽 순서에서 원래 벡터를 돌려준다
T의 역변환 T−1은 T 다음에 적용해도, T보다 먼저 적용해도 처음 벡터를 그대로 돌려주는 변환이다. id는 모든 벡터를 그대로 내보내는 항등변환이다.
T−1∘T=id,T∘T−1=id.(1)
이런 T−1가 있으려면 T가 일대일대응이어야 한다. 서로 다른 입력은 서로 다른 출력으로 가고, 모든 출력벡터가 어떤 입력에서 나와야 한다. 앞의 조건이 깨지면 되짚을 입력이 하나로 정해지지 않고, 뒤의 조건이 깨지면 되짚을 입력이 아예 없다.
정의
기호
이름
원어
뜻
T,T−1
선형변환·역변환
linear transformation, inverse
서로의 작용을 되돌리는 두 변환
id
항등변환
identity map
모든 벡터를 그대로 내보내는 변환
A,A−1
표현행렬·역행렬
standard matrix, inverse matrix
표준기저에서 두 변환을 나타내는 행렬
I
단위행렬
identity matrix
항등변환을 나타내는 정사각행렬
x,y
입력·출력
input, output
y=Ax인 두 벡터, 성분은 x1,x2,…와 y1,y2,…
n
차원
dimension
벡터의 성분 수, 이 글의 계산에서는 2 또는 3
역변환은 선형변환이라는 함수의 역함수다. 그래서 존재 조건도 역함수와 같은 일대일대응이다.
T(x)=Ax에서 A에 역행렬이 있으면 출력에 A−1를 곱해 입력을 되찾는다. 두 순서의 행렬 곱이 모두 I이므로 식 (1)을 만족한다.
T−1(y)=A−1y,A−1A=AA−1=I.(2)
반대로 선형변환에 역변환이 있으면 그 역변환도 선형이다. T(x1)=y1, T(x2)=y2라 하자. 선형성에 의해 T(ax1+bx2)=ay1+by2이고, 그 출력을 내는 입력은 하나뿐이므로 다음이 성립한다.
T−1(ay1+by2)=ax1+bx2=aT−1(y1)+bT−1(y2).(3)
따라서 T−1도 행렬 하나로 나타난다. 그 행렬을 C라 하자. 합성의 행렬은 곱이므로 식 (1)에서 CA=AC=I이고, C=A−1이다. 곧 T에 역변환이 있다는 것과 A에 역행렬이 있다는 것은 같은 조건이다.
선형변환의 역변환은 출력 식을 입력에 대해 풀어 구한다
역변환을 구하려면 출력 성분의 식을 입력 성분에 대해 푼다. 푼 식의 계수를 행렬로 모으면 그대로 역행렬이다.
직관의 계산대를 사과 한 개 2천 원, 배 한 개 1천 원으로 정하자. 변환은 T(x1,x2)=(2x1+x2,x1+x2)이다. 출력 성분 y1=2x1+x2는 천 원 단위 금액, y2=x1+x2는 전체 개수다. 두 식의 차에서 x1=y1−y2가 나온다. 이를 둘째 식에 넣으면 x2=y2−x1=−y1+2y2다.
A=(2111),A−1=(1−1−12).(4)
사과 3개와 배 1개인 입력 (3,1)은 (2×3+1,3+1)=(7,4)가 된다. 역변환을 적용하면 (7−4,−7+2×4)=(3,1)로 돌아온다. 그림 1의 위 패널이 앞으로 가는 계산, 아래 패널이 되짚는 계산이다.
그림 1 위 패널은 A가 입력 (3,1)을 (7,4)로 옮기는 모습, 아래 패널은 A−1이 같은 (7,4)를 원래 입력 (3,1)로 돌리는 모습이다. 두 패널은 같은 좌표 눈금을 쓴다. figures/inverse_recovery.py
곱셈으로도 확인한다. AA−1의 네 성분은 차례로 2−1, −2+2, 1−1, −1+2이므로 I다. 반대 곱 A−1A도 대각 성분 1과 나머지 0을 준다. 2×2에서는 역행렬의 공식으로도 같은 결과가 나온다. 이 A는 ad−bc=2×1−1×1=1이라 분모가 1이다.
3×3 선형변환의 역변환도 마지막 식부터 거꾸로 푼다
U(x1,x2,x3)=(x1+x2,x2+x3,x3)를 생각하자. 출력에서 먼저 x3=y3를 읽고, 이어 x2=y2−y3, 마지막으로 x1=y1−y2+y3를 구한다.
M=100110011,M−1=100−1101−11.(5)
(1,2,3)은 (3,5,3)이 되고, M−1은 (3−5+3,5−3,3)=(1,2,3)을 되찾는다. [M∣I]에서 둘째 행에서 셋째 행을, 이어 첫째 행에서 둘째 행을 빼도 오른쪽에 같은 M−1이 나온다. 뒤에서부터 대입하는 계산이 이 행연산을 줄여 쓴 것이다. 역변환을 구하는 일은 출력이 주어진 연립일차방정식을 푸는 일과 같다.
선형변환의 역변환은 언제 존재하지 않나
서로 다른 입력을 같은 출력으로 합치거나, 어떤 입력으로도 닿지 못하는 출력이 남으면 역변환이 없다. 정사영 P(x1,x2)=(x1,0)은 선형이지만 이 두 결함을 모두 가진다.
(1,0), (1,1), (1,2)는 모두 (1,0)으로 간다. 출력 (1,0)만 보고는 어느 입력으로 돌아갈지 정할 수 없다. 또 둘째 성분이 0이 아닌 (0,1) 같은 벡터는 어떤 입력에서도 나오지 않는다. 직관의 계산대로 말하면 사과 개수만 찍고 배의 정보를 버린 영수증이다.
그림 2 정사영 P는 서로 다른 입력 (1,0), (1,1), (1,2)를 모두 (1,0)에 모으고, (0,1)처럼 둘째 성분이 0이 아닌 벡터는 출력으로 만들지 못한다. 세로 성분을 버린 뒤에는 원래 값을 되짚을 수 없다. figures/projection_loss.py
정사각행렬에서는 두 결함이 함께 생기거나 함께 사라진다. 가우스 소거법으로 A를 I까지 바꿀 수 있으면 Ax=y는 모든 y에서 해가 하나뿐이다. 바꿀 수 없으면 계수 쪽에 모두 0인 행이 남는다. 그러면 어떤 y에서는 해가 없고, y=0에서는 해가 무수히 많다.
2×2·3×3에서는 행렬식이 0인지로도 판정한다. 식 (4)의 A는 행렬식이 1이라 역변환이 있다. 정사영의 행렬 (1000)은 행렬식이 1×0−0×0=0이라 역변환이 없다.
핵심
선형변환의 역변환은 표현행렬이 가역일 때, 곧 2×2·3×3에서는 행렬식이 0이 아닐 때만 존재하며 그 행렬은 역행렬이다.
회전·대칭·닮음변환의 역변환은 무엇인가
원점 중심 φ 회전의 역변환은 −φ 회전이다. 원점을 지나는 직선에 대한 대칭의 역변환은 그 대칭 자신이고, 원점 중심 k배 닮음변환(k>0)의 역변환은 1/k배다.
회전변환의 행렬 Rφ에 −φ를 넣으면 cos(−φ)=cosφ, sin(−φ)=−sinφ다. 두 행렬을 곱하면 대각 성분은 cos2φ+sin2φ=1이 되고, 나머지 성분은 cosφsinφ끼리 지워져 0이 된다.
그림 3의 위 패널에서 (1,2)는 90° 반시계 회전으로 (−2,1)이 되고, −90° 회전으로 다시 (1,2)가 된다. 아래 패널의 대칭변환H=(0110)은 직선 x2=x1, 곧 y=x에 대한 대칭이다. (2,1)을 (1,2)로 보내고, 한 번 더 적용하면 (2,1)로 돌려놓는다. H2=I이므로 H−1=H다.
그림 3 위는 (1,2)를 90∘ 반시계 회전 R90∘로 (−2,1)에 보낸 뒤 R−90∘로 되돌리는 모습이다. 아래는 직선 x2=x1에 대한 대칭 H를 두 번 적용해 (2,1)이 (1,2)를 거쳐 제자리로 오는 모습이다. figures/geometric_inverses.py
닮음변환은 더 간단하다. 3배 확대 3I는 31I를 곱하면 되돌아오므로 (3I)−1=31I다. 회전·대칭·닮음은 모두 되돌릴 수 있지만, 정사영처럼 한 방향을 납작하게 누르는 변환은 그렇지 않다.
합성변환의 역변환은 왜 순서가 거꾸로인가
마지막에 적용한 변환부터 먼저 취소해야 하기 때문이다. 먼저 A, 다음 B를 적용한 합성변환의 행렬은 BA이고, 두 행렬이 모두 가역이면 그 역은 B−1을 먼저, A−1을 다음에 적용한 행렬이다.
(BA)−1=A−1B−1.(7)
식 (8)처럼 곱해 보면 가운데의 B−1B부터 I가 되어 사라진다. 반대 순서의 곱 (BA)(A−1B−1)에서도 가운데 AA−1부터 사라져 I가 된다.
(A−1B−1)(BA)=A−1(B−1B)A=A−1A=I.(8)
A를 식 (4)의 행렬, B를 90° 반시계 회전 (01−10)이라 하자. (1,1)은 A를 거쳐 (3,2), 이어 B를 거쳐 (−2,3)이 된다. 되돌릴 때는 B−1, 곧 −90° 회전이 (−2,3)을 (3,2)로 보내고, 이어 A−1이 (1,1)로 보낸다.
BA=(−12−11),A−1B−1=(1−21−1).(9)
식 (9)의 A−1B−1을 (−2,3)에 한 번에 곱해도 (−2+3,4−3)=(1,1)이다. 순서를 바꿔 A−1부터 적용하면 (−2,3)은 (−5,8)이 되고, B−1 뒤에는 (8,5)에 닿는다. 그림 4의 아래 패널처럼 출발점 (1,1)에서 멀리 벗어난다.
그림 4(1,1)에 먼저 A, 다음 90∘ 회전 B를 적용해 (−2,3)을 얻었다(회색 점선). 위는 B−1 다음 A−1을 적용해 (1,1)로 돌아오고, 아래는 A−1 다음 B−1을 적용해 (8,5)에 닿는다. figures/inverse_order.py
선형변환으로 옮긴 직선의 방정식은 역변환으로 구한다
직선을 선형변환으로 옮긴 도형의 방정식은 역변환을 대입해 구한다. 출력 y가 옮긴 도형 위에 있다는 것은 그 입력 T−1(y)가 원래 직선 위에 있다는 것과 같기 때문이다.
식 (4)의 T로 직선 x2=x1+1을 옮겨 보자. 먼저 A−1로 입력을 출력의 식으로 나타낸다.
x1=y1−y2,x2=−y1+2y2.(10)
식 (10)을 직선의 방정식에 대입한다.
−y1+2y2=(y1−y2)+1.(11)
식 (11)의 항을 한쪽으로 모아 정리한다.
2y1−3y2+1=0.(12)
검산으로 (0,1), (1,2), (2,3)을 옮기면 (1,1), (4,3), (7,5)이고, 세 점 모두 식 (12)를 만족한다. 좌표 이름을 다시 x,y로 쓰면 옮긴 직선은 2x−3y+1=0이다. 그림 5는 원래 직선과 옮긴 직선을 함께 보여 준다. 역변환이 없으면 이 방법을 쓸 수 없다. 정사영 P는 직선 x1=1 전체를 점 (1,0) 하나로 보낸다(그림 2).
그림 5 직선 x2=x1+1 위의 세 점 (0,1), (1,2), (2,3)을 A로 옮기면(점선 화살표) (1,1), (4,3), (7,5)가 되고, 모두 직선 2y1−3y2+1=0 위에 놓인다. figures/line_image.py
Q. 선형변환의 역변환과 역함수는 같은 것인가?
그렇다. 선형변환의 역변환은 선형변환이라는 함수의 역함수이고, 일대일대응일 때만 존재한다는 조건도 같다. 선형변환이라서 더해지는 성질은 그 역함수가 저절로 선형이 되어 행렬 A−1로 나타난다는 것이다(식 (3)). 예를 들어 식 (4)의 T에서 T−1(7,4)=(3,1)이다.
Q. 0배 변환도 역변환을 가질 수 있나?
아니다. 모든 벡터를 영벡터로 보내는 0배 변환(영변환)은 (1,0)과 (0,1)처럼 서로 다른 입력을 같은 (0,0)으로 합치므로 역변환이 없다. 0이 아닌 s에 대한 s배 변환은 1/s배로 되돌릴 수 있지만, s=0에는 1/s가 없다.
Q. 평행이동의 역변환도 2×2 행렬로 나타낼 수 있나?
아니다. 평행이동 (x1,x2)↦(x1+1,x2+2)는 (x1−1,x2−2)로 되돌릴 수 있지만, 원점을 (1,2)로 옮기므로 선형변환이 아니다. 2×2 행렬의 곱 Ax는 언제나 영벡터를 영벡터로 보내므로 이 이동도, 그 역변환도 나타내지 못한다.
선형변환 역변환의 흔한 오해
역행렬은 각 성분을 역수로 바꾸면 된다 — 식 (4)의 A에서 성분별 역수 (1/2111)를 (7,4)에 곱하면 (7.5,11)이 나와 입력 (3,1)로 돌아가지 않는다. 역행렬은 행렬 곱으로 I를 만드는 행렬이다.
행렬식이 음수인 변환은 되돌릴 수 없다 — 대칭 H의 행렬식은 0×0−1×1=−1이지만 H2=I라서 자기 자신이 역변환이다. 판정 기준은 부호가 아니라 0인지 아닌지다.
직선의 상을 구할 때 직선의 식에 Ax의 성분을 대입한다 — x2=x1+1에 x1 대신 2y1+y2, x2 대신 y1+y2를 넣으면 y1=−1이 나온다. 그러나 실제로 옮긴 점 (1,1), (4,3)은 그 위에 없다. 옮긴 도형을 구할 때는 식 (10)처럼 A−1로 입력을 나타내 대입한다.
직접 해보기
T(x1,x2)=(x1+2x2,x2)의 역변환을 구하고, 출력 (7,3)을 내는 입력을 되찾아라.
V(x1,x2,x3)=(x1+x2,x2,x3)의 역행렬과, 출력 (5,2,−1)을 내는 입력을 구하라.
행렬 (k32k+1)로 나타나는 선형변환에 역변환이 없도록 하는 실수 k를 모두 구하라. k=2일 때 같은 출력을 내는 서로 다른 두 입력도 찾아라.
직선 x2=x1에 대한 대칭 H 다음에 90° 반시계 회전을 했더니 (−6,3)이 나왔다. 되돌리는 순서와 원래 입력을 구하라.
식 (4)의 T로 직선 x1+x2=2를 옮긴 도형의 방정식을 구하라.
답과 풀이
x2=y2, x1=y1−2y2이므로 T−1(y1,y2)=(y1−2y2,y2)다. 입력은 (7−6,3)=(1,3)이고, 다시 T를 적용하면 (1+6,3)=(7,3)이다.
행렬식은 k(k+1)−2×3=k2+k−6=(k−2)(k+3)이므로 k=2 또는 k=−3이다. k=2이면 행렬이 (2323)이고, (1,0)과 (0,1)이 모두 (2,3)으로 간다.
마지막 단계인 회전부터 취소한다. 90° 시계 회전으로 (−6,3)은 (3,6)이 되고, 이어 H−1=H가 두 성분을 맞바꿔 (6,3)이 된다. 앞으로 계산하면 (6,3)→(3,6)→(−6,3)으로 맞는다. 순서를 바꿔 H부터 적용하면 (3,−6)을 거쳐 (−6,−3)에 닿는다.
식 (10)을 대입하면 (y1−y2)+(−y1+2y2)=2, 곧 y2=2다. 직선 위의 (2,0)과 (0,2)는 각각 (4,2)와 (2,2)로 가서 둘 다 y2=2를 만족한다.
2026-11-17 · 전수 검수 반영 — 일대일대응·역변환의 선형성 식, 존재 조건(두 결함·소거·행렬식), 회전·대칭·닮음의 역, 합성의 역순 예제, 직선의 상 활용, 오해·질문·해보기 5문항 보강(합성 문항은 교환되지 않는 대칭·회전으로), 띄어쓰기·표기 통일 (에이전트 수정, 그림 2→5)
2026-11-17 · 전수 검수(에이전트 편집·독립 검증) 통과 — 주인 요청으로 완성으로 올림