도형을 한쪽으로 밀어 모양을 바꾸어도 넓이가 같을 수 있다. 반대로 한 방향을 두 배로 늘이면 넓이도 두 배가 된다. 행렬을 소거할 때도 값이 유지되는 연산과 배율을 기록해야 하는 연산을 구별한다.
미는 동작은 다른 행의 배를 더하는 연산, 늘이는 동작은 한 행의 상수배, 넓이는 행렬식의 절댓값에 대응한다. 이 성질을 알면 전개를 길게 하지 않고 행연산으로 0을 만든 뒤 계산할 수 있다. 같은 성질로 역행렬이 있는지도 판정한다. 여기서는 실수 성분의 2×2·3×3 정사각행렬에 한정한다.
행렬식은 기본행연산에 따라 정해진 비율로 변한다
행렬 A에 아래 연산을 하나 적용한 결과를 B라 하자. 행교환은 부호를 바꾸고, 한 행의 c배는 값을 c배하며, 다른 행의 배를 더하면 값이 그대로다.
해집합을 보존하는 행연산이라도 행렬식의 값까지 모두 보존하는 것은 아니다. 둘째 줄의 등식은 c=0일 때도 맞지만, 0배는 되돌릴 수 없어 기본행연산에는 포함하지 않는다. 같은 이유로 행 소거로 역행렬을 구할 때는 0 아닌 배수만 쓴다.
세 성질은 왜 성립할까?
2×2의 ad−bc와 3×3의 여섯 항 전개를 보면 각 항은 각 행에서 성분을 하나씩 포함한다. 따라서 한 행만 c배하면 모든 항이 정확히 c배다. 한 행을 두 행벡터의 합으로 썼을 때 그 행에 대해서만 분배하면 행렬식도 두 행렬식의 합이 된다. 이를 ‘한 행에 대한 선형성’이라 한다.
두 행을 교환하면 2×2에서는 ad−bc가 cb−da로 바뀐다. 3×3에서도 여섯 항의 양의 세 항과 음의 세 항이 맞바뀌므로 부호가 바뀐다. 따라서 두 행이 같으면 교환 전후 행렬이 같은데 행렬식은 반대 부호가 되어 그 값이 0이어야 한다.
이제 Ri+cRj를 두 부분으로 나누어 전개하면 원래 행렬식과, i행을 cRj로 바꾼 행렬식의 합이다. 둘째 항은 c를 꺼내면 같은 행이 두 개여서 0이다. 이것이 ‘다른 행의 배를 더해도 값이 같다’의 일반 이유다. 열에 대해서도 전치 성질 det(AT)=detA를 적용해 같은 결론을 얻는다.
그림 1은 (2113)의 두 행을 화살표로 그린 것이다. 행렬식은 전치해도 같으므로 두 행이 만드는 평행사변형의 넓이도 행렬식의 절댓값이다. 둘째 행 (1,3)에 첫째 행 (2,1)을 더하면 (3,4)가 된다. 끝점이 밑변 (2,1)과 평행한 점선 위를 미끄러질 뿐이어서 높이가 그대로이고, 행렬식도 6−1=5, 8−3=5로 같다.
그림 1 두 행 (2,1), (1,3)이 만드는 회색 평행사변형과, 둘째 행에 첫째 행을 더한 (2,1), (3,4)가 만드는 주황 평행사변형. 둘째 행의 끝점이 밑변과 평행한 점선 위에서 움직이므로 높이가 같고, 두 넓이와 행렬식이 모두 5다. figures/row_shear.py
Q. 열에 행연산을 해도 행렬식 규칙이 같나요?
그렇다. 전치해도 행렬식이 같으므로 열교환은 부호를 바꾸고, 한 열의 c배는 값을 c배하며, 다른 열의 배를 더하면 그대로다. 예를 들어 (2113)의 두 열을 바꾸면 행렬식이 5에서 −5가 된다.
행렬식이 바로 0이 되는 행렬은 어떻게 알아볼까?
한 행이 모두 0이거나, 두 행이 같거나, 한 행이 다른 행의 상수배이면 행렬식은 0이다. 영행은 그 행을 0배한 것과 같아 식 (1)의 둘째 줄에서 0이 나온다. 비례하는 두 행은 셋째 연산으로 한쪽을 영행으로 바꿀 수 있다. 아래는 R2←R2−2R1을 적용한 결과다.
120241365=100201305=0.(2)
한 행의 성분에 공통인수가 있으면 그 수를 행렬식 앞으로 꺼낼 수 있다. 식 (1)의 둘째 줄을 거꾸로 쓴 것이다.
210401612=2110201312=2⋅(−2)=−4.(3)
오른쪽 행렬식은 첫째 행으로 전개해 1(0−1)−2(2−0)+3(1−0)=−2다. 꺼낼 수 있는 것은 한 행의 공통인수이며, 행렬 전체를 2로 나누는 것이 아니다.
3×3 행렬식을 소거로 계산할 때 무엇을 기록할까?
교환과 상수배의 배율을 기록하며 상삼각행렬로 바꾼 뒤 대각성분을 곱한다. 소거법의 대표 행렬로 확인하자.
따라서 detU=1⋅1⋅1=1이고, 교환 한 번을 되돌려 detA=−1이다. 어느 행을 2배했다면 최종값을 2로 나누어 되돌린다. ‘소거 후 대각성분의 곱’만 쓰고 교환·상수배 기록을 버리면 원래 값과 달라진다.
한 행의 상수배와 행렬 전체의 상수배는 어떻게 다를까?
한 행만 c배하면 행렬식은 c배지만, 행렬 전체를 c배하면 n개의 행을 모두 c배한 것이어서 cn배다.
det(cA)=cndetA(n=2또는3).(6)
그림 2는 (2113)의 두 행이 만드는 넓이 5의 평행사변형에서 시작한다. 둘째 행만 2배하면 한 변만 늘어나 넓이 10, 행렬 전체를 2배하면 두 변이 모두 늘어나 넓이 22⋅5=20이다. 3×3에서는 det(2I)=23=8이지만 한 행만 2배하면 2다.
그림 2 두 행 (2,1), (1,3)이 만드는 넓이 5의 평행사변형(회색), 둘째 행만 2배한 넓이 10의 평행사변형(파랑), 행렬 전체를 2배한 넓이 20의 평행사변형(주황). 작은 도형이 큰 도형 안에 차례로 들어 있다. figures/scale_nested.py
Q. 행렬의 합에도 행렬식의 합 법칙이 있나요?
일반적으로 없다. 2×2에서 A=B=I이면 det(A+B)=det(2I)=4지만 detA+detB=2다. 한 행에 대한 선형성을 행렬 전체의 덧셈에 그대로 적용하지 않는다.
행렬의 곱의 행렬식은 왜 행렬식의 곱일까?
같은 크기의 정사각행렬 두 개에서 곱의 행렬식은 행렬식의 곱이다. AB의 각 열이 A의 열들의 일차결합이고 그 계수가 B의 성분이라는 데서 나온다.
det(AB)=detAdetB.(7)
이유를 열로 설명하자. A의 열을 u1,u2,u3, B의 성분을 bij라 하면 AB의 제 j열은 b1ju1+b2ju2+b3ju3이다. 각 열에 대한 선형성으로 세 열을 전개하면, 같은 ui가 두 번 들어간 항의 행렬식은 0이다. 살아남는 여섯 항은 u1,u2,u3를 서로 다른 순서로 고른 항뿐이다. 열교환의 부호를 모으면
괄호가 바로 detB다. 2×2에서는 서로 다른 두 열을 고른 두 항만 남아 detA(b11b22−b12b21)가 된다. 이 설명은 A,B가 가역이라는 가정을 쓰지 않아 행렬식이 0인 경우에도 성립한다.
숫자로는 P=(1023), Q=(2101)이면 PQ=(4323)이다. 각 행렬식은 3, 2, 12−6=6이므로 식 (7)과 맞는다. 그림 3에서 PQ의 두 열 (4,3), (2,3)은 Q의 두 열 (2,1), (0,1)에 P를 곱한 벡터다. 두 열이 만드는 넓이가 2에서 6으로 detP=3배가 되었다.
그림 3Q의 두 열 (2,1), (0,1)이 만드는 넓이 2의 평행사변형(회색)과, 각 열에 P를 곱한 (4,3), (2,3)이 만드는 넓이 6의 평행사변형(파랑). 점선 화살표는 P를 곱하는 대응이며 넓이가 detP=3배가 된다. figures/product_area.py
곱의 순서를 바꾸면 행렬은 달라도 행렬식은 같다. QP=(2145)는 PQ와 다르지만 행렬식은 10−4=6이다. 식 (7)을 거듭 쓰면 det(P3)=(detP)3=27처럼 거듭제곱의 행렬식도 바로 구한다.
Q. 행렬식이 같으면 두 행렬도 같은가요?
아니다. 그림 1의 두 행렬은 둘째 행이 다르지만 행렬식은 모두 5다. PQ와 QP도 서로 다른 행렬인데 행렬식이 모두 6이다. 행렬식은 성분 네 개나 아홉 개를 수 하나로 줄인 값이어서, 그 수만으로 원래 행렬을 되찾을 수 없다.
행렬식이 0인지로 역행렬을 판정하는 이유는 무엇일까?
기본행연산의 행렬식 배율은 0이 아니므로 소거 전후에 ‘행렬식이 0인지’는 바뀌지 않는다. 정사각행렬을 끝까지 소거해 모든 열에 피벗이 있으면 상삼각행렬의 대각성분이 모두 0이 아니어서 행렬식이 0이 아니다. 위쪽도 소거해 I로 만들 수 있으므로 역행렬이 있다.
피벗이 부족하면 사다리꼴에 0행이 생겨 행렬식이 0이다. 또 동차계에 0 아닌 해가 있어 역행렬을 가질 수 없다는 것은 행연산으로 구하는 역행렬에서 설명했다. 따라서 이 범위에서 다음이 성립한다.
detA=0⟺A−1가존재한다.(9)
그림 4의 (1224)는 둘째 열이 첫째 열의 2배라서 행렬식이 0이다. 어떤 입력 (x,y)를 곱해도 결과가 (x+2y)(1,2)로 한 직선 위에 놓인다. 서로 다른 입력 (2,0)과 (0,1)이 같은 결과 (2,4)로 가므로, 결과에서 입력을 되찾는 역행렬이 있을 수 없다.
그림 4 행렬식이 0인 행렬 (1224)를 곱하면 모든 결과가 방향 (1,2)의 직선 위에 놓인다. 서로 다른 입력 (2,0)과 (0,1)이 같은 점 (2,4)로 간다. figures/singular_collapse.py
역행렬이 존재하면 식 (7)에 B=A−1을 넣어 detAdet(A−1)=detI=1이므로 det(A−1)=1/detA다.
핵심
행렬식은 행교환 때 부호가 바뀌고, 한 행을 c배하면 c배가 되며, 다른 행의 배를 더하면 그대로다. 같은 크기의 정사각행렬에서는 det(AB)=detAdetB이고, 행렬식이 0이 아니어야 역행렬이 있다.
Q. 행렬식이 0이면 연립방정식의 해가 없나요?
아니다. 계수행렬의 행렬식이 0이면 해가 하나로 정해지지 않을 뿐, 상수항에 따라 해가 없거나 무수히 많다. 계수행렬 (1224)는 행렬식이 0이지만 상수항 (0,0)T에는 무한해가 있고 (1,0)T에는 해가 없다.
행렬식의 성질에 대한 흔한 오해
해를 보존하니 행렬식도 모든 행연산에서 같다. — 행교환은 같은 연립계의 해를 보존하지만 식 (4)에서 행렬식의 부호는 바뀐다.
Ri←cRi+Rj도 ‘다른 행을 더한 것’이니 값이 그대로다. — 바뀌는 행 자신을 c배했으므로 값도 c배다. (2113)에 R2←2R2−R1을 하면 (2015)이 되어 행렬식이 5에서 10이 된다.
직접 해보기
3×3 행렬 A의 행렬식이 −2다. 두 행을 한 번 바꾼 뒤 한 행을 3배하고, 다른 행의 5배를 더했다. 마지막 행렬식은?
B=121250132의 행렬식을 행연산으로 구하라.
2×2 행렬 C의 행렬식이 3일 때 det(−2C)와 det(C−1)를 구하라.
P=(2012), Q=(1301)의 곱과 행렬식을 직접 구해 곱 법칙을 확인하라.
3×3 행렬 D의 행렬식이 2일 때 det(3D), det(D2), det(DT), det(D−1)을 구하라.
답과 풀이
교환 뒤 2, 한 행의 3배 뒤 6이다. 다른 행의 배를 더하는 마지막 연산은 값을 바꾸지 않아 6이다.