선형대수행렬식의 성질#376

행렬식의 성질

Properties of Determinants

행렬식의 성질은 행교환·한 행의 상수배·다른 행의 배를 더할 때 값이 어떻게 바뀌는지를 나타낸다. 같은 크기의 정사각행렬에서 곱의 행렬식은 행렬식의 곱이며, 0인지로 역행렬 존재를 판정한다.

읽는 시간
약 7분
선수 개념
행렬식가우스 소거법

직관 — 밀면 넓이가 그대로, 늘이면 배율만큼

직관

도형을 한쪽으로 밀어 모양을 바꾸어도 넓이가 같을 수 있다. 반대로 한 방향을 두 배로 늘이면 넓이도 두 배가 된다. 행렬을 소거할 때도 값이 유지되는 연산과 배율을 기록해야 하는 연산을 구별한다.

미는 동작은 다른 행의 배를 더하는 연산, 늘이는 동작은 한 행의 상수배, 넓이는 행렬식의 절댓값에 대응한다. 이 성질을 알면 전개를 길게 하지 않고 행연산으로 0을 만든 뒤 계산할 수 있다. 같은 성질로 역행렬이 있는지도 판정한다. 여기서는 실수 성분의 2×2·3×3 정사각행렬에 한정한다.

행렬식은 기본행연산에 따라 정해진 비율로 변한다

행렬 AA에 아래 연산을 하나 적용한 결과를 BB라 하자. 행교환은 부호를 바꾸고, 한 행의 cc배는 값을 cc배하며, 다른 행의 배를 더하면 값이 그대로다.

행연산행렬식Ri↔Rj (i≠j)det⁡B=−det⁡ARi←cRidet⁡B=cdet⁡ARi←Ri+cRj (i≠j)det⁡B=det⁡A.(1)\begin{array}{c|c} \text{행연산}&\text{행렬식}\\\hline R_i\leftrightarrow R_j\ (i\ne j)&\det B=-\det A\\ R_i\leftarrow cR_i&\det B=c\det A\\ R_i\leftarrow R_i+cR_j\ (i\ne j)&\det B=\det A \end{array}.\tag{1}
정의
기호이름원어뜻
A,BA,B정사각행렬square matrix곱을 다룰 때 같은 크기의 실수 행렬
det⁡A\det A행렬식determinant행렬 AA에서 계산한 수
RiR_i제 ii행row위에서 ii번째 행
cc상수배의 계수scalar곱하는 실수; 역연산이 필요한 행연산에서는 0 제외
nn행렬의 차수order이 글에서는 2 또는 3
II단위행렬identity matrix대각성분만 1인 행렬

해집합을 보존하는 행연산이라도 행렬식의 값까지 모두 보존하는 것은 아니다. 둘째 줄의 등식은 c=0c=0일 때도 맞지만, 0배는 되돌릴 수 없어 기본행연산에는 포함하지 않는다. 같은 이유로 행 소거로 역행렬을 구할 때는 0 아닌 배수만 쓴다.

세 성질은 왜 성립할까?

2×2의 ad−bcad-bc와 3×3의 여섯 항 전개를 보면 각 항은 각 행에서 성분을 하나씩 포함한다. 따라서 한 행만 cc배하면 모든 항이 정확히 cc배다. 한 행을 두 행벡터의 합으로 썼을 때 그 행에 대해서만 분배하면 행렬식도 두 행렬식의 합이 된다. 이를 ‘한 행에 대한 선형성’이라 한다.

두 행을 교환하면 2×2에서는 ad−bcad-bc가 cb−dacb-da로 바뀐다. 3×3에서도 여섯 항의 양의 세 항과 음의 세 항이 맞바뀌므로 부호가 바뀐다. 따라서 두 행이 같으면 교환 전후 행렬이 같은데 행렬식은 반대 부호가 되어 그 값이 0이어야 한다.

이제 Ri+cRjR_i+cR_j를 두 부분으로 나누어 전개하면 원래 행렬식과, ii행을 cRjcR_j로 바꾼 행렬식의 합이다. 둘째 항은 cc를 꺼내면 같은 행이 두 개여서 0이다. 이것이 ‘다른 행의 배를 더해도 값이 같다’의 일반 이유다. 열에 대해서도 전치 성질 det⁡(AT)=det⁡A\det(A^{\mathsf T})=\det A를 적용해 같은 결론을 얻는다.

그림 1은 (2113)\begin{pmatrix}2&1\\1&3\end{pmatrix}의 두 행을 화살표로 그린 것이다. 행렬식은 전치해도 같으므로 두 행이 만드는 평행사변형의 넓이도 행렬식의 절댓값이다. 둘째 행 (1,3)(1,3)에 첫째 행 (2,1)(2,1)을 더하면 (3,4)(3,4)가 된다. 끝점이 밑변 (2,1)(2,1)과 평행한 점선 위를 미끄러질 뿐이어서 높이가 그대로이고, 행렬식도 6−1=56-1=5, 8−3=58-3=5로 같다.

두 행 (2,1), (1,3)이 만드는 회색 평행사변형과, 둘째 행에 첫째 행을 더한 (2,1), (3,4)가 만드는 주황 평행사변형. 둘째 행의 끝점이 밑변과 평행한 점선 위에서 움직이므로 높이가 같고, 두 넓이와 행렬식이 모두 5다.
그림 1 두 행 (2,1), (1,3)이 만드는 회색 평행사변형과, 둘째 행에 첫째 행을 더한 (2,1), (3,4)가 만드는 주황 평행사변형. 둘째 행의 끝점이 밑변과 평행한 점선 위에서 움직이므로 높이가 같고, 두 넓이와 행렬식이 모두 5다. figures/row_shear.py

열에 행연산을 해도 행렬식 규칙이 같나요?

그렇다. 전치해도 행렬식이 같으므로 열교환은 부호를 바꾸고, 한 열의 cc배는 값을 cc배하며, 다른 열의 배를 더하면 그대로다. 예를 들어 (2113)\begin{pmatrix}2&1\\1&3\end{pmatrix}의 두 열을 바꾸면 행렬식이 5에서 −5가 된다.

행렬식이 바로 0이 되는 행렬은 어떻게 알아볼까?

한 행이 모두 0이거나, 두 행이 같거나, 한 행이 다른 행의 상수배이면 행렬식은 0이다. 영행은 그 행을 0배한 것과 같아 식 (1)의 둘째 줄에서 0이 나온다. 비례하는 두 행은 셋째 연산으로 한쪽을 영행으로 바꿀 수 있다. 아래는 R2←R2−2R1R_2\leftarrow R_2-2R_1을 적용한 결과다.

∣123246015∣=∣123000015∣=0.(2)\begin{vmatrix}1&2&3\\2&4&6\\0&1&5\end{vmatrix} =\begin{vmatrix}1&2&3\\0&0&0\\0&1&5\end{vmatrix}=0.\tag{2}

한 행의 성분에 공통인수가 있으면 그 수를 행렬식 앞으로 꺼낼 수 있다. 식 (1)의 둘째 줄을 거꾸로 쓴 것이다.

∣246101012∣=2∣123101012∣=2⋅(−2)=−4.(3)\begin{vmatrix}2&4&6\\1&0&1\\0&1&2\end{vmatrix} =2\begin{vmatrix}1&2&3\\1&0&1\\0&1&2\end{vmatrix}=2\cdot(-2)=-4.\tag{3}

오른쪽 행렬식은 첫째 행으로 전개해 1(0−1)−2(2−0)+3(1−0)=−21(0-1)-2(2-0)+3(1-0)=-2다. 꺼낼 수 있는 것은 한 행의 공통인수이며, 행렬 전체를 2로 나누는 것이 아니다.

3×3 행렬식을 소거로 계산할 때 무엇을 기록할까?

교환과 상수배의 배율을 기록하며 상삼각행렬로 바꾼 뒤 대각성분을 곱한다. 소거법의 대표 행렬로 확인하자.

A=(011111234)→R1↔R2(111011234).(4)A=\begin{pmatrix}0&1&1\\1&1&1\\2&3&4\end{pmatrix} \xrightarrow{R_1\leftrightarrow R_2} \begin{pmatrix}1&1&1\\0&1&1\\2&3&4\end{pmatrix}.\tag{4}

첫 교환에서 부호가 한 번 바뀐다. 이후에는 다른 행의 배를 더하는 연산만 쓴다.

→R3←R3−2R1(111011012)→R3←R3−R2U=(111011001).(5)\xrightarrow{R_3\leftarrow R_3-2R_1} \begin{pmatrix}1&1&1\\0&1&1\\0&1&2\end{pmatrix} \xrightarrow{R_3\leftarrow R_3-R_2} U=\begin{pmatrix}1&1&1\\0&1&1\\0&0&1\end{pmatrix}.\tag{5}

따라서 det⁡U=1⋅1⋅1=1\det U=1\cdot1\cdot1=1이고, 교환 한 번을 되돌려 det⁡A=−1\det A=-1이다. 어느 행을 2배했다면 최종값을 2로 나누어 되돌린다. ‘소거 후 대각성분의 곱’만 쓰고 교환·상수배 기록을 버리면 원래 값과 달라진다.

한 행의 상수배와 행렬 전체의 상수배는 어떻게 다를까?

한 행만 cc배하면 행렬식은 cc배지만, 행렬 전체를 cc배하면 nn개의 행을 모두 cc배한 것이어서 cnc^n배다.

det⁡(cA)=cndet⁡A(n=2 또는 3).(6)\det(cA)=c^n\det A\qquad(n=2\text{ 또는 }3).\tag{6}

그림 2는 (2113)\begin{pmatrix}2&1\\1&3\end{pmatrix}의 두 행이 만드는 넓이 5의 평행사변형에서 시작한다. 둘째 행만 2배하면 한 변만 늘어나 넓이 10, 행렬 전체를 2배하면 두 변이 모두 늘어나 넓이 22⋅5=202^2\cdot5=20이다. 3×3에서는 det⁡(2I)=23=8\det(2I)=2^3=8이지만 한 행만 2배하면 2다.

두 행 (2,1), (1,3)이 만드는 넓이 5의 평행사변형(회색), 둘째 행만 2배한 넓이 10의 평행사변형(파랑), 행렬 전체를 2배한 넓이 20의 평행사변형(주황). 작은 도형이 큰 도형 안에 차례로 들어 있다.
그림 2 두 행 (2,1), (1,3)이 만드는 넓이 5의 평행사변형(회색), 둘째 행만 2배한 넓이 10의 평행사변형(파랑), 행렬 전체를 2배한 넓이 20의 평행사변형(주황). 작은 도형이 큰 도형 안에 차례로 들어 있다. figures/scale_nested.py

행렬의 합에도 행렬식의 합 법칙이 있나요?

일반적으로 없다. 2×2에서 A=B=IA=B=I이면 det⁡(A+B)=det⁡(2I)=4\det(A+B)=\det(2I)=4지만 det⁡A+det⁡B=2\det A+\det B=2다. 한 행에 대한 선형성을 행렬 전체의 덧셈에 그대로 적용하지 않는다.

행렬의 곱의 행렬식은 왜 행렬식의 곱일까?

같은 크기의 정사각행렬 두 개에서 곱의 행렬식은 행렬식의 곱이다. ABAB의 각 열이 AA의 열들의 일차결합이고 그 계수가 BB의 성분이라는 데서 나온다.

det⁡(AB)=det⁡Adet⁡B.(7)\det(AB)=\det A\det B.\tag{7}

이유를 열로 설명하자. AA의 열을 u1,u2,u3u_1,u_2,u_3, BB의 성분을 bijb_{ij}라 하면 ABAB의 제 jj열은 b1ju1+b2ju2+b3ju3b_{1j}u_1+b_{2j}u_2+b_{3j}u_3이다. 각 열에 대한 선형성으로 세 열을 전개하면, 같은 uiu_i가 두 번 들어간 항의 행렬식은 0이다. 살아남는 여섯 항은 u1,u2,u3u_1,u_2,u_3를 서로 다른 순서로 고른 항뿐이다. 열교환의 부호를 모으면

det⁡(AB)=det⁡A (b11b22b33+b12b23b31+b13b21b32−b13b22b31−b12b21b33−b11b23b32).(8)\begin{aligned} \det(AB)=\det A\,(&b_{11}b_{22}b_{33}+b_{12}b_{23}b_{31}+b_{13}b_{21}b_{32}\\ &-b_{13}b_{22}b_{31}-b_{12}b_{21}b_{33}-b_{11}b_{23}b_{32}). \end{aligned}\tag{8}

괄호가 바로 det⁡B\det B다. 2×2에서는 서로 다른 두 열을 고른 두 항만 남아 det⁡A(b11b22−b12b21)\det A(b_{11}b_{22}-b_{12}b_{21})가 된다. 이 설명은 A,BA,B가 가역이라는 가정을 쓰지 않아 행렬식이 0인 경우에도 성립한다.

숫자로는 P=(1203)P=\begin{pmatrix}1&2\\0&3\end{pmatrix}, Q=(2011)Q=\begin{pmatrix}2&0\\1&1\end{pmatrix}이면 PQ=(4233)PQ=\begin{pmatrix}4&2\\3&3\end{pmatrix}이다. 각 행렬식은 3, 2, 12−6=612-6=6이므로 식 (7)과 맞는다. 그림 3에서 PQPQ의 두 열 (4,3)(4,3), (2,3)(2,3)은 QQ의 두 열 (2,1)(2,1), (0,1)(0,1)에 PP를 곱한 벡터다. 두 열이 만드는 넓이가 2에서 6으로 det⁡P=3\det P=3배가 되었다.

Q의 두 열 (2,1), (0,1)이 만드는 넓이 2의 평행사변형(회색)과, 각 열에 P를 곱한 (4,3), (2,3)이 만드는 넓이 6의 평행사변형(파랑). 점선 화살표는 P를 곱하는 대응이며 넓이가 det P=3배가 된다.
그림 3 QQ의 두 열 (2,1), (0,1)이 만드는 넓이 2의 평행사변형(회색)과, 각 열에 PP를 곱한 (4,3), (2,3)이 만드는 넓이 6의 평행사변형(파랑). 점선 화살표는 PP를 곱하는 대응이며 넓이가 det⁡P=3\det P=3배가 된다. figures/product_area.py

곱의 순서를 바꾸면 행렬은 달라도 행렬식은 같다. QP=(2415)QP=\begin{pmatrix}2&4\\1&5\end{pmatrix}는 PQPQ와 다르지만 행렬식은 10−4=610-4=6이다. 식 (7)을 거듭 쓰면 det⁡(P3)=(det⁡P)3=27\det(P^3)=(\det P)^3=27처럼 거듭제곱의 행렬식도 바로 구한다.

행렬식이 같으면 두 행렬도 같은가요?

아니다. 그림 1의 두 행렬은 둘째 행이 다르지만 행렬식은 모두 5다. PQPQ와 QPQP도 서로 다른 행렬인데 행렬식이 모두 6이다. 행렬식은 성분 네 개나 아홉 개를 수 하나로 줄인 값이어서, 그 수만으로 원래 행렬을 되찾을 수 없다.

행렬식이 0인지로 역행렬을 판정하는 이유는 무엇일까?

기본행연산의 행렬식 배율은 0이 아니므로 소거 전후에 ‘행렬식이 0인지’는 바뀌지 않는다. 정사각행렬을 끝까지 소거해 모든 열에 피벗이 있으면 상삼각행렬의 대각성분이 모두 0이 아니어서 행렬식이 0이 아니다. 위쪽도 소거해 II로 만들 수 있으므로 역행렬이 있다.

피벗이 부족하면 사다리꼴에 0행이 생겨 행렬식이 0이다. 또 동차계에 0 아닌 해가 있어 역행렬을 가질 수 없다는 것은 행연산으로 구하는 역행렬에서 설명했다. 따라서 이 범위에서 다음이 성립한다.

det⁡A≠0⟺A−1가 존재한다.(9)\det A\ne0\quad\Longleftrightarrow\quad A^{-1}\text{가 존재한다}.\tag{9}

그림 4의 (1224)\begin{pmatrix}1&2\\2&4\end{pmatrix}는 둘째 열이 첫째 열의 2배라서 행렬식이 0이다. 어떤 입력 (x,y)(x,y)를 곱해도 결과가 (x+2y)(1,2)(x+2y)(1,2)로 한 직선 위에 놓인다. 서로 다른 입력 (2,0)(2,0)과 (0,1)(0,1)이 같은 결과 (2,4)(2,4)로 가므로, 결과에서 입력을 되찾는 역행렬이 있을 수 없다.

행렬식이 0인 행렬 beginpmatrix1&2\\2&4endpmatrix를 곱하면 모든 결과가 방향 (1,2)의 직선 위에 놓인다. 서로 다른 입력 (2,0)과 (0,1)이 같은 점 (2,4)로 간다.
그림 4 행렬식이 0인 행렬 (1224)\begin{pmatrix}1&2\\2&4\end{pmatrix}를 곱하면 모든 결과가 방향 (1,2)의 직선 위에 놓인다. 서로 다른 입력 (2,0)과 (0,1)이 같은 점 (2,4)로 간다. figures/singular_collapse.py

역행렬이 존재하면 식 (7)에 B=A−1B=A^{-1}을 넣어 det⁡Adet⁡(A−1)=det⁡I=1\det A\det(A^{-1})=\det I=1이므로 det⁡(A−1)=1/det⁡A\det(A^{-1})=1/\det A다.

핵심

행렬식은 행교환 때 부호가 바뀌고, 한 행을 cc배하면 cc배가 되며, 다른 행의 배를 더하면 그대로다. 같은 크기의 정사각행렬에서는 det⁡(AB)=det⁡Adet⁡B\det(AB)=\det A\det B이고, 행렬식이 0이 아니어야 역행렬이 있다.

행렬식이 0이면 연립방정식의 해가 없나요?

아니다. 계수행렬의 행렬식이 0이면 해가 하나로 정해지지 않을 뿐, 상수항에 따라 해가 없거나 무수히 많다. 계수행렬 (1224)\begin{pmatrix}1&2\\2&4\end{pmatrix}는 행렬식이 0이지만 상수항 (0,0)T(0,0)^{\mathsf T}에는 무한해가 있고 (1,0)T(1,0)^{\mathsf T}에는 해가 없다.

행렬식의 성질에 대한 흔한 오해

  • 해를 보존하니 행렬식도 모든 행연산에서 같다. — 행교환은 같은 연립계의 해를 보존하지만 식 (4)에서 행렬식의 부호는 바뀐다.
  • Ri←cRi+RjR_i\leftarrow cR_i+R_j도 ‘다른 행을 더한 것’이니 값이 그대로다. — 바뀌는 행 자신을 cc배했으므로 값도 cc배다. (2113)\begin{pmatrix}2&1\\1&3\end{pmatrix}에 R2←2R2−R1R_2\leftarrow2R_2-R_1을 하면 (2105)\begin{pmatrix}2&1\\0&5\end{pmatrix}이 되어 행렬식이 5에서 10이 된다.

직접 해보기

  1. 3×3 행렬 AA의 행렬식이 −2다. 두 행을 한 번 바꾼 뒤 한 행을 3배하고, 다른 행의 5배를 더했다. 마지막 행렬식은?
  2. B=(121253102)B=\begin{pmatrix}1&2&1\\2&5&3\\1&0&2\end{pmatrix}의 행렬식을 행연산으로 구하라.
  3. 2×2 행렬 CC의 행렬식이 3일 때 det⁡(−2C)\det(-2C)와 det⁡(C−1)\det(C^{-1})를 구하라.
  4. P=(2102)P=\begin{pmatrix}2&1\\0&2\end{pmatrix}, Q=(1031)Q=\begin{pmatrix}1&0\\3&1\end{pmatrix}의 곱과 행렬식을 직접 구해 곱 법칙을 확인하라.
  5. 3×3 행렬 DD의 행렬식이 2일 때 det⁡(3D)\det(3D), det⁡(D2)\det(D^2), det⁡(DT)\det(D^{\mathsf T}), det⁡(D−1)\det(D^{-1})을 구하라.
답과 풀이
  1. 교환 뒤 2, 한 행의 3배 뒤 6이다. 다른 행의 배를 더하는 마지막 연산은 값을 바꾸지 않아 6이다.
  2. 각 단계는 다른 행의 배를 더하는 연산이므로 행렬식은 모두 같다.
(121253102)→R2←R2−2R1(121011102)→R3←R3−R1(1210110−21)→R3←R3+2R2(121011003).(10)\begin{gathered} \begin{pmatrix}1&2&1\\2&5&3\\1&0&2\end{pmatrix} \xrightarrow{R_2\leftarrow R_2-2R_1} \begin{pmatrix}1&2&1\\0&1&1\\1&0&2\end{pmatrix}\\ \xrightarrow{R_3\leftarrow R_3-R_1} \begin{pmatrix}1&2&1\\0&1&1\\0&-2&1\end{pmatrix} \xrightarrow{R_3\leftarrow R_3+2R_2} \begin{pmatrix}1&2&1\\0&1&1\\0&0&3\end{pmatrix}.\tag{10} \end{gathered}

식 (10)의 대각성분을 곱하면 1⋅1⋅3=31\cdot1\cdot3=3이다. 교환이나 상수배는 없어서 되돌릴 배율도 없다.

  1. det⁡(−2C)=(−2)2⋅3=12\det(-2C)=(-2)^2\cdot3=12. det⁡C≠0\det C\ne0이므로 역행렬이 존재하고 그 행렬식은 1/31/3이다.
  2. PQ=(5162)PQ=\begin{pmatrix}5&1\\6&2\end{pmatrix}이므로 행렬식은 10−6=410-6=4. 따로 구하면 det⁡P=4\det P=4, det⁡Q=1\det Q=1로 그 곱도 4다.
  3. 식 (6)에서 det⁡(3D)=33⋅2=54\det(3D)=3^3\cdot2=54. 식 (7)에서 det⁡(D2)=2⋅2=4\det(D^2)=2\cdot2=4. 전치는 값을 바꾸지 않아 det⁡(DT)=2\det(D^{\mathsf T})=2이고, det⁡(D−1)=1/2\det(D^{-1})=1/2이다.

더 읽기

  • Interactive Linear Algebra 4.1절 — Dan Margalit·Joseph Rabinoff. 행연산·가역성·곱·전치 성질과 증명을 읽었다. 이 글의 곱 법칙은 2×2·3×3 열 전개로 설명한다.
  • College Algebra 2e 7.8절 — OpenStax. 2×2·3×3 전개 계산을 대조했다. 교과 범위를 넘어선 일반 차수의 행렬식 계산은 다루지 않는다.

영상 노트

영상 노트
  • 00:00 소거법에서 해와 행렬식 값의 보존 구별
  • 00:40 식 (1)의 세 성질을 전개식으로 설명하고 그림 1의 밀기 확인
  • 01:50 식 (2)–(3)의 영행·비례행·공통인수
  • 02:40 식 (4)–(5)의 행교환 부호 추적
  • 03:30 식 (6)과 그림 2로 한 행과 전체 상수배 비교
  • 04:20 식 (8)의 살아남는 여섯 항으로 식 (7) 유도, 그림 3의 넓이 배율
  • 05:30 식 (9)와 그림 4로 행렬식 0과 역행렬 없음 연결

지도에서의 위치

이 페이지의 기록
  1. 2026-11-16 · 에이전트 초안
  2. 2026-11-17 · 전수 검수 반영 — 영행·비례행·공통인수, 한 행과 전체 상수배 비교, 곱의 순서·거듭제곱, 특이행렬의 기하적 뜻, 열연산 질문, 잘못된 행연산 오해, 해보기 5문항 (에이전트 수정, 그림 1→4)
  3. 2026-11-17 · 전수 검수(에이전트 편집·독립 검증) 통과 — 주인 요청으로 완성으로 올림