선형대수행렬식#375

행렬식

Determinants

행렬식은 정사각행렬의 성분으로 정해지는 하나의 수다. 2×2는 두 대각선 곱의 차, 3×3은 위치 부호를 붙인 여인수 전개나 사루스 법칙으로 계산하며, 그 절댓값으로 평행사변형과 삼각형의 넓이를 구한다.

읽는 시간
약 7분
선수 개념
행렬 곱셈의 기초

직관 — 넓이는 같아도 방향은 다르다

직관

두 화살표로 평행사변형을 만들면 넓이를 잴 수 있다. 두 화살표의 이름을 맞바꾸어도 도형의 넓이는 그대로다. 행렬식은 이 넓이에 방향을 구별하는 부호까지 담는다.

두 화살표는 2×2 행렬의 두 열벡터이고, 넓이는 행렬식의 절댓값, 방향은 행렬식의 부호다. 행렬의 곱은 결과가 행렬이지만, 행렬식은 결과가 수 하나다. 이 수로 역행렬이 있는지 판정하고, 뒤에서 고윳값을 구하는 식도 세운다. 여기서는 실수 성분을 가진 2×2·3×3 정사각행렬의 행렬식을 정의하고 계산한다.

2×2 행렬식은 대각선 방향의 두 곱의 차이다

2×2 행렬 AA의 행렬식은 주대각선의 곱 adad에서 반대 대각선의 곱 bcbc를 뺀 수다. det⁡A\det A 또는 ∣A∣\lvert A\rvert로 쓰며 두 기호는 같은 뜻이다.

A=(abcd),det⁡A=∣abcd∣=ad−bc.(1)A=\begin{pmatrix}a&b\\c&d\end{pmatrix},\qquad \det A=\begin{vmatrix}a&b\\c&d\end{vmatrix}=ad-bc.\tag{1}
정의
기호이름원어뜻
A=(aij)A=(a_{ij})정사각행렬square matrixaija_{ij}는 제 ii행 제 jj열 성분
det⁡A\det A행렬식determinant행렬의 성분으로 계산한 실수
MijM_{ij}소행렬식minor제 ii행·제 jj열을 지운 작은 행렬의 행렬식
CijC_{ij}여인수cofactor(−1)i+jMij(-1)^{i+j}M_{ij}
ATA^{\mathsf T}전치행렬transpose행과 열을 바꾸어 (i,j)(i,j) 성분이 ajia_{ji}인 행렬

예를 들어 A=(2113)A=\begin{pmatrix}2&1\\1&3\end{pmatrix}이면 det⁡A=2⋅3−1⋅1=5\det A=2\cdot3-1\cdot1=5다. 두 열을 바꾼 (1231)\begin{pmatrix}1&2\\3&1\end{pmatrix}의 행렬식은 1⋅1−2⋅3=−51\cdot1-2\cdot3=-5다. 성분은 같은데 부호만 바뀌었다.

2×2 행렬식의 부호는 무엇을 뜻할까?

부호는 첫째 열에서 둘째 열로 도는 방향이다. 두 열벡터 u=(a,c)u=(a,c), v=(b,d)v=(b,d)가 만드는 평행사변형의 넓이는 ∣ad−bc∣\lvert ad-bc\rvert다. uu를 180°보다 작게 반시계 방향으로 돌려 vv와 같은 방향이 되면 ad−bcad-bc는 양수, 시계 방향이면 음수, 두 열이 한 직선 위에 있으면 0이다.

그림 1의 위쪽은 첫째 열 (2,1)(2,1)에서 둘째 열 (1,3)(1,3)으로 반시계 방향이라 행렬식이 5다. 아래쪽은 두 열의 순서만 바꾼 같은 평행사변형이지만 시계 방향이라 −5다. 그래서 넓이를 구할 때는 행렬식에 절댓값을 씌운다.

두 열벡터 (2,1), (1,3)이 만드는 넓이 5인 평행사변형. 파란 화살표가 첫째 열, 주황 화살표가 둘째 열이다. 위는 첫째 열에서 둘째 열로 반시계 방향이라 행렬식이 5이고, 아래는 열의 순서를 바꾸어 시계 방향이라 행렬식이 −5다.
그림 1 두 열벡터 (2,1), (1,3)이 만드는 넓이 5인 평행사변형. 파란 화살표가 첫째 열, 주황 화살표가 둘째 열이다. 위는 첫째 열에서 둘째 열로 반시계 방향이라 행렬식이 5이고, 아래는 열의 순서를 바꾸어 시계 방향이라 행렬식이 −5다. figures/signed_area.py
넓이 해석의 일반 이유

u≠0u\ne0일 때 그 길이를 r=a2+c2r=\sqrt{a^2+c^2}라 하자. n=(−c/r,a/r)n=(-c/r,a/r)는 uu를 반시계 방향으로 90° 돌린 단위벡터다. 이 방향으로 잰 vv의 부호 있는 높이는 n⋅v=(ad−bc)/rn\cdot v=(ad-bc)/r이다. 따라서 밑변 rr에 높이의 절댓값을 곱하면 넓이 ∣ad−bc∣\lvert ad-bc\rvert이고, n⋅v>0n\cdot v>0이면 vv가 uu의 반시계 쪽에 있다. 이 설명은 벡터의 내적과 정사영의 성분식을 사용한다. u=0u=0이면 도형의 넓이와 행렬식 모두 0이다.

3×3에서는 어떤 작은 행렬을 지울까?

3×3 행렬식은 첫째 행의 성분마다 그 성분이 속한 행과 열을 지운 2×2 행렬식을 곱하고, 부호를 +,−,++,-,+로 붙여 더한 값이다.

det⁡(abcdefghi)=a(ei−fh)−b(di−fg)+c(dh−eg).(2)\det\begin{pmatrix}a&b&c\\d&e&f\\g&h&i\end{pmatrix} =a(ei-fh)-b(di-fg)+c(dh-eg).\tag{2}

이를 여인수 전개라 한다. 제 ii행 제 jj열의 여인수는 Cij=(−1)i+jMijC_{ij}=(-1)^{i+j}M_{ij}이므로, 위치 부호가 식 (3)처럼 바둑판 모양으로 바뀐다.

(+−+−+−+−+)(3)\begin{pmatrix}+&-&+\\-&+&-\\+&-&+\end{pmatrix}\tag{3}

MijM_{ij} 자체가 음수일 수도 있으므로 위치의 부호와 계산 결과의 부호를 구별한다. 그림 2는 첫째 행 둘째 성분의 소행렬식을 만드는 방법이다. 지운 자리에 0을 넣는 것이 아니라 행과 열을 통째로 뺀다.

위의 3×3 행렬에서 첫째 행·둘째 열을 제외하면 아래 2×2 행렬이 남는다. 소행렬식은 1·4-1·2=2이고 위치 부호는 −이므로 여인수 C_12=-2다.
그림 2 위의 3×3 행렬에서 첫째 행·둘째 열을 제외하면 아래 2×2 행렬이 남는다. 소행렬식은 1⋅4−1⋅2=21\cdot4-1\cdot2=2이고 위치 부호는 −이므로 여인수 C12=−2C_{12}=-2다. figures/cofactor_minor.py

소거법에서 사용한 행렬 A=(011111234)A=\begin{pmatrix}0&1&1\\1&1&1\\2&3&4\end{pmatrix}를 첫째 행으로 전개하자. 첫째 행과 각 열을 지우면 (1134)\begin{pmatrix}1&1\\3&4\end{pmatrix}, (1124)\begin{pmatrix}1&1\\2&4\end{pmatrix}, (1123)\begin{pmatrix}1&1\\2&3\end{pmatrix}이 남는다.

M11=1⋅4−1⋅3=1,M12=1⋅4−1⋅2=2,M13=1⋅3−1⋅2=1.(4)\begin{aligned} M_{11}&=1\cdot4-1\cdot3=1,\\ M_{12}&=1\cdot4-1\cdot2=2,\\ M_{13}&=1\cdot3-1\cdot2=1. \end{aligned}\tag{4}

위치 부호 +,−,++,-,+를 붙이면 여인수는 1, −2, 1이다. 각 성분과 여인수를 곱해 더한다.

det⁡A=0⋅1+1⋅(−2)+1⋅1=−1.(5)\det A=0\cdot1+1\cdot(-2)+1\cdot1=-1.\tag{5}

첫째 성분이 0이라서 첫 항은 소행렬식을 몰라도 0이다. 이 관찰이 아래의 ‘0이 많은 행 고르기’로 이어진다.

3×3 행렬식의 여섯 항은 사루스 법칙으로 확인한다

식 (2)의 괄호를 모두 풀면 여섯 개의 곱이 남는다. 각 곱은 행마다, 또 열마다 성분을 하나씩 고른 것이다.

∣abcdefghi∣=aei+bfg+cdh−ceg−bdi−afh.(6)\begin{vmatrix}a&b&c\\d&e&f\\g&h&i\end{vmatrix}=aei+bfg+cdh-ceg-bdi-afh.\tag{6}

행렬 오른쪽에 첫째·둘째 열을 한 번 더 쓰면, 오른쪽 아래로 내려가는 세 대각선이 + 항이고 오른쪽 위로 올라가는 세 대각선이 − 항이다. 이 기억법을 사루스 법칙(사뤼스 법칙)이라 한다.

그림 3은 위의 행렬 AA에 사루스 법칙을 적용한 것이다. 내려가는 대각선의 곱은 0, 2, 3이고 올라가는 대각선의 곱은 2, 0, 4다. 따라서 (0+2+3)−(2+0+4)=−1(0+2+3)-(2+0+4)=-1로 식 (5)의 여인수 전개와 같다.

행렬 A의 오른쪽에 첫째·둘째 열(회색)을 다시 쓴 배열. 실선 대각선 세 개의 곱 0, 2, 3은 더하고, 점선 대각선 세 개의 곱 2, 0, 4는 빼서 행렬식 −1을 얻는다.
그림 3 행렬 AA의 오른쪽에 첫째·둘째 열(회색)을 다시 쓴 배열. 실선 대각선 세 개의 곱 0, 2, 3은 더하고, 점선 대각선 세 개의 곱 2, 0, 4는 빼서 행렬식 −1을 얻는다. figures/sarrus_diagonals.py

사루스 법칙을 4×4 행렬식에도 쓸 수 있나요?

아니다. 사루스 법칙은 3×3 행렬식에만 맞는 기억법이다. 4×4 행렬식은 행과 열에서 성분을 하나씩 고르는 24개의 곱으로 이루어지는데, 대각선을 늘여 그으면 8개만 얻는다. 이 글의 계산 범위는 2×2·3×3이다.

다른 행이나 열로 전개해도 같을까?

같다. 어느 한 행이나 한 열을 골라 각 성분과 그 여인수를 곱해 더해도 식 (6)과 같은 값이 나온다. 예를 들어 둘째 행으로 전개하면 −d(bi−ch)+e(ai−cg)−f(ah−bg)-d(bi-ch)+e(ai-cg)-f(ah-bg)이고, 이를 펴도 식 (6)의 여섯 항이다. 다른 행과 열도 같은 방식으로 항을 묶으므로 이 등식은 숫자 한 예의 우연이 아니다.

그래서 0이 많은 행이나 열을 고르면 계산이 준다. M=(132020413)M=\begin{pmatrix}1&3&2\\0&2&0\\4&1&3\end{pmatrix}의 둘째 행은 가운데 성분 2만 0이 아니고, 그 위치 부호는 식 (3)에서 +다.

det⁡M=2⋅∣1243∣=2(3−8)=−10.(7)\det M=2\cdot\begin{vmatrix}1&2\\4&3\end{vmatrix}=2(3-8)=-10.\tag{7}

행과 열을 맞바꾼 ATA^{\mathsf T}에서도 식 (6)의 항이 순서만 바뀌므로 det⁡(AT)=det⁡A\det(A^{\mathsf T})=\det A다. 대각선 아래가 모두 0인 상삼각행렬은 식 (2)에서 나머지 항이 사라져 대각성분의 곱만 남는다. 대각선 위가 모두 0인 하삼각행렬도 같다. 예를 들어 (2−140−32005)\begin{pmatrix}2&-1&4\\0&-3&2\\0&0&5\end{pmatrix}의 행렬식은 2⋅(−3)⋅5=−302\cdot(-3)\cdot5=-30이다.

행렬식이 0이 되는 미지수는 어떻게 구할까?

성분에 미지수가 있으면 행렬식을 그 미지수의 식으로 전개한 뒤, 식이 0이 되는 값을 푼다. 2×2이면 일차식이나 이차식, 3×3이면 대개 삼차식이 된다. 다음 행렬의 행렬식이 0이 되는 실수 xx를 구해 보자.

∣x101x101x∣=x(x2−1)−1⋅(x−0)+0=x3−2x.(8)\begin{vmatrix}x&1&0\\1&x&1\\0&1&x\end{vmatrix} =x(x^2-1)-1\cdot(x-0)+0=x^3-2x.\tag{8}

x3−2x=x(x2−2)=0x^3-2x=x(x^2-2)=0이므로 x=0x=0 또는 x=±2x=\pm\sqrt2다. x=0x=0을 넣으면 첫째 열과 셋째 열이 모두 (0,1,0)(0,1,0)으로 같아진다. 같은 두 열이 있으면 행렬식이 0인 이유는 행렬식의 성질에서 본다. 이 유형은 뒤의 고윳값에서 행렬식이 0이 되는 수를 찾을 때 그대로 쓰인다.

행렬식으로 삼각형의 넓이를 어떻게 구할까?

세 점으로 만든 삼각형의 넓이는 두 변 벡터를 열로 놓은 2×2 행렬식의 절댓값의 절반이다. 삼각형은 두 변 벡터가 만드는 평행사변형을 대각선으로 반 자른 도형이기 때문이다. 세 점을 P(x1,y1)P(x_1,y_1), Q(x2,y2)Q(x_2,y_2), R(x3,y3)R(x_3,y_3), 넓이를 SS라 하면 다음과 같다.

S=12∣det⁡(x2−x1x3−x1y2−y1y3−y1)∣.(9)S=\frac12\left\lvert\det\begin{pmatrix}x_2-x_1&x_3-x_1\\y_2-y_1&y_3-y_1\end{pmatrix}\right\rvert.\tag{9}

그림 4의 P(1,1)P(1,1), Q(5,2)Q(5,2), R(2,4)R(2,4)에서 두 변 벡터는 PQ→=(4,1)\overrightarrow{PQ}=(4,1), PR→=(1,3)\overrightarrow{PR}=(1,3)이다. 행렬식은 4⋅3−1⋅1=114\cdot3-1\cdot1=11이므로 평행사변형의 넓이는 11, 삼각형의 넓이는 11/211/2다. 꼭짓점을 P,R,QP,R,Q 순서로 넣으면 행렬식이 −11이 되지만 절댓값을 씌우면 넓이는 같다.

세 점 P(1,1), Q(5,2), R(2,4)로 만든 삼각형과, 두 변 벡터 (4,1)·(1,3)이 만드는 점선 평행사변형. 평행사변형의 넓이는 행렬식 4·3-1·1=11이고 삼각형은 그 절반인 11/2이다.
그림 4 세 점 P(1,1)P(1,1), Q(5,2)Q(5,2), R(2,4)R(2,4)로 만든 삼각형과, 두 변 벡터 (4,1)·(1,3)이 만드는 점선 평행사변형. 평행사변형의 넓이는 행렬식 4⋅3−1⋅1=114\cdot3-1\cdot1=11이고 삼각형은 그 절반인 11/211/2이다. figures/triangle_area.py

같은 식으로 세 점이 한 직선 위에 있는지도 판정한다. (1,1)(1,1), (3,2)(3,2), (5,3)(5,3)에서 두 변 벡터는 (2,1)(2,1), (4,2)(4,2)이고 행렬식은 2⋅2−4⋅1=02\cdot2-4\cdot1=0이다. 넓이가 0이므로 세 점은 한 직선 위에 있다.

공간에서는 3×3 행렬식의 절댓값이 세 열벡터가 만드는 평행육면체의 부피다. 예를 들어 대각성분이 2, 3, 1이고 나머지가 0인 행렬의 세 열은 좌표축을 따라 길이 2, 3, 1인 직육면체를 만들고, 그 부피 6이 행렬식 2⋅3⋅12\cdot3\cdot1과 같다. 기울어진 평행육면체에서도 같은 관계가 성립한다.

핵심

행렬식은 정사각행렬에서 얻는 하나의 수다. 2×2는 두 대각선 곱의 차, 3×3은 위치 부호를 붙인 여인수 전개로 계산하며, 2×2 행렬식의 절댓값은 두 열벡터가 만드는 평행사변형의 넓이다.

행렬식은 직사각행렬에서도 계산하나요?

아니다. 행렬식은 행과 열의 수가 같은 정사각행렬에서만 정의한다. 식 (6)의 각 항은 행마다, 열마다 성분을 하나씩 고르는데, 2×3 행렬에서는 이 짝이 맞지 않는다.

행렬식이 0이면 모든 성분도 0인가요?

아니다. 0이 아닌 성분만 있어도 행렬식은 0일 수 있다. (1224)\begin{pmatrix}1&2\\2&4\end{pmatrix}의 행렬식은 4−4=04-4=0이다. 두 열이 같은 방향이어서 평행사변형이 선분으로 눌린다.

행렬식과 역행렬은 어떤 관계인가요?

2×2 행렬은 행렬식이 0이 아닐 때만 역행렬을 가진다. (2113)\begin{pmatrix}2&1\\1&3\end{pmatrix}은 행렬식이 5라서 역행렬 15(3−1−12)\frac15\begin{pmatrix}3&-1\\-1&2\end{pmatrix}이 있다. 공식은 역행렬에서, 3×3까지의 판정은 행렬식의 성질에서 다룬다.

행렬식의 흔한 오해

  • 소행렬식과 여인수는 같다. — 그림 2에서 M12=2M_{12}=2지만 C12=−2C_{12}=-2다. 지운 뒤 계산하는 단계와 위치 부호를 붙이는 단계를 분리한다.
  • ∣A∣\lvert A\rvert는 절댓값이므로 행렬식은 음수가 될 수 없다. — 식 (5)의 행렬식은 −1이고 ∣A∣\lvert A\rvert로 써도 −1이다. 세로선은 행렬식 기호이며, 넓이를 구할 때만 식 (9)처럼 절댓값을 따로 씌운다.

직접 해보기

  1. (3214)\begin{pmatrix}3&2\\1&4\end{pmatrix}의 행렬식과 두 열이 만드는 평행사변형의 넓이를 구하라.
  2. B=(120031201)B=\begin{pmatrix}1&2&0\\0&3&1\\2&0&1\end{pmatrix}를 첫째 행과 둘째 행으로 각각 전개하라.
  3. (k234)\begin{pmatrix}k&2\\3&4\end{pmatrix}의 행렬식이 0이 되는 실수 kk를 구하라.
  4. (−200340152)\begin{pmatrix}-2&0&0\\3&4&0\\1&5&2\end{pmatrix}의 행렬식과 전치행렬의 행렬식을 구하라.
  5. 세 점 (−1,2)(-1,2), (3,1)(3,1), (1,5)(1,5)를 꼭짓점으로 하는 삼각형의 넓이를 구하라.
답과 풀이
  1. 3⋅4−2⋅1=103\cdot4-2\cdot1=10. 넓이는 이 값의 절댓값인 10이다.
  2. 첫째 행으로는 1(3⋅1−1⋅0)−2(0⋅1−1⋅2)+0=3+4=71(3\cdot1-1\cdot0)-2(0\cdot1-1\cdot2)+0=3+4=7. 둘째 행의 여인수는 차례로 −2, 1, 4이므로 0⋅(−2)+3⋅1+1⋅4=70\cdot(-2)+3\cdot1+1\cdot4=7이다. 성분과 여인수의 위치를 맞춘다.
  3. 4k−6=04k-6=0에서 k=3/2k=3/2. 이때 첫째 열 (3/2,3)(3/2,3)은 둘째 열 (2,4)(2,4)의 3/43/4배다.
  4. 하삼각행렬이므로 (−2)⋅4⋅2=−16(-2)\cdot4\cdot2=-16. 전치하면 상삼각행렬이 되고 대각성분은 그대로여서 역시 −16이다.
  5. (−1,2)(-1,2)에서 나머지 두 점으로 가는 벡터는 (4,−1)(4,-1), (2,3)(2,3)이다. 행렬식은 4⋅3−2⋅(−1)=144\cdot3-2\cdot(-1)=14이므로 넓이는 14/2=714/2=7이다.

더 읽기

  • College Algebra 2e 7.8절 — OpenStax. 2×2 행렬식과 3×3의 여섯 항 전개를 확인했다. 크라메르 공식은 이 글의 목표에 추가하지 않았다.
  • Interactive Linear Algebra 4.2절 — Dan Margalit·Joseph Rabinoff. 소행렬과 여인수의 부호·전개를 확인했다. 원문은 minor를 지운 뒤의 행렬로 쓰므로, 본문의 소행렬식은 그 행렬의 행렬식임을 구별했다. 4.1절의 삼각행렬·전치 성질도 대조했다.

영상 노트

영상 노트
  • 00:00 같은 넓이와 반대 부호 구별
  • 00:35 식 (1)의 두 곱과 그림 1의 반시계·시계 방향
  • 01:30 그림 2에서 행·열을 지우고 식 (3)의 위치 부호 붙이기
  • 02:30 식 (4)–(5)로 3×3 전개
  • 03:20 그림 3의 사루스 법칙과 4×4에서 쓰지 못하는 이유
  • 04:10 식 (7)처럼 0이 많은 행 고르기, 전치와 삼각행렬
  • 04:50 식 (8)로 행렬식이 0이 되는 미지수 구하기
  • 05:40 그림 4와 식 (9)로 삼각형 넓이와 세 점 일직선 판정, 부피로의 확장

지도에서의 위치

완성예정이 페이지까지 온 길전체 지도에서 보기 →
이 페이지의 기록
  1. 2026-11-16 · 에이전트 초안
  2. 2026-11-17 · 전수 검수 반영 — 부호 방향 설명, 사루스 법칙, 0이 많은 행 전개, 삼각형 넓이·세 점 일직선 판정, 역행렬 질문, 해보기 5문항 (에이전트 수정, 그림 2→4)
  3. 2026-11-17 · 전수 검수(에이전트 편집·독립 검증) 통과 — 주인 요청으로 완성으로 올림