선형대수연립일차방정식의 해집합#373

연립일차방정식의 해집합

Solution Sets of Linear Systems

연립일차방정식의 해집합은 실수 범위에서 모든 식을 동시에 만족하는 미지수 값의 모임이다. 소거 후 모순인 행이 있으면 해가 없고, 없으면 자유변수의 유무로 해가 하나인지 무수히 많은지 가르며, 문자 계수에 따른 판정과 동차계도 다룬다.

읽는 시간
약 7분
선수 개념
가우스 소거법

직관 — 조건의 개수보다 서로 다른 정보가 중요하다

직관

같은 조건을 세 번 적어도 새로운 정보는 늘지 않는다. 서로 어긋나는 조건 두 개는 어떤 값으로도 함께 맞출 수 없다. 남은 조건으로 정해지지 않는 값이 있다면 그 값을 움직이며 여러 답을 만들 수 있다.

가우스 소거법은 식의 모양을 단순하게 하면서 해집합을 보존한다. 이번에는 실수 범위에서 소거한 결과를 읽어 해가 없는지, 하나인지, 무수히 많은지 판정한다. 미지수가 둘일 때 연립일차방정식의 풀이에서 본 세 경우를 확대행렬로 일반화하는 일이다.

연립일차방정식의 해집합은 모든 식을 동시에 만족하는 값의 모임이다

해집합은 모든 식을 동시에 만족하는 순서쌍 (x,y)(x,y) 또는 (x,y,z)(x,y,z)의 집합이다. 다음 세 연립계 I, II, III을 비교해 보자.

I {x+y=3x−y=1II {x+y=32x+2y=6III {x+y=32x+2y=8.(1)\text{I}\ \begin{cases}x+y=3\\x-y=1\end{cases} \quad \text{II}\ \begin{cases}x+y=3\\2x+2y=6\end{cases} \quad \text{III}\ \begin{cases}x+y=3\\2x+2y=8\end{cases}.\tag{1}
정의
기호이름원어뜻
x,y,zx,y,z미지수unknown모든 식에서 공통으로 찾는 실수
XX미지수 열column of unknowns미지수를 세로로 쓴 행렬. 연립계는 AX=BAX=B
[A∣B][A\mid B]확대행렬augmented matrix계수행렬 AA와 상수항 열 BB
tt, ss매개변수parameter해 전체를 나타내려고 임의로 고르는 실수
자유변수자유롭게 정하는 변수free variable소거 후 피벗이 없는 열에 해당하는 미지수
OO영행렬zero matrix모든 성분이 0인 행렬. AX=OAX=O의 오른쪽

그림 1의 위 패널에서 I의 해는 (2,1)(2,1) 하나다. II의 둘째 식은 첫째 식의 2배여서 새로운 조건이 아니다. III에서는 같은 왼쪽 2x+2y2x+2y가 6과 8이어야 하므로 불가능하다. 중학교에서 배운 말로는 차례로 ‘해가 하나’, ‘해가 무수히 많다’, ‘해가 없다’에 해당한다.

식 (1)의 세 연립계를 같은 좌표 범위에서 비교한다. 위(I)는 두 직선의 교점 (2,1), 가운데(II)는 겹친 직선 전체, 아래(III)는 만나지 않는 두 평행선이다. 겹친 경우에는 실선 위에 점선을 포개었다.
그림 1 식 (1)의 세 연립계를 같은 좌표 범위에서 비교한다. 위(I)는 두 직선의 교점 (2,1)(2,1), 가운데(II)는 겹친 직선 전체, 아래(III)는 만나지 않는 두 평행선이다. 겹친 경우에는 실선 위에 점선을 포개었다. figures/solution_cases.py

0행과 모순인 행은 어떻게 다를까?

II와 III에서 각각 둘째 행에서 첫째 행의 2배를 빼면 식 (2)와 식 (3)이 된다.

[113226]→R2←R2−2R1[113000],(2)\left[\begin{array}{cc|c}1&1&3\\2&2&6\end{array}\right] \xrightarrow{R_2\leftarrow R_2-2R_1}\left[\begin{array}{cc|c}1&1&3\\0&0&0\end{array}\right],\tag{2} [113228]→R2←R2−2R1[113002].(3)\left[\begin{array}{cc|c}1&1&3\\2&2&8\end{array}\right] \xrightarrow{R_2\leftarrow R_2-2R_1}\left[\begin{array}{cc|c}1&1&3\\0&0&2\end{array}\right].\tag{3}

식 (2)의 마지막 행은 0=00=0으로 늘 참인 0행이다. 식 (3)의 마지막 행은 0=20=2여서 모순이다. 계수만 모두 0인지, 상수항도 0인지를 반드시 함께 읽는다.

모순이 없다면 피벗이 없는 미지수를 자유변수로 둔다. II에서는 y=ty=t라 놓으면 x=3−tx=3-t이므로 해 전체는 (3−t,t)(3-t,t)다. 임의의 tt를 넣으면 두 원식이 성립하고, 원식의 어떤 해도 그 해의 yy를 tt로 잡아 이렇게 쓸 수 있다. 이 두 방향을 확인해야 몇 개의 예가 아니라 해 전체를 표현한 것이다.

해의 개수는 행 사다리꼴의 모양으로 판정한다

소거를 끝낸 행 사다리꼴에서 다음을 차례로 본다. 그림 2가 세 경우의 모양이다.

  1. 계수가 모두 0이고 상수항만 0이 아닌 행 [0 ⋯ 0∣c][0\ \cdots\ 0\mid c], c≠0c\ne0이 있으면 해가 없다.
  2. 그런 행이 없고 모든 미지수 열에 피벗이 있으면 해가 하나다.
  3. 그런 행이 없고 피벗이 없는 미지수 열이 있으면 해가 무수히 많다.

셋째 경우 자유변수의 개수는 미지수의 개수에서 피벗의 개수를 뺀 값이다.11 대학 선형대수에서는 피벗의 개수를 행렬의 계수(rank)라 부른다. 식 (2)에서는 미지수 2개, 피벗 1개이므로 자유변수가 1개다.

행 사다리꼴의 세 모양. 원은 0이 아닌 피벗, *는 임의의 수다. 위는 상수항만 c≠0인 모순행이 있어 해가 없고(varnothing), 가운데는 세 미지수 열에 모두 피벗이 있어 해가 하나, 아래는 색칠한 y 열에 피벗이 없어 해가 무수히 많다(∞).
그림 2 행 사다리꼴의 세 모양. 원은 0이 아닌 피벗, ∗*는 임의의 수다. 위는 상수항만 c≠0c\ne0인 모순행이 있어 해가 없고(∅\varnothing), 가운데는 세 미지수 열에 모두 피벗이 있어 해가 하나, 아래는 색칠한 yy 열에 피벗이 없어 해가 무수히 많다(∞\infty). figures/rref_patterns.py

연립일차방정식을 소거하다 0행이 나오면 해가 무수히 많은가요?

아니다. 0행이 나와도 모든 미지수 열에 피벗이 있으면 해는 하나다. 식이 셋이고 미지수가 둘인 x+y=3x+y=3, x−y=1x-y=1, 2x=42x=4는 소거하면 셋째 행이 0행이 되지만 해는 (2,1)(2,1)뿐이다. 0행은 겹친 식이 있었다는 뜻일 뿐이다.

세 미지수의 해도 매개변수로 나타낼 수 있을까?

다음 연립계는 식이 셋이지만 둘째 식이 첫째 식의 2배여서 서로 다른 조건은 둘뿐이다.

{x+y+z=42x+2y+2z=8x−y+z=2⟷[111422281−112].(4)\begin{cases}x+y+z=4\\2x+2y+2z=8\\x-y+z=2\end{cases} \quad\longleftrightarrow\quad \left[\begin{array}{ccc|c}1&1&1&4\\2&2&2&8\\1&-1&1&2\end{array}\right].\tag{4}

첫 피벗 1로 둘째·셋째 행의 xx를 없앤다. 두 연산 모두 바뀌지 않는 R1R_1만 쓰므로 한 화살표에 적었다.

→R2←R2−2R1R3←R3−R1[111400000−20−2].(5)\xrightarrow{\substack{R_2\leftarrow R_2-2R_1\\ R_3\leftarrow R_3-R_1}} \left[\begin{array}{ccc|c}1&1&1&4\\0&0&0&0\\0&-2&0&-2\end{array}\right].\tag{5}

식 (5)에서 둘째 행이 0행이 되었으므로 0행을 아래로 보낸다.

→R2↔R3[11140−20−20000].(6)\xrightarrow{R_2\leftrightarrow R_3} \left[\begin{array}{ccc|c}1&1&1&4\\0&-2&0&-2\\0&0&0&0\end{array}\right].\tag{6}

피벗은 x,yx,y 열에 있고 zz 열에는 없다. 둘째 행 −2y=−2-2y=-2에서 y=1y=1, 첫째 행에서 x+z=3x+z=3이다. 자유변수 zz를 tt로 두면 다음과 같다.

(x,y,z)=(3−t, 1, t),t∈R.(7)(x,y,z)=(3-t,\,1,\,t),\qquad t\in\mathbb R.\tag{7}

원식의 왼쪽은 (3−t)+1+t=4(3-t)+1+t=4, 2(3−t)+2+2t=82(3-t)+2+2t=8, (3−t)−1+t=2(3-t)-1+t=2다. 반대로 어떤 해도 y=1y=1과 x=3−zx=3-z를 만족하므로 식 (7)에 포함된다.

식 (7)을 상수 부분과 tt가 붙은 부분으로 나누면 식 (8)이다. 이것은 점 (3,1,0)(3,1,0)을 지나고 방향이 (−1,0,1)(-1,0,1)인 직선의 벡터방정식이다.

(x,y,z)=(3,1,0)+t(−1,0,1).(8)(x,y,z)=(3,1,0)+t(-1,0,1).\tag{8}

세 미지수의 일차방정식 하나는 공간의 평면을 나타낸다. 그림 3처럼 서로 다른 두 평면 x+y+z=4x+y+z=4와 x−y+z=2x-y+z=2가 이 직선에서 만난다. 둘째 식의 평면은 첫째 식의 평면과 같다.

식 (4)의 첫째 식 x+y+z=4(회색 면)와 셋째 식 x-y+z=2(주황 면)가 식 (8)의 직선(파란 선)에서 만난다. 둘째 식은 첫째 식과 같은 평면이다. 표시한 두 점은 t=0, t=1일 때의 해 (3,1,0)과 (2,1,1)이다.
그림 3 식 (4)의 첫째 식 x+y+z=4x+y+z=4(회색 면)와 셋째 식 x−y+z=2x-y+z=2(주황 면)가 식 (8)의 직선(파란 선)에서 만난다. 둘째 식은 첫째 식과 같은 평면이다. 표시한 두 점은 t=0t=0, t=1t=1일 때의 해 (3,1,0)(3,1,0)과 (2,1,1)(2,1,1)이다. figures/planes_line.py

연립일차방정식의 자유변수는 0으로 정해도 되나요?

자유변수를 0으로 정하면 해 하나를 얻을 뿐 해집합 전체는 아니다. 식 (7)에서 t=0t=0이면 (3,1,0)(3,1,0)이지만, 이것만 쓰면 t=1t=1인 (2,1,1)(2,1,1) 같은 다른 해를 빠뜨린다. 해집합을 묻는다면 매개변수와 그 범위 t∈Rt\in\mathbb R을 함께 적는다.

해가 정확히 두 개인 연립일차방정식은 왜 없을까?

실수 연립일차방정식의 해가 둘 이상이면 해는 무수히 많다. 연립계 AX=BAX=B에 서로 다른 해 X1X_1, X2X_2가 있으면 둘을 잇는 직선 위의 점도 모두 해이기 때문이다. 행렬의 곱의 분배법칙으로 확인한다.

A(X1+s(X2−X1))=AX1+s(AX2−AX1)=B+s(B−B)=B.(9)A\bigl(X_1+s(X_2-X_1)\bigr)=AX_1+s(AX_2-AX_1)=B+s(B-B)=B.\tag{9}

II의 두 해 (3,0)(3,0)과 (1,2)(1,2)로 확인하자. 식 (9)의 점은 (3−2s, 2s)(3-2s,\,2s)이고, s=12s=\tfrac12이면 (2,1)(2,1)이다. ss는 아무 실수나 될 수 있으므로 해가 무수히 많다.

그래서 실수 연립일차방정식의 해의 개수는 0개, 1개, 무수히 많음 중 하나다. 미지수를 정수나 정해진 구간으로 제한하면 식 (9)의 ss를 마음대로 고를 수 없어 이 분류를 그대로 쓰지 않는다.

핵심

연립일차방정식의 해집합은 소거 후 모순인 행이 있으면 공집합이다. 모순이 없을 때 자유변수가 없으면 해가 하나이고, 있으면 무수히 많다.

문자가 든 연립방정식은 언제 해가 없고 언제 무수히 많을까?

계수에 문자가 있으면 그 값에 따라 해의 개수가 달라진다. 다음 연립계를 실수 kk, mm에 따라 분류해 보자.

{x+y+z=1x+2y+3z=2x+3y+kz=m.(10)\begin{cases}x+y+z=1\\x+2y+3z=2\\x+3y+kz=m\end{cases}.\tag{10}

R2←R2−R1R_2\leftarrow R_2-R_1, R3←R3−R1R_3\leftarrow R_3-R_1을 하면 셋째 행은 (0,2,k−1∣m−1)(0,2,k-1\mid m-1)이 된다. 이어서 R3←R3−2R2R_3\leftarrow R_3-2R_2를 하면 문자는 마지막 행에만 남는다.

[1111012100k−5m−3].(11)\left[\begin{array}{ccc|c}1&1&1&1\\0&1&2&1\\0&0&k-5&m-3\end{array}\right].\tag{11}
  • k≠5k\ne5이면 k−5k-5가 셋째 피벗이 되어 해가 하나다. k=6k=6, m=4m=4이면 z=1z=1, y=1−2=−1y=1-2=-1, x=1+1−1=1x=1+1-1=1이다.
  • k=5k=5이고 m≠3m\ne3이면 마지막 행이 0=m−3≠00=m-3\ne0인 모순이어서 해가 없다.
  • k=5k=5, m=3m=3이면 마지막 행이 0행이고 zz가 자유변수다. z=tz=t로 두면 (t, 1−2t, t)(t,\,1-2t,\,t)가 해 전체다.

그림 4는 이 판정을 (k,m)(k,m) 평면에 나타낸 것이다. 해가 하나가 아닌 경우는 직선 k=5k=5 위뿐이고, 그중 점 (5,3)(5,3)에서만 해가 무수히 많다.

식 (10)의 해의 개수를 (k,m) 평면에 나타냈다. k≠5인 점은 모두 해가 하나(1)이고, 직선 k=5 위에서 m≠3이면 해가 없으며(varnothing), 점 (5,3)에서만 해가 무수히 많다(∞). 검은 점 (6,4)의 해는 (1,-1,1)이다.
그림 4 식 (10)의 해의 개수를 (k,m)(k,m) 평면에 나타냈다. k≠5k\ne5인 점은 모두 해가 하나(11)이고, 직선 k=5k=5 위에서 m≠3m\ne3이면 해가 없으며(∅\varnothing), 점 (5,3)(5,3)에서만 해가 무수히 많다(∞\infty). 검은 점 (6,4)(6,4)의 해는 (1,−1,1)(1,-1,1)이다. figures/parameter_map.py

계수행렬의 역행렬이 없으면 연립방정식의 해가 없나요?

아니다. 정사각 계수행렬에 역행렬이 없으면 상수항에 따라 해가 없거나 무수히 많고, 해가 하나인 경우만 없다. 식 (1)의 II와 III은 계수행렬이 같은데 각각 해가 무수히 많고, 없다. 식 (10)에서 k=5k=5일 때도 mm에 따라 둘로 갈리며, 이 연결은 행연산으로 구하는 역행렬에서 다룬다.

동차 연립일차방정식은 언제 0이 아닌 해를 가질까?

상수항이 모두 0인 연립계 AX=OAX=O를 동차 연립일차방정식이라 한다. 모든 미지수에 0을 넣으면 각 식이 0=00=0이 되므로 동차계는 해가 없을 수 없다. 이 해를 자명한 해라고 한다.

그래서 동차계에서 물을 것은 0이 아닌 해가 있느냐다. 모순인 행이 생길 수 없으므로, 자유변수가 있으면 0이 아닌 해가 무수히 많고 없으면 자명한 해뿐이다. 예를 들어 x+y=0x+y=0, 2x+2y=02x+2y=0은 (−t,t)(-t,t)가 모두 해이고, x+y=0x+y=0, x−y=0x-y=0은 (0,0)(0,0)만 해다.

미지수가 식보다 많은 동차계는 0이 아닌 해를 반드시 갖는다. 피벗은 한 행에 하나까지라서 피벗 수는 식의 수를 넘지 못하고, 남는 미지수 열이 자유변수가 된다.

식 (8)의 방향 (−1,0,1)(-1,0,1)을 식 (4)의 왼쪽에 넣으면 세 식 모두 0이 된다. 즉 식 (4)의 해 전체는 해 하나 (3,1,0)(3,1,0)에, 같은 계수의 동차계 해 t(−1,0,1)t(-1,0,1)을 더한 모양이다.

미지수가 식보다 많으면 연립방정식의 해가 무수히 많나요?

아니다. 상수항이 0이 아닌 연립계는 모순이 생겨 해가 없을 수 있다. 미지수가 셋, 식이 둘인 x+y+z=1x+y+z=1, x+y+z=2x+y+z=2는 빼면 0=10=1이 되어 해가 없다. 모순이 없을 때에만 자유변수 덕분에 해가 무수히 많다.

연립일차방정식의 해집합의 흔한 오해

  • 식이 셋이면 세 미지수가 반드시 결정된다 — 식 (4)의 둘째 식은 첫째 식의 2배다. 적힌 줄 수와 서로 다른 조건의 수를 구별해야 하며, 식 (7)처럼 해가 무수히 많을 수 있다.
  • 모순인 행이 있어도 남은 자유변수로 해결할 수 있다 — 식 (3)의 0=20=2는 미지수와 관계없는 거짓이다. 다른 값을 골라도 없앨 수 없다.

직접 해보기

  1. x+2y=5x+2y=5, 3x+6y=153x+6y=15의 해 전체를 나타내라.
  2. x−y=2x-y=2, 2x−2y=52x-2y=5의 해 개수를 판정하라.
  3. x+y+z=2x+y+z=2, 2x+y+z=52x+y+z=5, x−y+z=0x-y+z=0을 소거법으로 풀고 검산하라.
  4. x−y+z=0x-y+z=0, 2x−2y+2z=02x-2y+2z=0의 해 전체를 두 매개변수로 써라.
  5. x+y=2x+y=2, 2x+ay=b2x+ay=b의 해가 하나, 없음, 무수히 많음이 되는 aa, bb의 조건을 각각 구하라.
답과 풀이
  1. 둘째 행에서 첫째 행의 3배를 빼면 0=00=0이다. y=ty=t라 두면 (x,y)=(5−2t,t)(x,y)=(5-2t,t)이다. 원식의 왼쪽은 각각 5와 15다.
  2. 둘째 행에서 첫째 행의 2배를 빼면 0=10=1이므로 해가 없다.
  3. R2←R2−2R1R_2\leftarrow R_2-2R_1로 [0 −1 −1∣1][0\ {-1}\ {-1}\mid1], R3←R3−R1R_3\leftarrow R_3-R_1로 [0 −2 0∣−2][0\ {-2}\ 0\mid{-2}], 이어서 R3←R3−2R2R_3\leftarrow R_3-2R_2로 [0 0 2∣−4][0\ 0\ 2\mid{-4}]를 얻는다. z=−2z=-2, −y+2=1-y+2=1에서 y=1y=1, x+1−2=2x+1-2=2에서 x=3x=3이다. 원식은 3+1−2=23+1-2=2, 6+1−2=56+1-2=5, 3−1−2=03-1-2=0으로 맞는다.
  4. 둘째 식은 첫째 식의 2배다. y=sy=s, z=tz=t를 임의의 실수로 두면 x=s−tx=s-t이다. 해 전체는 (s−t,s,t)(s-t,s,t)이며 s,t∈Rs,t\in\mathbb R다. 대입하면 첫 식은 0, 둘째 식은 그 2배인 0이다.
  5. 둘째 행에서 첫째 행의 2배를 빼면 (a−2)y=b−4(a-2)y=b-4다. a≠2a\ne2이면 해가 하나다. a=2a=2, b=4b=4이면 0행이 되어 해가 무수히 많고 (2−t,t)(2-t,t)로 쓴다. a=2a=2, b≠4b\ne4이면 0=b−4≠00=b-4\ne0이어서 해가 없다.

더 읽기

  • College Algebra 2e 7.6절 — OpenStax. 소거한 행의 모순과 무수히 많은 해의 사례를 대조했다.
  • Notes on Diffy Qs, A.3 Elimination — Jiří Lebl. 자유변수와 피벗, 동차계의 해를 확인했다. 이 글의 연립계와 연습은 별도로 구성했다.
  • Interactive Linear Algebra 1.2절 — Dan Margalit·Joseph Rabinoff. 상수항 열에 피벗이 있으면 해가 없다는 판정과, 모든 계수 열에 피벗이 있으면 해가 하나라는 설명을 확인했다.

영상 노트

영상 노트
  • 00:00 식은 두 개인데 답의 수가 다른 이유, 그림 1
  • 00:40 식 (2)의 0=0과 식 (3)의 0=2 비교
  • 01:30 그림 2: 행 사다리꼴 세 모양으로 판정하기
  • 02:20 식 (4)–(6)의 행연산 판서, 식 (7)을 원식에 대입
  • 03:30 식 (8)과 그림 3: 해집합이 공간의 직선이 되는 모습
  • 04:20 식 (9): 해가 둘이면 무수히 많은 이유
  • 05:10 식 (10)–(11)과 그림 4: 문자 계수에 따른 판정
  • 06:20 동차계의 자명한 해와 미지수가 더 많을 때

지도에서의 위치

행렬의 뜻선형대수연립일차방정식의 풀이기초수학가우스 소거법선형대수연립일차방정식의 해집합지금 이 페이지
선수 개념
이 페이지
완성예정이 페이지까지 온 길전체 지도에서 보기 →
이 페이지의 기록
  1. 2026-11-16 · 에이전트 초안
  2. 2026-11-17 · 전수 검수 반영 — 판정 모양 요약, 해의 벡터 표현과 두 평면의 교선, 두 해 사이의 해 논증, 문자 계수 판정, 동차계 보강, 용어 '무수히'·'순서쌍' 통일, 긴 수식 분할 (에이전트 수정, 그림 1→4)
  3. 2026-11-17 · 전수 검수(에이전트 편집·독립 검증) 통과 — 주인 요청으로 완성으로 올림