기초수학연립이차방정식#037

연립이차방정식

Simultaneous Quadratic Equations

연립이차방정식은 차수가 가장 높은 방정식이 이차방정식인 연립방정식이다. x+y=3, x²+y²=5를 대입법으로 풀면 해는 (1,2), (2,1) 두 쌍이다. 근과 계수의 관계와 인수분해로 나누는 풀이, 판별식으로 보는 실수인 해의 개수, 길이 활용 문제를 다룬다.

주인공 기호
x
읽는 시간
약 7분
선수 개념
이차방정식의 판별식인수분해이차함수와 직선의 위치 관계

직관 — 두 명단에 함께 있는 이름을 찾는다

직관

모임에 참여하려면 두 가지 조건을 모두 통과해야 한다고 하자. 조건마다 명단을 만든 뒤, 두 명단에 함께 있는 사람을 고르면 된다.

각 명단은 방정식 하나를 만족하는 값들, 두 명단에 함께 있는 사람은 두 식을 동시에 만족하는 해에 대응한다. 한 조건을 만족한다고 풀이가 끝나지 않는다. 두 미지수의 값을 한 쌍으로 묶어 두 식에 모두 넣어 보아야 한다.

중학교 연립일차방정식에서 쓴 대입법이 이번에도 첫 도구다. 미지수를 하나로 줄이면 이차방정식이 남고, 그 근마다 다른 미지수의 값을 되찾아 짝을 짓는다. 공통수학2에서 원과 직선이 만나는 점을 구할 때도 이 계산을 그대로 쓴다.

연립이차방정식의 해는 두 식을 동시에 만족하는 순서쌍이다

연립이차방정식은 연립방정식 가운데 차수가 가장 높은 방정식이 이차방정식인 것이다. 여기서는 미지수 x,yx,y가 두 개인 두 식을 다루고, 실수인 x,yx,y를 찾는다. 두 식을 묶는 큰 중괄호는 둘 중 하나를 고르라는 뜻이 아니라 두 조건을 모두 만족하라는 뜻이다.

{x+y=3,x2+y2=5.(1)\begin{cases} x+y=3,\\ x^2+y^2=5. \end{cases}\tag{1}
정의
기호이름원어뜻
x,yx,y미지수unknown두 식을 만족하도록 정할 실수
(x,y)(x,y)순서쌍ordered pair앞에 xx값, 뒤에 yy값을 순서대로 적은 쌍
x2, xy, y2x^2,\ xy,\ y^2이차항quadratic term미지수를 두 번 곱한 항. xyxy도 이차항이다

식 (1)의 첫째 식은 일차, 둘째 식은 이차이므로 전체가 연립이차방정식이다. x+y=6x+y=6, xy=8xy=8처럼 xyxy가 들어 있어도 이차항이므로 연립이차방정식이다.

예를 들어 (1,2)(1,2)를 식 (1)에 넣으면 1+2=31+2=3이고 12+22=51^2+2^2=5이므로 해다. (0,3)(0,3)은 첫째 식에는 맞지만 둘째 식에서 02+32=9≠50^2+3^2=9\ne5이므로 해가 아니다. 이렇게 확인만 할 수도 있지만, 모든 해를 찾으려면 식을 풀어야 한다.

대입법은 두 미지수를 어떻게 하나로 줄이는가?

대입법은 한 식에서 미지수 하나를 다른 미지수로 나타낸 뒤, 그 표현을 다른 식에 넣는 방법이다. 식 (1)의 첫째 식에서 y=3−xy=3-x를 얻어 둘째 식의 yy 자리에 넣는다. yy를 바꿀 때 제곱 전체를 괄호로 유지해야 한다.

x2+(3−x)2=5.(2)x^2+(3-x)^2=5.\tag{2}

곱셈 공식으로 (3−x)2=9−6x+x2(3-x)^2=9-6x+x^2를 전개한다. 두 이차항을 모으고 상수항을 이항한 뒤, 양변을 2로 나누면 이미 배운 이차방정식이 된다.

2x2−6x+9=5,2x2−6x+4=0,x2−3x+2=0,(x−1)(x−2)=0.(3)\begin{aligned} 2x^2-6x+9&=5,\\ 2x^2-6x+4&=0,\\ x^2-3x+2&=0,\\ (x-1)(x-2)&=0. \end{aligned}\tag{3}

곱이 0이므로 x=1x=1 또는 x=2x=2다. 이제 각각을 y=3−xy=3-x에 넣어 짝을 정한다. x=1x=1에는 y=2y=2가, x=2x=2에는 y=1y=1이 따라온다.

(x,y)=(1,2), (2,1).(4)(x,y)=(1,2),\ (2,1).\tag{4}

어느 문자를 남길지는 자유다. 계수가 1인 문자로 정리하면 분수가 생기지 않는다. 식 (1)의 첫째 식을 x=3−yx=3-y로 바꾸어 넣어도 같은 두 쌍이 나온다. 식 (4)의 두 순서쌍을 원래 조건에 넣으면 다음과 같다.

후보 (x,y)(x,y)첫째 식의 x+yx+y둘째 식의 x2+y2x^2+y^2
(1,2)(1,2)1+2=31+2=31+4=51+4=5
(2,1)(2,1)2+1=32+1=34+1=54+1=5

두 식을 만족할 모든 쌍은 먼저 y=3−xy=3-x를 만족해야 한다. 그 값을 넣어 얻은 식 (3)의 해가 1과 2뿐이므로, 위 두 쌍 이외의 해는 없다. 표의 검산은 각 쌍이 맞는지 확인하고, 이 역추적은 빠진 해가 없는지 확인한다.

그림 1은 각 식을 만족하는 점들을 좌표평면에 그린 것이다. 피타고라스 정리로 보면 x2+y2=5x^2+y^2=5는 원점에서 거리가 5\sqrt5인 점들, 곧 원점을 중심으로 하는 원이다. 두 그림이 만나는 점은 두 식을 동시에 만족하므로 식 (4)의 순서쌍과 일치한다.

x+y=3을 만족하는 직선 위의 점과 x^2+y^2=5를 만족하는 곡선 위의 점을 함께 그렸다. 두 조건이 겹치는 점은 (1,2)와 (2,1)이다.
그림 1 x+y=3x+y=3을 만족하는 직선 위의 점과 x2+y2=5x^2+y^2=5를 만족하는 곡선 위의 점을 함께 그렸다. 두 조건이 겹치는 점은 (1,2)(1,2)와 (2,1)(2,1)이다. figures/shared_solutions.py

연립이차방정식의 해에서 두 수의 순서를 바꾸어도 되는가?

연립이차방정식에서 순서를 바꾼 쌍은 원래 두 식을 모두 만족할 때에만 해다. 식 (1)은 xx와 yy를 바꾸어도 두 식이 그대로여서 (1,2)(1,2)와 (2,1)(2,1)이 모두 해다. 반면 x+2y=4x+2y=4, x2+y2=5x^2+y^2=5에서는 (2,1)(2,1)이 해지만 (1,2)(1,2)는 첫째 식의 왼쪽이 5가 되어 해가 아니다.

연립이차방정식은 연립일차방정식과 무엇이 다른가?

연립이차방정식은 미지수 하나를 없애면 이차방정식이 남아서 해가 여러 쌍 나올 수 있다. 두 식이 모두 일차인 x+y=3x+y=3, x−y=1x-y=1의 해는 (2,1)(2,1) 한 쌍이지만, 식 (1)의 해는 두 쌍이고 뒤의 식 (8)은 네 쌍이다. 미지수가 두 개인 연립일차방정식의 해는 한 쌍이거나, 없거나, 무수히 많다.

합과 곱이 보이는 연립이차방정식은 근과 계수의 관계로 푼다

x+y=sx+y=s, xy=pxy=p를 알면 xx와 yy는 t2−st+p=0t^2-st+p=0의 두 근이다. 근과 계수의 관계에서 두 근의 합이 ss, 곱이 pp인 이차방정식이 바로 이 꼴이기 때문이다. 미지수 tt는 xx와 yy 어느 쪽이든 받을 수 있는 자리다.

식 (1)은 곱을 직접 주지 않지만 곱셈 공식 (x+y)2=x2+2xy+y2(x+y)^2=x^2+2xy+y^2로 바꿀 수 있다. 첫째 식의 합 3과 둘째 식의 제곱합 5를 넣는다.

32=5+2xy⟹xy=2.(5)3^2=5+2xy\quad\Longrightarrow\quad xy=2.\tag{5}

합 3과 곱 2를 갖는 두 수는 다음 이차방정식의 두 근이다.

t2−3t+2=0,(t−1)(t−2)=0.(6)t^2-3t+2=0,\qquad (t-1)(t-2)=0.\tag{6}

두 근 1, 2를 xx와 yy에 나누어 주는 방법이 두 가지이므로 해는 식 (4)와 같은 (1,2)(1,2), (2,1)(2,1)이다. 식 (6)은 식 (3)의 셋째 줄과 같은 식이다. 식 (1)은 xx와 yy를 바꾸어도 그대로여서, xx가 가질 수 있는 값이 두 근 1, 2와 같기 때문이다. 처음부터 x+y=6x+y=6, xy=8xy=8이 주어지면 t2−6t+8=0t^2-6t+8=0에서 t=2,4t=2,4이고 해는 (2,4)(2,4), (4,2)(4,2)다.

대입한 식이 이차방정식이면 연립이차방정식의 실수인 해의 개수는 판별식이 정한다

일차방정식을 대입해 얻은 식이 이차방정식이면, 그 실근 하나마다 일차방정식이 짝 하나를 정한다. 그래서 실수인 해의 개수는 그 이차방정식의 판별식 DD의 부호가 정한다. 식 (1)의 둘째 식 우변 5를 cc로 바꾸어 확인해 보자.

y=3−xy=3-x를 x2+y2=cx^2+y^2=c에 넣고 정리하면 2x2−6x+(9−c)=02x^2-6x+(9-c)=0이다. 판별식은 다음과 같다.

D=(−6)2−4⋅2⋅(9−c)=8c−36.(7)D=(-6)^2-4\cdot2\cdot(9-c)=8c-36.\tag{7}
  • c=5c=5이면 D=4>0D=4>0이어서 xx가 두 개, 해는 두 쌍이다.
  • c=4.5c=4.5이면 D=0D=0이어서 중근 x=1.5x=1.5 하나와 y=1.5y=1.5로 해는 한 쌍이다.
  • c=4c=4이면 D=−4<0D=-4<0이어서 실수인 해가 없다.

그림 2에서 cc가 작아질수록 곡선이 안쪽으로 줄어든다. c=4.5c=4.5에서 곡선은 직선에 한 점 (1.5,1.5)(1.5,1.5)로 닿고, c=4c=4이면 직선에 닿지 않는다. 따라서 실수인 해는 c≥4.5c\ge4.5일 때만 있다.

직선 x+y=3과 곡선 x^2+y^2=c를 c=5, 4.5, 4에서 비교했다. 대입한 이차방정식의 판별식이 차례로 4, 0, -4여서 교점은 두 개, 한 개, 없음이다.
그림 2 직선 x+y=3x+y=3과 곡선 x2+y2=cx^2+y^2=c를 c=5, 4.5, 4c=5,\ 4.5,\ 4에서 비교했다. 대입한 이차방정식의 판별식이 차례로 4, 0, −44,\ 0,\ -4여서 교점은 두 개, 한 개, 없음이다. figures/square_sum_cases.py

판별식이 음수일 때 복소수 범위에서는 xx가 허근이 된다. 이 글은 실수인 순서쌍만 찾으므로 그 경우를 ‘실수인 해가 없다’고 쓴다. 문제에 ‘x,yx,y는 실수’라는 조건이 있는지 먼저 확인한다.

두 식이 모두 이차식이면 어떻게 경우를 나누는가?

두 이차식 중 하나가 간단히 인수분해되면 일차식이 포함된 경우들로 나눌 수 있다. 다음 예는 제곱의 차를 이용한다.

{x2−y2=0,x2+y2=8.(8)\begin{cases} x^2-y^2=0,\\ x^2+y^2=8. \end{cases}\tag{8}

첫째 식은 (x−y)(x+y)=0(x-y)(x+y)=0이다. 곱이 0이므로 x−y=0x-y=0 또는 x+y=0x+y=0이어야 한다. 이를 y=xy=x인 경우와 y=−xy=-x인 경우로 나눈다. 두 경우 모두 둘째 식 x2+y2=8x^2+y^2=8을 함께 만족해야 한다.

첫 번째 경우에는 y=xy=x를 둘째 식에 넣는다. 그러면 2x2=82x^2=8이므로 x=2,−2x=2,-2이고, yy는 같은 부호의 값이다.

y=x:(x,y)=(2,2), (−2,−2).(9)y=x:\quad (x,y)=(2,2),\ (-2,-2).\tag{9}

두 번째 경우에는 y=−xy=-x를 넣는다. (−x)2=x2(-x)^2=x^2이므로 다시 2x2=82x^2=8이고, 이번에는 yy의 부호가 xx와 반대다.

y=−x:(x,y)=(2,−2), (−2,2).(10)y=-x:\quad (x,y)=(2,-2),\ (-2,2).\tag{10}

그림 3에서 윗갈래의 두 쌍과 아랫갈래의 두 쌍을 모두 모으면 해는 네 개다. 네 쌍 모두 제곱이 x2=y2=4x^2=y^2=4이므로 원래 식에서 차는 4−4=04-4=0, 합은 4+4=84+4=8이다. 모든 해가 두 갈래 중 하나에 속하고 각 갈래를 끝까지 풀었으므로 빠진 해도 없다.

(x-y)(x+y)=0을 y=x와 y=-x인 두 경우로 나눈다. 각 경우에 x^2+y^2=8을 함께 적용하면 같은 부호의 두 해와 반대 부호의 두 해를 얻는다.
그림 3 (x−y)(x+y)=0(x-y)(x+y)=0을 y=xy=x와 y=−xy=-x인 두 경우로 나눈다. 각 경우에 x2+y2=8x^2+y^2=8을 함께 적용하면 같은 부호의 두 해와 반대 부호의 두 해를 얻는다. figures/factor_branches.py

곱으로 묶이는 식에 xyxy항이 있어도 방법은 같다. 예를 들어 x2−3xy+2y2=(x−y)(x−2y)x^2-3xy+2y^2=(x-y)(x-2y)이므로 x=yx=y와 x=2yx=2y의 두 갈래로 나눈다. 교과서가 다루는 연립이차방정식은 일차식과 이차식이 하나씩이거나, 두 이차식 중 하나가 이렇게 간단히 인수분해되는 경우다.

연립이차방정식에서 두 식을 더한 식만 풀면 되는가?

연립이차방정식의 두 식을 더해 얻은 식 하나만으로는 원래의 두 조건을 모두 보장하지 못한다. 식 (8)을 더하면 2x2=82x^2=8이지만, 이를 만족하는 (2,0)(2,0)은 원래 첫째 식도 둘째 식도 만족하지 않는다. 더한 식을 이용하려면 원래 식 하나를 함께 남겨 다른 미지수까지 정해야 한다.

연립이차방정식 활용 문제는 조건에 맞는 해만 고른다

대각선의 길이가 5이고 가로가 세로보다 1 긴 직사각형을 생각하자. 가로를 xx, 세로를 yy라 하면 피타고라스 정리에서 x2+y2=25x^2+y^2=25, 길이의 차에서 x−y=1x-y=1이다.

{x−y=1,x2+y2=25.(11)\begin{cases} x-y=1,\\ x^2+y^2=25. \end{cases}\tag{11}

x=y+1x=y+1을 둘째 식에 넣으면 (y+1)2+y2=25(y+1)^2+y^2=25, 정리하면 2y2+2y−24=02y^2+2y-24=0이다. 양변을 2로 나누어 인수분해한다.

y2+y−12=(y+4)(y−3)=0.(12)y^2+y-12=(y+4)(y-3)=0.\tag{12}

y=3y=3이면 x=4x=4이고, y=−4y=-4이면 x=−3x=-3이다. 두 쌍 모두 식 (11)을 만족하지만 길이는 양수여야 하므로 답은 가로 4, 세로 3이다. 그림 4에서 직사각형의 꼭짓점 (4,3)(4,3)이 두 식의 교점이고, 다른 교점 (−3,−4)(-3,-4)는 길이가 될 수 없어 버린다.

가로 x, 세로 y인 직사각형의 대각선이 5이고 x-y=1이다. 꼭짓점 (4,3)은 x^2+y^2=25와 x-y=1의 교점이고, 다른 교점 (-3,-4)는 좌표가 음수여서 길이로 쓸 수 없다.
그림 4 가로 xx, 세로 yy인 직사각형의 대각선이 5이고 x−y=1x-y=1이다. 꼭짓점 (4,3)(4,3)은 x2+y2=25x^2+y^2=25와 x−y=1x-y=1의 교점이고, 다른 교점 (−3,−4)(-3,-4)는 좌표가 음수여서 길이로 쓸 수 없다. figures/rectangle_diagonal.py
핵심

연립이차방정식은 대입이나 인수분해로 미지수를 하나로 줄여 이차방정식을 풀고, 구한 xx마다 그 식으로 yy를 정해 짝지은 뒤 원래 두 식과 문제의 조건에 모두 확인한다.

연립이차방정식의 흔한 오해

  • x2=y2x^2=y^2이면 y=xy=x다. — x2−y2=(x−y)(x+y)=0x^2-y^2=(x-y)(x+y)=0이므로 y=xy=x 또는 y=−xy=-x다. 식 (8)에서 y=xy=x만 쓰면 (2,−2)(2,-2), (−2,2)(-2,2) 두 쌍을 잃는다.
  • xx와 yy의 값을 따로 구해 짝지으면 된다. — 식 (1)에서 xx도 yy도 1 또는 2지만 (1,1)(1,1)은 x+y=2x+y=2여서 해가 아니다. 짝은 y=3−xy=3-x처럼 xx마다 정해진다.
  • 제곱에 대입할 때 괄호를 생략해도 된다. — 식 (2)의 (3−x)2(3-x)^2를 3−x23-x^2로 쓰면 다른 식이다. x=1x=1을 넣으면 원래 표현은 4이고 잘못 바꾼 표현은 2여서 서로 같지 않다.

직접 해보기

  1. x+y=5x+y=5, x2+y2=13x^2+y^2=13을 동시에 만족하는 실수 순서쌍을 모두 구하라. 각 쌍을 두 식에 검산하라.
  2. x+y=−1x+y=-1, xy=−6xy=-6을 근과 계수의 관계로 풀어라.
  3. x2−3xy+2y2=0x^2-3xy+2y^2=0, x2+y2=20x^2+y^2=20을 동시에 만족하는 실수 순서쌍을 모두 구하라.
  4. x+y=4x+y=4, x2+y2=cx^2+y^2=c가 실수인 해를 가지는 cc의 범위를 구하라. 해가 한 쌍뿐인 cc와 그 해도 구하라.
  5. 둘레가 34이고 대각선이 13인 직사각형의 두 변의 길이를 구하라.
답
  1. y=5−xy=5-x를 대입하면 x2+(5−x)2=13x^2+(5-x)^2=13이다. 전개하고 정리하면 2x2−10x+12=02x^2-10x+12=0이고, 양변을 2로 나누면 (x−2)(x−3)=0(x-2)(x-3)=0이므로 x=2,3x=2,3이다. 각각의 yy는 3, 2여서 해는 (2,3),(3,2)(2,3),(3,2)다. 두 쌍 모두 합은 5이고 제곱의 합은 4+9=134+9=13이다. 식 (5)처럼 25=13+2xy25=13+2xy에서 xy=6xy=6을 구해 t2−5t+6=0t^2-5t+6=0을 풀어도 된다.

  2. 합이 −1-1, 곱이 −6-6이므로 x,yx,y는 다음 방정식의 두 근이다.

    t2+t−6=(t+3)(t−2)=0.(13)t^2+t-6=(t+3)(t-2)=0.\tag{13}

    식 (13)의 두 근 2,−32,-3을 나누어 주면 해는 (2,−3)(2,-3), (−3,2)(-3,2)다. 검산하면 2+(−3)=−12+(-3)=-1, 2×(−3)=−62\times(-3)=-6이다.

  3. 첫째 식은 (x−y)(x−2y)=0(x-y)(x-2y)=0이므로 x=yx=y 또는 x=2yx=2y다.

    x=y: 2y2=20, (x,y)=(10,10), (−10,−10),x=2y: 5y2=20, (x,y)=(4,2), (−4,−2).(14)\begin{aligned} x=y &:\ 2y^2=20,\ (x,y)=(\sqrt{10},\sqrt{10}),\ (-\sqrt{10},-\sqrt{10}),\\ x=2y &:\ 5y^2=20,\ (x,y)=(4,2),\ (-4,-2). \end{aligned}\tag{14}

    식 (14)의 네 쌍이 모두 해다. 예를 들어 (4,2)(4,2)는 16−24+8=016-24+8=0, 16+4=2016+4=20을 만족한다. 근호가 있는 쌍도 실수이므로 해에 들어간다.

  4. y=4−xy=4-x를 넣으면 2x2−8x+(16−c)=02x^2-8x+(16-c)=0이다. 판별식은 64−8(16−c)=8c−6464-8(16-c)=8c-64이므로 실수인 해는 c≥8c\ge8일 때 있다. c=8c=8이면 중근 x=2x=2, y=2y=2로 해는 (2,2)(2,2) 한 쌍이다.

  5. 두 변을 x,yx,y라 하면 x+y=17x+y=17, x2+y2=169x^2+y^2=169다. 172=169+2xy17^2=169+2xy에서 xy=60xy=60이므로 t2−17t+60=(t−5)(t−12)=0t^2-17t+60=(t-5)(t-12)=0이다. 두 변의 길이는 5와 12이고, 둘 다 양수여서 버릴 해가 없다.

더 읽기

  • 교육부, 2022 개정 교육과정 고시 — 2022년, 별책 8 수학과 교육과정의 공통수학1 [10공수1-02-08]과 해설. 일차식과 이차식의 조합, 두 이차식 중 하나가 간단히 인수분해되는 경우라는 두 예제의 범위를 확인할 수 있다.
  • OpenStax, Intermediate Algebra 2e 11.5절 — Lynn Marecek·MaryAnne Anthony-Smith·Andrea Honeycutt Mathis, 2020년. 연립방정식의 해를 순서쌍으로 쓰는 정의와 대입법 절차, 구한 쌍을 두 식에 검산하는 설명을 참고했다. 원뿔곡선 전반은 이 글의 범위에 포함하지 않았다.

영상 노트

영상 노트
  • 00:00 두 명단에 함께 있는 사람과 두 조건을 만족하는 해
  • 00:40 식 (1)의 중괄호, 순서쌍, xyxy도 이차항이라는 점
  • 01:30 식 (2)·(3)에서 대입과 전개, 식 (4)에서 짝짓기
  • 03:00 그림 1의 두 교점과 원래 두 식의 검산
  • 03:40 식 (5)·(6)으로 합과 곱을 만들어 같은 해 얻기
  • 04:40 식 (7)의 판별식과 그림 2의 세 곡선 비교
  • 05:40 식 (8)을 인수분해하고 식 (9)·(10)의 두 갈래와 그림 3
  • 07:00 식 (11)·(12)의 직사각형 활용과 그림 4에서 버리는 교점
  • 08:00 흔한 오해 세 가지와 해보기 3·4로 마무리

지도에서의 위치

이 페이지의 기록
  1. 2026-11-15 · 에이전트 초안 (수식 8, 그림 2, 해보기 2)
  2. 2026-11-16 · 전수 검수 반영 — 교과서 정의와 이차항 기호, 합과 곱(근과 계수의 관계) 풀이, 판별식으로 보는 실수인 해의 개수, 직사각형 활용과 버리는 해, 연립일차방정식과의 비교 질문, 허수아비 오해를 x²=y² 오류로 교체, 해보기 5문항, 판별식 절을 대입한 식이 이차방정식인 경우로 좁힘, 접점 표시와 점선 이름표 위치 수정 (에이전트 수정, 그림 2→4)
  3. 2026-11-16 · 전수 검수(에이전트 편집·독립 검증) 통과 — 주인 요청으로 완성으로 올림