교과서에 따라 xy의 계수를 한 글자로 쓰기도 한다. 그때 행렬의 비대각 성분은 그 계수의 절반이다. 교과서의 전치행렬 AT가 이 글의 AT다.
QTAQ=diag(λ1,λ2)로 놓고 x=Qu를 대입한다. 역방향은 u=QTx다. 따라서 식 (1)을 0과 같게 놓은 방정식은 다음과 동치다.
λ1u2+λ2v2+(QTℓ)Tu+f=0.(2)
실제로 xTAx=uT(QTAQ)u여서 교차항이 사라진다. 일차항도 함께 바꾸어야 하고 상수 f는 그대로다. 고유벡터의 부호 하나를 바꾸어 detQ=1로 잡으면 Q는 회전변환의 행렬이 된다. 그때 첫 열이 (cosθ,sinθ)T이고, 대입식은 x=ucosθ−vsinθ, y=usinθ+vcosθ다. 좌표축을 θ만큼 돌릴 때 쓰는 이 대입식이 곧 x=Qu다.
두 고윳값의 합 4는 a+c=2+2와 같고, 곱 3은 ac−b2=4−1과 같다. 고윳값을 구한 뒤 이 두 값으로 검산할 수 있다.
새 u축은 원래 x축에서 시계 반대 방향으로 45° 돌아간 직선 y=x다. 식을 6으로 나누면 u2/2+v2/6=1이므로 반축 길이는 2,6이다. 장축은 v축 위에 있고 길이가 26, 단축의 길이는 22다. 중심에서 초점까지의 거리는 6−2=2이므로 초점은 새 좌표의 (0,±2), 원래 좌표의 (−2,2)와 (2,−2)다.
u=2,v=0인 점은 원래 좌표로 (1,1)이고, 원래 식에서도 2+2+2=6이다. 그림 1의 두 패널은 같은 축척을 쓴다.
그림 1 같은 타원을 원래 좌표와 고유벡터 좌표에서 읽기. 점 (1,1)은 새 좌표에서 (√2,0)이며, 점의 이름과 좌표를 구별한다. figures/rotated_conic.py
이차곡선의 회전각은 고유벡터의 기울기로 읽는다
이차곡선의 회전각 θ는 고윳값 λ의 고유벡터가 이루는 기울기에서 바로 나온다. (A−λI)x=0의 첫 줄 (a−λ)x+by=0에서 b=0이면 다음과 같다.
tanθ=xy=bλ−a(b=0).(4)
앞의 타원은 λ=3, a=2, b=1이라 tanθ=1, 곧 θ=45°다. a=c이면 고윳값이 a±b라서 두 축이 언제나 직선 y=±x 위에 놓인다. b=0이면 교차항이 처음부터 없으므로 회전할 필요가 없다.
3x2+4xy=4는 a=3, b=2, c=0이다. 두 고윳값은 합이 3, 곱이 −4이므로 4와 −1이다. λ=4를 식 (4)에 넣으면 tanθ=(4−3)/2=1/2, 곧 θ≈26.57°다. 고유벡터 (2,1)/5, (−1,2)/5를 열로 쓰면 행렬식이 1이다.
x=51(21−12)u,4u2−v2=4.(5)
식 (5)를 4로 나눈 u2−v2/4=1은 꼭짓점이 새 좌표의 (±1,0)인 쌍곡선이고 점근선은 v=±2u다. 원래 좌표로 옮기면 점근선은 x=0과 3x+4y=0이다. 원래 식을 x(3x+4y)=4로 인수분해해도 같은 두 직선이 나온다. 중심에서 초점까지의 거리가 1+4=5라 초점은 원래 좌표의 (2,1)과 (−2,−1)이다(그림 2).
그림 23x2+4xy=4의 두 가지와 회전한 u,v축. 고윳값 4의 고유벡터 기울기 1/2이 회전각을 정하고, 점근선은 x=0과 3x+4y=0, 초점은 (2,1)과 (−2,−1)이다. figures/hyperbola_axis_angle.py
삼각함수의 덧셈정리를 배웠다면 tan2θ=2b/(a−c)로도 같은 각을 얻는다.11 이 예에서는 tan2θ=4/3이고, tanθ=1/2을 배각 공식에 넣어도 4/3이다. a=c이면 분모가 0이라 이 식 대신 45°로 읽는다.
이차곡선에 일차항이 있으면 회전한 다음 중심을 옮긴다
2x2+2xy+2y2−62x−62y+6=0은 이차항이 앞의 타원과 같으므로 식 (3)의 대입을 그대로 쓴다. x+y=2u이므로 일차항 −62(x+y)는 −12u가 되고, v의 일차항은 남지 않는다.
3u2+v2−12u+6=0.(6)
u에 대해 완전제곱하면 3(u2−4u)=3(u−2)2−12이므로 다음을 얻는다.
3(u−2)2+v2=6.(7)
새 좌표의 중심 (2,0)을 Q로 되돌리면 원래 중심은 (2,2)다. 식 (7)은 식 (3)의 타원을 u축 방향으로 2만큼 옮긴 것이라 초점도 새 좌표의 (2,±2)로 옮겨진다. 원래 좌표로는 (0,22)와 (22,0)이다(그림 3). 회전만 하고 중심을 원점으로 단정하면 이 이동을 놓친다.
그림 3 일차항이 있는 타원을 원래 좌표에 그린 것. 회전한 u축을 따라 2만큼 옮긴 중심 (2,2)와 두 초점 (0,22), (22,0)이 보인다. figures/shifted_ellipse.py
Q. 이차곡선은 평행이동을 먼저 해도 되나요?
행렬식 ac−b2가 0이 아니면 그렇다. 식 (1)의 이차식을 F(x)라 하면 F(x0+y)=yTAy+(2Ax0+ℓ)Ty+F(x0)이므로, 2Ax0=−ℓ의 해인 중심 x0로 옮기면 일차항이 사라지고 상수는 F(x0)=f+ℓTx0/2가 된다. 위 예에서는 x0=(2,2)T, 상수는 6−12=−6이다. 남은 yTAy=6을 식 (3)처럼 회전하면 식 (7)과 같은 타원이 된다.
정리하면 표준형으로 가는 순서는 다섯 단계다.
식 (1)처럼 A와 ℓ을 적는다. 비대각 성분은 xy 계수의 절반이다.
고윳값을 구하고 합·곱을 a+c, ac−b2와 대조한다.
단위 고유벡터로 detQ=1인 Q를 만들고 식 (4)로 회전각을 확인한다.
일차항을 QTℓ로 바꾸고 완전제곱으로 중심을 옮긴다.
새 좌표에서 읽은 중심·꼭짓점·초점을 x=Qu로 되돌린다.
이차곡선의 종류는 고윳값의 부호만으로 정해질까?
아니다. 고윳값의 부호는 타원형·쌍곡선형·포물선형을 가를 뿐이고, 실제 곡선인지 퇴화인지는 상수항과 남은 일차항이 정한다. 두 고윳값의 곱은 detA=ac−b2이므로 고윳값을 구하기 전에 행렬식의 부호로 유형을 먼저 알 수 있다.
아래 표 첫 두 행의 k는 중심으로 옮겨 λ1u2+λ2v2=k 꼴로 정리했을 때의 우변이다.
두 고윳값
행렬식
정리한 뒤 나오는 것
같은 부호
ac−b2>0
k가 고윳값과 같은 부호면 타원, k=0이면 한 점, 반대 부호면 실수 점 없음
반대 부호
ac−b2<0
k=0이면 쌍곡선, k=0이면 만나는 두 직선
하나가 0
ac−b2=0
다른 축의 일차항이 남으면 포물선, 없으면 평행한 두 직선·한 직선·실수 점 없음
u2+v2=1은 원이지만 같은 양의 제곱항을 가진 u2+v2=0은 한 점, u2+v2=−1은 실수 점이 없다. 이차항 2xy는 식 (3)의 좌표에서 u2−v2이다. 그림 4처럼 2xy=2는 꼭짓점이 (1,1), (−1,−1)인 쌍곡선이다. 2xy=0은 두 직선 x=0, y=0이고, 2xy=−2는 주축이 v축으로 바뀐 쌍곡선이다.
그림 4 이차항이 같은 2xy=k에서 상수만 바꾼 세 곡선. k=2와 k=−2는 주축이 서로 다른 쌍곡선이고, k=0은 두 직선으로 퇴화한다. figures/constant_family.py
고윳값 하나가 0이면 남는 일차항을 확인한다. x2+2xy+y2−22x+22y=0은 식 (3)의 좌표에서 다음과 같다.
2u2+4v=0⟺u2=−2v.(8)
포물선 u2=4pv와 비교하면 4p=−2, p=−1/2이다. 초점은 새 좌표의 (0,−1/2), 준선은 v=1/2이고 꼭짓점은 원점이다. 원래 좌표로는 초점 (2/4,−2/4), 준선 y−x=2/2다(그림 5).
그림 5 고윳값 0이 있는 x2+2xy+y2−22x+22y=0. 남은 일차항 4v 때문에 v축을 대칭축으로 하는 포물선이 되고, 초점 F와 준선 y−x=2/2는 꼭짓점인 원점에서 같은 거리 1/2에 놓인다. figures/parabola_focus_directrix.py
그러나 일차항이 없는 2u2=0은 직선 u=0이고, 2u2−2=0은 평행한 두 직선 u=±1이다. 이처럼 이차방정식이 점이나 직선으로 줄어드는 경우를 퇴화라고 한다.
핵심
비스듬한 이차곡선의 축은 이차항 대칭행렬의 고유벡터 방향이다. x=Qu로 교차항을 없앤 뒤 바뀐 일차항과 상수항까지 정리해야 중심과 곡선의 종류가 정해진다.
Q. 이차곡선의 xy 계수를 그대로 행렬에 넣나요?
아니다. 비대각 두 성분이 합쳐져 교차항을 만들므로 각각 xy 계수의 절반을 넣는다. 6xy라면 두 성분은 각각 3이다. 각각 6을 넣으면 두 항이 더해져 12xy인 다른 식이 된다.
Q. 이차곡선을 대각화하면 길이도 바뀌나요?
아니다. 직교행렬 Q로 좌표를 바꾸면 두 점 사이의 거리와 각도가 그대로다. 점 (1,1)과 원점의 거리 2는 새 좌표 (2,0)에서도 2다. 일반 대각화의 기저행렬은 직교행렬이 아닐 수 있으므로 같은 해석을 곧바로 붙이지 않는다.
Q. 이차곡선 대각화에서 고유벡터 순서가 다르면 답이 다른가요?
아니다. 고윳값과 새 좌표 이름을 함께 바꾸면 같은 곡선이다. 식 (3)의 두 열을 맞바꾸면 u2+3v2=6이 되어 긴 축을 읽는 좌표 이름만 바뀐다. 다만 그 Q는 행렬식이 −1이므로 회전으로 읽으려면 한 열의 부호를 바꾼다.
이차곡선 대각화의 흔한 오해
대각화 뒤에는 일차항을 버린다. — 식 (6)에서 −12u를 버리면 중심이 (2,2)인 타원이 원점 중심의 다른 타원으로 바뀐다.
양의 고윳값 둘이면 언제나 타원이다. — u2+v2=0과 u2+v2=−1을 대조하면 상수항이 한 점과 빈 집합을 만든다.
x=Qu 대신 u=Qx로 대입해도 같다. — 3x2+4xy=4에 거꾸로 대입하면 54u2+524uv+511v2=4가 되어 교차항이 남는다. 45°인 식 (3)의 예에서는 두 축이 맞바뀐 u2+3v2=6만 나와 실수가 드러나지 않는다.
직접 해보기
5x2+6xy+5y2=16을 식 (3)의 Q로 바꾸고 장축·단축의 길이와 초점을 원래 좌표로 구하라.
답 1
행렬은 (5335)이며 (1,1),(−1,1) 방향의 고윳값은 8, 2다. 8u2+2v2=16에서 u2/2+v2/8=1이다. 장축은 v축 위에 있고 길이 42, 단축의 길이는 22다. 중심에서 초점까지의 거리는 8−2=6이므로 초점은 새 좌표의 (0,±6), 원래 좌표의 (−3,3)과 (3,−3)이다.
7x2−63xy+13y2=16의 회전각과 표준형을 구하라.
답 2
a=7, b=−33, c=13이다. 고윳값의 합은 20, 곱은 91−27=64이므로 4와 16이다. 식 (4)에 λ=4를 넣으면 tanθ=(4−7)/(−33)=1/3, 곧 θ=30°다. 4u2+16v2=16에서 표준형은 u2/4+v2=1이고, 장축은 u축 위에 있다.
2x2+2xy+2y2−32x−32y=0의 중심을 원래 좌표로 구하라.
답 3
일차항이 −6u가 되어 3u2+v2−6u=0이다. 완전제곱하면 3(u−1)2+v2=3이고 새 중심은 (1,0)이다. Q(1,0)T를 계산하면 원래 중심은 (2/2,2/2)다. 2Ax0=−ℓ을 풀어도 같은 점이 나온다.
x2+4xy+y2=3과 x2+4xy+y2=0이 나타내는 도형을 각각 판별하라.
답 4
ac−b2=1−4=−3<0이라 쌍곡선형이다. 식 (3)의 Q로 바꾸면 고윳값 3, −1에서 3u2−v2이 된다. 첫 식은 u2−v2/3=1인 쌍곡선이다. 둘째 식은 3u2−v2=0, 곧 v=±3u인 만나는 두 직선이다.
x2−2xy+y2−42x−42y=0의 초점과 준선을 원래 좌표로 구하라.
답 5
행렬식이 0이고, 식 (3)의 Q로 바꾸면 고윳값 0, 2에서 이차항은 2v2이다. 일차항은 −8u가 되어 2v2−8u=0, 곧 v2=4u인 포물선이다. p=1이므로 초점은 새 좌표의 (1,0), 원래 좌표의 (2/2,2/2)다. 준선 u=−1은 원래 좌표에서 x+y=−2다.
2026-11-17 · 전수 검수 반영 — 회전각을 고유벡터 기울기로 읽는 절, 45°가 아닌 쌍곡선 예와 점근선·초점, 표준형에서 초점 읽기, 평행이동을 먼저 하는 방법, 고윳값 부호·상수항 분류표, 포물선의 초점·준선, 대입 방향 오해 추가, 연습 교체, 숫자 앞 띄어쓰기 정리, 표준형 분모를 반축 길이의 제곱으로 바로잡고 초점 거리를 행렬 성분 c와 구별, 평행이동 먼저 하는 방법의 조건과 유도 보강, 보조선 색 정리 (에이전트 수정, 그림 1→5)
2026-11-17 · 전수 검수(에이전트 편집·독립 검증) 통과 — 주인 요청으로 완성으로 올림