AI기계학습의 방식#282

기계학습의 방식

Modes of Machine Learning

기계학습의 방식은 학습할 때 받는 도움에 따라 정답이 붙은 자료로 배우는 지도학습, 정답 없이 자료의 묶음을 찾는 비지도학습, 행동 뒤의 보상으로 배우는 강화학습으로 나뉜다. 작은 수 예로 세 방식을 계산하고, 배운 규칙의 성과를 학습에 쓰지 않은 평가 자료로 확인한다.

읽는 시간
약 9분

직관 — 연습마다 받는 도움이 다르다

직관

답안이 붙은 카드를 보고 새 카드를 분류할 수 있다. 답안 없이 비슷한 카드끼리 묶을 수도 있다. 행동한 뒤 얻은 점수를 보고 다음 선택을 바꾸는 연습도 있다.

답안은 정답, 묶을 카드는 입력 자료, 행동 뒤의 점수는 보상에 대응한다. 어떤 도움을 받는지에 따라 학습의 목표와 확인 방법이 달라진다. 스팸 메일 분류, 구매 패턴이 비슷한 고객 묶기, 게임 인공지능이 각각 세 방식의 대표적인 활용 예다.

기계학습은 자료에서 규칙을 찾는 인공지능의 방법이다

기계학습(Machine Learning, 머신러닝)은 자료나 경험을 이용해 예측·분류·행동의 방법을 스스로 개선하는 인공지능의 방법이다. 인공지능은 추론·인식·학습처럼 사람의 지적 능력이 필요한 일을 컴퓨터로 구현하는 더 넓은 연구와 기술을 가리킨다. 사람이 적은 규칙으로 추론하는 전문가시스템도 인공지능의 한 접근이다.

기계학습과 보통의 프로그램은 규칙을 누가 정하느냐가 다르다. 사람이 y=2x+1y=2x+1을 직접 적어 넣으면 보통의 프로그램이다. 입력과 정답의 쌍 (1,3),(2,5),(4,9)(1,3),(2,5),(4,9)만 주고 규칙을 찾게 하면 기계학습이다.

5−32−1=2,3−2×1=1.(1)\frac{5-3}{2-1}=2,\qquad 3-2\times1=1. \tag{1}

식 (1)에서 기울기 2와 yy절편 1을 얻고, 셋째 쌍에서도 2×4+1=92\times4+1=9가 맞는다. 찾은 규칙으로 새 입력 5의 출력을 2×5+1=112\times5+1=11로 예측한다. 실제 자료에는 오차가 있어 모든 점을 지나는 규칙이 없는 경우가 많으므로 추세선처럼 가장 잘 맞는 규칙을 찾는다.

1955년 매카시 등의 다트머스 연구 제안서는 제목에 '인공지능(artificial intelligence)'을 쓰고, 학습뿐 아니라 언어, 추상화, 신경망과 자기 개선을 함께 연구할 주제로 제시했다. 교과서 연표의 1956년은 이 제안으로 열린 여름 연구의 해다. 제안서는 연구 계획이지, 당시 그 문제들이 해결되었다는 보고가 아니다.

인공지능, 기계학습(머신러닝), 딥러닝은 어떻게 다른가?

인공지능이 가장 넓고, 기계학습은 그 안에서 자료로 규칙을 찾는 방법이며, 딥러닝은 기계학습 가운데 여러 층의 신경망을 쓰는 방법이다. 교과서는 이를 (인공지능) ⊃ (기계학습) ⊃ (딥러닝)으로 나타낸다. 딥러닝의 기본 단위는 다음 글의 퍼셉트론이다.

여기서는 다음 세 방식을 배운다. 교과서는 이를 기계학습의 종류라고 부르며, 흔히 머신러닝의 종류라고도 한다. 실제 시스템에서는 여러 방식이 함께 쓰일 수 있다.

방식학습할 때 받는 것찾으려는 것활용 예
지도학습입력과 그에 대응하는 정답새 입력의 정답을 예측하는 규칙스팸 메일 분류
비지도학습정답이 없는 입력자료의 묶음이나 구조비슷한 고객 묶기
강화학습행동 뒤의 상태와 보상여러 행동에 걸친 보상을 높이는 선택 방법게임·로봇 제어
정의
기호이름원어뜻
xx입력값input분류나 예측에 사용하는 측정값
yy정답label, target지도학습 자료에 붙인 결과
y^\hat y예측값prediction모형이 내놓은 결과
kk묶음 수number of clusters비지도학습에서 미리 정한 묶음의 개수
s0,s1,s2s_0, s_1, s_2상태state행동을 고르는 상황. 첨자는 그림 4의 상태 이름이다
rtr_t보상rewardtt번째 행동 뒤에 받은 점수
RR누적 보상return여기서는 정한 횟수의 보상을 더한 값

교과서는 학습에 쓰는 자료를 훈련 데이터, 자료에 정답을 붙이는 일을 레이블링이라고 부른다. 이 페이지의 '학습 자료'와 '정답'이 그것이다. 아래 숫자는 모두 세 방식의 차이를 보여 주려고 만든 교육용 자료다. 실제 물체를 측정하거나 성능을 조사한 결과가 아니다.

지도학습은 정답이 붙은 자료로 새 입력을 예측한다

지도학습은 입력과 정답의 쌍으로 배우고, 새 입력의 정답을 예측한다. 정답이 A·B 같은 범주이면 분류, 앞의 예측값 11처럼 수이면 회귀라고 한다. 이번에는 분류를 보자.

길이를 xx로 나타낸 카드 네 장에 정답을 붙였다. 입력 1,21,2에는 A, 입력 6,76,7에는 B가 붙어 있다. 새 입력 x=5x=5를 가장 가까운 기존 카드의 정답으로 분류한다고 정하자. 수직선 위 두 점 사이의 거리는 좌표 차이의 절댓값이다.

∣5−1∣=4,∣5−2∣=3,∣5−6∣=1,∣5−7∣=2.(2)|5-1|=4,\quad |5-2|=3,\quad |5-6|=1,\quad |5-7|=2. \tag{2}

식 (2)에서 가장 가까운 입력은 6이므로 예측은 B다. 이 방법은 계수를 계산하지 않고, 자료를 저장했다가 가까운 예를 찾는다. 학습이 늘 방정식의 계수를 조정하는 일은 아니다.

이 규칙의 경계는 A의 가장 큰 입력 2와 B의 가장 작은 입력 6의 한가운데인 4다. 4보다 작은 입력은 A, 큰 입력은 B로 예측한다. 4는 2와 6까지의 거리가 모두 2라서, 동점일 때 어느 쪽으로 정할지 규칙을 따로 정해야 한다.

같은 입력 1,2,6,7에서 위쪽은 정답 A·B를 사용하고, 아래쪽은 정답 없이 간격이 가장 큰 곳을 기준으로 두 묶음을 만든다. 새 입력 5는 위쪽의 6에 가장 가깝다.
그림 1 같은 입력 1,2,6,71,2,6,7에서 위쪽은 정답 A·B를 사용하고, 아래쪽은 정답 없이 간격이 가장 큰 곳을 기준으로 두 묶음을 만든다. 새 입력 5는 위쪽의 6에 가장 가깝다. figures/labels_and_groups.py

그림 1의 위쪽이 지도학습이다. 별표로 표시한 새 입력 5는 B 카드 6에 가장 가깝다.

기계학습의 지도학습은 사람이 매번 답을 주어야 하나?

아니다. 지도학습의 정답은 학습 자료에 붙어 있어야 하지만, 학습한 규칙을 쓸 때마다 정답을 알려 주지는 않는다. 예에서도 입력 5의 정답을 주지 않고 기존 카드 네 장으로 B를 예측했다.

비지도학습은 정한 기준으로 자료의 묶음을 찾는다

비지도학습은 정답 없이 입력만 보고 자료의 묶음이나 구조를 찾는다. 비슷한 것끼리 묶는 일을 군집화라고 한다. 정답을 지우면 A와 B라는 이름은 맞힐 수 없지만, 입력을 작은 순서로 놓고 이웃 간격을 비교할 수는 있다.

2−1=1,6−2=4,7−6=1.(3)2-1=1,\qquad 6-2=4,\qquad 7-6=1. \tag{3}

'가장 큰 간격에서 나누어 두 묶음을 만든다'고 정하면 식 (3)의 4에서 나누어 {1,2}\{1,2\}와 {6,7}\{6,7\}이 된다. 그림 1의 아래쪽이 이 결과다. 이 묶음은 선택한 기준에 따른 결과이고, 묶음의 뜻은 사람이 따로 해석해야 한다.

기준을 바꾸면 결과도 바뀐다. 입력 1,2,4,9,101,2,4,9,10의 이웃 간격은 1,2,5,11,2,5,1이다. 묶음 수 k=2k=2이면 가장 큰 간격 5에서만 나누어 {1,2,4},{9,10}\{1,2,4\},\{9,10\}이다. k=3k=3이면 다음으로 큰 간격 2에서도 나누어 {1,2},{4},{9,10}\{1,2\},\{4\},\{9,10\}이 된다.

입력 1,2,4,9,10을 가장 큰 간격에서 나눈 결과. 위쪽 숫자는 이웃 간격이다. k=2이면 간격 5에서 한 번, k=3이면 간격 5와 2에서 두 번 나누어 4가 혼자 한 묶음이 된다.
그림 2 입력 1,2,4,9,101,2,4,9,10을 가장 큰 간격에서 나눈 결과. 위쪽 숫자는 이웃 간격이다. k=2k=2이면 간격 5에서 한 번, k=3k=3이면 간격 5와 2에서 두 번 나누어 4가 혼자 한 묶음이 된다. figures/group_count.py

그림 2에서 4는 k=2k=2일 때 1, 2와 같은 묶음이지만 k=3k=3일 때는 혼자 남는다. 같은 자료라도 묶음 수와 거리 기준을 어떻게 정하느냐에 따라 찾는 구조가 달라진다.

기계학습에서 지도학습과 비지도학습의 차이는 무엇인가?

지도학습은 정답이 붙은 자료로 새 입력의 정답을 예측하고, 비지도학습은 정답 없이 자료의 묶음을 찾는다. 같은 입력 1, 2, 6, 7도 정답이 있으면 새 입력 5를 B로 예측하고, 정답이 없으면 {1,2}\{1,2\}와 {6,7}\{6,7\}로 묶기만 한다. 묶음에 A·B 같은 이름을 붙이는 일은 비지도학습이 대신하지 않는다.

강화학습은 왜 첫 보상보다 누적 보상을 보나

강화학습은 행동 뒤에 받는 보상을 보고, 여러 행동에 걸친 보상의 합을 크게 하는 선택 방법을 배운다. 지금의 행동이 다음 상태와 그 뒤에 받을 수 있는 보상을 바꾸므로 첫 보상만 보면 안 된다.

두 번 행동하면 끝나는 연습에서 경로 U의 보상은 2,12,1, 경로 V의 보상은 0,50,5라고 하자. 이 연습은 미래 보상을 할인하지 않고 단순히 더한다.

RU=2+1=3,RV=0+5=5.(4)R_U=2+1=3,\qquad R_V=0+5=5. \tag{4}

그림 3에서 첫 보상은 U가 크지만 두 번의 합은 V가 크다.

두 번 행동하는 가상 연습의 보상. U는 2+1=3, V는 0+5=5여서 첫 보상이 큰 경로와 누적 보상이 큰 경로가 다르다.
그림 3 두 번 행동하는 가상 연습의 보상. U는 2+1=32+1=3, V는 0+5=50+5=5여서 첫 보상이 큰 경로와 누적 보상이 큰 경로가 다르다. figures/reward_paths.py

두 경로가 갈리는 까닭은 첫 행동이 다음 상태를 정하기 때문이다. 그림 4의 상태 s0s_0에서 행동 aa를 고르면 보상 2를 받고 s1s_1로 가는데, 거기서는 보상 1이나 0만 남는다. 행동 bb는 보상이 0이지만 s2s_2로 가서 보상 5를 받을 수 있다. 매번 당장의 보상이 큰 쪽을 고르면 aa를 택해 합이 3이고, 끝까지 따져 bb를 택하면 합이 5다.

두 번 행동하는 연습의 상태 나무. 첫 보상이 큰 a를 고르는 점선 경로는 누적 보상 3, 처음에 보상 0을 받는 b를 고르는 굵은 경로는 누적 보상 5다.
그림 4 두 번 행동하는 연습의 상태 나무. 첫 보상이 큰 aa를 고르는 점선 경로는 누적 보상 3, 처음에 보상 0을 받는 bb를 고르는 굵은 경로는 누적 보상 5다. figures/reward_tree.py

식 (4)는 목표를 계산한 것이지 강화학습 알고리즘을 실행한 것은 아니다. 실제 강화학습은 보상을 미리 모르는 채로 여러 번 시도하면서 어떤 행동이 큰 누적 보상으로 이어지는지 추정한다.

기계학습에서 강화학습의 보상은 정답과 같은가?

아니다. 강화학습의 보상은 행동의 결과에 매긴 점수이며, 그 순간 어떤 행동이 옳은지 직접 알려 주는 정답과는 다르다. 첫 보상이 0인 행동 bb가 두 번의 합에서는 5로 더 좋을 수 있다.

기계학습의 성과는 처음 보는 평가 자료로 확인한다

학습에 쓴 카드를 다시 맞히는 것과 새 카드를 맞히는 것은 다르다. 그래서 자료를 학습 자료와 평가 자료로 나누고, 규칙을 정한 뒤 평가 자료로 성과를 잰다. 맞힌 개수를 전체 개수로 나눈 값이 정확도다.

학습 카드 1, 2, 6, 7은 가장 가까운 카드가 거리 0인 자기 자신이므로, 최근접 규칙은 네 장을 모두 맞힌다. 학습에 쓰지 않은 평가 카드 0, 3, 5, 8의 실제 정답이 A, A, A, B라고 하자.

정확도=34=0.75(5)\text{정확도}=\frac{3}{4}=0.75 \tag{5}

그림 5에서 0, 3, 8은 맞혔지만 5는 B로 예측해 틀렸다. 앞에서 B로 예측한 입력 5의 실제 정답이 A였던 셈이다. 학습 자료의 정확도 4/4(100%)가 처음 보는 자료에서는 3/4(75%)로 떨어졌다.

학습 카드(위, 원)와 평가 카드(아래, 마름모)에 붙은 실제 정답. 점선은 최근접 규칙의 경계 4이고, 평가 카드 5는 실제 정답이 A인데 B로 예측해 틀렸다(×). 정확도는 학습 자료 4/4, 평가 자료 3/4다.
그림 5 학습 카드(위, 원)와 평가 카드(아래, 마름모)에 붙은 실제 정답. 점선은 최근접 규칙의 경계 4이고, 평가 카드 5는 실제 정답이 A인데 B로 예측해 틀렸다(×). 정확도는 학습 자료 4/4, 평가 자료 3/4다. figures/eval_split.py

평가 결과도 그 평가 자료에서의 성과일 뿐, 앞으로 들어올 모든 자료의 성과를 보장하지는 않는다. 평가 답을 보고 규칙을 계속 고치면 그 자료는 더 이상 처음 보는 문제가 아니다. 그래서 규칙을 고를 때 쓰는 검증 자료를 평가 자료와 따로 두기도 한다. 자료가 실제 사용 상황을 고르게 담았는지는 빅데이터와 편향에서 다룬다.

핵심

기계학습의 방식은 정답으로 배우는 지도학습, 정답 없이 구조를 찾는 비지도학습, 누적 보상을 높이는 강화학습으로 나뉘고, 성과는 평가 자료로 확인한다.

기계학습의 방식에서 흔히 생기는 오해

  • 인공지능은 모두 자료를 학습해야 한다. — 사람이 정한 지식과 규칙을 추론하는 접근도 있다. 다음 전문가시스템 글에서는 자료 학습 없이 규칙을 연결한다.
  • 학습 자료의 정답을 모두 맞히면 새 자료도 모두 맞힌다. — 최근접 규칙은 학습 카드를 4/4로 맞혔지만 평가 카드는 3/4만 맞혔다(그림 5).

직접 해보기

  1. 입력 0,4,90,4,9의 정답이 각각 C, C, D다. 가장 가까운 카드의 정답으로 새 입력 77을 분류하라.
  2. 정답 없는 입력 0,1,5,6,7,120,1,5,6,7,12를 가장 큰 이웃 간격에서 나누어 k=2k=2와 k=3k=3의 묶음을 각각 구하라.
  3. 두 경로의 보상이 각각 4,−14,-1과 1,31,3이다. 첫 보상이 큰 경로와 누적 보상이 큰 경로를 구별하라.
  4. 1번의 세 카드로 만든 최근접 규칙을 평가 카드 2, 6, 8(실제 정답 C, D, D)에 적용해 정확도를 구하라. 입력 2에서 생기는 동점은 어떻게 처리되는가?
  5. 평가 답을 확인한 뒤 기준을 바꾸어 같은 평가 자료에서 성과를 다시 쟀다. 새 자료에 대한 성과라고 할 수 있는가?
  6. 다음 사례를 지도학습·비지도학습·강화학습으로 구분하고, 학습할 때 받는 것(정답, 정답 없는 입력, 보상)으로 근거를 대라.
    • (가) '고양이'·'개'라는 이름이 붙은 사진으로 배워 새 사진의 동물을 맞힌다.
    • (나) 회원들의 구매 기록만 보고 구매 성향이 비슷한 회원끼리 묶는다.
    • (다) 로봇 청소기가 부딪히면 점수를 잃고 새로 청소한 넓이만큼 점수를 얻으며 움직이는 방법을 고친다.
    • (라) 집의 넓이와 실제 거래 가격을 짝지은 기록으로 새 집의 가격을 예측한다.
답
  1. 거리는 7,3,27,3,2이므로 입력 9의 정답 D를 예측한다. 예측이 맞는지는 실제 정답과 대조해야 안다.
  2. 이웃 간격은 1,4,1,1,51,4,1,1,5다. k=2k=2이면 가장 큰 간격 5에서 나누어 {0,1,5,6,7}\{0,1,5,6,7\}과 {12}\{12\}다. k=3k=3이면 다음으로 큰 간격 4에서도 나누어 {0,1},{5,6,7},{12}\{0,1\},\{5,6,7\},\{12\}다.
  3. 첫 보상은 첫 경로의 4가 크다. 합은 4−1=34-1=3과 1+3=41+3=4이므로 누적 보상은 둘째 경로가 크다.
  4. 입력 2의 거리는 2,2,72,2,7로 0과 4가 동점이지만 둘 다 C라서 예측은 C로 하나로 정해지고 맞는다. 입력 6은 거리 6,2,36,2,3에서 4의 C로 예측해 틀리고, 입력 8은 거리 8,4,18,4,1에서 D로 맞는다. 정확도는 23\frac{2}{3}이다.
  5. 아니다. 같은 자료의 답이 기준 선택에 영향을 주었다. 별도로 남겨 둔 자료에서 최종 성과를 확인해야 한다.
  6. (가)는 사진마다 정답 이름을 받으므로 지도학습(분류)이다. (나)는 정답 없이 구매 기록만으로 묶으므로 비지도학습(군집화)이다. (다)는 정답 행동을 듣지 않고 행동 뒤의 점수, 곧 보상으로 배우므로 강화학습이다. (라)는 실제 가격이라는 정답을 받으므로 지도학습이며, 정답이 수라서 회귀다.

더 읽기

  • Google, What is machine learning? — 세 학습 방식과 지도학습의 예측을 설명한다. 이 글의 방식 비교가 기대는 자료다.
  • McCarthy 외, 다트머스 연구 제안서 — 1955년 제안서. AI 연구가 학습 이외의 추론·언어·추상화도 다룬다는 역사적 맥락을 읽는다.
  • Google, Dividing datasets — 학습·검증·평가 자료를 분리하는 이유를 설명한다. '기계학습의 성과는 처음 보는 평가 자료로 확인한다' 절이 기댄다.

영상 노트

영상 노트
  • 00:00 세 종류의 카드 연습, 인공지능·기계학습·딥러닝의 포함 관계
  • 00:40 식 (1): 쌍 세 개에서 규칙 y=2x+1y=2x+1 찾기, 사람이 규칙을 적는 프로그램과 비교
  • 01:30 식 (2)의 최근접 분류, 경계 4와 동점 규칙
  • 02:20 식 (3)과 그림 2: 묶음 수 kk에 따라 달라지는 군집
  • 03:10 식 (4)와 그림 4: 첫 보상 대 누적 보상, 상태 나무
  • 04:10 식 (5)와 그림 5: 학습 정확도 4/4, 평가 정확도 3/4, 검증 자료

지도에서의 위치

기계학습의 방식지금 이 페이지빅데이터와 편향AI전문가시스템의 규칙AI퍼셉트론AI
이 페이지
다음 개념
완성예정이 페이지까지 온 길전체 지도에서 보기 →
이 페이지의 기록
  1. 2026-11-16 · 에이전트 초안
  2. 2026-11-17 · 전수 검수 반영 — 규칙을 사람이 적는 프로그램과의 비교, 분류·회귀, 군집의 묶음 수 비교, 상태 나무와 상태 기호 정리, 평가 정확도 예제와 사례 구분 연습 보강 (에이전트 수정, 그림 2→5)
  3. 2026-11-17 · 전수 검수(에이전트 편집·독립 검증) 통과 — 주인 요청으로 완성으로 올림