직관 — 연습마다 받는 도움이 다르다
답안이 붙은 카드를 보고 새 카드를 분류할 수 있다. 답안 없이 비슷한 카드끼리 묶을 수도 있다. 행동한 뒤 얻은 점수를 보고 다음 선택을 바꾸는 연습도 있다.
답안은 정답, 묶을 카드는 입력 자료, 행동 뒤의 점수는 보상에 대응한다. 어떤 도움을 받는지에 따라 학습의 목표와 확인 방법이 달라진다. 스팸 메일 분류, 구매 패턴이 비슷한 고객 묶기, 게임 인공지능이 각각 세 방식의 대표적인 활용 예다.
기계학습은 자료에서 규칙을 찾는 인공지능의 방법이다
기계학습(Machine Learning, 머신러닝)은 자료나 경험을 이용해 예측·분류·행동의 방법을 스스로 개선하는 인공지능의 방법이다. 인공지능은 추론·인식·학습처럼 사람의 지적 능력이 필요한 일을 컴퓨터로 구현하는 더 넓은 연구와 기술을 가리킨다. 사람이 적은 규칙으로 추론하는 전문가시스템도 인공지능의 한 접근이다.
기계학습과 보통의 프로그램은 규칙을 누가 정하느냐가 다르다. 사람이 을 직접 적어 넣으면 보통의 프로그램이다. 입력과 정답의 쌍 만 주고 규칙을 찾게 하면 기계학습이다.
식 (1)에서 기울기 2와 절편 1을 얻고, 셋째 쌍에서도 가 맞는다. 찾은 규칙으로 새 입력 5의 출력을 로 예측한다. 실제 자료에는 오차가 있어 모든 점을 지나는 규칙이 없는 경우가 많으므로 추세선처럼 가장 잘 맞는 규칙을 찾는다.
1955년 매카시 등의 다트머스 연구 제안서는 제목에 '인공지능(artificial intelligence)'을 쓰고, 학습뿐 아니라 언어, 추상화, 신경망과 자기 개선을 함께 연구할 주제로 제시했다. 교과서 연표의 1956년은 이 제안으로 열린 여름 연구의 해다. 제안서는 연구 계획이지, 당시 그 문제들이 해결되었다는 보고가 아니다.
인공지능, 기계학습(머신러닝), 딥러닝은 어떻게 다른가?
인공지능이 가장 넓고, 기계학습은 그 안에서 자료로 규칙을 찾는 방법이며, 딥러닝은 기계학습 가운데 여러 층의 신경망을 쓰는 방법이다. 교과서는 이를 (인공지능) ⊃ (기계학습) ⊃ (딥러닝)으로 나타낸다. 딥러닝의 기본 단위는 다음 글의 퍼셉트론이다.
여기서는 다음 세 방식을 배운다. 교과서는 이를 기계학습의 종류라고 부르며, 흔히 머신러닝의 종류라고도 한다. 실제 시스템에서는 여러 방식이 함께 쓰일 수 있다.
| 방식 | 학습할 때 받는 것 | 찾으려는 것 | 활용 예 |
|---|---|---|---|
| 지도학습 | 입력과 그에 대응하는 정답 | 새 입력의 정답을 예측하는 규칙 | 스팸 메일 분류 |
| 비지도학습 | 정답이 없는 입력 | 자료의 묶음이나 구조 | 비슷한 고객 묶기 |
| 강화학습 | 행동 뒤의 상태와 보상 | 여러 행동에 걸친 보상을 높이는 선택 방법 | 게임·로봇 제어 |
| 기호 | 이름 | 원어 | 뜻 |
|---|---|---|---|
| 입력값 | input | 분류나 예측에 사용하는 측정값 | |
| 정답 | label, target | 지도학습 자료에 붙인 결과 | |
| 예측값 | prediction | 모형이 내놓은 결과 | |
| 묶음 수 | number of clusters | 비지도학습에서 미리 정한 묶음의 개수 | |
| 상태 | state | 행동을 고르는 상황. 첨자는 그림 4의 상태 이름이다 | |
| 보상 | reward | 번째 행동 뒤에 받은 점수 | |
| 누적 보상 | return | 여기서는 정한 횟수의 보상을 더한 값 |
교과서는 학습에 쓰는 자료를 훈련 데이터, 자료에 정답을 붙이는 일을 레이블링이라고 부른다. 이 페이지의 '학습 자료'와 '정답'이 그것이다. 아래 숫자는 모두 세 방식의 차이를 보여 주려고 만든 교육용 자료다. 실제 물체를 측정하거나 성능을 조사한 결과가 아니다.
지도학습은 정답이 붙은 자료로 새 입력을 예측한다
지도학습은 입력과 정답의 쌍으로 배우고, 새 입력의 정답을 예측한다. 정답이 A·B 같은 범주이면 분류, 앞의 예측값 11처럼 수이면 회귀라고 한다. 이번에는 분류를 보자.
길이를 로 나타낸 카드 네 장에 정답을 붙였다. 입력 에는 A, 입력 에는 B가 붙어 있다. 새 입력 를 가장 가까운 기존 카드의 정답으로 분류한다고 정하자. 수직선 위 두 점 사이의 거리는 좌표 차이의 절댓값이다.
식 (2)에서 가장 가까운 입력은 6이므로 예측은 B다. 이 방법은 계수를 계산하지 않고, 자료를 저장했다가 가까운 예를 찾는다. 학습이 늘 방정식의 계수를 조정하는 일은 아니다.
이 규칙의 경계는 A의 가장 큰 입력 2와 B의 가장 작은 입력 6의 한가운데인 4다. 4보다 작은 입력은 A, 큰 입력은 B로 예측한다. 4는 2와 6까지의 거리가 모두 2라서, 동점일 때 어느 쪽으로 정할지 규칙을 따로 정해야 한다.
figures/labels_and_groups.py그림 1의 위쪽이 지도학습이다. 별표로 표시한 새 입력 5는 B 카드 6에 가장 가깝다.
기계학습의 지도학습은 사람이 매번 답을 주어야 하나?
아니다. 지도학습의 정답은 학습 자료에 붙어 있어야 하지만, 학습한 규칙을 쓸 때마다 정답을 알려 주지는 않는다. 예에서도 입력 5의 정답을 주지 않고 기존 카드 네 장으로 B를 예측했다.
비지도학습은 정한 기준으로 자료의 묶음을 찾는다
비지도학습은 정답 없이 입력만 보고 자료의 묶음이나 구조를 찾는다. 비슷한 것끼리 묶는 일을 군집화라고 한다. 정답을 지우면 A와 B라는 이름은 맞힐 수 없지만, 입력을 작은 순서로 놓고 이웃 간격을 비교할 수는 있다.
'가장 큰 간격에서 나누어 두 묶음을 만든다'고 정하면 식 (3)의 4에서 나누어 와 이 된다. 그림 1의 아래쪽이 이 결과다. 이 묶음은 선택한 기준에 따른 결과이고, 묶음의 뜻은 사람이 따로 해석해야 한다.
기준을 바꾸면 결과도 바뀐다. 입력 의 이웃 간격은 이다. 묶음 수 이면 가장 큰 간격 5에서만 나누어 이다. 이면 다음으로 큰 간격 2에서도 나누어 이 된다.
figures/group_count.py그림 2에서 4는 일 때 1, 2와 같은 묶음이지만 일 때는 혼자 남는다. 같은 자료라도 묶음 수와 거리 기준을 어떻게 정하느냐에 따라 찾는 구조가 달라진다.
기계학습에서 지도학습과 비지도학습의 차이는 무엇인가?
지도학습은 정답이 붙은 자료로 새 입력의 정답을 예측하고, 비지도학습은 정답 없이 자료의 묶음을 찾는다. 같은 입력 1, 2, 6, 7도 정답이 있으면 새 입력 5를 B로 예측하고, 정답이 없으면 와 로 묶기만 한다. 묶음에 A·B 같은 이름을 붙이는 일은 비지도학습이 대신하지 않는다.
강화학습은 왜 첫 보상보다 누적 보상을 보나
강화학습은 행동 뒤에 받는 보상을 보고, 여러 행동에 걸친 보상의 합을 크게 하는 선택 방법을 배운다. 지금의 행동이 다음 상태와 그 뒤에 받을 수 있는 보상을 바꾸므로 첫 보상만 보면 안 된다.
두 번 행동하면 끝나는 연습에서 경로 U의 보상은 , 경로 V의 보상은 라고 하자. 이 연습은 미래 보상을 할인하지 않고 단순히 더한다.
그림 3에서 첫 보상은 U가 크지만 두 번의 합은 V가 크다.
figures/reward_paths.py두 경로가 갈리는 까닭은 첫 행동이 다음 상태를 정하기 때문이다. 그림 4의 상태 에서 행동 를 고르면 보상 2를 받고 로 가는데, 거기서는 보상 1이나 0만 남는다. 행동 는 보상이 0이지만 로 가서 보상 5를 받을 수 있다. 매번 당장의 보상이 큰 쪽을 고르면 를 택해 합이 3이고, 끝까지 따져 를 택하면 합이 5다.
figures/reward_tree.py식 (4)는 목표를 계산한 것이지 강화학습 알고리즘을 실행한 것은 아니다. 실제 강화학습은 보상을 미리 모르는 채로 여러 번 시도하면서 어떤 행동이 큰 누적 보상으로 이어지는지 추정한다.
기계학습에서 강화학습의 보상은 정답과 같은가?
아니다. 강화학습의 보상은 행동의 결과에 매긴 점수이며, 그 순간 어떤 행동이 옳은지 직접 알려 주는 정답과는 다르다. 첫 보상이 0인 행동 가 두 번의 합에서는 5로 더 좋을 수 있다.
기계학습의 성과는 처음 보는 평가 자료로 확인한다
학습에 쓴 카드를 다시 맞히는 것과 새 카드를 맞히는 것은 다르다. 그래서 자료를 학습 자료와 평가 자료로 나누고, 규칙을 정한 뒤 평가 자료로 성과를 잰다. 맞힌 개수를 전체 개수로 나눈 값이 정확도다.
학습 카드 1, 2, 6, 7은 가장 가까운 카드가 거리 0인 자기 자신이므로, 최근접 규칙은 네 장을 모두 맞힌다. 학습에 쓰지 않은 평가 카드 0, 3, 5, 8의 실제 정답이 A, A, A, B라고 하자.
그림 5에서 0, 3, 8은 맞혔지만 5는 B로 예측해 틀렸다. 앞에서 B로 예측한 입력 5의 실제 정답이 A였던 셈이다. 학습 자료의 정확도 4/4(100%)가 처음 보는 자료에서는 3/4(75%)로 떨어졌다.
figures/eval_split.py평가 결과도 그 평가 자료에서의 성과일 뿐, 앞으로 들어올 모든 자료의 성과를 보장하지는 않는다. 평가 답을 보고 규칙을 계속 고치면 그 자료는 더 이상 처음 보는 문제가 아니다. 그래서 규칙을 고를 때 쓰는 검증 자료를 평가 자료와 따로 두기도 한다. 자료가 실제 사용 상황을 고르게 담았는지는 빅데이터와 편향에서 다룬다.
기계학습의 방식은 정답으로 배우는 지도학습, 정답 없이 구조를 찾는 비지도학습, 누적 보상을 높이는 강화학습으로 나뉘고, 성과는 평가 자료로 확인한다.
기계학습의 방식에서 흔히 생기는 오해
- 인공지능은 모두 자료를 학습해야 한다. — 사람이 정한 지식과 규칙을 추론하는 접근도 있다. 다음 전문가시스템 글에서는 자료 학습 없이 규칙을 연결한다.
- 학습 자료의 정답을 모두 맞히면 새 자료도 모두 맞힌다. — 최근접 규칙은 학습 카드를 4/4로 맞혔지만 평가 카드는 3/4만 맞혔다(그림 5).
직접 해보기
- 입력 의 정답이 각각 C, C, D다. 가장 가까운 카드의 정답으로 새 입력 을 분류하라.
- 정답 없는 입력 를 가장 큰 이웃 간격에서 나누어 와 의 묶음을 각각 구하라.
- 두 경로의 보상이 각각 과 이다. 첫 보상이 큰 경로와 누적 보상이 큰 경로를 구별하라.
- 1번의 세 카드로 만든 최근접 규칙을 평가 카드 2, 6, 8(실제 정답 C, D, D)에 적용해 정확도를 구하라. 입력 2에서 생기는 동점은 어떻게 처리되는가?
- 평가 답을 확인한 뒤 기준을 바꾸어 같은 평가 자료에서 성과를 다시 쟀다. 새 자료에 대한 성과라고 할 수 있는가?
- 다음 사례를 지도학습·비지도학습·강화학습으로 구분하고, 학습할 때 받는 것(정답, 정답 없는 입력, 보상)으로 근거를 대라.
- (가) '고양이'·'개'라는 이름이 붙은 사진으로 배워 새 사진의 동물을 맞힌다.
- (나) 회원들의 구매 기록만 보고 구매 성향이 비슷한 회원끼리 묶는다.
- (다) 로봇 청소기가 부딪히면 점수를 잃고 새로 청소한 넓이만큼 점수를 얻으며 움직이는 방법을 고친다.
- (라) 집의 넓이와 실제 거래 가격을 짝지은 기록으로 새 집의 가격을 예측한다.
답
- 거리는 이므로 입력 9의 정답 D를 예측한다. 예측이 맞는지는 실제 정답과 대조해야 안다.
- 이웃 간격은 다. 이면 가장 큰 간격 5에서 나누어 과 다. 이면 다음으로 큰 간격 4에서도 나누어 다.
- 첫 보상은 첫 경로의 4가 크다. 합은 과 이므로 누적 보상은 둘째 경로가 크다.
- 입력 2의 거리는 로 0과 4가 동점이지만 둘 다 C라서 예측은 C로 하나로 정해지고 맞는다. 입력 6은 거리 에서 4의 C로 예측해 틀리고, 입력 8은 거리 에서 D로 맞는다. 정확도는 이다.
- 아니다. 같은 자료의 답이 기준 선택에 영향을 주었다. 별도로 남겨 둔 자료에서 최종 성과를 확인해야 한다.
- (가)는 사진마다 정답 이름을 받으므로 지도학습(분류)이다. (나)는 정답 없이 구매 기록만으로 묶으므로 비지도학습(군집화)이다. (다)는 정답 행동을 듣지 않고 행동 뒤의 점수, 곧 보상으로 배우므로 강화학습이다. (라)는 실제 가격이라는 정답을 받으므로 지도학습이며, 정답이 수라서 회귀다.
더 읽기
- Google, What is machine learning? — 세 학습 방식과 지도학습의 예측을 설명한다. 이 글의 방식 비교가 기대는 자료다.
- McCarthy 외, 다트머스 연구 제안서 — 1955년 제안서. AI 연구가 학습 이외의 추론·언어·추상화도 다룬다는 역사적 맥락을 읽는다.
- Google, Dividing datasets — 학습·검증·평가 자료를 분리하는 이유를 설명한다. '기계학습의 성과는 처음 보는 평가 자료로 확인한다' 절이 기댄다.
영상 노트
- 00:00 세 종류의 카드 연습, 인공지능·기계학습·딥러닝의 포함 관계
- 00:40 식 (1): 쌍 세 개에서 규칙 찾기, 사람이 규칙을 적는 프로그램과 비교
- 01:30 식 (2)의 최근접 분류, 경계 4와 동점 규칙
- 02:20 식 (3)과 그림 2: 묶음 수 에 따라 달라지는 군집
- 03:10 식 (4)와 그림 4: 첫 보상 대 누적 보상, 상태 나무
- 04:10 식 (5)와 그림 5: 학습 정확도 4/4, 평가 정확도 3/4, 검증 자료
지도에서의 위치
- 2026-11-16 · 에이전트 초안
- 2026-11-17 · 전수 검수 반영 — 규칙을 사람이 적는 프로그램과의 비교, 분류·회귀, 군집의 묶음 수 비교, 상태 나무와 상태 기호 정리, 평가 정확도 예제와 사례 구분 연습 보강 (에이전트 수정, 그림 2→5)
- 2026-11-17 · 전수 검수(에이전트 편집·독립 검증) 통과 — 주인 요청으로 완성으로 올림