AI퍼셉트론#283

퍼셉트론

Perceptrons

퍼셉트론은 입력에 가중치를 곱해 더한 값에 편향을 더하고, 활성화함수로 출력을 정하는 인공 신경망의 가장 작은 단위다. 두 입력의 계단 함수 모형으로 판정 경계, OR·AND가 되는 편향의 범위, 틀린 예에서 가중치를 고치는 학습 규칙을 계산한다.

읽는 시간
약 7분
선수 개념
기계학습의 방식일차함수의 그래프

직관 — 점수를 합친 뒤 기준선을 넘는다

직관

두 항목에 서로 다른 배점을 주고 점수를 더한다. 합계가 정한 기준에 이르면 통과시킨다. 배점이나 기준을 바꾸면 같은 입력의 결과도 바뀐다.

배점은 가중치, 통과 기준은 임곗값, 통과 여부를 정하는 규칙은 활성화함수에 대응한다. 퍼셉트론은 이 절차를 수로 나타낸 가장 작은 인공 신경망 단위다. 딥러닝의 신경망은 이런 단위를 여러 층으로 이어 만든다.

퍼셉트론은 가중합과 편향을 활성화함수로 판정한다

퍼셉트론(Perceptron)은 입력에 가중치를 곱해 더한 값(가중합)에 편향을 더하고, 활성화함수로 출력을 정하는 모형이다. 뉴런이 받은 신호의 합이 일정 수준을 넘을 때 다음 뉴런에 신호를 전한다는 관찰에서 착안했지만, 실제 뉴런을 그대로 옮긴 것은 아니다. 이 글은 주로 두 실수 입력과 0·1 출력을 다룬다.

z=w1x1+w2x2+c(1)z=w_1x_1+w_2x_2+c \tag{1} h(z)={0z<01z≥0,y^=h(z)(2)h(z)=\begin{cases}0&z<0\\1&z\ge0\end{cases},\qquad \hat y=h(z) \tag{2}

식 (2)의 활성화함수는 zz가 0 이상인지 확인하는 계단 함수다. 경계 z=0z=0은 출력 1에 넣기로 정한다. 출력 1은 해당 범주로 분류한다는 표시이지 100% 확률이라는 뜻이 아니다.

정의
기호이름원어뜻
x1,x2x_1,x_2입력input두 항목의 값
w1,w2w_1,w_2가중치weight각 입력에 곱하는 수
cc편향bias입력과 관계없이 더하는 수
zz가중합과 편향의 합weighted sum plus bias활성화함수에 넣는 값
hh활성화함수activation functionzz를 출력으로 바꾸는 함수
y^\hat y출력output이 글에서는 0 또는 1
tt임곗값threshold가중합과 비교하는 기준. 교과서 기호는 cc

교과서는 가중합 x1w1+x2w2x_1w_1+x_2w_2가 임곗값 이상이면 1을 내는 활성화함수 ff를 쓰고, 그 임곗값을 cc로 적는다. 이 페이지는 임곗값을 tt로 적고, 부등식 w1x1+w2x2≥tw_1x_1+w_2x_2\ge t의 양변에서 tt를 빼 식 (1)의 꼴로 옮긴다. 그래서 이 페이지의 편향은 c=−tc=-t이고, 교과서의 임곗값 3은 이 페이지의 편향 −3이다. 같은 글자 cc가 교과서에서는 임곗값, 이 페이지에서는 편향이니 부호에 주의한다.

여기서 편향은 모형의 상수 항이다. 자료가 한쪽으로 치우치는 빅데이터의 편향과는 뜻이 다르다. 입력이 nn개이면 z=w1x1+w2x2+⋯+wnxn+cz=w_1x_1+w_2x_2+\cdots+w_nx_n+c처럼 같은 자리의 입력과 가중치를 곱해 모두 더한다. 입력을 (x1,x2)(x_1,x_2)처럼 정해진 순서로 나열한 것을 수치 벡터라고 부를 수 있지만, 계산에는 이 곱의 합만 필요하다.

퍼셉트론의 가중치는 입력의 영향을 어떻게 바꾸나

가중치는 그 입력이 1 늘 때 zz가 얼마나 느는지를 정한다. 교육용 예로 w1=2,w2=1,c=−3w_1=2,w_2=1,c=-3을 사람이 정하고 입력 (1,2)(1,2)를 넣어 보자.

z=2×1+1×2−3=1(3)z=2\times1+1\times2-3=1 \tag{3}

z=1≥0z=1\ge0이므로 y^=h(1)=1\hat y=h(1)=1이다. 그림 1이 식 (3)의 흐름이다. 첫 입력을 1 늘리면 zz는 2, 둘째 입력을 1 늘리면 1 는다. 가중치가 음수이면 그 입력이 커질 때 zz가 줄어든다. 다만 출력은 계단 함수라서 zz가 달라져도 0·1 판정은 그대로일 수 있다.

입력 (1,2)에 가중치 (2,1)과 편향 -3을 적용하면 z=1, 출력은 1이다. 화살표의 수는 입력에 곱하는 가중치다.
그림 1 입력 (1,2)(1,2)에 가중치 (2,1)(2,1)과 편향 −3-3을 적용하면 z=1z=1, 출력은 1이다. 화살표의 수는 입력에 곱하는 가중치다. figures/weighted_sum.py

입력이 셋이어도 방법은 같다. 가중치 (3,−2,1)(3,-2,1), 임곗값 2인 퍼셉트론은 편향이 −2다. 입력 (1,1,2)(1,1,2)를 넣으면 다음과 같다.

z=3×1−2×1+1×2−2=1(4)z=3\times1-2\times1+1\times2-2=1 \tag{4}

z=1z=1이라 출력은 1이다. 입력 (0,1,1)(0,1,1)은 z=0−2+1−2=−3z=0-2+1-2=-3이라 출력 0이다. 둘째 가중치가 −2이므로 둘째 입력이 1 커지면 zz는 2 작아진다.

퍼셉트론의 판정 경계는 왜 직선인가

출력이 0에서 1로 바뀌는 곳은 z=0z=0인 점들이다. 두 가중치가 모두 0인 경우만 아니면 w1x1+w2x2+c=0w_1x_1+w_2x_2+c=0은 일차방정식의 그래프이므로 직선이다. 예의 출력 1 영역은 다음 부등식을 만족하는 점 전체다.

2x1+x2−3≥0  ⟺  x2≥3−2x1(5)2x_1+x_2-3\ge0\iff x_2\ge3-2x_1 \tag{5}

경계는 x1x_1절편 1.5와 x2x_2절편 3을 이어 그린다. 원점을 넣으면 z=−3<0z=-3<0이므로 원점이 있는 쪽은 출력 0이고, 반대쪽이 출력 1이다. 경계 위의 (1,1)(1,1)은 z=0z=0이라 출력 1이고, (0,2)(0,2)는 z=−1z=-1이라 출력 0이다.

z=2x_1+x_2-3인 퍼셉트론의 경계와 출력 1 영역(칠한 쪽). 경계는 두 절편 (1.5,0), (0,3)을 지나고, 경계 위의 (1,1)은 출력 1, (0,2)는 출력 0이다.
그림 2 z=2x1+x2−3z=2x_1+x_2-3인 퍼셉트론의 경계와 출력 1 영역(칠한 쪽). 경계는 두 절편 (1.5,0)(1.5,0), (0,3)(0,3)을 지나고, 경계 위의 (1,1)(1,1)은 출력 1, (0,2)(0,2)는 출력 0이다. figures/decision_boundary.py

그림 2처럼 두 범주를 한 직선으로 나눌 수 있으면 선형 분리 가능하다고 한다. 퍼셉트론 하나는 선형 분리 가능한 판정만 표현한다. 두 실수 입력의 경계를 다룬 그림과 달리, 다음 논리 예에서는 입력을 0·1로 제한한다.

퍼셉트론으로 OR와 AND를 표현한다

논리값에서 1은 참, 0은 거짓이다. OR(논리합) x1∨x2x_1\vee x_2는 하나 이상이 참이면 참이고, AND(논리곱) x1∧x2x_1\wedge x_2는 둘 다 참이어야 참이다. 입력 x1,x2x_1,x_2는 0 또는 1로 제한한다. 이처럼 0·1을 받아 0·1을 내는 함수를 부울 함수라고 한다.

가중치를 모두 1로 두면 네 입력의 가중합은 0,1,1,20,1,1,2다. OR에는 c=−1c=-1, AND에는 c=−2c=-2를 쓰고, 둘 다 식 (2)의 같은 hh를 적용한다.

입력OR의 zz와 출력AND의 zz와 출력
(0,0)(0,0)−1→0-1\to0−2→0-2\to0
(0,1)(0,1)0→10\to1−1→0-1\to0
(1,0)(1,0)0→10\to1−1→0-1\to0
(1,1)(1,1)1→11\to10→10\to1

가능한 입력이 이 네 가지뿐이므로 표는 0·1 입력 전체를 확인한 것이다. 그림 2의 계수 (2,1,−3)(2,1,-3)도 0·1 입력에서는 (1,1)(1,1)만 1로 보내 AND와 같은 결과를 낸다. 같은 논리 연산을 만드는 계수는 하나가 아니다.

퍼셉트론의 편향은 어느 범위에서 OR·AND가 되나

가중치를 (1,1)(1,1)로 고정하면 결과는 편향 cc만으로 정해진다. OR가 되려면 (0,0)(0,0)은 0, (0,1)(0,1)은 1이어야 한다.

0+c<0,1+c≥0  ⟺  −1≤c<0(6)0+c<0,\qquad 1+c\ge0\iff -1\le c<0 \tag{6}

(1,0)(1,0)은 (0,1)(0,1)과 조건이 같고, (1,1)(1,1)의 조건 2+c≥02+c\ge0은 1+c≥01+c\ge0이면 저절로 성립한다. AND가 되려면 (0,1)(0,1)은 0, (1,1)(1,1)은 1이어야 한다.

1+c<0,2+c≥0  ⟺  −2≤c<−1(7)1+c<0,\qquad 2+c\ge0\iff -2\le c<-1 \tag{7}

그림 3의 위쪽처럼 cc를 바꾸면 경계 x1+x2=−cx_1+x_2=-c가 평행이동한다. 아래쪽은 cc의 구간마다 네 입력의 출력을 이어 적은 무늬다. 경계가 점을 지나는 c=−1c=-1과 c=−2c=-2는 경계를 1에 넣는 관례 때문에 각각 OR, AND 쪽에 들어간다.

가중치 (1,1)에서 편향 c만 바꾼 퍼셉트론. 위쪽 점 옆의 수는 가중합 x_1+x_2이고 c=-1, c=-2의 경계가 평행하다. 아래쪽은 입력 (0,0),(0,1),(1,0),(1,1)의 출력 무늬로, -2≤ c<-1이면 0001(AND), -1≤ c<0이면 0111(OR)이다. 점이 찍힌 끝값은 오른쪽 구간에 속한다.
그림 3 가중치 (1,1)(1,1)에서 편향 cc만 바꾼 퍼셉트론. 위쪽 점 옆의 수는 가중합 x1+x2x_1+x_2이고 c=−1c=-1, c=−2c=-2의 경계가 평행하다. 아래쪽은 입력 (0,0),(0,1),(1,0),(1,1)(0,0),(0,1),(1,0),(1,1)의 출력 무늬로, −2≤c<−1-2\le c<-1이면 0001(AND), −1≤c<0-1\le c<0이면 0111(OR)이다. 점이 찍힌 끝값은 오른쪽 구간에 속한다. figures/bias_range.py

임곗값 t=−ct=-c로 바꿔 쓰면 OR는 0<t≤10<t\le1, AND는 1<t≤21<t\le2다. 교과서의 임곗값 범위 문제가 이 꼴이다. 부호를 바꾸면 부등호의 방향과 등호의 자리도 함께 바뀐다.

퍼셉트론은 틀린 예에서 가중치를 어떻게 고치나

지금까지는 계수를 사람이 정해 OR·AND를 표현했다. 자료의 정답과 예측을 비교해 계수를 고치는 과정이 학습이다. 흔히 퍼셉트론 학습 규칙이라 부르는 방법은 틀린 입력에서만 오차 y−y^y-\hat y만큼 계수를 옮긴다(yy는 정답).

wi←wi+(y−y^) xi,c←c+(y−y^)(8)w_i\leftarrow w_i+(y-\hat y)\,x_i,\qquad c\leftarrow c+(y-\hat y) \tag{8}

맞히면 y−y^=0y-\hat y=0이라 그대로다. 정답 1을 0으로 틀리면 오차가 1이라 입력을 더해 zz를 키우고, 정답 0을 1로 틀리면 오차가 −1이라 입력을 빼서 zz를 줄인다.

OR 자료 네 개를 (0,0),(0,1),(1,0),(1,1)(0,0),(0,1),(1,0),(1,1) 순서로 되풀이해 넣고, 계수 0에서 시작하자. 첫 입력 (0,0)(0,0)은 z=0z=0이라 1로 틀려서 cc가 −1이 된다. 둘째 입력 (0,1)(0,1)은 z=−1z=-1이라 0으로 틀려서 w2w_2가 1, cc가 0이 된다.

OR 자료를 순서대로 되풀이해 넣으며 식 (8)로 고친 w_1,w_2,c. 가로축 k는 넣은 입력의 수이고, 위쪽 수는 입력 네 개씩 한 바퀴에서 틀린 개수다. 다섯 번 고친 뒤 (1,1,-1)에서 멈춘다.
그림 4 OR 자료를 순서대로 되풀이해 넣으며 식 (8)로 고친 w1,w2,cw_1,w_2,c. 가로축 kk는 넣은 입력의 수이고, 위쪽 수는 입력 네 개씩 한 바퀴에서 틀린 개수다. 다섯 번 고친 뒤 (1,1,−1)(1,1,-1)에서 멈춘다. figures/learning_steps.py

그림 4처럼 계수는 틀린 입력에서만 바뀐다. 바퀴마다 틀린 개수는 2, 2, 1이고, 다섯 번 고친 뒤 넷째 바퀴에서는 하나도 틀리지 않는다. 도착한 계수 (1,1,−1)(1,1,-1)은 사람이 정한 OR의 계수와 같다.

같은 규칙을 AND 자료에 돌리면 여섯째 바퀴에서 처음으로 틀린 것이 없고, 계수는 그림 2와 같은 (2,1,−3)(2,1,-3)이다. 사람이 정한 (1,1,−2)(1,1,-2)와 다르지만 네 입력에서 같은 AND를 만든다. 네 점을 모두 맞히는 계수가 있으면 이 규칙이 유한 번 고친 뒤 멈춘다는 정리가 알려져 있다. 그런 계수가 없는 경우가 다음 글의 XOR이다.

핵심

퍼셉트론은 가중합에 편향을 더한 값이 0 이상이면 1을 내는 판정이며, 두 입력이면 그 경계는 직선이고 OR·AND는 편향의 범위로 갈린다.

퍼셉트론의 편향은 왜 필요한가?

퍼셉트론의 편향은 판정 경계를 원점에서 떨어뜨리는 데 필요하다. 편향이 없으면 입력 (0,0)(0,0)의 zz가 가중치와 관계없이 0이라 출력이 1로 고정되므로, (0,0)(0,0)에서 0이어야 하는 OR와 AND를 만들 수 없다.

퍼셉트론의 가중치가 모두 0이면 어떻게 되나?

가중치가 모두 0인 퍼셉트론은 입력과 관계없이 편향만으로 출력한다. 이 글의 규칙에서는 c≥0c\ge0이면 항상 1이고 c<0c<0이면 항상 0이므로, 입력을 나누는 직선 경계가 없다.

퍼셉트론의 활성화함수는 항상 계단 함수인가?

아니다. 고전적 퍼셉트론은 계단 함수를 쓰지만, 신경망에서는 음수를 0으로 바꾸는 렐루(ReLU) 함수나 0과 1 사이의 값을 내는 시그모이드 함수도 쓴다. 층을 쌓은 신경망은 역전파로 가중치를 고치는데, 계단 함수는 z=0z=0이 아닌 곳에서 기울기가 0이라 그 방법에 맞지 않는다.

퍼셉트론의 흔한 오해

  • 출력 1은 정답일 확률이 1이라는 뜻이다. — 식 (2)는 zz가 0 이상이라는 판정만 준다. 정답과의 일치나 확률은 따로 확인해야 한다.
  • 가중치를 정해 표를 만들었으니 학습도 끝냈다. — OR 표는 사람이 정한 계수를 확인한 것이다. 학습은 식 (8)처럼 자료로 계수를 고치는 과정이고, 그림 4에서는 다섯 번 고쳤다.
  • 교과서의 cc와 이 글의 cc는 같은 수다. — 교과서의 cc는 임곗값, 이 글의 cc는 편향이라 부호가 반대다. 임곗값 2로 만든 AND는 편향 −2이고, 식 (7)의 범위도 임곗값으로 바꾸면 1<t≤21<t\le2가 된다.

직접 해보기

  1. w1=−1,w2=2,c=−2w_1=-1,w_2=2,c=-2일 때 (3,1)(3,1)과 (0,1)(0,1)의 zz와 출력을 구하라.
  2. 가중치가 (2,3)(2,3)일 때 0·1 입력에서 AND가 되는 편향 cc의 범위를 구하라. 임곗값 tt로는 어떻게 쓰는가?
  3. 입력 (0,0),(0,1),(1,0),(1,1)(0,0),(0,1),(1,0),(1,1)에 대해 z=−x1−x2+1z=-x_1-x_2+1의 출력을 구하라. 둘 다 1인 경우만 0이 되는지 확인하라.
  4. z=3x1−2x2+1z=3x_1-2x_2+1에서 x2x_2를 고정하고 x1x_1을 2 늘리면 zz는 얼마나 변하는가? 출력도 그만큼 변하는가?
  5. w1=0,w2=1,c=0w_1=0,w_2=1,c=0인 퍼셉트론에 AND 자료 하나인 입력 (0,1)(0,1), 정답 0을 넣고 식 (8)로 한 번 고친 계수를 구하라.
답
  1. 첫 합은 −3+2−2=−3-3+2-2=-3이라 출력 0이다. 둘째 합은 0+2−2=00+2-2=0이라 경계에 포함되어 출력 1이다.
  2. 조건은 (0,0)(0,0)에서 c<0c<0, (1,0)(1,0)에서 2+c<02+c<0, (0,1)(0,1)에서 3+c<03+c<0, (1,1)(1,1)에서 5+c≥05+c\ge0이다. 모두 만족하는 범위는 −5≤c<−3-5\le c<-3이고, 임곗값으로는 3<t≤53<t\le5다.
  3. 합은 1,0,0,−11,0,0,-1, 출력은 1,1,1,01,1,1,0이다. 이 규칙을 NAND라고 부르며, AND의 출력을 뒤집은 것이다. 다음 글에서 XOR의 재료가 된다.
  4. 합은 3×2=63\times2=6 증가한다. 출력은 0 또는 1이므로 6만큼 증가할 수 없다. 경계를 넘는지에 따라 그대로이거나 0에서 1로 바뀐다.
  5. z=0×0+1×1+0=1z=0\times0+1\times1+0=1이라 출력 1이고 정답 0이므로 오차는 −1이다. w1=0+(−1)×0=0w_1=0+(-1)\times0=0, w2=1+(−1)×1=0w_2=1+(-1)\times1=0, c=0−1=−1c=0-1=-1이 된다. 고친 뒤 같은 입력의 zz는 −1이라 출력 0으로 맞는다.

더 읽기

영상 노트

영상 노트
  • 00:00 배점·임곗값 비유, 식 (1)·(2), 교과서의 임곗값 cc와 이 글의 편향 c=−tc=-t
  • 00:50 식 (3)·(4): 두 입력과 세 입력의 가중합
  • 01:40 식 (5)와 그림 2: 절편으로 경계 그리기, 선형 분리
  • 02:30 OR·AND 진리표, 식 (6)·(7)과 그림 3의 편향 범위
  • 03:40 식 (8)과 그림 4: 다섯 번 고쳐 OR 계수에 도착, AND는 다른 계수
  • 04:40 직접 해보기 2: 임곗값 범위 문제

지도에서의 위치

완성예정이 페이지까지 온 길전체 지도에서 보기 →
이 페이지의 기록
  1. 2026-11-16 · 에이전트 초안
  2. 2026-11-17 · 전수 검수 반영 — 교과서의 임곗값 c와 이 글의 편향 c의 부호 관계를 명시, 세 입력 예제, 경계의 절편, OR·AND가 되는 편향 범위, 퍼셉트론 학습 규칙과 연습 보강 (에이전트 수정, 그림 2→4)
  3. 2026-11-17 · 전수 검수(에이전트 편집·독립 검증) 통과 — 주인 요청으로 완성으로 올림