직관 — 판자 한 장이 빠진 출렁다리
오르막으로 놓인 출렁다리 한가운데에 판자 한 장이 빠져 있다. 양쪽에서 그 자리로 다가가며 발밑 판자의 높이를 재면, 어느 쪽에서 와도 2미터로 모인다. 빈자리 위 5미터 높이에는 등 하나가 걸려 있지만, 판자들이 모이던 높이는 그대로 2미터다.
다리 위의 위치가 입력, 그 위치에 놓인 것의 높이가 출력이다. 판자가 빠진 자리가 다가갈 점이고, 거기 걸린 등의 높이 5가 그 점의 함수값이다. 양쪽 판자의 높이가 모이는 2가 극한값이다.
AI 학습에 쓰는 미분이 바로 이런 값이다. 0으로 나눌 수 없는 자리에서, 주변 값이 모이는 곳을 답으로 삼는다. 그림 1은 빈자리를 빈 점으로, 등을 채운 점으로 그린다.
함수의 극한은 입력이 다가갈 때 출력이 모이는 값이다
함수의 극한은 가 와 다른 값을 가지면서 에 한없이 가까워질 때 가 한없이 가까워지는 값이다. 가 일정한 값 에 한없이 가까워지면 는 에 수렴한다고 하고, 를 극한값(극한)이라 한다. 에서의 함수값 를 구하는 것과는 다른 질문이다.
| 기호 | 이름 | 원어 | 뜻 |
|---|---|---|---|
| , | 입력, 다가갈 점 | input, approach point | 가 움직이고 는 고정된다 |
| , | 함수, 함수값 | function, function value | 입력을 출력으로 바꾸는 규칙과 그 결과 |
| , | 극한 기호, 극한값 | limit, limiting value | 은 limit의 줄임말. (알파)는 출력이 모이는 유한한 실수. 로 쓰는 책도 있지만 이 사이트의 은 손실이다 |
| , | 왼쪽 접근, 오른쪽 접근 | from the left, from the right | 각각 , 인 쪽에서 다가간다. 교과서는 위첨자 없이 , 로 쓰기도 한다 |
| 입력의 거리 | absolute distance | 절댓값은 부호를 없애 두 수 사이의 거리를 잰다 | |
| 1까지의 거리 | distance | 양수. 왼쪽 입력은 , 오른쪽 입력은 다. 미분 페이지의 는 부호가 있는 변화량이다 | |
| , , | 비교 함수 | comparison functions | 좌우가 갈라지는 함수, 값이 끝없이 커지는 함수, 그래프 읽기 예. 이 페이지에서만 쓰는 이름이다 |
식 (1)은 “리미트, 엑스가 에이로 갈 때, 에프 엑스는 알파”로 읽는다. 는 입력의 이야기이고, 는 출력의 이야기다. 입력이 1로 간다고 해서 출력도 1로 가야 하는 것은 아니다.
이 글은 실수 하나를 받아 실수 하나를 내는 함수를 다룬다. 함수에 넣을 수 있는 입력의 집합을 정의역이라 한다. 의 양쪽 가까운 입력은, 자신만 빼고 모두 정의역에 있다고 둔다.
예제에서는 1을 뺀 곳에 분수식을 쓰고, 1에서만 함수값을 5로 따로 정한다. 아래의 중괄호는 조건에 따라 다른 줄을 쓰라는 뜻이다.
분수식에 을 넣으면 이라 값이 없다. 그래서 그 자리의 값을 따로 정했고, 다. 그러나 그림 1의 그래프는 양쪽에서 높이 2의 빈 점을 향한다. 빈 점은 분수식이 값을 내지 못하는 자리이고, 채운 점이 실제 함수값이다.
figures/value_and_limit.py함수값이 5인데 왜 극한은 2인가
은 인 곳에서 과 같아서, 가 1에 가까워지면 값이 2에 가까워지기 때문이다. 극한은 을 뺀 주변만 보므로, 그 점에 따로 정한 함수값 5는 끼어들지 않는다.
1에서 거리 만큼 떨어진 두 입력 와 를 식 (3)에 넣는다. 출력은 2에서 꼭 만큼 떨어지고, 따로 정한 만 5다.
이면 입력 0.99에서 1.99, 입력 1.01에서 2.01이다. 거리를 줄이면 아래 표처럼 양쪽 출력이 2에 가까워진다. 그림 2는 같은 숫자를 거리의 변화로 보여 준다.
| 1까지의 거리 | 왼쪽 입력 | 왼쪽 출력 | 오른쪽 입력 | 오른쪽 출력 |
|---|---|---|---|---|
| 0.1 | 0.9 | 1.9 | 1.1 | 2.1 |
| 0.01 | 0.99 | 1.99 | 1.01 | 2.01 |
| 0.001 | 0.999 | 1.999 | 1.001 | 2.001 |
표는 극한을 짐작하게 할 뿐, 입력 세 쌍만 확인한 것이다. 근거는 인 주변 전체에서 출력이 이라는 식 (3)이다.
figures/approach_values.py함수의 극한은 그 점의 함수값이 아니라, 그 점을 뺀 주변의 값이 모이는 값이다. 그래서 의 빈자리 에 함수값 5를 정해도 극한은 2다.
함수값이 없어도 극한이 있을 수 있어?
함수값이 없는 점에서도 극한은 있을 수 있다. 은 에서 이라 함수값이 없지만, 가 1에 가까워질 때의 극한은 2다. 극한의 정의는 그 점의 함수값을 쓰지 않는다.
대입했더니 0/0이면 극한이 없는 거야?
아니다. 은 을 넣으면 이지만 극한은 2다. 은 값이 정해지지 않은 꼴(부정형)이지, 답이 0이라는 뜻도 극한이 없다는 뜻도 아니다. 분자와 분모를 인수분해해 약분하면 주변에서의 식이 드러난다(식 (3)).
좌극한과 우극한이 다르면 극한은 없다
양쪽에서 다가갈 수 있는 점에서는 좌극한과 우극한이 같은 실수일 때만 극한이 있다. 한쪽만 확인해서는 판단할 수 없다.
좌극한은 보다 작은 쪽에서, 우극한은 보다 큰 쪽에서 다가갈 때 가 가까워지는 값이다. 위첨자 와 는 출력의 부호가 아니라 다가가는 방향이다.
식 (5)의 는 위아래 조건이 서로를 보장한다는 뜻이다.
비교 함수 를 에서 보자. 이면 분자가 라 출력이 −1이고, 이면 출력이 1이다. 1에 아무리 가까워져도 좌극한 −1과 우극한 1의 차이가 남으므로 의 극한은 없다. 그림 3 위가 이 점프다.
figures/one_sided_cases.py그래프에서 좌극한과 우극한은 어떻게 읽나
그 점에 세로선을 긋고, 왼쪽 가지와 오른쪽 가지가 각각 어느 높이로 다가가는지 읽는다. 가지 끝이 빈 점이든 채운 점이든 가지가 향하는 높이가 한쪽 극한이고, 함수값은 세로선 위에 찍힌 채운 점의 높이다.
그림 4의 함수 는 정의역이 이다. 에서는 , 에서는 을 따르고, 에서만 함수값을 2로 따로 정했다.
figures/graph_reading.py| 점 | 좌극한 | 우극한 | 극한 | 함수값 |
|---|---|---|---|---|
| 2 | 1 | 없음 | ||
| 0 | 0 | 0 |
에서는 좌우가 2와 1로 달라 극한이 없다. 그래도 함수값은 있다. 채운 점이 오른쪽 가지에 붙어 있어 이다. 에서는 양쪽 가지가 모두 높이 0으로 모이므로 극한은 0이고, 따로 찍힌 점의 높이 2가 함수값이다.
교과서 문제는 이런 값을 섞어 묻는다. 이고, 함수값만 더한 과 다르다. 채운 점을 보고 극한을 읽거나, 가지가 향하는 빈 점을 보고 함수값을 읽으면 이 두 수가 뒤바뀐다.
정의역의 끝점에서는 다가갈 수 있는 방향이 하나뿐이다. 오른쪽 끝 은 왼쪽 입력만 있으므로 좌극한 1로, 왼쪽 끝 은 우극한 0으로 살핀다. 식 (5)의 양쪽 비교는 의 양쪽에 입력이 있을 때의 판정이다.
극한에 무한대가 나오면 어떻게 읽나
무한대 기호 는 수가 아니라 끝없이 커진다는 표시다. 화살표 아래에 있으면 입력이, 등호 오른쪽에 있으면 출력이 끝없이 커진다.
그림 3 아래의 에 1.1, 1.01, 1.001을 넣으면 10, 100, 1,000이다. 1의 오른쪽에서 다가갈수록 출력이 끝없이 커져 로 적는다. 왼쪽에서 다가가면 다.
입력이 끝없이 커지는 는 다른 상황이다. 같은 에 11, 101, 1,001을 넣으면 0.1, 0.01, 0.001이라 이다. 급수의 합도 이렇게, 더한 개수를 끝없이 키울 때 모이는 값으로 정한다.
무한대로 발산하는 것도 극한값이 있는 거야?
출력이 무한대로 발산할 때 극한값은 없다. 극한값은 유한한 실수여야 해서, 이때는 수렴이 아니라 ‘양의 무한대로 발산한다’고 한다. 라는 표기는 발산하는 방향을 적은 것이다. 무한대는 대입하거나 도달할 수 있는 실수가 아니다.
극한과 연속은 무엇이 다른가
극한은 주변에서 모이는 값이고, 연속은 그 값이 그 점의 함수값과 같은 상태다. 식 (2)의 함수는 극한이 2이고 함수값이 5라서 에서 연속이 아니다. 연속이 아니면 불연속이라 한다.
한 점에서 연속이려면 함수값이 있고, 극한이 있고, 둘이 같아야 한다. 식 (2)에서 만 2로 바꾸면 세 조건을 모두 채운다. 다른 입력에서의 식은 바꾸지 않아도 된다. 조건별 판정과 미지수 결정은 함수의 연속에서 이어진다.
극한이 있는 두 함수를 더하고 빼고 곱하면, 극한도 극한끼리 더하고 빼고 곱한 값이 된다. 나눗셈은 분모의 극한이 0이 아닐 때 그렇다. 교과서가 ‘함수의 극한에 대한 성질’이라 부르는 것으로, 함수의 극한의 계산에서 조건과 계산을 다룬다. 이 성질에서 다항식이 모든 실수에서 연속임이 나온다. 다항식을 다항식으로 나눈 함수도 분모가 0이 아닌 곳에서는 연속이다.
연속인 함수의 극한은 대입으로 구한다. 의 극한은 다. 식 (3)의 약분은 1 근처의 식을 다항식으로 바꿔 대입할 수 있게 해 준 것이다.
극한을 구할 때 그냥 대입해도 돼?
다가갈 점에서 연속인 함수라면 대입해도 된다. 다항식 은 연속이라 1을 넣어 극한 2를 얻는다. 식 (2)의 함수는 에서 불연속이라, 대입한 값 5는 극한이 아니다.
엡실론-델타 정의에서 원하는 만큼 가깝다는 것은 얼마나 가까운가
어떤 양의 출력 오차를 요구해도, 그 오차를 지킬 입력 거리를 고를 수 있다는 뜻이다. 교과서의 ‘한없이 가까워진다’를 부등식으로 적은 것으로, 고등학교 과정 밖이라 처음에는 건너뛰어도 된다.
식 (2)의 예제에서 출력 오차를 0.1보다 작게 하고 싶다고 하자. 식 (3)에서 이므로, 입력과 1 사이의 거리를 0.1보다 작게 잡으면 된다. 출력 오차가 0.01보다 작아야 한다면 거리도 0.01보다 작게 잡는다.
필요한 거리는 함수에 따라 달라진다. 도 에서 2에 가까워지지만, 출력 오차가 입력 거리의 3배다. 그래서 오차를 0.1보다 작게 하려면 거리를 보다 작게 잡아야 한다. 그림 5에서 두 직선이 같은 오차 띠 안에 머물려면 입력이 1에서 얼마나 가까워야 하는지 비교해 보자.
figures/epsilon_delta_bands.py이것을 엡실론-델타 정의로 적으면 다음과 같다. 식 (1)이 성립한다는 것은, 모든 에 대해 식 (6)을 만족하는 가 있다는 뜻이다.
| 기호 | 이름 | 원어 | 뜻 |
|---|---|---|---|
| 출력 허용 오차 | epsilon | 양수. 먼저 정한다 | |
| 입력 허용 거리 | delta | 양수. 에 맞춰 고른다 |
고른 거리 안의 모든 입력에서 출력 오차가 보다 작아야 한다. 앞의 가 를 빼는 장치다. 는 왼쪽 조건을 만족하면 오른쪽 조건도 성립한다는 뜻이다.
11 이 절의 은 출력 오차다. Adam에서 분모에 더하는 작은 상수나 PyTorch gradcheck의 eps와는 다른 것이다.
예제의 극한이 2임을 모든 오차에 대해 증명하기
아무 양수 을 받아도 으로 고른다. 이면 이므로 식 (3)을 쓸 수 있다. 따라서 이다. 모든 양의 오차에 대응할 수 있으므로 극한은 2다.
극한값에 실제로 도달해야 수렴이야?
함수값이 극한값에 도달할 필요는 없다. 은 인 입력에서 한 번도 2가 되지 않는다. 그래도 출력을 2에 원하는 만큼 가깝게 만들 수 있어 극한은 2다.
극한의 흔한 오해
- 극한값은 그 점의 함수값이다 — 식 (2)에서 지만 극한은 2다. 둘이 같다는 것은 연속이라는 추가 조건이다.
- 0 나누기 0은 0이다 — 은 값이 정해지지 않은 꼴이다. 질문 ‘대입했더니 0/0이면 극한이 없는 거야?’가 답한다.
- 극한은 다가갈 뿐 절대 닿지 못하는 값이다 — 상수 함수 는 어느 입력에서나 이미 2이고 극한도 2다. 닿는지는 극한과 상관없다.
- 숫자를 몇 번 넣어 맞으면 증명이다 — 표는 세 거리만 확인했다. 식 (6)은 고른 거리 안의 모든 입력을 요구한다.
함수의 극한은 AI에서 어디에 쓰이나
극한은 미분의 정의에 들어가고, 미분은 AI 학습에서 손실을 줄일 방향을 알려 준다. 미분계수는 두 입력 사이의 평균변화율에서, 두 입력을 한없이 가깝게 보낸 극한이다.
식 (2)의 분수식이 바로 그 예다. 에서 입력이 1에서 로 바뀔 때의 평균변화율이 이다. 그 극한 2가 에서의 미분계수 이다.
분모가 0이 되는 자리의 값을 주변에서 정하는 일, 곧 이 페이지가 한 일이 그대로 미분이다. 학습에서는 역전파가 손실의 미분을 계산하고, 경사하강법이 그 반대 방향으로 파라미터를 고친다.
| 이 페이지 | PyTorch |
|---|---|
| 작은 간격으로 잰 평균변화율 | torch.autograd.gradcheck(..., eps=...)가 자동미분 결과와 비교하는 수치 기울기. eps가 입력을 바꾸는 크기다 |
| 그 극한인 미분계수 | backward()가 채우는 .grad. 쓰는 법은 미분·역전파 페이지에서 다룬다 |
PyTorch의 자동미분은 작은 값을 넣어 보는 대신 연산마다 정해 둔 미분 공식을 잇는다. 그 차이는 미분 페이지의 질문 ‘자동미분도 입력을 아주 조금 바꿔 가며 계산해?’가 답한다.
코드로 확인하기
코드는 약분하기 전의 분수식 을 그대로 계산한다.
세 거리에서 식 (4)의 , 와 같은 값이 나오고, 1을 넣으면 nan(0 나누기 0)이 나온다.
슬라이더로 거리 를 줄이고 점의 값 도 바꿔 보자.
점의 값을 바꿔도 좌우 출력이 모이는 값 2는 그대로다.
import numpy as np
a = 1.0
point_value = 5.0
distances = np.array([0.1, 0.01, 0.001])
# 식 (2)의 분수식을 약분하지 않고 계산한다. x = 1에서는 0/0이다.
def fraction(x):
return (x**2 - a**2) / (x - a)
# 식 (4): 양의 거리 distance로 왼쪽·오른쪽을 함께 본다.
left = fraction(a - distances)
right = fraction(a + distances)
print("h f(1-h) f(1+h)")
for distance, lv, rv in zip(distances, left, right):
print(f"{distance:.3f} {lv:.3f} {rv:.3f}")
with np.errstate(invalid="ignore"):
print("x = 1:", fraction(np.float64(a))) # 0/0은 nan
print(f"f(1) = {point_value:.0f}")$ python limit_values.py
h f(1-h) f(1+h)
0.100 1.900 2.100
0.010 1.990 2.010
0.001 1.999 2.001
x = 1: nan
f(1) = 5코드 출력은 정해진 세 거리의 결과이고, 슬라이더는 그 아래에서 따로 움직인다.
직접 해보기
- 거리 일 때 좌우 입력과 출력을 구하라. 출력 오차는 얼마인가?
- 식 (2)의 함수가 1에서 연속이 되려면 5를 무엇으로 바꿔야 하나? 극한도 달라지나?
- 이라고 새로 정하면 의 극한이 생기나?
- 를 에서 , 에서 로 정한다. 의 좌극한, 우극한, 극한, 를 각각 구하라.
- 다음 셋 가운데 극한값이 있는 것을 고르고 그 값을 구하라. ① 일 때 ② 일 때 ③ 일 때
답
- 입력은 0.9999와 1.0001, 출력은 1.9999와 2.0001이다. 식 (4)에서 출력과 2 사이의 거리는 양쪽 모두 0.0001이다.
- 2로 바꾼다. 주변 식이 같으므로 극한은 여전히 2이고, 함수값이 그 극한과 같아져 연속이 된다.
- 생기지 않는다. 1을 제외한 왼쪽 출력은 −1, 오른쪽 출력은 1이다. 한 점을 0으로 정해도 좌우 차이는 남는다.
- 왼쪽에서는 이 로, 오른쪽에서는 가 으로 다가간다. 좌극한 4와 우극한 3이 달라 극한은 없다. 는 의 식을 따르므로 3이다.
- ②만 있다. 에서 이므로 극한값은 4다. ①은 에서 −1, 에서 1이라 좌우가 다르다. ③은 0.1, 0.01, 0.001에서 10, 100, 1000으로 끝없이 커져 양의 무한대로 발산한다. 발산은 극한값이 있는 것이 아니다.
더 읽기
- Calculus Volume 1, 2.2 The Limit of a Function — Gilbert Strang·Edwin Herman, OpenStax, 2016. 표와 그래프에서 출발해 좌우극한과 무한극한을 구분한다. ‘함수의 극한은 입력이 다가갈 때 출력이 모이는 값이다’, ‘좌극한과 우극한이 다르면 극한은 없다’, ‘극한에 무한대가 나오면 어떻게 읽나’ 절의 근거다.
- Calculus Volume 1, 2.3 The Limit Laws — 같은 저자, 2016. 극한의 성질과 인수분해로 극한을 구하는 근거다. 이어지는 2.4 Continuity는 ‘극한과 연속은 무엇이 다른가’, 2.5 The Precise Definition of a Limit은 ‘엡실론-델타 정의에서 원하는 만큼 가깝다는 것은 얼마나 가까운가’ 절을 뒷받침한다.
- Calculus Volume 1, 3.1 Defining the Derivative — 같은 저자, 2016. 평균변화율의 극한으로 미분을 정의한다. ‘함수의 극한은 AI에서 어디에 쓰이나’ 절의 식 (7)이 기댄다.
- Autograd mechanics — PyTorch 공식 문서. 연산 그래프와 연쇄법칙으로 기울기를 계산하는 과정을 설명한다. ‘함수의 극한은 AI에서 어디에 쓰이나’ 절의 자동미분 설명을 뒷받침한다.
- torch.autograd.gradcheck.gradcheck — PyTorch 공식 문서. 유한한 입력 차이를 쓰는 수치 검증과
eps인자의 뜻을 설명한다. ‘함수의 극한은 AI에서 어디에 쓰이나’ 절의 대응표가 기댄다.
영상 노트
- 00:00 출렁다리 — 판자가 모이는 높이 2와 등의 높이 5
- 00:40 식 (1) — 입력이 가는 곳과 출력이 모이는 곳
- 01:20 식 (2)와 그림 1 — 함수값 5를 따로 정하기
- 02:00 식 (3) — 1이 아닌 곳에서 약분하기
- 02:40 식 (4)와 그림 2 — 거리를 줄이면 출력이 2로 모인다
- 03:40 식 (5)와 그림 3 위 — 좌극한과 우극한이 갈라지는 경우
- 04:30 그림 4 — 세로선을 긋고 가지의 높이와 채운 점을 따로 읽기, 끝점은 한쪽만
- 05:40 그림 3 아래 — 무한대가 나오는 두 가지 경우
- 06:30 연속 — 빈 점을 채우는 값은 2
- 07:20 그림 5와 식 (6) — 같은 오차 띠에서 기울기에 따라 달라지는 거리
- 08:30 식 (7) — 같은 분수가 미분의 정의에 나타난다
- 09:10 코드랩 — 거리와 점의 값을 따로 바꿔 보기
촬영 계획이다. 업로드한 뒤 실제 타임스탬프로 바꾼다.
지도에서의 위치
- 2026-11-12 · 에이전트 초안 (수식 7, 그림 3, 코드랩 1)
- 2026-11-13 · 독자 패널 리뷰 반영 — 직관 비유를 예제(함수값 5, 극한 2)와 같은 설정으로, 교과서 낱말(한없이 가까워진다·수렴·불연속·극한의 성질)과 극한값 기호 α, 절 순서를 교과서 차례로, 겹쳐 나오던 식과 미분 설명 정리, 코드랩이 분수식을 직접 계산
- 2026-11-15 · 교과 검수 반영 — 요약에서 표본 계산과 극한의 근거를 구분
- 2026-11-16 · 전수 검수 반영 — 그래프에서 좌극한·우극한·함수값 읽기 절과 끝점 설명, 엡실론-델타 띠와 거리 δ 비교 그림, 두 패널 그림을 세로 배치로, 연속·극한 계산 글 연결, 직접 해보기 5문항 (에이전트 수정, 그림 3→5)
- 2026-11-16 · 전수 검수(에이전트 편집·독립 검증) 통과 — 주인 요청으로 완성으로 올림