직관 — 조사 결과 옆의 작은 범위
조사한 사람 중 새 도서관 서비스를 원하는 비율이 나왔다. 다른 사람들을 뽑았다면 응답 비율이 달라졌을 수 있다. 이 흔들림을 고려하려면 관측 비율 옆에 범위를 붙이되, 누구에게 물었는지도 함께 봐야 한다.
모비율의 추정은 표본비율로 모집단의 알려지지 않은 비율을 짐작하는 일이다. 관측 비율은 점추정값이고, 표본추출의 변동을 반영하여 만든 범위는 신뢰구간이다. 이 글은 큰 표본에서 쓰는 정규근사 구간과 그 한계를 다룬다.
모비율은 고정되어 있고 표본비율은 표본마다 달라진다
같은 성공확률 를 갖는 독립 추출 모형을 생각한다. 성공 횟수 는 이항분포 를 따르고, 표본비율은 이다. 표본을 실제로 얻어 성공 개를 관측하면 으로 모비율을 추정한다.
앞 글에서 배운 표본비율의 표준오차는 이다. 그런데 구하려는 가 그 식 안에도 들어 있다. 충분히 큰 표본에서는 관측한 를 대신 넣어 표준오차를 추정한다.
식 (1)은 관측 자료에서 계산하는 추정 표준오차다. 실제 모비율을 알고 계산한 표준오차와 같다고 보장하지 않는다. 모비율을 모르는 상태에서 불확실성의 크기 또한 표본으로 추정하는 것이다.
| 기호 | 이름 | 원어 | 뜻 |
|---|---|---|---|
| 모비율 | population proportion | 추정하려는 모집단의 비율 | |
| 표본 크기·성공 수 | sample size, successes | 관측한 전체 수·조건 만족 수 | |
| 표본비율 | sample proportion | 관측 성공 수를 표본 크기로 나눈 값 | |
| 추정 표준오차 | estimated standard error | 관측 비율로 근사한 표본비율의 퍼짐 | |
| 신뢰도·경계값 | confidence level, critical value | 표준정규분포의 가운데 넓이 를 정하는 양의 경계 |
큰 표본에서는 정규근사 신뢰구간을 만든다
독립 추출 모형과 정규근사가 적절할 만큼 큰 표본에서 다음 구간을 사용한다. 보통 Wald 구간이라고 부르는 정규근사 방법이다.
평균이 모비율 인 표본비율 분포를 정규분포로 근사하고, 모르는 표준오차를 식 (1)로 바꾸어 얻는 식이다. 표본비율이 모비율에서 표준오차 안에 있는 사건을 모비율 쪽에서 바꿔 읽는 원리는 모평균의 추정과 같다. 따라서 식 (2)는 근사 신뢰구간이며, 모든 에서 포함 비율이 정확히 95%가 되는 것은 아니다.
95%이면 , 99%이면 이다. 1.96은 표준정규분포에서 가운데 넓이 0.95를 남기는 경계다. 정규분포표의 을 두 배 하면 0.95가 된다. 99%에는 표의 에서 2.58을 쓰는 교과서도 있다.
교과서에 따라 로 써서 95% 신뢰구간을 로 적는다. 식 (2)에서 인 경우와 같다.
계산 전에는 관측 성공 수 와 실패 수 가 둘 다 충분히 큰지 확인한다. 각각 10 이상인지 보는 경험적 기준을 쓸 수 있지만, 이는 정확성을 보증하는 정리가 아니다. 자료에 편향이 없고 독립 모형이 적절한지도 별도로 살핀다.
가상 조사 400명 중 240명으로 계산한다
다음은 실제 설문 결과가 아니라 설명을 위해 만든 가상 요약 자료다. 서비스 이용 대상 전체에서 공정하게 조사했으며 독립 추출로 근사할 수 있다고 가정하자. 400명 중 240명이 새 서비스를 원한다고 답했다. 관측 비율은 이고 성공·실패 수는 240과 160이다.
95% 구간의 좌우에 붙일 양, 즉 오차한계는 이다. 중간값을 너무 일찍 반올림하지 않고 끝에서 반올림하면 다음 구간이 나온다.
이는 약 55.2%~64.8%다. 점추정 60%에서 좌우 약 4.8%포인트라는 뜻이며, 60%의 4.8%를 계산한 상대적 변화와 다르다. 신뢰구간의 길이는 오차한계의 두 배인 약 0.0960이다.
식 (1)에서 대신 를 넣어도 되는 이유를 이 숫자로 확인할 수 있다. 구간 안의 어느 값을 로 넣어도 표준오차는 0.0239~0.0249여서 관측 비율로 구한 0.0245와 거의 같다. 표본이 크면 가 가까이에 모이기 때문이다.
그림 1은 신뢰도와 표본 크기를 바꾼 비교다.
figures/proportion_intervals.py공학 도구의 숫자를 조사 문장으로 해석한다
GeoGebra Classic의 그래픽 계산기에 다음 명령을 넣는다. 첫 인수는 성공 횟수 240이나 백분율 숫자 60이 아니라 비율 0.6이다. 마지막 인수도 95가 아니라 0.95다.
ZProportionEstimate(0.6,400,0.95)
ZProportionEstimate(0.6,400,0.99)
ZProportionEstimate(0.6,1600,0.95)
화면의 반올림 자릿수가 두 자리라면 첫 결과는 로 보인다. 설정에서 소수 자릿수를 늘려 식 (4)의 약 0.552와 0.648을 확인한다. 99% 구간은 약 , 표본 크기가 1600이고 비율이 같을 때의 95% 구간은 약 다. 도구는 더 정밀한 정규 경계값을 사용한다.
보고할 때는 ‘가상 조사에서는 서비스 이용 대상의 찬성 비율을 60%로 추정했고, 독립 추출과 큰 표본 정규근사를 가정한 95% 신뢰구간은 약 55.2%~64.8%다’라고 조건까지 적는다. 실제 활동에서는 모집단과 표본틀을 정하고, 동의를 받은 응답을 모아 찬성 수·전체 수·미응답 수를 기록한 뒤 같은 계산을 해 보자. 응답 자료를 얻었다는 사실만으로 독립·대표성이 확인되지는 않는다.
관측 비율이 미리 정한 기준과 다른지 판단하는 일은 모비율 검정에서 다룬다. 검정은 표준오차에 관측 비율 대신 기준으로 세운 비율을 넣으므로 식 (1)과 계산이 다르다.
95% 신뢰구간은 사람의 95%가 들어가는 범위인가?
아니다. 개인의 응답은 찬성 또는 비찬성이며, 추정 대상은 모집단의 고정된 비율이다. 모평균의 추정과 마찬가지로 반복해서 만든 구간의 포함 비율로 해석하되, 이 글의 방법은 큰 표본의 근사임을 함께 밝힌다.
인터넷 자발적 설문도 응답이 많으면 이 구간을 믿어도 되는가?
아니다. 자발적 설문에서 계산되는 숫자만으로는 충분하지 않다. 관심이 큰 사람만 응답하는 선택 편향은 식 (2)의 표준오차에 들어 있지 않다. 조사 대상·추출 방법·응답 누락을 확인해야 하며 큰 응답 수가 그 조건을 대신하지 못한다.
성공이 한 번도 없으면 확실히 모비율 0인가?
아니다. 100번에서 성공 0번을 관측하면 식 (1)은 표준오차 0을 만들고 식 (2)는 을 낸다. 이것은 모비율을 완벽히 알아냈다는 뜻이 아니라, 이 상황에 단순한 근사식을 적용하면 안 된다는 신호다.
예를 들어 실제 모비율이 인 독립 시행에서 100번 모두 실패할 확률은 다음과 같다. 모비율이 양수인데도 성공 0번은 충분히 나올 수 있다.
그림 2는 이항분포의 정확한 확률을 보여 준다. 0번의 막대가 작지 않은데, 그 결과를 관측했다는 이유로 양수인 모든 모비율을 제외하면 안 된다. 관측 성공·실패 수가 작은 경우에는 이항분포를 직접 사용하는 구간이나 다른 개선된 방법이 필요하다. 그 계산은 이 글의 큰 표본 근사 범위 밖이다.
figures/zero_successes.py모비율의 근사 구간은 언제 95%를 지키지 못하나
기대 성공 수나 실패 수가 적을 때, 즉 표본이 작거나 모비율이 0이나 1에 가까울 때다. , 이면 식 (2)의 95% 구간이 모비율을 포함할 확률은 0.633뿐이다.
그림 3은 실제 모비율 마다 이 포함확률을 이항분포로 정확히 계산한 것이다. 이면 에서 약 0.934~0.955로 95% 근처에 머문다. , 이면 기대 성공 수가 1뿐이고, 식 (5)의 확률 0.366만큼은 이 나와 반드시 놓친다. 기대 성공 수가 5인 에서도 0.877이다.
곡선이 톱니 모양인 까닭은 표본비율이 처럼 띄엄띄엄한 값만 갖기 때문이다. 앞에서 성공·실패 수를 먼저 점검하라고 한 이유가 이 그림에 있다.
figures/wald_coverage.py중복 없이 조사한 경우에도 같은 공식이 정확한가?
엄밀히는 아니다. 유한 모집단에서 비복원추출한 관측들은 독립이 아니다. 모집단에 비해 표본 비중이 매우 작으면 독립 모형으로 근사할 수 있지만, 큰 비중을 조사했다면 유한 모집단 보정 등을 검토해야 한다. 전수조사로 비율을 직접 알게 된 상황까지 식 (2)를 그대로 적용하지 않는다.
필요한 표본 크기는 오차한계에서 거꾸로 구한다
조사를 계획할 때는 원하는 오차한계 를 먼저 정하고, 를 에 대해 푼다. 조사 전이라 를 모르면 예비 조사의 값을 넣거나 가장 불리한 값 0.5를 넣는다.
예비 조사에서 찬성 비율이 0.6 근처였다면, 95% 오차한계 3%포인트() 이하에 필요한 표본은 다. 표본 크기는 자연수이므로 올림하여 최소 1025명이다.
예상 비율을 모를 때는 의 최댓값을 쓴다. 완전제곱식으로 바꾸면 이 곱은 에서 가장 크다.
식 (7)에 따라 식 (6)의 자리에 를 넣으면, 어떤 관측 비율이 나와도 오차한계가 이하인 표본 크기를 얻는다.
따라서 최소 1068명이다. 예상 비율 0.6을 썼을 때보다 43명 많다. 그림 4에서 오차한계는 에서 가장 크고 양 끝으로 갈수록 작아진다.
figures/margin_by_phat.py여론조사의 표본오차 ±3.1%포인트는 어떻게 계산하나?
여론조사의 표본오차 ±3.1%포인트는 응답자 1,000명 조사에서 95% 신뢰수준의 최대 오차한계다. 식 (2)에 가장 불리한 를 넣으면 , 즉 약 3.1%포인트가 된다. 무작위 추출을 전제로 계산한 값이므로 응답 편향까지 담지는 않는다.
모비율은 관측 표본비율로 추정하고, 독립 추출 모형의 큰 표본에서 추정 표준오차를 붙여 신뢰구간을 근사한다. 관측 성공·실패 수와 조사 방식을 확인하며, 극단 비율의 0폭 구간을 확신으로 읽지 않는다.
모비율의 추정에서 흔히 생기는 오해
- 도구가 구간을 출력하면 적용 조건도 확인해 준 것이다. — 도구는 입력한 수로 식을 계산한다. 응답자가 어떻게 선택되었는지는 그 세 인수만으로 알 수 없다.
- 신뢰도가 99%이면 같은 조사에서 구간이 더 좁아진다. — 더 높은 포함 비율을 얻으려면 더 넓게 잡는다. 가상 예에서는 약 53.7%~66.3%로 넓어진다.
- 모집단이 클수록 같은 오차한계에 더 많은 표본이 필요하다. — 식 (6)에는 모집단 크기가 없다. 표본 비중이 작은 독립 근사에서는 모집단이 몇만 명이든 몇천만 명이든 최소 1068명이면 95% 오차한계가 3%포인트 이하다.
- 표본오차 ±3.1%포인트는 모든 응답 비율에 같은 크기로 붙는다. — 그 값은 일 때의 최댓값이다. 같은 1,000명이라도 인 항목의 95% 오차한계는 , 약 2.5%포인트다.
직접 해보기
- 독립 추출 모형으로 근사할 수 있는 조사에서 200명 중 90명이 찬성했다. 관측 비율, 추정 표준오차와 95% 근사 신뢰구간을 구하자. 계수는 1.96을 쓴다.
- 위 계산의 오차한계를 비율과 %포인트로 각각 쓰자. 45%의 몇 %라는 표현과 어떻게 다른가?
- 명을 조사해 만든 95% 근사 신뢰구간이 였다. 관측 비율과 을 구하자.
- 50번의 독립 시행에서 성공 0번을 관측했다. 모비율이 0.02라고 가정했을 때 성공 0번의 확률을 구하고, 구간을 확신하면 안 되는 이유를 설명하자.
- 95% 오차한계를 0.04 이하로 하려고 한다. 예상 비율을 전혀 모를 때와, 예비 조사에서 0.2 근처였을 때 필요한 최소 표본 크기를 각각 구하자.
답과 풀이
- 이고 관측 성공·실패는 90과 110이다. 추정 표준오차는 이다. 오차한계는 약 0.068949, 구간은 약 다. 추출 모형이 적절하다는 조건 아래의 근사 결과다.
- 비율로 약 0.06895, 백분율의 차이로 약 6.895%포인트다. 이는 45%에 상대 비율을 곱하는 계산과 다르다.
- 가운데 가 관측 비율이고, 길이의 절반 0.049가 오차한계다. 에서 이므로 , 즉 이다.
- 다. 모비율이 양수인 0.02라도 성공 0번이 나올 수 있다. 관측 성공 수가 작은 경계 상황에서 큰 표본 근사식의 0폭 출력을 정확한 추론으로 읽으면 안 된다.
- 예상 비율을 모르면 식 (8)처럼 이므로 최소 601명이다. 예상 비율이 0.2이면 식 (6)에서 이므로 최소 385명이다. 예상 비율이 0.5에서 멀수록 필요한 표본이 줄어든다.
더 읽기
- OpenStax, Introductory Statistics 2e 8.3절 — 관측 비율을 넣어 표준오차를 추정하는 구간식을 확인한다. 성공·실패 수의 점검 기준은 교재마다 조금 다르다.
- NIST/SEMATECH, 7.2.4.1 Confidence Intervals — 작은 성공 수·표본에서 대칭 정규근사 구간이 부정확할 수 있음을 설명한다. 개선된 구간은 선택 확장 읽기다.
- GeoGebra, ZProportionEstimate 명령 — 표본비율·표본 크기·신뢰도를 입력하여 두 끝값을 구한다.
영상 노트
- 00:00 관측 비율에서 모집단 비율을 추정하기
- 00:50 식 (1)·(2)의 추정 표준오차와 근사 조건, 1.96의 뜻
- 02:00 식 (3)·(4), 그림 1로 400명 가상 조사 계산
- 03:10 공학 도구 결과를 백분율·%포인트로 읽기
- 04:10 식 (5), 그림 2에서 성공 0번의 함정 확인
- 05:00 그림 3으로 근사 구간의 실제 포함확률 보기
- 06:00 식 (6)~(8), 그림 4로 표본 크기와 여론조사의 ±3.1%포인트
- 07:10 조사 조건을 붙인 보고 문장과 새 연습
지도에서의 위치
- 2026-11-16 · 에이전트 초안 — 교과 정의·일반 근거·예제·그림·새 연습과 접힌 풀이 작성
- 2026-11-17 · 전수 검수 반영 — 1.96과 교과서 표기 다리, 관측 비율을 대입해도 되는 이유, 근사 구간의 실제 포함확률, 표본 크기 결정과 여론조사 표본오차, 질문·오해·연습 보강, 포함확률이 0.95 근처인 모비율 범위와 끝값 정정 (에이전트 수정, 그림 2→4)
- 2026-11-17 · 전수 검수(에이전트 편집·독립 검증) 통과 — 주인 요청으로 완성으로 올림