확률·통계모비율의 추정#261

모비율의 추정

Estimating a Population Proportion

모비율의 추정은 표본에서 관측한 비율로 모집단의 비율을 짐작하는 일이다. 독립 추출 모형의 큰 표본에서 표본비율과 추정 표준오차로 신뢰구간을 근사한다. 공학 도구로 결과를 읽고, 필요한 표본 크기와 여론조사의 표본오차, 성공 수가 적거나 편향이 있을 때의 한계를 살핀다.

읽는 시간
약 9분
선수 개념
표본비율의 분포표준정규분포모평균의 추정

직관 — 조사 결과 옆의 작은 범위

직관

조사한 사람 중 새 도서관 서비스를 원하는 비율이 나왔다. 다른 사람들을 뽑았다면 응답 비율이 달라졌을 수 있다. 이 흔들림을 고려하려면 관측 비율 옆에 범위를 붙이되, 누구에게 물었는지도 함께 봐야 한다.

모비율의 추정은 표본비율로 모집단의 알려지지 않은 비율을 짐작하는 일이다. 관측 비율은 점추정값이고, 표본추출의 변동을 반영하여 만든 범위는 신뢰구간이다. 이 글은 큰 표본에서 쓰는 정규근사 구간과 그 한계를 다룬다.

모비율은 고정되어 있고 표본비율은 표본마다 달라진다

같은 성공확률 pp를 갖는 독립 추출 모형을 생각한다. 성공 횟수 XX는 이항분포 B(n,p)B(n,p)를 따르고, 표본비율은 p^=X/n\hat p=X/n이다. 표본을 실제로 얻어 성공 xx개를 관측하면 p^=x/n\hat p=x/n으로 모비율을 추정한다.

앞 글에서 배운 표본비율의 표준오차는 p(1−p)/n\sqrt{p(1-p)/n}이다. 그런데 구하려는 pp가 그 식 안에도 들어 있다. 충분히 큰 표본에서는 관측한 p^\hat p를 대신 넣어 표준오차를 추정한다.

SE^=p^(1−p^)n,p^=xn.(1)\widehat{\mathrm{SE}}=\sqrt{\frac{\hat p(1-\hat p)}n}, \qquad \hat p=\frac xn.\tag{1}

식 (1)은 관측 자료에서 계산하는 추정 표준오차다. 실제 모비율을 알고 계산한 표준오차와 같다고 보장하지 않는다. 모비율을 모르는 상태에서 불확실성의 크기 또한 표본으로 추정하는 것이다.

정의
기호이름원어뜻
pp모비율population proportion추정하려는 모집단의 비율
n,xn,x표본 크기·성공 수sample size, successes관측한 전체 수·조건 만족 수
p^\hat p표본비율sample proportion관측 성공 수를 표본 크기로 나눈 값
SE^\widehat{\mathrm{SE}}추정 표준오차estimated standard error관측 비율로 근사한 표본비율의 퍼짐
c,zcc,z_c신뢰도·경계값confidence level, critical value표준정규분포의 가운데 넓이 cc를 정하는 양의 경계

큰 표본에서는 정규근사 신뢰구간을 만든다

독립 추출 모형과 정규근사가 적절할 만큼 큰 표본에서 다음 구간을 사용한다. 보통 Wald 구간이라고 부르는 정규근사 방법이다.

[p^−zcp^(1−p^)n, p^+zcp^(1−p^)n].(2)\left[\hat p-z_c\sqrt{\frac{\hat p(1-\hat p)}n},\ \hat p+z_c\sqrt{\frac{\hat p(1-\hat p)}n}\right].\tag{2}

평균이 모비율 pp인 표본비율 분포를 정규분포로 근사하고, 모르는 표준오차를 식 (1)로 바꾸어 얻는 식이다. 표본비율이 모비율에서 zcz_c 표준오차 안에 있는 사건을 모비율 쪽에서 바꿔 읽는 원리는 모평균의 추정과 같다. 따라서 식 (2)는 근사 신뢰구간이며, 모든 p,np,n에서 포함 비율이 정확히 95%가 되는 것은 아니다.

95%이면 zc≈1.96z_c\approx1.96, 99%이면 zc≈2.576z_c\approx2.576이다. 1.96은 표준정규분포에서 가운데 넓이 0.95를 남기는 경계다. 정규분포표의 P(0≤Z≤1.96)=0.4750P(0\le Z\le1.96)=0.4750을 두 배 하면 0.95가 된다. 99%에는 표의 P(0≤Z≤2.58)≈0.4951P(0\le Z\le2.58)\approx0.4951에서 2.58을 쓰는 교과서도 있다.

교과서에 따라 q^=1−p^\hat q=1-\hat p로 써서 95% 신뢰구간을 p^−1.96p^q^n≤p≤p^+1.96p^q^n\hat p-1.96\sqrt{\frac{\hat p\hat q}{n}}\le p\le\hat p+1.96\sqrt{\frac{\hat p\hat q}{n}}로 적는다. 식 (2)에서 zc=1.96z_c=1.96인 경우와 같다.

계산 전에는 관측 성공 수 np^=xn\hat p=x와 실패 수 n(1−p^)=n−xn(1-\hat p)=n-x가 둘 다 충분히 큰지 확인한다. 각각 10 이상인지 보는 경험적 기준을 쓸 수 있지만, 이는 정확성을 보증하는 정리가 아니다. 자료에 편향이 없고 독립 모형이 적절한지도 별도로 살핀다.

가상 조사 400명 중 240명으로 계산한다

다음은 실제 설문 결과가 아니라 설명을 위해 만든 가상 요약 자료다. 서비스 이용 대상 전체에서 공정하게 조사했으며 독립 추출로 근사할 수 있다고 가정하자. 400명 중 240명이 새 서비스를 원한다고 답했다. 관측 비율은 240/400=0.6240/400=0.6이고 성공·실패 수는 240과 160이다.

SE^=0.6×0.4400=0.0006≈0.024495.(3)\widehat{\mathrm{SE}}=\sqrt{\frac{0.6\times0.4}{400}} =\sqrt{0.0006}\approx0.024495.\tag{3}

95% 구간의 좌우에 붙일 양, 즉 오차한계는 1.96×0.024495≈0.048011.96\times0.024495\approx0.04801이다. 중간값을 너무 일찍 반올림하지 않고 끝에서 반올림하면 다음 구간이 나온다.

0.6±0.04801⟹[0.55199,0.64801]≈[0.552,0.648].(4)0.6\pm0.04801\quad\Longrightarrow\quad [0.55199,0.64801]\approx[0.552,0.648].\tag{4}

이는 약 55.2%~64.8%다. 점추정 60%에서 좌우 약 4.8%포인트라는 뜻이며, 60%의 4.8%를 계산한 상대적 변화와 다르다. 신뢰구간의 길이는 오차한계의 두 배인 약 0.0960이다.

식 (1)에서 pp 대신 p^\hat p를 넣어도 되는 이유를 이 숫자로 확인할 수 있다. 구간 안의 어느 값을 pp로 넣어도 표준오차는 0.0239~0.0249여서 관측 비율로 구한 0.0245와 거의 같다. 표본이 크면 p^\hat p가 pp 가까이에 모이기 때문이다.

그림 1은 신뢰도와 표본 크기를 바꾼 비교다.

관측 비율이 0.6일 때 정규근사 구간을 비교한다. 위는 n=400·95%, 가운데는 같은 크기·99%, 아래는 관측 비율을 같게 둔 n=1600·95%다. 계수 1.96과 2.576을 사용했으며, 신뢰도를 높이면 넓어지고 표본 크기를 네 배로 하면 폭이 절반이 된다.
그림 1 관측 비율이 0.6일 때 정규근사 구간을 비교한다. 위는 n=400n=400·95%, 가운데는 같은 크기·99%, 아래는 관측 비율을 같게 둔 n=1600n=1600·95%다. 계수 1.96과 2.576을 사용했으며, 신뢰도를 높이면 넓어지고 표본 크기를 네 배로 하면 폭이 절반이 된다. figures/proportion_intervals.py

공학 도구의 숫자를 조사 문장으로 해석한다

GeoGebra Classic의 그래픽 계산기에 다음 명령을 넣는다. 첫 인수는 성공 횟수 240이나 백분율 숫자 60이 아니라 비율 0.6이다. 마지막 인수도 95가 아니라 0.95다.

ZProportionEstimate(0.6,400,0.95)
ZProportionEstimate(0.6,400,0.99)
ZProportionEstimate(0.6,1600,0.95)

화면의 반올림 자릿수가 두 자리라면 첫 결과는 {0.55,0.65}\{0.55,0.65\}로 보인다. 설정에서 소수 자릿수를 늘려 식 (4)의 약 0.552와 0.648을 확인한다. 99% 구간은 약 [0.537,0.663][0.537,0.663], 표본 크기가 1600이고 비율이 같을 때의 95% 구간은 약 [0.576,0.624][0.576,0.624]다. 도구는 더 정밀한 정규 경계값을 사용한다.

보고할 때는 ‘가상 조사에서는 서비스 이용 대상의 찬성 비율을 60%로 추정했고, 독립 추출과 큰 표본 정규근사를 가정한 95% 신뢰구간은 약 55.2%~64.8%다’라고 조건까지 적는다. 실제 활동에서는 모집단과 표본틀을 정하고, 동의를 받은 응답을 모아 찬성 수·전체 수·미응답 수를 기록한 뒤 같은 계산을 해 보자. 응답 자료를 얻었다는 사실만으로 독립·대표성이 확인되지는 않는다.

관측 비율이 미리 정한 기준과 다른지 판단하는 일은 모비율 검정에서 다룬다. 검정은 표준오차에 관측 비율 대신 기준으로 세운 비율을 넣으므로 식 (1)과 계산이 다르다.

95% 신뢰구간은 사람의 95%가 들어가는 범위인가?

아니다. 개인의 응답은 찬성 또는 비찬성이며, 추정 대상은 모집단의 고정된 비율이다. 모평균의 추정과 마찬가지로 반복해서 만든 구간의 포함 비율로 해석하되, 이 글의 방법은 큰 표본의 근사임을 함께 밝힌다.

인터넷 자발적 설문도 응답이 많으면 이 구간을 믿어도 되는가?

아니다. 자발적 설문에서 계산되는 숫자만으로는 충분하지 않다. 관심이 큰 사람만 응답하는 선택 편향은 식 (2)의 표준오차에 들어 있지 않다. 조사 대상·추출 방법·응답 누락을 확인해야 하며 큰 응답 수가 그 조건을 대신하지 못한다.

성공이 한 번도 없으면 확실히 모비율 0인가?

아니다. 100번에서 성공 0번을 관측하면 식 (1)은 표준오차 0을 만들고 식 (2)는 [0,0][0,0]을 낸다. 이것은 모비율을 완벽히 알아냈다는 뜻이 아니라, 이 상황에 단순한 근사식을 적용하면 안 된다는 신호다.

예를 들어 실제 모비율이 p=0.01p=0.01인 독립 시행에서 100번 모두 실패할 확률은 다음과 같다. 모비율이 양수인데도 성공 0번은 충분히 나올 수 있다.

P(X=0)=(1−0.01)100=0.99100≈0.3660.(5)P(X=0)=(1-0.01)^{100}=0.99^{100}\approx0.3660.\tag{5}

그림 2는 이항분포의 정확한 확률을 보여 준다. 0번의 막대가 작지 않은데, 그 결과를 관측했다는 이유로 양수인 모든 모비율을 제외하면 안 된다. 관측 성공·실패 수가 작은 경우에는 이항분포를 직접 사용하는 구간이나 다른 개선된 방법이 필요하다. 그 계산은 이 글의 큰 표본 근사 범위 밖이다.

모비율 0.01, 독립 시행 100번에서 성공 횟수의 정확한 이항확률이다. 0번의 확률 약 0.366을 주황색으로 표시했다. 가로축은 0~6번만 표시했으며, 7번 이상의 확률도 0은 아니다. 성공을 보지 못한 표본만으로 모비율이 0이라고 확정할 수 없음을 보여 준다.
그림 2 모비율 0.01, 독립 시행 100번에서 성공 횟수의 정확한 이항확률이다. 0번의 확률 약 0.366을 주황색으로 표시했다. 가로축은 0~6번만 표시했으며, 7번 이상의 확률도 0은 아니다. 성공을 보지 못한 표본만으로 모비율이 0이라고 확정할 수 없음을 보여 준다. figures/zero_successes.py

모비율의 근사 구간은 언제 95%를 지키지 못하나

기대 성공 수나 실패 수가 적을 때, 즉 표본이 작거나 모비율이 0이나 1에 가까울 때다. n=100n=100, p=0.01p=0.01이면 식 (2)의 95% 구간이 모비율을 포함할 확률은 0.633뿐이다.

그림 3은 실제 모비율 pp마다 이 포함확률을 이항분포로 정확히 계산한 것이다. n=400n=400이면 0.1≤p≤0.90.1\le p\le0.9에서 약 0.934~0.955로 95% 근처에 머문다. n=100n=100, p=0.01p=0.01이면 기대 성공 수가 1뿐이고, 식 (5)의 확률 0.366만큼은 [0,0][0,0]이 나와 반드시 놓친다. 기대 성공 수가 5인 p=0.05p=0.05에서도 0.877이다.

곡선이 톱니 모양인 까닭은 표본비율이 0,1/n,2/n,…0,1/n,2/n,\ldots처럼 띄엄띄엄한 값만 갖기 때문이다. 앞에서 성공·실패 수를 먼저 점검하라고 한 이유가 이 그림에 있다.

가로축은 실제 모비율 p(0.01~0.5), 세로축은 그 p에서 식 (2)의 95% 근사 구간이 p를 포함할 정확한 이항확률이다. n=400이면 0.1≤ p≤0.5에서 약 0.934~0.955로 0.95 근처에 머물지만, n=100이면 p=0.01에서 0.633까지 떨어진다. 곡선은 p=0.5를 기준으로 대칭이라 절반만 그렸다.
그림 3 가로축은 실제 모비율 pp(0.01~0.5), 세로축은 그 pp에서 식 (2)의 95% 근사 구간이 pp를 포함할 정확한 이항확률이다. n=400n=400이면 0.1≤p≤0.50.1\le p\le0.5에서 약 0.934~0.955로 0.95 근처에 머물지만, n=100n=100이면 p=0.01p=0.01에서 0.633까지 떨어진다. 곡선은 p=0.5p=0.5를 기준으로 대칭이라 절반만 그렸다. figures/wald_coverage.py

중복 없이 조사한 경우에도 같은 공식이 정확한가?

엄밀히는 아니다. 유한 모집단에서 비복원추출한 관측들은 독립이 아니다. 모집단에 비해 표본 비중이 매우 작으면 독립 모형으로 근사할 수 있지만, 큰 비중을 조사했다면 유한 모집단 보정 등을 검토해야 한다. 전수조사로 비율을 직접 알게 된 상황까지 식 (2)를 그대로 적용하지 않는다.

필요한 표본 크기는 오차한계에서 거꾸로 구한다

조사를 계획할 때는 원하는 오차한계 EE를 먼저 정하고, zcp^(1−p^)/n≤Ez_c\sqrt{\hat p(1-\hat p)/n}\le E를 nn에 대해 푼다. 조사 전이라 p^\hat p를 모르면 예비 조사의 값을 넣거나 가장 불리한 값 0.5를 넣는다.

n≥zc2 p^(1−p^)E2.(6)n\ge\frac{z_c^2\,\hat p(1-\hat p)}{E^2}.\tag{6}

예비 조사에서 찬성 비율이 0.6 근처였다면, 95% 오차한계 3%포인트(E=0.03E=0.03) 이하에 필요한 표본은 n≥1.962×0.24/0.032≈1024.4n\ge1.96^2\times0.24/0.03^2\approx1024.4다. 표본 크기는 자연수이므로 올림하여 최소 1025명이다.

예상 비율을 모를 때는 p^(1−p^)\hat p(1-\hat p)의 최댓값을 쓴다. 완전제곱식으로 바꾸면 이 곱은 p^=0.5\hat p=0.5에서 가장 크다.

p^(1−p^)=14−(p^−12)2≤14.(7)\hat p(1-\hat p)=\frac14-\left(\hat p-\frac12\right)^2\le\frac14.\tag{7}

식 (7)에 따라 식 (6)의 p^(1−p^)\hat p(1-\hat p) 자리에 1/41/4를 넣으면, 어떤 관측 비율이 나와도 오차한계가 EE 이하인 표본 크기를 얻는다.

n≥1.962×140.032=1067.11…(8)n\ge\frac{1.96^2\times\frac14}{0.03^2}=1067.11\ldots\tag{8}

따라서 최소 1068명이다. 예상 비율 0.6을 썼을 때보다 43명 많다. 그림 4에서 오차한계는 p^=0.5\hat p=0.5에서 가장 크고 양 끝으로 갈수록 작아진다.

95% 근사 구간의 오차한계 E=1.96√hat p(1-hat p)/n을 관측 비율 hat p에 따라 그렸다. 곡선은 hat p=0.5에서 가장 높아 n=400이면 0.049, n=1000이면 0.031이다. 파란 점은 본문 예의 hat p=0.6, n=400에서의 0.048이다.
그림 4 95% 근사 구간의 오차한계 E=1.96p^(1−p^)/nE=1.96\sqrt{\hat p(1-\hat p)/n}을 관측 비율 p^\hat p에 따라 그렸다. 곡선은 p^=0.5\hat p=0.5에서 가장 높아 n=400n=400이면 0.049, n=1000n=1000이면 0.031이다. 파란 점은 본문 예의 p^=0.6\hat p=0.6, n=400n=400에서의 0.048이다. figures/margin_by_phat.py

여론조사의 표본오차 ±3.1%포인트는 어떻게 계산하나?

여론조사의 표본오차 ±3.1%포인트는 응답자 1,000명 조사에서 95% 신뢰수준의 최대 오차한계다. 식 (2)에 가장 불리한 p^=0.5\hat p=0.5를 넣으면 1.960.25/1000≈0.0311.96\sqrt{0.25/1000}\approx0.031, 즉 약 3.1%포인트가 된다. 무작위 추출을 전제로 계산한 값이므로 응답 편향까지 담지는 않는다.

핵심

모비율은 관측 표본비율로 추정하고, 독립 추출 모형의 큰 표본에서 추정 표준오차를 붙여 신뢰구간을 근사한다. 관측 성공·실패 수와 조사 방식을 확인하며, 극단 비율의 0폭 구간을 확신으로 읽지 않는다.

모비율의 추정에서 흔히 생기는 오해

  • 도구가 구간을 출력하면 적용 조건도 확인해 준 것이다. — 도구는 입력한 수로 식을 계산한다. 응답자가 어떻게 선택되었는지는 그 세 인수만으로 알 수 없다.
  • 신뢰도가 99%이면 같은 조사에서 구간이 더 좁아진다. — 더 높은 포함 비율을 얻으려면 더 넓게 잡는다. 가상 예에서는 약 53.7%~66.3%로 넓어진다.
  • 모집단이 클수록 같은 오차한계에 더 많은 표본이 필요하다. — 식 (6)에는 모집단 크기가 없다. 표본 비중이 작은 독립 근사에서는 모집단이 몇만 명이든 몇천만 명이든 최소 1068명이면 95% 오차한계가 3%포인트 이하다.
  • 표본오차 ±3.1%포인트는 모든 응답 비율에 같은 크기로 붙는다. — 그 값은 p^=0.5\hat p=0.5일 때의 최댓값이다. 같은 1,000명이라도 p^=0.2\hat p=0.2인 항목의 95% 오차한계는 1.960.16/1000≈0.0251.96\sqrt{0.16/1000}\approx0.025, 약 2.5%포인트다.

직접 해보기

  1. 독립 추출 모형으로 근사할 수 있는 조사에서 200명 중 90명이 찬성했다. 관측 비율, 추정 표준오차와 95% 근사 신뢰구간을 구하자. 계수는 1.96을 쓴다.
  2. 위 계산의 오차한계를 비율과 %포인트로 각각 쓰자. 45%의 몇 %라는 표현과 어떻게 다른가?
  3. nn명을 조사해 만든 95% 근사 신뢰구간이 [0.451,0.549][0.451,0.549]였다. 관측 비율과 nn을 구하자.
  4. 50번의 독립 시행에서 성공 0번을 관측했다. 모비율이 0.02라고 가정했을 때 성공 0번의 확률을 구하고, [0,0][0,0] 구간을 확신하면 안 되는 이유를 설명하자.
  5. 95% 오차한계를 0.04 이하로 하려고 한다. 예상 비율을 전혀 모를 때와, 예비 조사에서 0.2 근처였을 때 필요한 최소 표본 크기를 각각 구하자.
답과 풀이
  1. p^=90/200=0.45\hat p=90/200=0.45이고 관측 성공·실패는 90과 110이다. 추정 표준오차는 0.45×0.55/200≈0.035178\sqrt{0.45\times0.55/200}\approx0.035178이다. 오차한계는 약 0.068949, 구간은 약 [0.3811,0.5189][0.3811,0.5189]다. 추출 모형이 적절하다는 조건 아래의 근사 결과다.
  2. 비율로 약 0.06895, 백분율의 차이로 약 6.895%포인트다. 이는 45%에 상대 비율을 곱하는 계산과 다르다.
  3. 가운데 (0.451+0.549)/2=0.5(0.451+0.549)/2=0.5가 관측 비율이고, 길이의 절반 0.049가 오차한계다. 1.960.25/n=0.0491.96\sqrt{0.25/n}=0.049에서 0.25/n=0.025\sqrt{0.25/n}=0.025이므로 0.25/n=0.0006250.25/n=0.000625, 즉 n=400n=400이다.
  4. 0.9850≈0.36420.98^{50}\approx0.3642다. 모비율이 양수인 0.02라도 성공 0번이 나올 수 있다. 관측 성공 수가 작은 경계 상황에서 큰 표본 근사식의 0폭 출력을 정확한 추론으로 읽으면 안 된다.
  5. 예상 비율을 모르면 식 (8)처럼 n≥1.962×0.25/0.042=600.25n\ge1.96^2\times0.25/0.04^2=600.25이므로 최소 601명이다. 예상 비율이 0.2이면 식 (6)에서 n≥1.962×0.16/0.042=384.16n\ge1.96^2\times0.16/0.04^2=384.16이므로 최소 385명이다. 예상 비율이 0.5에서 멀수록 필요한 표본이 줄어든다.

더 읽기

영상 노트

영상 노트
  • 00:00 관측 비율에서 모집단 비율을 추정하기
  • 00:50 식 (1)·(2)의 추정 표준오차와 근사 조건, 1.96의 뜻
  • 02:00 식 (3)·(4), 그림 1로 400명 가상 조사 계산
  • 03:10 공학 도구 결과를 백분율·%포인트로 읽기
  • 04:10 식 (5), 그림 2에서 성공 0번의 함정 확인
  • 05:00 그림 3으로 근사 구간의 실제 포함확률 보기
  • 06:00 식 (6)~(8), 그림 4로 표본 크기와 여론조사의 ±3.1%포인트
  • 07:10 조사 조건을 붙인 보고 문장과 새 연습

지도에서의 위치

이 페이지의 기록
  1. 2026-11-16 · 에이전트 초안 — 교과 정의·일반 근거·예제·그림·새 연습과 접힌 풀이 작성
  2. 2026-11-17 · 전수 검수 반영 — 1.96과 교과서 표기 다리, 관측 비율을 대입해도 되는 이유, 근사 구간의 실제 포함확률, 표본 크기 결정과 여론조사 표본오차, 질문·오해·연습 보강, 포함확률이 0.95 근처인 모비율 범위와 끝값 정정 (에이전트 수정, 그림 2→4)
  3. 2026-11-17 · 전수 검수(에이전트 편집·독립 검증) 통과 — 주인 요청으로 완성으로 올림