Chapter 08

표본 분포

300 mm 웨이퍼 한 장의 막두께를 수백 점 모두 재는 일은 드물다. 보통 9점, 많아야 49점을 재고 "이 웨이퍼의 평균 두께는 100.2 nm"라고 말한다. 그 말을 얼마나 믿을 수 있을까? 답은 같은 방식으로 표본을 다시 뽑았다면 그 숫자가 얼마나 달라졌을지에 있다. 표본을 뽑을 때마다 흔들리는 숫자, 곧 통계량의 분포가 표본 분포다. 이 장에서는 표본을 수천 번 다시 뽑아 그 분포를 직접 쌓아 보고, 표준 오차 $\sigma/\sqrt n$, 카이제곱·t·F 분포, 최솟값·최댓값의 분포가 어디서 나오는지 확인한다. 아래 웨이퍼에서 점들이 뽑히고 그 평균이 오른쪽 히스토그램에 떨어진다. 흰 원을 끌어 측정점 수 $n$을 바꿔 보자.

흰 원을 끌어 n을 바꾼다 · 웨이퍼를 누르면 표본

모집단·표본·모수·통계량을 구별하고, 복원·비복원 추출과 유한 모집단 수정 $\sqrt{(N-n)/(N-1)}$을 계산한다.
단순 무작위·층화·군집·계통 추출을 설명하고, 웨이퍼의 공간 무늬에 따라 어느 설계의 표준 오차가 작은지 판단한다.
통계량의 표본 분포를 정의하고, 작은 모집단에서 모든 표본을 나열해 표본 분포를 정확히 구한다.
$E[\bar X] = \mu$, $\operatorname{Var}(\bar X) = \sigma^2/n$을 유도하고, 표준 오차와 정규 근사로 표본 평균의 확률을 계산한다. 웨이퍼 사이·웨이퍼 안 산포가 섞인 경우의 표준 오차를 구한다.
카이제곱 분포를 표준 정규 변수의 제곱합으로 이해하고, $(n-1)S^2/\sigma^2 \sim \chi^2_{n-1}$로 표본 분산의 확률을 계산한다.
t 분포와 F 분포가 어떻게 만들어지는지 설명하고, 분포표의 상위 분위수 $t_{\alpha,\nu}$, $F_{\alpha,\nu_1,\nu_2}$를 읽는다.
순서 통계량의 분포 $F_{(n)}(x) = F(x)^n$, $F_{(1)}(x) = 1 - [1-F(x)]^n$으로 최악 사이트와 가장 약한 고리의 확률을 계산한다.

모집단과 표본

알고 싶은 대상 전체를 모집단(population), 실제로 관측한 일부를 표본(sample)이라 한다. 모집단은 "이 웨이퍼의 모든 위치"처럼 유한할 수도 있고, "이 장비가 앞으로 처리할 모든 웨이퍼"처럼 개념상 무한할 수도 있다. 모집단을 요약하는 고정된 숫자 — 평균 $\mu$, 분산 $\sigma^2$, 불량률 $p$ — 를 모수(parameter)라 하고, 표본으로 계산하는 숫자 — $\bar X$, $S^2$, $\hat p$ — 를 통계량(statistic)이라 한다. 모수는 하나로 정해져 있지만 모를 뿐이고, 통계량은 계산할 수 있지만 표본마다 달라진다. 통계적 추론은 이 둘 사이를 잇는 일이다.

모집단은 고정되어 있다. 평균 $\mu$와 표준 편차 $\sigma$도 하나로 정해져 있지만 우리는 모른다.
모집단에서 무작위로 $n$개를 뽑는다. 어느 개체가 뽑힐지는 우연이 정한다.
표본으로 통계량 $\bar x$를 계산한다. 이 숫자는 이번 표본에서만의 값이다.
같은 방법으로 표본을 다시 뽑을 때마다 $\bar x$가 달라진다. 그 값들의 분포가 표본 분포이고, 그 표준 편차가 표준 오차다.

표본 분포는 "가상의 반복"에서 나온다. 실제로는 표본을 한 번만 뽑지만, 그 한 번의 값이 얼마나 믿을 만한지는 반복했을 때의 흔들림이 정한다.

모집단의 모수	표본의 통계량	뜻
$\mu$	$\bar X = \frac1n\sum X_i$	평균
$\sigma^2$	$S^2 = \frac1{n-1}\sum (X_i - \bar X)^2$	분산
$p$	$\hat p = X/n$	비율(불량률·수율)
모집단 최댓값	$X_{(n)} = \max X_i$	최악값

무작위 추출과 유한 모집단

모집단의 모든 개체가 같은 확률로, 그리고 모든 $n$개 묶음이 같은 확률로 뽑히게 하는 방법을 단순 무작위 추출(simple random sampling, SRS)이라 한다. 뽑은 것을 되돌려 놓고 다시 뽑으면 복원 추출(sampling with replacement), 되돌리지 않으면 비복원 추출(sampling without replacement)이다. 복원 추출이거나 모집단이 무한하면 $X_1, \dots, X_n$은 서로 독립이고 같은 분포를 따른다(i.i.d.). 이 장의 대부분은 이 경우를 다룬다.

비복원 추출에서는 하나를 뽑으면 남은 모집단이 바뀌어 $X_i$끼리 약한 음의 상관을 갖는다. 크기 $N$인 모집단에서 $n$개를 비복원으로 뽑으면 표본 평균의 분산이 다음처럼 준다.

$$\operatorname{Var}(\bar X) = \frac{\sigma^2}{n}\cdot\frac{N-n}{N-1},\qquad \mathrm{SE} = \frac{\sigma}{\sqrt n}\sqrt{\frac{N-n}{N-1}}$$

$\sqrt{(N-n)/(N-1)}$을 유한 모집단 수정(finite population correction, FPC)이라 한다. $n = N$이면 0 — 전수 조사에는 표본 오차가 없다. 추출률 $n/N$이 5% 미만이면 1에 가까워 보통 무시한다.

웨이퍼 25장짜리 로트에서 5장을 골라 두께를 잰다. 웨이퍼 평균 두께의 표준 편차가 $\sigma$ = 2.0 nm이면 복원 추출로 생각한 표준 오차는 이지만, 같은 웨이퍼를 두 번 뽑지 않으므로 유한 모집단 수정 이 곱해져 실제 표준 오차는 이다. 추출률은 —

로트 크기 N

MINI LAB위쪽은 로트의 웨이퍼 $N$장(색은 평균 두께)과 이번에 비복원으로 뽑힌 $n$장, 아래는 $n$에 따른 표준 오차다. 곡선 위 흰 원을 끌어 $n$을 바꾸고 "200번 뽑기"를 누르면, 실제로 다시 뽑은 평균들의 표준 편차(초록 점)가 비복원 곡선(실선)에 붙고 복원 곡선(점선)보다 아래에 놓인다. $n = N$이면 0이 된다.

25장 로트에서 5장을 비복원으로 골라 평균 두께를 낸다. 웨이퍼별 평균 두께는 표준 편차 2.0 nm로 흩어져 있다. 이 로트 평균 추정의 표준 오차는? 유한 모집단 수정을 무시하면 몇 % 과대평가하는가?

풀이 보기

전략 비복원 추출이고 추출률이 20%로 크므로 FPC를 곱한다.

풀이 $\sigma/\sqrt n = 2.0/\sqrt5 = 0.894$ nm. $\sqrt{(25-5)/(25-1)} = \sqrt{0.8333} = 0.913$. $\mathrm{SE} = 0.894 \times 0.913 = 0.816$ nm.

SE ≈ 0.816 nm (FPC 무시하면 0.894 nm, 약 9.5% 과대)

검토 로트의 20%를 이미 보았으니 모르는 부분이 줄어 SE가 작아지는 것이 맞다. 다만 이 SE는 "이 로트"의 평균에 대한 것이다. 장비의 장기 평균(무한 모집단)을 말하려면 FPC를 쓰지 않는다.

표본 추출 방법: 층화·군집·계통

단순 무작위 추출이 기본이지만, 모집단에 구조가 있으면 더 영리하게 뽑을 수 있다. 웨이퍼 막두께는 대개 중심에서 가장자리로 갈수록 변하는 동심원 무늬를 띤다. 이런 구조를 알고 뽑느냐 모르고 뽑느냐에 따라 같은 측정점 수로 얻는 정밀도가 크게 달라진다.

층화 추출(stratified sampling): 모집단을 서로 겹치지 않는 층(stratum)으로 나누고, 층마다 따로 무작위 추출한다. 웨이퍼라면 중심·중간·가장자리 고리. 층 안이 균질할수록 효과가 크다.
군집 추출(cluster sampling): 모집단을 덩어리(군집)로 나누고 덩어리 몇 개를 골라 그 안을 모두 잰다. 다이 하나 안의 모든 사이트, 로트 하나의 모든 웨이퍼. 이동·준비 비용이 싸지만 군집 안이 비슷하면 정보가 겹친다.
계통 추출(systematic sampling): 목록에서 시작점 하나만 무작위로 고르고 그 뒤로 $k$번째마다 뽑는다. 간단하고 고르게 퍼지지만, 모집단에 주기 $k$와 맞는 무늬가 있으면 크게 틀린다.

같은 9점이라도 배치 방법이 다르다. 층화는 고리마다 3점씩 정해서 뽑고, 군집은 다이 하나에 9점이 몰리며, 계통은 목록(행 단위 순서)에서 일정 간격으로 뽑아 고르게 퍼진다.

층화 추출에서 층 $h$의 모집단 비율을 $W_h = N_h/N$, 층 안 표본 평균을 $\bar x_h$, 층 안 표준 편차를 $S_h$, 표본 수를 $n_h$라 하면 모평균의 추정과 그 표준 오차는

$$\bar x_{\text{st}} = \sum_h W_h\,\bar x_h,\qquad \mathrm{SE}(\bar x_{\text{st}}) = \sqrt{\sum_h W_h^2\,\frac{S_h^2}{n_h}\Big(1 - \frac{n_h}{N_h}\Big)}$$

층 사이의 차이는 SE에 들어가지 않고 층 안의 산포 $S_h$만 들어간다. 그래서 층을 "안은 비슷하고 서로는 다르게" 나누면 이득이 크다. $n_h \propto N_h$(비례 배분)가 기본이고, $n_h \propto N_hS_h$(네이만 배분)이면 같은 $n$에서 SE가 가장 작다.

막두께가 중심에서 가장자리로 갈수록 두꺼워지는 웨이퍼에서 똑같이 9점을 잰다. 웨이퍼 평균 추정의 표준 오차가 가장 큰 설계는?

군집 안 9점은 서로 가까워 거의 같은 값을 준다. 9점을 쟀지만 정보는 1점어치에 가깝다. 반대로 층화는 고리 사이의 차이를 미리 제거해 SRS보다 SE가 작다. 시뮬레이터에서 설계를 바꿔 가며 SE 막대를 비교하라.

SIMULATOR

웨이퍼 측정 계획 설계실

고리의 흰 원을 끌어 층 경계를 옮긴다

설계

측정점 수 n

층화: 네이만 배분($n_h \propto N_hS_h$)

반복

모평균 μ—

이번 추정값—

반복 횟수—

모의 SE—

정확한 SE(RMSE)—

도전—

왼쪽 웨이퍼는 막두께 지도(파랑 얇음, 빨강 두꺼움)이고 초록 원이 이번 표본이다. 오른쪽 위는 반복해서 얻은 추정값의 히스토그램, 오른쪽 아래는 네 설계의 정확한 표준 오차(군집·계통은 편향을 포함한 RMSE, 모든 가능한 표본을 열거해 계산)다. 도전: 두 고리 경계(흰 원)를 끌어 층화 추출의 표준 오차를 같은 $n$의 단순 무작위 추출의 0.6배 이하로 만들어라(도전 칸에 지금 비율이 보인다). 해볼 것: ① 군집 설계로 1000번 반복하면 히스토그램이 넓고, 중심에서 조금 비켜 있다(가장자리 군집이 잘린 탓의 편향). ② 경계를 바깥으로 끌어 가장자리 층을 얇게 만들면 SE가 준다 — 두께가 빨리 변하는 곳을 잘게 나누는 셈이다. ③ 계통 추출은 $n$ = 9, 25에서는 층화만큼 좋지만 $n$ = 5, 13, 49에서는 나쁘다. 행 단위 목록에서 간격이 웨이퍼 행 길이와 어떻게 맞물리느냐에 달린 운이다.

계통 추출은 목록의 순서가 결과를 정한다. 행 단위로 늘어놓은 웨이퍼 사이트에서 $k$번째마다 뽑으면 위아래로 고르게 퍼져 은근히 층화 효과를 얻는다. 그러나 목록에 주기가 숨어 있으면 이야기가 다르다. 노광 샷(보통 다이 몇 개 묶음)마다 되풀이되는 무늬가 있는 선을 따라 일정 간격으로 재면, 간격이 샷 주기와 맞을 때 매번 샷의 같은 자리만 재게 된다.

간격 k

MINI LAB한 줄로 늘어선 사이트 96개의 값(주기 6짜리 샷 무늬 + 잡음)에서 $k$번째마다 뽑는다. 아래 막대는 가능한 시작점 $k$개 각각이 주는 추정값이다. $k$를 6이나 12로 맞추면 시작점에 따라 추정값이 크게 갈린다 — 표준 오차가 단순 무작위 추출보다 훨씬 커진다.

9점·49점 측정 계획은 층화 추출이다 막두께·면저항·CD 계측 레시피의 표준 측정 계획은 대개 중심 1점, 반지름 절반 고리 4점, 가장자리 고리 4점(9점) 또는 고리 4–5개에 49점을 고르게 놓는다. 무작위가 아니라 고정된 위치지만, 생각은 층화 추출과 같다 — 반지름 방향 무늬를 고리로 나눠 각 고리를 대표하게 한다. 그래서 "49점 평균"을 웨이퍼 평균으로 쓸 때는 고리마다 면적 가중을 줄지(층화 추정량), 점 평균을 그대로 쓸지에 따라 값이 달라지고, 가장자리 제외 거리(edge exclusion)를 몇 mm로 두느냐가 균일도 숫자를 바꾼다. 인라인 모니터는 웨이퍼 몇 장 × 점 몇 개의 군집 구조라서 다음 절의 "웨이퍼 사이 + 웨이퍼 안" 분산으로 읽어야 한다. → ProcessBook · 계측·결함·수율(무엇을, 어떻게 재는가) · YieldBook · 웨이퍼에서 다이로(300 mm 웨이퍼의 지리)

웨이퍼를 면적 비율 0.25(중심), 0.35(중간), 0.40(가장자리)인 고리 셋으로 나누고 고리마다 무작위로 3점씩 쟀다. 고리별 표본 평균은 101.2, 100.4, 99.8 nm, 표본 표준 편차는 0.4, 0.5, 0.9 nm다. 웨이퍼 평균의 층화 추정값과 표준 오차는? (사이트 수가 많아 FPC는 무시한다.)

풀이 보기

전략 점 9개의 단순 평균이 아니라 면적 가중 평균을 쓴다. SE는 층 안 분산만으로 계산한다.

풀이 $\bar x_{\text{st}} = 0.25(101.2) + 0.35(100.4) + 0.40(99.8) = 25.30 + 35.14 + 39.92 = 100.36$ nm.
$\mathrm{SE}^2 = 0.25^2\frac{0.4^2}{3} + 0.35^2\frac{0.5^2}{3} + 0.40^2\frac{0.9^2}{3} = 0.00333 + 0.01021 + 0.04320 = 0.05674$, $\mathrm{SE} = 0.238$ nm.

$\bar x_{\text{st}}$ = 100.36 nm, SE ≈ 0.238 nm

검토 점 9개의 단순 평균은 $(101.2 + 100.4 + 99.8)/3 = 100.47$ nm로, 면적이 작은 중심 고리를 과대 대표한다. SE에서 가장 큰 몫은 산포가 큰 가장자리 고리에서 온다 — 네이만 배분이라면 가장자리에 점을 더 준다.

통계량과 표본 분포

$X_1, \dots, X_n$이 확률 변수이므로 그 함수인 통계량 $T = g(X_1, \dots, X_n)$도 확률 변수다. 통계량의 확률 분포를 표본 분포(sampling distribution)라 한다. 표본 분포의 표준 편차를 그 통계량의 표준 오차(standard error, SE)라 부른다. 자료 하나하나의 흩어짐($\sigma$)과, 그 자료로 계산한 통계량의 흩어짐(SE)을 구별하는 것이 이 장의 핵심이다.

표본 분포를 구하는 길은 셋이다. ① 모집단이 작으면 가능한 모든 표본을 나열한다. ② 기댓값·분산의 성질과 분포 이론으로 공식을 유도한다(다음 절들). ③ 컴퓨터로 수천 번 다시 뽑는다(7장의 몬테카를로). 먼저 ①로 감을 잡자.

모집단: 다이당 결함 수가 0, 1, 2일 확률이 0.5, 0.3, 0.2이다. $\mu = 0.7$, $\sigma^2 = 0.61$.
다이 2개를 독립으로 뽑으면 순서쌍이 9가지이고, 확률은 곱이다. 각 표본의 평균을 옆에 적는다.
같은 $\bar x$를 주는 표본끼리 확률을 더한다.
이것이 $\bar X$의 표본 분포다. 평균은 모평균과 같고 분산은 모분산의 절반이다 — 다음 절의 $\sigma^2/n$ 그대로다.

모든 표본을 나열해 얻은 표본 평균의 정확한 분포. 모집단은 0에 몰린 비대칭 분포인데, $n = 2$만 되어도 $\bar X$의 분포는 가운데로 모이기 시작한다.

위 그림의 모집단(결함 수 0, 1, 2의 확률 0.5, 0.3, 0.2)에서 다이 2개를 독립으로 뽑는다. $P(\bar X \ge 1.5)$와 $\operatorname{Var}(\bar X)$를 구하라.

풀이 보기

전략 나열한 표본 분포에서 바로 더한다. 분산은 $E[\bar X^2] - (E[\bar X])^2$로 계산해 $\sigma^2/2$와 맞는지 본다.

풀이 $P(\bar X \ge 1.5) = 0.12 + 0.04 = 0.16$.
$E[\bar X] = 0(0.25) + 0.5(0.30) + 1(0.29) + 1.5(0.12) + 2(0.04) = 0.70$.
$E[\bar X^2] = 0.25(0.30) + 1(0.29) + 2.25(0.12) + 4(0.04) = 0.795$, $\operatorname{Var}(\bar X) = 0.795 - 0.49 = 0.305$.

$P(\bar X \ge 1.5) = 0.16$, $\operatorname{Var}(\bar X) = 0.305 = 0.61/2$

검토 다이 하나가 결함 2개 이상일 확률은 0.2인데, 두 다이 평균이 1.5 이상일 확률은 0.16으로 줄었다. 평균은 극단값을 누그러뜨린다.

이제 ③의 방법으로, 모집단 모양과 통계량을 바꿔 가며 표본 분포를 쌓아 보자. 위에서부터 모집단, 이번 표본, 지금까지의 표본 분포가 한 축 위에 정렬되어 있다.

종 모양 모집단에서 $n = 15$인 표본을 수천 번 뽑아 평균과 중앙값의 표본 분포를 비교한다. 어느 쪽이 더 좁을까?

정규 모집단에서 표본 중앙값의 표준 오차는 큰 $n$에서 $\sqrt{\pi/2}\,\sigma/\sqrt n \approx 1.25\,\sigma/\sqrt n$로 평균보다 약 25% 넓다. 그래서 정규 자료에는 평균이 더 효율적이다(9장의 효율성). 대신 꼬리가 무거운 모집단이나 이상값이 섞이면 중앙값이 이긴다 — 쌍봉이나 오른쪽 꼬리 모집단으로 바꿔 확인하라.

SIMULATOR

모집단 → 표본 → 표본 분포

막대 끝을 위아래로 끈다

모집단

표본 크기 n

통계량

뽑기

모집단 μ · σ—

표본 수—

통계량의 평균—

통계량의 SD(모의 SE)—

이론—

자주색 곡선·막대는 이론 분포다: 평균에는 $N(\mu, \sigma^2/n)$ 근사, 최댓값과 홀수 $n$의 중앙값에는 정확한 분포. 해볼 것: ① 오른쪽 꼬리 모집단에서 $n$ = 2, 5, 30으로 평균의 분포를 쌓아 보라. $n$이 커질수록 종 모양이 되고 폭이 $1/\sqrt n$로 준다(7장 중심 극한 정리). ② 통계량을 최댓값으로 바꾸면 분포가 오른쪽 끝에 몰리고 비대칭이다 — $n$이 클수록 더 그렇다. ③ 분산 $S^2$의 분포는 평균이 $\sigma^2$이지만 오른쪽으로 치우쳐 있다. 5절에서 그 정체를 밝힌다.

통계량마다 표본 분포가 다르다는 점이 중요하다. 같은 표본이라도 평균은 모평균 주위에 대칭으로, 최댓값은 모집단의 위쪽 끝에 치우쳐, 분산은 오른쪽 꼬리를 길게 끌며 분포한다. 그 분포를 알아야 "이 표본에서 이 값이 나올 만한가"를 판단할 수 있다 — 10장의 신뢰 구간과 11장의 가설 검정은 모두 표본 분포 위에 세워진다.

표본 평균의 분포와 표준 오차

$X_1, \dots, X_n$이 평균 $\mu$, 분산 $\sigma^2$인 모집단에서 뽑은 i.i.d. 표본이면, 6장의 선형 결합 성질로 바로 다음을 얻는다.

$$E[\bar X] = \frac1n\sum_{i=1}^n E[X_i] = \mu,\qquad \operatorname{Var}(\bar X) = \frac1{n^2}\sum_{i=1}^n \operatorname{Var}(X_i) = \frac{\sigma^2}{n},\qquad \mathrm{SE}(\bar X) = \frac{\sigma}{\sqrt n}$$

첫째 식은 $\bar X$가 평균적으로 과녁 $\mu$에 맞는다는 뜻이다(9장의 불편성). 둘째 식에서 독립이 쓰였다 — 공분산 항이 모두 0이다. $\sigma$를 모르면 $S$로 바꾼 $s/\sqrt n$을 추정 표준 오차로 보고한다.

분포의 모양은 두 경우로 나뉜다. 모집단이 정규 분포이면 정규 변수의 선형 결합이므로 $\bar X \sim N(\mu, \sigma^2/n)$이 $n$에 상관없이 정확하다. 모집단이 정규가 아니어도 $n$이 충분히 크면 중심 극한 정리(7장)에 따라 근사적으로 정규다. 대칭인 모집단은 $n \approx 10$, 치우친 모집단은 $n \ge 30$ 정도가 경험칙이다.

$$Z = \frac{\bar X - \mu}{\sigma/\sqrt n} \;\sim\; N(0, 1)\quad(\text{정확히 또는 근사적으로})$$

CD 산포가 $\sigma$ = 1.2인 패턴을 9곳에서 재면 평균 CD의 표준 오차는 이고, 표본 평균은 95% 확률로 참평균의 ± 안에 든다. 표준 오차를 절반으로 줄이려면 측정점을 곳으로, 곧 4배로 늘려야 한다. 1/10로 줄이려면 100배다 — 정밀도는 측정 횟수의 제곱근으로만 좋아진다.

게이트 CD는 평균 45.0 nm, 표준 편차 1.2 nm인 정규 분포를 따른다. 한 웨이퍼에서 무작위로 9곳을 잰 평균이 45.8 nm를 넘을 확률은? 평균 CD의 표준 오차를 0.3 nm 이하로 만들려면 몇 곳을 재야 하는가?

풀이 보기

전략 정규 모집단이므로 $\bar X \sim N(45.0, 1.2^2/9)$가 정확하다. 표준화해 표준 정규 확률을 읽는다.

풀이 $\mathrm{SE} = 1.2/\sqrt9 = 0.4$ nm. $z = (45.8 - 45.0)/0.4 = 2.00$, $P(\bar X > 45.8) = P(Z > 2) = 0.0228$.
$1.2/\sqrt n \le 0.3 \Rightarrow \sqrt n \ge 4 \Rightarrow n \ge 16$.

$P(\bar X > 45.8) \approx 0.0228$, 16곳 이상

검토 한 점이 45.8을 넘을 확률은 $P(Z > 0.67) \approx 0.25$로 흔하지만, 9점 평균이 넘을 확률은 2.3%로 드물다. 평균의 흔들림은 개별값의 $1/\sqrt n$이다.

표본 평균이 "95% 확률로 어디에 떨어지는지" 감각을 게임으로 익혀 보자. 표본을 뽑기 전에 구간을 먼저 정하고, 그다음 표본 평균 200개를 떨어뜨려 몇 개가 구간 안에 드는지 센다.

SIMULATOR

과녁 맞히기: 표본 평균의 95% 범위

초록 깃발 둘을 끌어 구간을 정한다

곡선 위 흰 원을 끌어 n을 바꾼다

표본 크기 n

모집단

구간—

안에 든 비율—

폭 ÷ 이상적 폭—

점수—

모집단은 평균 100 nm, 표준 편차 2 nm이다(지수 모집단도 같은 평균·표준 편차로 맞췄다). 성공 조건: 200개 중 93–97%가 구간 안에 들고, 구간 폭이 이상적 폭 $2 \times 1.96\,\sigma/\sqrt n$의 1.15배 이하. 해볼 것: ① $n$ = 4에서 성공한 뒤 $n$ = 16으로 바꿔 보라. 구간을 정확히 절반으로 좁혀야 한다. ② 오른쪽 그래프에서 $n$을 끌면 SE 곡선 $\sigma/\sqrt n$을 따라 움직인다. 처음 몇 점을 늘릴 때는 크게 줄지만 $n$ = 30 이후는 거의 평평하다. ③ 지수 모집단에서 $n$ = 2로 대칭 구간을 쓰면 오른쪽 꼬리가 넘쳐 맞히기 어렵다.

다이당 결함 수가 평균 0.4인 포아송 분포를 따른다. 다이 50개를 검사한 평균 결함 수가 0.56 이상(곧 총 결함 28개 이상)일 확률을 정규 근사로 구하고 정확한 값과 비교하라.

풀이 보기

전략 포아송은 $\mu = \sigma^2 = 0.4$이고 치우쳐 있지만 $n = 50$이면 중심 극한 정리가 쓸 만하다. 총합은 정수이므로 연속성 수정(7장)으로 27.5를 쓴다.

풀이 $\mathrm{SE} = \sqrt{0.4/50} = 0.0894$. 총합 ≥ 28 ⇔ $\bar X \ge 27.5/50 = 0.55$(수정 후). $z = (0.55 - 0.40)/0.0894 = 1.68$, $P \approx P(Z > 1.68) = 0.047$.
정확한 값: 총합 $\sim \mathrm{Poisson}(20)$, $P(\text{총합} \ge 28) = 0.0525$.

정규 근사 ≈ 0.047, 정확한 값 0.052

검토 근사가 조금 작다. 포아송의 오른쪽 꼬리가 정규보다 두껍기 때문이다. 50개 평균이라도 위쪽 꼬리 확률은 상대 오차 10% 정도까지 틀릴 수 있다 — 작은 꼬리 확률일수록 정확한 분포를 쓴다.

웨이퍼 사이 산포와 웨이퍼 안 산포

현장의 측정값은 대개 i.i.d.가 아니다. 웨이퍼 $m$장에서 각각 $n$점을 재면, 한 측정값은 "웨이퍼 고유의 치우침"과 "웨이퍼 안 위치에 따른 흔들림"의 합이다: $X_{ij} = \mu + W_i + E_{ij}$, $\operatorname{Var}(W_i) = \sigma_b^2$, $\operatorname{Var}(E_{ij}) = \sigma_w^2$. 그러면 전체 평균의 분산은

$$\operatorname{Var}(\bar X) = \frac{\sigma_b^2}{m} + \frac{\sigma_w^2}{mn}$$

웨이퍼 안 점을 아무리 늘려도($n \to \infty$) 분산은 $\sigma_b^2/m$ 아래로 내려가지 않는다. 같은 웨이퍼의 점들은 $W_i$를 공유하므로 서로 상관되어 있기 때문이다 — 군집 추출이 손해 보는 이유와 같다. 14장의 분산 분석이 $\sigma_b^2$와 $\sigma_w^2$를 나눠 추정한다.

웨이퍼 수 m 웨이퍼당 점 n

MINI LAB$\sigma_b$ = 1.0 nm, $\sigma_w$ = 2.0 nm인 공정에서 $m$장 × $n$점을 잰다. 왼쪽은 이번 측정(웨이퍼마다 한 줄), 오른쪽은 $n$에 따른 SE 곡선과 바닥 $\sigma_b/\sqrt m$(점선)이다. 측정점 27개를 3장 × 9점으로 쓸지 9장 × 3점으로 쓸지 비교해 보라. 웨이퍼를 더 넣는 쪽이 이긴다.

"49점 평균"의 표준 오차는 49로 나누지 않는다 CD나 막두께 균일도 보고서의 산포는 원인별로 쪼개진다: 로트 사이, 웨이퍼 사이, 웨이퍼 안(반지름 무늬 + 샷 안 무늬), 그리고 계측기 반복성. 공정 변경의 효과를 평가할 때 웨이퍼 2장에서 49점씩 98점을 쟀다고 $s/\sqrt{98}$을 표준 오차로 쓰면, 웨이퍼 사이 산포를 무시해 SE를 몇 배 작게 잡고 "유의한 차이"를 남발하게 된다. 실제 독립 단위는 웨이퍼 2장이다. 그래서 스플릿 실험은 웨이퍼 수를 늘리고 웨이퍼 안 점은 9–13점이면 충분한 경우가 많다. → LithoBook · CD 제어와 계측(CD 균일도: 변동을 원인별로 쪼갠다)

카이제곱 분포와 표본 분산의 분포

평균 다음으로 중요한 통계량은 표본 분산 $S^2$이다. 장비의 산포가 사양 안인지, 두 공정의 균일도가 다른지를 판단하려면 $S^2$가 얼마나 흔들리는지 알아야 한다. 그 열쇠가 되는 분포부터 만들자. 서로 독립인 표준 정규 변수 $Z_1, \dots, Z_k$의 제곱합

$$Q = Z_1^2 + Z_2^2 + \cdots + Z_k^2 \;\sim\; \chi^2_k,\qquad E[Q] = k,\qquad \operatorname{Var}(Q) = 2k$$

이 분포를 자유도 $k$인 카이제곱 분포(chi-square distribution)라 한다. 5장의 감마 분포 $\mathrm{Gamma}(k/2, 2)$와 같다: $f(q) = \dfrac{q^{k/2-1}e^{-q/2}}{2^{k/2}\Gamma(k/2)}$, $q > 0$. 자유도(degrees of freedom) $k$는 더한 독립 제곱항의 개수다. $E[Z^2] = 1$, $\operatorname{Var}(Z^2) = E[Z^4] - 1 = 3 - 1 = 2$이므로 평균과 분산이 바로 나온다.

자유도 k

MINI LAB위: 표준 정규 값 $k$개를 뽑아 각각 제곱한 막대를 이어 붙이면 길이가 $Q$다. 아래: 그 $Q$들이 쌓인 히스토그램과 $\chi^2_k$ 밀도(자주색). $k$ = 1, 2는 0에서 가장 높은 J자 모양이고, $k$가 커지면 봉우리가 $k-2$로 옮겨 가며 점점 정규 분포를 닮는다(합이니까 중심 극한 정리).

표본 분산의 분포

정규 모집단 $N(\mu, \sigma^2)$에서 뽑은 표본이라면 다음이 성립한다. 이 장의 가장 중요한 정리 가운데 하나다.

정규 표본의 기본 정리

$X_1, \dots, X_n \overset{\text{iid}}{\sim} N(\mu, \sigma^2)$이면 ① $\bar X \sim N(\mu, \sigma^2/n)$, ② $\dfrac{(n-1)S^2}{\sigma^2} = \dfrac{\sum (X_i - \bar X)^2}{\sigma^2} \sim \chi^2_{n-1}$, ③ $\bar X$와 $S^2$는 서로 독립이다.

왜 자유도가 $n$이 아니라 $n-1$일까? $\sum (X_i - \mu)^2/\sigma^2$는 표준 정규 $n$개의 제곱합이라 $\chi^2_n$이다. 이것을 쪼개면

$$\underbrace{\sum_{i=1}^n \frac{(X_i - \mu)^2}{\sigma^2}}_{\chi^2_n} = \underbrace{\sum_{i=1}^n \frac{(X_i - \bar X)^2}{\sigma^2}}_{(n-1)S^2/\sigma^2} + \underbrace{\left(\frac{\bar X - \mu}{\sigma/\sqrt n}\right)^2}_{\chi^2_1}$$

편차 $X_i - \bar X$는 $n$개지만 합이 늘 0이라는 제약 하나 때문에 자유롭게 움직이는 것은 $n-1$개뿐이다. $\mu$ 대신 표본에서 계산한 $\bar X$를 중심으로 쓰는 대가로 자유도 하나를 잃는다. 이 분해는 14장 분산 분석의 출발점이기도 하다.

여기서 표본 분산의 평균과 분산이 바로 나온다. $E[(n-1)S^2/\sigma^2] = n-1$이므로 $E[S^2] = \sigma^2$(불편), $\operatorname{Var}((n-1)S^2/\sigma^2) = 2(n-1)$이므로

$$E[S^2] = \sigma^2,\qquad \operatorname{Var}(S^2) = \frac{2\sigma^4}{n-1},\qquad \frac{\mathrm{SD}(S^2)}{\sigma^2} = \sqrt{\frac{2}{n-1}}$$

$n = 10$이면 $S^2$의 상대 흔들림이 47%, $n = 30$이어도 26%다. 산포는 평균보다 훨씬 추정하기 어렵다. 1장에서 $n-1$로 나눈 이유가 여기서 확인된다 — $n$으로 나누면 평균이 $(n-1)\sigma^2/n$으로 체계적으로 작다.

표본 크기 n

MINI LAB$\sigma^2 = 1$인 정규 모집단에서 크기 $n$인 표본을 계속 뽑으며, $n-1$로 나눈 분산(초록)과 $n$으로 나눈 분산(빨강)의 누적 평균을 그린다. 초록은 1로, 빨강은 $(n-1)/n$(점선)으로 수렴한다. $n = 2$이면 $n$으로 나눈 분산은 평균적으로 절반밖에 안 된다.

정규 모집단에서 $n = 5$인 표본을 뽑는다. $E[S^2] = \sigma^2$이니까, $S^2$가 $\sigma^2$보다 작게 나올 확률은?

$P(S^2 < \sigma^2) = P(\chi^2_4 < 4) = 0.594$다. $\chi^2$ 분포는 오른쪽 꼬리가 길어서 평균이 중앙값보다 크다. 표본 분산은 "대개는 조금 작게, 가끔은 크게" 나와서 평균이 맞춰진다. 작은 표본으로 잰 산포가 실제보다 좋아 보이기 쉬운 이유다.

SIMULATOR

(n−1)S²/σ²는 정말 카이제곱일까

x축의 흰 원을 끌어 기준값 c를 옮긴다

표본 크기 n

모집단

뽑기

표본 수—

S²의 평균 (σ² = 1)—

S²의 SD · 이론 √(2/(n−1))—

P(Q > c) 이론—

P(Q > c) 모의—

$Q = (n-1)S^2/\sigma^2$의 히스토그램(초록)과 $\chi^2_{n-1}$ 밀도(자주색)를 겹쳐 본다. 빨간 영역이 $Q > c$인 오른쪽 꼬리다. 해볼 것: ① 정규 모집단에서 $c$를 $\chi^2_{0.05,n-1}$(처음 위치)에 두면 모의 꼬리 비율이 5% 근처다. ② 모집단을 지수로 바꾸면 히스토그램이 곡선보다 훨씬 넓고 꼬리 비율이 2–3배가 된다 — 표본 분산의 분포는 정규성에 민감하다. ③ 균일 모집단은 반대로 곡선보다 좁다(꼬리가 가볍다).

정규 공정에서 웨이퍼 10장을 재서 표본 분산을 구한다. 참 분산이 그대로여도 $S^2$가 참값의 1.50배를 넘을 확률은 $P(\chi^2_{\nu} > \nu c)$ = , 참값의 $1/c$배 아래로 나올 확률은 이다($\nu = n-1$ = ). 산포가 50% 커졌다는 경보가 열 번에 한 번 이상 헛울릴 수 있다는 뜻이다.

정상 상태의 막두께 산포가 $\sigma = 0.8$ nm(정규)인 장비에서 웨이퍼 10장의 두께를 재 표본 표준 편차를 구한다. 장비가 정상이어도 $s > 1.0$ nm가 나올 확률은?

풀이 보기

전략 $s > 1.0 \Leftrightarrow S^2 > 1.0$이고, $(n-1)S^2/\sigma^2 \sim \chi^2_9$로 바꾼다.

풀이 $P(S^2 > 1.0) = P\big(\chi^2_9 > 9 \times 1.0/0.64\big) = P(\chi^2_9 > 14.06)$. 부록 A 표에서 $\chi^2_{0.10,9} = 14.68$, $\chi^2_{0.25,9} = 11.39$이므로 0.10과 0.25 사이, 계산기로 0.120.

$P(s > 1.0) \approx 0.12$

검토 표준 편차가 25% 커 보이는 일이 정상 장비에서도 여덟 번에 한 번꼴로 생긴다. 10장으로는 산포 변화를 판정하기 어렵다. 이 계산을 뒤집으면 10장의 모분산 신뢰 구간(10장)과 분산 검정(11장)이 된다.

평균은 튼튼하고 분산은 예민하다

$\bar X$의 분포는 모집단이 정규가 아니어도 중심 극한 정리 덕에 금방 정규가 된다. 그러나 $(n-1)S^2/\sigma^2 \sim \chi^2_{n-1}$은 정규 모집단에서만 성립하고, $n$을 키워도 고쳐지지 않는다. 일반 모집단에서 $\operatorname{Var}(S^2) \approx \frac{\sigma^4}{n}\big(\kappa - \frac{n-3}{n-1}\big)$($\kappa$는 첨도)이므로 꼬리가 두꺼운($\kappa > 3$) 자료에서는 카이제곱 기반 분산 구간·검정이 크게 틀린다. 분산을 따지기 전에 정규성부터 확인한다(12장 Q–Q 그림).

t 분포와 F 분포

정규 표본에서 나오는 분포는 모두 표준 정규 $Z$와 카이제곱 $\chi^2$를 조합해 만든다. 두 가지 조합이 특히 중요하다: 평균을 추정한 표준 오차로 나눈 비(t), 두 분산의 비(F).

정규 표본 이론의 족보. 카이제곱은 정규의 제곱합, t는 정규를 카이제곱의 제곱근으로 나눈 것, F는 카이제곱 두 개의 비다. 오른쪽 아래 관계 덕분에 t 검정과 F 검정이 이어진다(13·14장).

t 분포: σ를 S로 바꾼 대가

$Z = (\bar X - \mu)/(\sigma/\sqrt n)$는 $\sigma$를 알아야 쓸 수 있다. 현실에서는 $\sigma$를 모르므로 $S$를 대신 넣는다. 그러면 분모도 표본마다 흔들리는 확률 변수가 된다.

$$T = \frac{\bar X - \mu}{S/\sqrt n} = \frac{(\bar X - \mu)/(\sigma/\sqrt n)}{\sqrt{\dfrac{(n-1)S^2/\sigma^2}{n-1}}} = \frac{Z}{\sqrt{\chi^2_{n-1}/(n-1)}} \;\sim\; t_{n-1}$$

기본 정리의 ③($\bar X$와 $S^2$의 독립) 덕분에 분자와 분모가 독립이고, 이 비의 분포를 자유도 $\nu = n-1$인 t 분포(Student's t distribution)라 한다. 밀도 $f(t) \propto (1 + t^2/\nu)^{-(\nu+1)/2}$는 0에 대칭인 종 모양이지만 꼬리가 정규보다 두껍다: 분산 $\nu/(\nu-2)$($\nu > 2$). $\nu \to \infty$이면 $S \to \sigma$이므로 $N(0,1)$이 된다.

1908년 기네스 양조장의 화학자 고셋(W. S. Gosset)이 보리 품종을 적은 수의 시료로 비교하다가 이 분포를 찾았고, 회사 규정 때문에 "Student"라는 필명으로 발표했다. 측정 몇 번으로 결론을 내려야 하는 공학 현장의 문제를 위해 태어난 분포다. 분모의 $S$가 우연히 작게 나오면 $T$가 크게 튀므로 꼬리가 두꺼워진다 — 작은 표본일수록 더 그렇다.

정규 모집단에서 $n = 5$인 표본으로 $T = (\bar X - \mu)/(S/\sqrt n)$를 계산한다. $|T| > 1.96$이 나오는 비율은 대략?

$P(|t_4| > 1.96) = 0.122$다. 정규 기준 1.96을 그대로 쓰면 "5% 사건"이라고 믿은 일이 실제로는 12%로 일어난다. 그래서 작은 표본에서는 $z_{0.025} = 1.96$ 대신 $t_{0.025,4} = 2.776$을 쓴다. 시뮬레이터에서 $\sigma$를 아는 $Z$(점선 막대)와 비교해 보라.

SIMULATOR

σ를 알 때와 모를 때: Z와 T

흰 원을 끌어 경계 ±c를 옮긴다

표본 크기 n σ를 아는 Z도 함께 보기 세로축 로그(꼬리 보기)

뽑기

표본 수—

P(|Z| > c) 이론 · 모의—

P(|T| > c) 이론 · 모의—

t_0.025,n−1—

같은 표본으로 $Z$($\sigma$ 사용, 점선 막대)와 $T$($S$ 사용, 초록 막대)를 동시에 계산해 쌓는다. 곡선은 $N(0,1)$(회색 점선)과 $t_{n-1}$(자주색). 해볼 것: ① $n$ = 2($\nu$ = 1, 코시 분포)에서 $T$는 가끔 ±20을 넘는다 — 세로축을 로그로 바꿔 꼬리를 보라. ② $c$를 끌어 $P(|T| > c)$가 5%가 되는 곳을 찾으면 $t_{0.025,n-1}$이다. ③ $n$ = 31이면 두 곡선이 거의 겹친다. 표본 30개 이상이면 z를 써도 된다는 경험칙의 근거다.

표본 6개로 평균의 95% 범위를 정할 때, 정규 분포의 1.96 대신 $t_{0.025,\nu}$ = ($\nu$ = )를 곱해야 한다 — 범위가 넓어진다. 1.96을 그대로 쓰면 실제로 벗어나는 확률은 5%가 아니라 다.

공칭 두께 100.0 nm인 표준 시료를 6번 재 $\bar x = 100.6$ nm, $s = 0.5$ nm를 얻었다. 계측기가 치우치지 않았다면($\mu = 100.0$) 이 정도로 벗어난 $|T|$가 나올 확률은? 정규 분포를 잘못 쓰면 어떻게 판단하게 되는가?

풀이 보기

전략 $\sigma$를 모르므로 $T = (\bar X - \mu)/(S/\sqrt n) \sim t_5$를 쓴다.

풀이 $t = (100.6 - 100.0)/(0.5/\sqrt6) = 0.6/0.2041 = 2.94$. $t_{0.025,5} = 2.571 < 2.94$이므로 양쪽 꼬리 확률은 5%보다 작다. 계산기로 $P(|t_5| > 2.94) = 0.032$.

$t = 2.94$, $P(|T| \ge 2.94) \approx 0.032$

검토 정규 분포로 계산하면 $P(|Z| > 2.94) = 0.003$으로 열 배나 작게 나와, 근거를 과장하게 된다. 이 계산이 11장의 단일 표본 t 검정이다(p 값 0.032).

F 분포: 두 분산의 비

두 장비, 두 공정 조건의 산포를 비교할 때는 분산의 비를 본다. 서로 독립인 두 정규 표본(크기 $n_1$, $n_2$)에서

$$F = \frac{S_1^2/\sigma_1^2}{S_2^2/\sigma_2^2} = \frac{\chi^2_{\nu_1}/\nu_1}{\chi^2_{\nu_2}/\nu_2} \;\sim\; F_{\nu_1,\nu_2},\qquad \nu_1 = n_1 - 1,\ \nu_2 = n_2 - 1$$

이 분포를 분자 자유도 $\nu_1$, 분모 자유도 $\nu_2$인 F 분포(F distribution)라 한다(피셔의 이름에서). 양수이고 오른쪽으로 치우쳤으며 평균은 $\nu_2/(\nu_2-2)$로 1 근처다. 두 모분산이 같으면 $F = S_1^2/S_2^2$이다. 하위 분위수는 상위 분위수로 바꿔 읽는다: $F_{1-\alpha,\nu_1,\nu_2} = 1/F_{\alpha,\nu_2,\nu_1}$.

SIMULATOR

두 표본 분산의 비 쌓기

흰 원을 끌어 기준값 c를 옮긴다

n₁ (분자 표본) n₂ (분모 표본) 참 분산비 σ₁²/σ₂²

뽑기

표본 수—

F_{0.05,ν₁,ν₂}—

P(S₁²/S₂² > c) 이론 · 모의—

비의 중앙값—

두 정규 표본의 분산비 $S_1^2/S_2^2$를 쌓는다(초록). 자주색은 참 분산비가 1일 때의 $F_{\nu_1,\nu_2}$ 밀도, 빨간 영역은 $c$보다 큰 꼬리다. 해볼 것: ① 참 분산비가 1인데도 $n_1 = n_2 = 5$이면 분산비가 3을 넘는 일이 열 번에 한 번 이상이다. ② $c$를 $F_{0.05}$(처음 위치)에 두고 참 분산비를 2로 올리면 꼬리 비율이 얼마나 느는지 보라 — 11장의 검정력이다. ③ $n_1$과 $n_2$를 바꾸면 분포가 어떻게 달라지는가? $\nu_2$가 작을수록 오른쪽 꼬리가 길다.

예를 들어 $n_1 = 11$, $n_2 = 16$이고 두 모분산이 같으면 $P(S_1^2/S_2^2 > 2.0) = P(F_{10,15} > 2.0) = 0.109$다. 한 장비의 분산이 다른 장비의 두 배로 보여도, 그 정도는 열 번에 한 번은 우연히 나온다. F 분포는 14장 분산 분석의 F 검정과 13장 회귀의 유의성 검정에서 다시 주인공이 된다.

순서 통계량: 최솟값과 최댓값

품질은 평균이 아니라 최악이 정할 때가 많다. 웨이퍼에서 가장 얇은 곳, 칩 안 수십억 개 트랜지스터 중 가장 느린 것, 비아 체인에서 가장 저항이 큰 비아, 절연막에서 가장 먼저 뚫리는 지점. 표본을 크기순으로 늘어놓은 $X_{(1)} \le X_{(2)} \le \cdots \le X_{(n)}$을 순서 통계량(order statistics)이라 한다. $X_{(1)}$이 최솟값, $X_{(n)}$이 최댓값, 가운데가 중앙값, $X_{(n)} - X_{(1)}$이 표본 범위(sample range)다.

최댓값이 $x$ 이하라는 말은 모든 값이 $x$ 이하라는 말과 같다. 독립이면 확률이 곱해져 $F(x)^n$이 된다. 최솟값은 거꾸로 "모두 $x$보다 크다"의 여사건이다.

i.i.d. 표본(cdf $F$, pdf $f$)에서 최댓값과 최솟값의 분포는 위 그림의 논리로 바로 나온다.

$$F_{(n)}(x) = P(X_{(n)} \le x) = F(x)^n,\qquad f_{(n)}(x) = n\,f(x)\,F(x)^{n-1}$$$$F_{(1)}(x) = 1 - [1 - F(x)]^n,\qquad f_{(1)}(x) = n\,f(x)\,[1 - F(x)]^{n-1}$$

일반적으로 $k$번째 값의 밀도는 $f_{(k)}(x) = \dfrac{n!}{(k-1)!\,(n-k)!}F(x)^{k-1}[1-F(x)]^{n-k}f(x)$ — $k-1$개는 $x$ 아래, 하나는 $x$ 근처, $n-k$개는 위에 놓이는 다항 확률이다. 균일 $(0,1)$ 표본이면 $U_{(k)} \sim \mathrm{Beta}(k, n-k+1)$, $E[U_{(k)}] = k/(n+1)$: $n$개의 점이 구간을 평균적으로 $n+1$등분한다.

각 사이트의 두께가 정규 분포를 따르고 사양 상한이 평균 + 3.0$\sigma$에 있다. 한 사이트가 사양 안일 확률은 로 넉넉해 보이지만, 독립인 사이트 49곳의 최댓값까지 사양 안일 확률은 $\Phi(z)^n$ = 이다. 최댓값이 95% 확률로 사양 안이려면 상한이 이상 떨어져 있어야 한다.

균일 분포 $(0, 1)$에서 $n$개를 뽑을 때, $n$을 5에서 50으로 늘리면 최댓값의 분포는?

$E[U_{(n)}] = n/(n+1)$이므로 5개면 0.833, 50개면 0.980이다. 표준 편차도 $\approx 1/n$로 줄어 평균의 $1/\sqrt n$보다 빨리 좁아진다. 반면 정규 모집단에서는 최댓값이 끝없이 올라가며($\approx \sigma\sqrt{2\ln n}$), 좁아지는 속도도 아주 느리다. 시뮬레이터에서 모집단을 바꿔 확인하라.

SIMULATOR

k번째 값의 분포 쌓기

흰 원을 끌어 기준값 x를 옮긴다

모집단

표본 크기 n 순위 k (1 = 최솟값)

빠른 선택

뽑기

표본 수—

X_(k)의 평균 · 이론—

P(X_(k) ≤ x) 이론 · 모의—

위 줄은 이번 표본 $n$개(회색)와 그중 $k$번째 값(초록 테두리)이다. 아래는 지금까지 모은 $X_{(k)}$의 히스토그램과 정확한 밀도 $f_{(k)}$(자주색), 점선은 모집단 밀도다. 해볼 것: ① 균일 모집단에서 최댓값을 고르고 $n$을 1에서 60까지 올려 보라. 분포가 1에 달라붙는다. ② 지수 모집단의 최솟값은 다시 지수 분포이고 비율이 $n$배다 — $n$ = 10이면 평균이 0.1. 가장 약한 고리 이야기다. ③ 정규 모집단에서 최댓값의 분포는 $n$이 커져도 오른쪽으로 천천히 옮겨 가고 오른쪽 꼬리가 조금 길다(극값 분포).

비아 하나의 저항이 $N(2.0, 0.1^2)$ Ω을 따르고 비아끼리 독립이다. 체인 하나에 비아가 1000개 있을 때, 가장 큰 비아 저항이 2.3 Ω(평균 + 3σ) 이하일 확률은? 그 확률을 95%로 만들려면 상한을 몇 σ에 두어야 하는가?

풀이 보기

전략 최댓값의 cdf $F(x)^n$을 쓴다. 한 비아의 $P(X \le 2.3) = \Phi(3)$.

풀이 $\Phi(3) = 0.99865$, $P(X_{(1000)} \le 2.3) = 0.99865^{1000} = e^{1000\ln 0.99865} = 0.259$.
$\Phi(z)^{1000} = 0.95 \Rightarrow \Phi(z) = 0.95^{1/1000} = 0.999949 \Rightarrow z = 3.88$.

$P \approx 0.259$, 상한은 약 3.9σ

검토 한 개 기준으로는 넉넉한 3σ가 1000개 중 최악에게는 넉넉하지 않다. 비아가 수십억 개인 칩에서 6σ 설계가 필요한 이유다. 다만 실제 극단의 꼬리는 정규가 아닌 경우가 많아서(결함·공정 이탈), 3.88σ 같은 숫자는 정규 꼬리를 믿을 때만 맞다.

가장 약한 고리

여러 부분 가운데 하나만 고장 나도 전체가 고장 나는 계통의 수명은 부분 수명의 최솟값이다. 넓이 $A$인 게이트 절연막을 작은 조각 $n$개로 나눠 각 조각의 파괴 시간이 와이블 $\mathrm{Weibull}(\beta, \eta)$를 따른다고 하면, 전체의 파괴 시간은

$$P(T_{(1)} > t) = \big[e^{-(t/\eta)^\beta}\big]^n = e^{-n(t/\eta)^\beta} = e^{-(t/\eta_n)^\beta},\qquad \eta_n = \eta\,n^{-1/\beta}$$

최솟값도 같은 모양 $\beta$의 와이블이고 척도만 $n^{-1/\beta}$배로 준다. 이것이 와이블 분포가 "가장 약한 고리" 분포라 불리는 이유이고, 산화막 TDDB 수명을 시험 소자 넓이에서 칩 넓이로 옮기는 넓이 환산 법칙이다(17장).

고리 수 n 와이블 모양 β

MINI LAB고리 하나의 고장 확률 $F(t)$(점선, $\eta$ = 10년)와 $n$개짜리 사슬의 수명 분포(초록 계단은 모의 300개의 경험적 누적 분포, 자주색은 이론). $n$을 늘리면 사슬 수명이 $n^{-1/\beta}$로 짧아진다. $\beta$가 클수록(산포가 작을수록) 넓이 효과가 약하다 — 모두 비슷하게 튼튼하면 최솟값도 크게 떨어지지 않는다.

최댓값으로 모집단 끝 추정하기

순서 통계량은 모집단의 끝을 추정할 때도 쓴다. 제2차 세계 대전 때 연합군은 노획한 독일 전차의 일련번호로 생산 대수 $N$을 추정했다. 1부터 $N$까지 번호가 붙은 전차 가운데 $k$대를 무작위로(비복원) 보았고 그중 최대 번호가 $M$이면, $M$은 늘 $N$ 이하라서 $N$을 체계적으로 작게 잡는다. $E[M] = k(N+1)/(k+1)$을 거꾸로 풀면 편향 없는 추정량이 나온다.

$$\hat N = M\Big(1 + \frac1k\Big) - 1$$

관측된 번호 사이의 평균 간격 $M/k$만큼 최댓값 위로 더 있다고 보는 셈이다. 통계 추정은 한 달 약 250대였고 전후에 확인한 실제 생산량(약 245대)과 거의 맞았다. 같은 시기 첩보 추정은 1000대를 넘었다. 9장에서 이 추정량이 불편 추정량 가운데 분산이 가장 작다는 것을 본다.

SIMULATOR

과녁 맞히기: 일련번호로 전체 수 추정

자주색 깃발을 끌어 N을 추측한다

관측한 번호 수 k

최대 번호 M—

내 추측—

M(1+1/k)−1—

정답 N?

점수—

한 판마다 1–1000 사이의 비밀 $N$이 정해지고, 번호 $k$개가 하나씩 공개된다. 깃발을 끌어 $N$을 추측한 뒤 "정답 공개"를 누른다. 성공 조건: 오차 10% 이내. 그다음 "1000번 비교"를 누르면 최댓값 $M$, $2\bar x - 1$(평균의 두 배), $M(1+1/k)-1$ 세 추정량의 표본 분포가 아래에 쌓인다. 해볼 것: ① $M$은 늘 정답 왼쪽에 있다(편향). ② $2\bar x - 1$은 편향은 없지만 퍼짐이 크다. ③ $k$를 키우면 세 분포가 모두 좁아지지만 $M(1+1/k)-1$이 가장 좁다.

수율과 신뢰성은 극값의 통계다 칩 하나에 트랜지스터가 수십억 개, SRAM 비트 셀이 수억 개 있으면 "평균에서 6σ 떨어진 셀"도 칩마다 여럿 나온다. 그래서 SRAM 설계는 셀 하나의 실패 확률을 $10^{-9}$ 아래로 잡고, 타이밍 사인오프는 가장 느린 경로를, 신뢰성은 가장 먼저 뚫리는 절연막 지점을 본다. TDDB·전자 이동 수명을 시험 구조에서 칩으로 옮길 때는 이 절의 넓이·개수 환산($\eta\,n^{-1/\beta}$)을 그대로 쓴다. 테스트에서는 같은 이유로 가장 나쁜 사이트를 기준으로 가드밴드를 정한다. → FailureBook · 불량 메커니즘(수명의 통계: 와이블, 가속 계수, FIT) · TestBook · 셔무, 특성 평가와 가드밴드

핵심 정리

모수($\mu, \sigma^2, p$)는 고정이지만 모르고, 통계량($\bar X, S^2, \hat p$)은 계산할 수 있지만 표본마다 흔들린다. 통계량의 분포가 표본 분포, 그 표준 편차가 표준 오차다.
$E[\bar X] = \mu$, $\operatorname{Var}(\bar X) = \sigma^2/n$, $\mathrm{SE} = \sigma/\sqrt n$. SE를 절반으로 줄이려면 $n$을 4배로. 비복원 추출이면 유한 모집단 수정 $\sqrt{(N-n)/(N-1)}$을 곱한다. 정규 모집단이면 $\bar X$는 정확히 정규, 아니어도 큰 $n$에서 근사적으로 정규다.
층화 추출은 층 안 산포만 SE에 남겨($\sum W_h^2S_h^2/n_h$) 반지름 무늬가 있는 웨이퍼에서 유리하고, 군집 추출은 군집 안 상관 때문에 불리하며, 계통 추출은 숨은 주기와 간격이 맞으면 크게 틀린다. 웨이퍼 $m$장 × $n$점이면 $\operatorname{Var}(\bar X) = \sigma_b^2/m + \sigma_w^2/(mn)$.
$\chi^2_k = \sum_{i=1}^k Z_i^2$(평균 $k$, 분산 $2k$). 정규 표본에서 $(n-1)S^2/\sigma^2 \sim \chi^2_{n-1}$이고 $\bar X$와 독립이다. $E[S^2] = \sigma^2$, $\operatorname{Var}(S^2) = 2\sigma^4/(n-1)$. 이 결과는 정규성에 민감하다.
$T = (\bar X - \mu)/(S/\sqrt n) \sim t_{n-1}$: $\sigma$를 $S$로 바꾼 대가로 꼬리가 두껍다($t_{0.025,5} = 2.571$ 대 1.96). $F = (S_1^2/\sigma_1^2)/(S_2^2/\sigma_2^2) \sim F_{n_1-1,n_2-1}$, $F_{1-\alpha,\nu_1,\nu_2} = 1/F_{\alpha,\nu_2,\nu_1}$.
순서 통계량: $F_{(n)}(x) = F(x)^n$, $F_{(1)}(x) = 1 - [1-F(x)]^n$, $f_{(k)} \propto F^{k-1}(1-F)^{n-k}f$. 균일이면 $E[U_{(k)}] = k/(n+1)$. 와이블의 최솟값은 와이블($\eta n^{-1/\beta}$) — 가장 약한 고리.
최댓값은 모집단 끝을 작게 잡는 편향 추정량이고, $M(1+1/k) - 1$처럼 표본 분포를 알면 편향을 고칠 수 있다.

연습문제

분포표 값은 부록 A의 계산기로 확인할 수 있다. 따로 말이 없으면 표본은 i.i.d.이고 답이 ±1% 이내면 정답이다(표를 읽는 문제는 ±2%).

막두께의 표준 편차가 3.0 nm인 공정에서 36곳을 잰 평균 두께의 표준 오차는?

$\mathrm{SE} = \sigma/\sqrt n = 3.0/6 = 0.5$ nm.

지금은 10곳을 재 평균을 낸다. 평균의 표준 오차를 절반으로 줄이려면 몇 곳을 재야 하는가?

SE는 $1/\sqrt n$에 비례한다.

$\sigma/\sqrt{n'} = \tfrac12\sigma/\sqrt{10} \Rightarrow \sqrt{n'} = 2\sqrt{10} \Rightarrow n' = 40$.

"이번 달 출하한 모든 칩의 불량률"과 "그중 무작위로 뽑은 500개를 시험해 얻은 불량률"을 순서대로 바르게 부른 것은?

출하한 모든 칩(모집단)의 불량률 $p$는 하나로 정해진 모수이고, 표본 500개로 계산한 $\hat p$는 표본마다 달라지는 통계량이다.

산화막 두께가 평균 250 Å, 표준 편차 6 Å인 정규 분포를 따른다. 4곳을 잰 평균이 245 Å 미만일 확률은?

$\mathrm{SE} = 6/\sqrt4 = 3$ Å, $z = (245 - 250)/3 = -1.667$, $P = \Phi(-1.667) = 0.0478$. ($z = -1.67$로 반올림하면 0.0475.)

웨이퍼 하나의 다이 200개 가운데 50개를 비복원으로 골라 저항을 잰다. 다이별 저항의 표준 편차가 4.0 Ω이면 이 웨이퍼 평균 저항 추정의 표준 오차는?

$\mathrm{SE} = \dfrac{4.0}{\sqrt{50}}\sqrt{\dfrac{200 - 50}{200 - 1}} = 0.5657 \times 0.8682 = 0.491$ Ω.

웨이퍼를 안쪽(면적 60%)과 가장자리(면적 40%) 두 층으로 나누고 각각 5점, 4점을 쟀다. 안쪽 평균 50.0 nm, 표준 편차 0.3 nm, 가장자리 평균 51.5 nm, 표준 편차 0.6 nm다. 층화 추정값과 표준 오차는? (FPC 무시)

$\bar x_{\text{st}} = 0.6(50.0) + 0.4(51.5) = 50.6$ nm. $\mathrm{SE}^2 = 0.6^2 \times 0.3^2/5 + 0.4^2 \times 0.6^2/4 = 0.00648 + 0.0144 = 0.02088$, $\mathrm{SE} = 0.145$ nm. 산포가 큰 가장자리 층이 분산 $\mathrm{SE}^2$의 약 70%를 차지한다.

정규 모집단의 분산이 $\sigma^2 = 4$이다. 크기 15인 표본의 표본 분산이 6.0을 넘을 확률은?

$P(S^2 > 6) = P(\chi^2_{14} > 14 \times 6/4) = P(\chi^2_{14} > 21) = 0.102$. (표: $\chi^2_{0.10,14} = 21.06$이므로 약 0.10.)

정규 모집단에서 크기 8인 표본을 뽑는다. $P(S^2 \le c\,\sigma^2) = 0.95$인 $c$는?

$P\big(\chi^2_7 \le 7c\big) = 0.95 \Rightarrow 7c = \chi^2_{0.05,7} = 14.067 \Rightarrow c = 2.01$. 표본 분산이 참값의 두 배를 넘는 일도 5%는 있다.

$\sigma = 2$인 정규 모집단에서 크기 11인 표본의 표본 분산 $S^2$의 분산은?

$\operatorname{Var}(S^2) = 2\sigma^4/(n-1) = 2 \times 16/10 = 3.2$. 표준 편차는 1.79로, 참값 4의 45%다.

정규 모집단에서 크기 10인 표본으로 $T = (\bar X - \mu)/(S/\sqrt{10})$를 계산한다. $P(-c < T < c) = 0.95$인 $c$는?

$T \sim t_9$이므로 $c = t_{0.025,9} = 2.262$.

$F_{0.05,5,10}$(상위 5% 점)과 $F_{0.95,5,10}$(하위 5% 점)을 구하라. 표에는 $F_{0.05,10,5} = 4.74$도 있다.

표에서 $F_{0.05,5,10} = 3.33$. 하위 분위수는 $F_{0.95,5,10} = 1/F_{0.05,10,5} = 1/4.74 = 0.211$.

균일 분포 $(0, 1)$에서 5개를 뽑는다. 최댓값이 0.8 이하일 확률과 최댓값의 기댓값은?

$P(U_{(5)} \le 0.8) = 0.8^5 = 0.328$. $E[U_{(5)}] = 5/6 = 0.833$ (또는 $\int_0^1 x \cdot 5x^4\,dx = 5/6$).

칩 하나의 수명이 $\mathrm{Weibull}(\beta = 2, \eta = 10$ 년$)$를 따르고, 모듈에는 칩 4개가 들어 있어 하나라도 고장 나면 모듈이 고장 난다. 모듈이 2년 안에 고장 날 확률은?

모듈 수명은 네 칩 수명의 최솟값이다.

$P(T_{(1)} \le 2) = 1 - e^{-4(2/10)^2} = 1 - e^{-0.16} = 0.148$. 같은 말로 모듈 수명은 $\mathrm{Weibull}(2, 10 \cdot 4^{-1/2} = 5)$이다. 칩 하나면 $1 - e^{-0.04} = 0.039$이므로 네 배 가까이 된다.

장비 로그에서 무작위로 고른 웨이퍼 ID 4개가 17, 41, 68, 92였다. ID가 1부터 $N$까지 차례로 붙었다면, 최댓값을 이용한 불편 추정량으로 $N$을 추정하라.

$M = 92$, $k = 4$: $\hat N = 92(1 + 1/4) - 1 = 114$.

웨이퍼 사이 표준 편차 $\sigma_b = 1.0$ nm, 웨이퍼 안 표준 편차 $\sigma_w = 2.0$ nm인 공정에서 측정점 27개를 쓴다. 3장 × 9점과 9장 × 3점 각각의 전체 평균 표준 오차는?

$\sqrt{1/3 + 4/27} = \sqrt{0.3333 + 0.1481} = 0.694$ nm, $\sqrt{1/9 + 4/27} = \sqrt{0.1111 + 0.1481} = 0.509$ nm. 웨이퍼 안 항 $\sigma_w^2/(mn)$은 같고 웨이퍼 사이 항만 $m$으로 줄기 때문에 웨이퍼를 늘리는 쪽이 낫다. 단순히 $\sqrt{\sigma_b^2 + \sigma_w^2}/\sqrt{27} = 0.430$으로 계산하면 둘 다 과소평가한다.

$X_1, \dots, X_n$이 $N(\mu, \sigma^2)$에서 뽑은 표본일 때 t 분포를 따르지 않는 것은?

$\sigma$를 아는 표준화 값은 정확히 $N(0,1)$이다. 분모에 흔들리는 $S$가 들어가야 t 분포가 된다. 넷째는 $t_\nu^2 = F_{1,\nu}$를 거꾸로 쓴 것으로 $t_\nu$다.

개념 확인 퀴즈

표준 편차와 표준 오차의 차이로 옳은 것은?

표본이 커져도 개별값의 흩어짐 $\sigma$는 그대로다(표본 표준 편차는 $\sigma$로 수렴). 줄어드는 것은 평균의 흔들림 $\sigma/\sqrt n$이다.

반지름 방향 무늬가 뚜렷한 웨이퍼에서 측정점 수를 늘리지 않고 평균 추정을 정밀하게 하는 방법은?

층화하면 고리 사이 차이가 SE에서 빠진다. 같은 점 반복은 계측 잡음만 줄일 뿐 공간 산포는 그대로다.

정규 모집단에서 $(n-1)S^2/\sigma^2$의 자유도가 $n-1$인 이유는?

$\mu$ 대신 $\bar X$를 중심으로 쓰면 $\chi^2_n$에서 $\chi^2_1$ 하나가 빠져 $\chi^2_{n-1}$이 된다. 그 결과로 $E[S^2] = \sigma^2$가 되는 것이다.

$n = 4$인 정규 표본으로 $T = (\bar X - \mu)/(S/\sqrt n)$를 계산할 때 정규 분포보다 꼬리가 두꺼운 주된 이유는?

정규 모집단이면 $\bar X$는 정확히 정규다. $S$가 우연히 작으면 $T$가 크게 튀고, 이 효과가 꼬리를 두껍게 만든다. $n$이 크면 $S$가 거의 $\sigma$로 고정되어 $Z$와 같아진다.

한 사이트가 사양을 벗어날 확률이 1%이고 사이트끼리 독립이다. 100곳을 잴 때 적어도 한 곳이 벗어날 확률에 가장 가까운 것은?

최댓값이 사양 안일 확률이 $0.99^{100} = 0.366$이므로 적어도 한 곳이 벗어날 확률은 0.634다. 측정점을 늘리면 "최악값" 기준은 저절로 나빠진다.

모집단의 모수	표본의 통계량	뜻
\(\mu\)	\(\bar X = \frac1n\sum X_i\)	평균
\(\sigma^2\)	\(S^2 = \frac1{n-1}\sum (X_i - \bar X)^2\)	분산
\(p\)	\(\hat p = X/n\)	비율(불량률·수율)
모집단 최댓값	\(X_{(n)} = \max X_i\)	최악값