배지 A, B, C, D의 평균 수율을 비교하려고 모든 쌍에 t-test를 하면 6번의 검정이 생깁니다. 각 검정에 α=.05를 적용하면 “어딘가 하나라도” 거짓 양성이 생길 기회가 늘어납니다.
이번 단원의 질문은 하나입니다.
세 집단 이상에서 평균 차이를 하나의 공통 오류 기준으로 어떻게 묻는가?
ANOVA는 평균 대신 변동의 비를 계산합니다
일원 ANOVA의 귀무가설은 H0: μ₁=μ₂=…=μk입니다. 대립가설은 “모든 평균이 다르다”가 아니라 적어도 하나의 평균이 다르다입니다. 이 전체 질문을 omnibus 검정이라 합니다.
관측값이 전체평균에서 떨어진 총변동을 두 부분으로 나눕니다.
- 집단간 변동: 각 집단평균이 전체평균에서 떨어진 정도
- 집단내 변동: 각 관측값이 자기 집단평균에서 흔들린 정도
SS_total = SS_between + SS_within
제곱합 SS는 점 개수가 많으면 자연히 커집니다. 그래서 각 SS를 자유도 df로 나눈 평균제곱 MS를 만들고 F=MS_between/MS_within을 계산합니다. H0 아래 두 MS는 같은 오차분산을 겨냥하므로 F가 1 근처인 경향이 있습니다. 집단평균 분리가 집단내 잡음보다 커지면 F가 커집니다.
ANOVA 표의 각 열은 한 문장으로 연결됩니다
집단 수 k, 전체 독립 관측 수 N일 때:
- between df =
k−1 - within df =
N−k MS_between=SS_between/(k−1)MS_within=SS_within/(N−k)F=MS_between/MS_within
ANOVA p-value는 H0와 모형 아래 현재 F 이상이 나올 확률입니다. 유의한 F는 “어딘가 차이가 있다”는 증거이지 어느 집단인지, 차이가 얼마나 큰지, 모든 집단이 서로 다른지를 말하지 않습니다.
omnibus 결과 뒤에는 집단별 평균·SD·n, 효과크기, 계획 비교 또는 다중성 보정 사후비교와 CI가 필요합니다. 가장 큰 평균을 자동으로 ‘최적’이라고 부르지 마십시오.
반복 t-test와 사후비교의 차이
분석 전에 특정 비교가 과학적 질문이었다면 계획 비교로 명시할 수 있습니다. 전체 쌍을 데이터 뒤에 탐색한다면 Tukey HSD처럼 family-wise error를 통제하는 사후비교가 적합한 후보입니다. Dunnett는 여러 처리를 하나의 대조군과 비교하는 구조처럼 목적에 맞는 방법을 사용합니다.
보정 방법을 쓰면 개별 CI가 더 넓어질 수 있습니다. 이것은 벌점이 아니라 여러 기회를 하나의 오류 약속으로 묶는 대가입니다. ANOVA가 비유의인데도 임의의 쌍별 p-value만 골라 발표하는 것은 사전 계획과 방법에 따라 정당화가 필요합니다.
가정은 집단별 정규성 p값의 집합이 아닙니다
고전 일원 ANOVA는 독립 오차, 집단별 오차의 대략적 정규성과 등분산을 둡니다. 균형 설계는 어느 정도 강건하지만, 작은 n·강한 왜도·이상값·분산과 n의 역관계에서는 문제가 커질 수 있습니다.
Welch ANOVA는 등분산 의존을 줄이는 대안입니다. 순위 기반 Kruskal–Wallis는 평균 ANOVA의 무가정 버전이 아니며 분포와 위치 해석이 다릅니다. 반복측정·군집 자료는 일원 ANOVA 표에 그대로 넣지 말고 혼합모형 등 구조에 맞는 분석이 필요합니다.
In-Silico Lab: SS를 손으로 확인합니다
세 집단의 합성 평균은 10, 10+d, 10+2d입니다.
- d=0에서 F가 정확히 1로 고정되지 않음을 봅니다.
- d를 올리면 SS_between과 F가 커지는 경향을 확인합니다.
- seed를 바꾸면 SS_within과 F가 달라지는 이유를 설명합니다.
- 표시된
SS_between + SS_within이 전체 SS와 같은지 계산 엔진으로 검증합니다.
세 평균의 분리와 집단내 흔들림을 나누세요
세 집단 평균 패턴을 바꾸어 SS_between, SS_within과 F ratio가 어떻게 연결되는지 봅니다.
같은 설정의 합성 관측
계산 결과
F가 크다는 것은 집단간 신호가 집단내 잡음보다 크다는 뜻입니다. 어느 쌍이 다른지는 별도 비교가 필요합니다.
교육용 synthetic model · bjs-comparison-sequence-v1. 실제 연구 판단에는 실험단위, 결측, 분포, 다중성, 사전계획과 도메인 기준을 별도로 반영해야 합니다.
JMP ANOVA 결과는 분해표에서 시작합니다
SS·df·MS·F가 변동 분해를 표로 보여줍니다.
분산과 n이 크게 다른 상황의 대안을 표시합니다.
omnibus 뒤 사전 비교나 보정된 사후비교를 해석합니다.
Analysis of Variance의 Source, DF, Sum of Squares, Mean Square, F Ratio, Prob > F를 왼쪽에서 오른쪽으로 읽으십시오. Summary of Fit의 R²만 보고 좋은 모형이라 결론내리지 않습니다. 집단별 원자료와 잔차, Welch 결과, 사후비교의 동시 CI까지 연결합니다.
결과 문장 예시
독립 batch 4개 조건의 평균 수율을 일원 ANOVA로 비교했다(각 n=8). 조건 효과의 F(3,28)=5.42, p=.004였다. 사전 지정 대조군 대비 Dunnett 비교에서 B−A는 3.1 percentage points(동시 95% CI 0.8–5.4)였고 C와 D의 CI는 0을 포함했다. 잔차 그림에서 뚜렷한 곡률이나 분산 증가 패턴은 관찰되지 않았다.
단원을 마치며
- ANOVA H1은 적어도 한 평균이 다르다는 뜻이다.
- 총 SS는 집단간 SS와 집단내 SS로 정확히 분해된다.
- F는 두 평균제곱의 비다.
- omnibus p-value는 어느 집단이 다른지 말하지 않는다.
- 계획 비교와 보정 사후비교는 질문의 시점과 범위가 다르다.
- 반복·군집 구조를 독립 일원 ANOVA로 축소하지 않는다.
다음 단원에서는 유의하지 않은 결과를 “같다”로 오해하는 문제를 정면으로 다루고, 동등성 한계와 TOST를 배웁니다.
공식 보충 자료
이 글의 수치·그림·Lab은 교육용 합성 자료입니다.