실험 A와 실험 B의 평균 반응값이 모두 10이라고 해봅시다. 보고서에 평균만 적혀 있다면 두 결과는 똑같아 보입니다. 하지만 A의 값이 10 주변에 촘촘히 모여 있고, B의 값이 2에서 18까지 넓게 흩어져 있다면 우리는 정말 같은 결과를 보았다고 말할 수 있을까요?

정답부터 말하면 그렇지 않습니다. 평균은 데이터의 중심을 유용하게 요약하지만, 값들이 그 중심에서 얼마나 떨어져 있는지, 한쪽으로 긴 꼬리가 있는지, 서로 다른 두 무리가 섞였는지는 알려주지 않습니다. 그렇다고 평균이 쓸모없다는 뜻도 아닙니다. 평균이 말해주는 것과 말해주지 못하는 것을 구분하자는 뜻입니다.

오늘 사용할 말은 많아 보이지만 처음부터 모두 외울 필요는 없습니다. 아래 다섯 낱말만 나침반처럼 기억해두고, 나머지는 그림이 필요해지는 순간 하나씩 붙이겠습니다.

계산보다 먼저 확인할 것: 이 한 줄은 무엇인가

평균이나 표준편차를 계산하기 전에 표의 한 행이 무엇을 뜻하는지부터 확인해야 합니다. 서로 다른 세 개의 세포 배양 well을 한 번씩 측정한 것과, 하나의 well을 같은 장비로 세 번 읽은 것은 표에서 모두 세 행이 될 수 있습니다. 그러나 둘은 같은 증거가 아닙니다.

실험단위는 처치가 독립적으로 적용되는 가장 작은 단위입니다. 서로 다른 실험단위에서 얻은 반복이 생물학적 반복이고, 같은 실험단위를 거듭 읽는 것이 기술반복입니다. 앞으로 계산에 사용하는 기본 표는 기술반복을 약속한 규칙으로 정리한 뒤, 독립 실험단위 하나가 한 행이 되도록 만들겠습니다.

평균이 정확히 같은 두 묶음

이제 단위를 생물학적 실험단위 하나의 상대반응값이라고 합시다. 아래 A와 B는 실제 연구 데이터가 아니라 설명을 위해 만든 합성 값입니다.

평균은 모든 값을 더한 뒤 개수로 나눈 수입니다. A도 B도 합계가 50이고 값이 다섯 개이므로 평균은 10입니다. 이 계산은 중심을 빠르게 알려주는 대신 점 사이의 거리 정보를 하나의 숫자 속에서 지워버립니다. 그래서 중심 옆에 산포가 필요합니다.

점과 평균 사이의 거리를 숫자로 바꾸기

각 관측값에서 평균을 빼면 편차가 됩니다. 값이 평균보다 작으면 음수, 크면 양수입니다. A의 편차는 -2, -1, 0, 1, 2이고 B의 편차는 -8, -4, 0, 4, 8입니다. 여기까지만 보아도 B가 더 넓다는 사실은 분명합니다.

하지만 편차를 그대로 더하면 두 묶음 모두 0이 됩니다. 평균을 기준으로 왼쪽 거리와 오른쪽 거리가 상쇄되기 때문입니다. 거리를 보존하려면 부호가 사라지도록 편차를 제곱합니다. 멀리 떨어진 값은 더 큰 무게를 받습니다. 평균에서 2만큼 떨어진 점은 4를, 8만큼 떨어진 점은 64를 더합니다.

왜 n이 아니라 n−1로 나눌까요?

지금 가진 표본의 평균을 바로 그 표본의 중심으로 사용하면, 점들의 퍼짐은 모집단의 진짜 중심을 알고 계산했을 때보다 작게 잡히는 경향이 있습니다. 표본평균이 자기 표본에 가장 가까운 중심으로 이미 맞춰져 있기 때문입니다. 표본분산에서 n−1을 사용하는 것은 이 작게 잡히는 경향을 보정하는 장치입니다.

A의 표본표준편차는 약 1.58, B는 약 6.32입니다. 평균은 같지만 B의 전형적인 퍼짐이 훨씬 큽니다. 다만 여기서 “표준편차가 작으니 A가 무조건 좋은 실험”이라고 결론내려서는 안 됩니다. 검출한계 때문에 값이 잘렸거나, 의존된 기술반복만 모았거나, 매우 좁은 범위의 시료만 골랐다면 작은 산포도 잘못된 설계에서 나올 수 있습니다.

평균과 표준편차만으로도 모양은 다 보이지 않습니다

중심과 산포라는 두 숫자를 함께 보아도 데이터의 전체 모양은 남아 있습니다. 값들이 중심 양쪽에 비슷하게 놓일 수도 있고, 오른쪽으로 긴 꼬리를 만들 수도 있으며, 두 덩어리처럼 보일 수도 있습니다. 이 모양을 값의 분포라고 부릅니다.

두 봉우리가 보인다고 곧바로 “두 종류의 세포가 섞였다”고 말할 수는 없습니다. 서로 다른 batch, 처리 시점, 장비 상태, 숨은 생물학적 하위군이 섞였을 가능성도 있지만, 표본 수가 적어 우연히 그렇게 보였거나 구간을 나눈 방식이 만든 모습일 수도 있습니다. 그래프는 원인을 확정하는 판결문이 아니라 무엇을 더 확인해야 하는지 알려주는 질문 지도입니다.

중앙값과 상자그림은 무엇을 더 보여줄까요?

중앙값은 값을 작은 것부터 세웠을 때 한가운데에 오는 값입니다. 극단적인 값 하나가 멀리 움직여도 평균보다 덜 끌려갑니다. Q1과 Q3는 각각 아래쪽 25%, 75% 지점이고, 그 차이인 IQR은 가운데 50%가 차지하는 폭입니다.

상자그림은 이 순서 정보를 압축해서 보여줍니다. 상자의 왼쪽과 오른쪽 끝은 Q1과 Q3, 상자 안 선은 중앙값입니다. 수염은 일반적인 범위의 끝을 나타내고, 그 밖의 점은 이상값 후보로 따로 표시될 수 있습니다.

이제 직접 같은 평균을 만들어봅시다

여기까지는 저자가 정한 숫자를 보았습니다. 그러나 실제 표본은 매번 똑같이 나오지 않습니다. 아래 미니 Lab에서 B의 산포와 모양을 바꿔보십시오. 두 그룹의 평균은 교육을 위해 정확히 10으로 맞췄습니다. 따라서 이것은 무작위 표본이 아니라 교육용으로 구성된 비교 데이터입니다.

모양을 바꾸어도 B의 평균은 10으로 남습니다. 대신 점의 폭, 꼬리와 모이는 위치가 달라집니다. 정식 Lab의 자유 탐색 모드에서는 목표 중심을 10으로 설정해도 실제 표본평균이 매번 정확히 10이 되지 않습니다. 그 차이가 정상입니다. 목표로 설정한 생성 과정과 이번에 우연히 뽑힌 표본의 요약은 서로 다른 것이기 때문입니다.

JMP는 앞의 이론을 어떻게 표현할까요?

여기서 JMP가 등장합니다. 프로그램 사용 순서를 배우려는 것이 아니라, 우리가 지금까지 눈과 계산으로 확인한 내용을 JMP의 어떤 결과가 표현하는지 연결하려는 것입니다. 연속형 데이터에 대한 JMP의 Distribution 결과는 다음 세 묶음을 함께 보여줍니다.

A와 B를 JMP의 Distribution 결과로 본다면 가장 먼저 두 그룹의 N이 독립 실험단위 수와 맞는지 확인합니다. 그다음 Summary Statistics에서 평균과 표준편차를 함께 보고, histogram과 원자료점에서 폭·꼬리·군집을 살핍니다. Quantiles와 Outlier Box Plot에서는 중앙값과 IQR, 수염 밖 후보점을 확인합니다.

이때 평균이 모두 10이라고 해서 해석을 멈추면 안 됩니다. B의 표준편차가 더 크고 히스토그램의 폭이 넓다면, 바로 그것이 앞에서 보았던 “같은 중심, 다른 거리”입니다. 상자그림의 수염 밖 점이 있다면 삭제하지 말고 그 점의 실험 이력을 확인합니다. 두 봉우리가 보인다면 batch나 숨은 조건을 살펴볼 가설을 세우되 원인을 확정하지 않습니다.

오늘부터 평균 옆에 붙일 네 가지 질문

1. 이 평균에 들어간 독립 n은 몇 개인가? 기술반복 행을 독립 표본으로 세지 않았는지 확인합니다.
2. 값은 중심에서 얼마나 퍼져 있는가? 표준편차와 원자료점의 폭을 함께 봅니다.
3. 분포의 모양은 어떠한가? 같은 축과 같은 구간의 히스토그램에서 꼬리와 군집을 살핍니다.
4. 이상한 점은 무엇을 요구하는가? 자동 삭제가 아니라 시료와 측정 과정의 재확인을 요구합니다.

평균은 틀린 숫자가 아닙니다. 다만 너무 많은 정보를 한 숫자로 압축합니다. 좋은 분석은 평균을 버리는 대신 평균 옆에 산포, 분포, 원자료와 반복 구조를 돌려놓습니다.

다음 단원에서는 질문을 한 단계 넓힙니다. 지금 손에 든 표본의 평균과 표준편차가 전체 모집단을 얼마나 잘 말해줄까요? 같은 실험을 다시 하면 왜 숫자가 달라지며, 그 흔들림을 어떻게 표현할 수 있을까요?

공식 보충 자료

• JMP Help · Distributions of Continuous Variables
• JMP Statistics Knowledge Portal · Box Plot
• NIST/SEMATECH e-Handbook · Measures of Scale

이 글의 예시와 미니 Lab은 통계 개념을 설명하기 위한 합성 데이터입니다. 실제 연구·임상·품질·규제 판단의 근거로 사용할 수 없습니다.