통계학에서의 크루스칼-월리스 검정
크루스칼-월리스 검정은 세 개 이상의 그룹 간의 차이를 비교하는 데 사용되는 비모수 통계 방법입니다. 많은 연구에서 연구자들은 특정 변수에 대해 여러 그룹이 유의미하게 다른 값을 가지는지 여부를 확인하고자 합니다. 데이터가 정규성 및 등분산성 가정을 충족하는 경우, 일원 분산 분석(ANOVA)이 일반적으로 우선적으로 선택됩니다. 그러나 이러한 가정이 충족되지 않는 경우, 예를 들어 데이터가 정규 분포를 따르지 않거나, 극단적인 이상치가 존재하거나, 측정 척도가 순서형인 경우에는 크루스칼-월리스 검정이 강력하고 널리 사용되는 대안이 될 수 있습니다.
정의 및 기본 개념
크루스칼-월리스 검정(크루스칼-월리스 H 검정으로 표기하기도 함)은 맨-휘트니 U 검정을 확장하여 두 개 이상의 그룹에 적용할 수 있도록 한 검정입니다. 이 검정의 기본 원리는 데이터의 실제 값이 아닌 "순위"를 비교하는 것입니다. 순위 기반 검정이기 때문에 정규 분포를 요구하지 않으며 이상치의 영향을 비교적 적게 받습니다.
직관적으로, 여러 그룹의 데이터 분포가 동일하다면 그룹 간 데이터 순위는 무작위로 섞일 것입니다. 반대로, 일부 그룹이 높은 값이나 낮은 값을 가지는 경향이 있다면 순위는 한 곳에 집중되어 더 큰 검정 통계량을 생성할 것입니다.
크루스칼-월리스 검정은 언제 사용되나요?
크루스칼-월리스 검정은 다음과 같은 경우에 사용됩니다.
1. 그룹의 수가 3개 이상이고, 연구자는 그룹 간 중심 위치(일반적으로 중앙값)의 차이를 비교하고자 합니다.
2. 해당 데이터는 분산 분석(ANOVA)의 가정을 충족하지 못하며, 특히 잔차의 정규성 가정을 충족하지 못합니다.
3. 순서형 데이터 척도(예: 만족도 점수: 매우 불만족부터 매우 만족까지) 또는 비정규 간격/비율 데이터.
4. 독립적인 표본이란 한 집단의 구성원들이 다른 집단의 구성원들과 짝을 이루거나 관련되어 있지 않다는 것을 의미합니다.
예를 들어, 한 연구자가 1~5점의 리커트 척도를 사용하여 세 곳의 서로 다른 병원에서 제공하는 서비스에 대한 환자 만족도를 비교하고자 한다고 가정해 보겠습니다. 데이터가 순서형 척도이므로 크루스칼-월리스 검정이 적절한 선택입니다.
크루스칼-월리스 검정의 가정
크루스칼-월리스 검정은 비모수적 검정이지만, 여전히 몇 가지 중요한 가정을 전제로 합니다.
1. 관찰의 독립성: 각 그룹의 데이터는 서로 다른 개인으로부터 수집되어야 합니다.
2. 반응 변수는 최소한 순서형이어야 합니다. 즉, 데이터는 정렬 가능해야 합니다.
3. 그룹 간 분포 형태는 유사해야 합니다. 분포 형태가 매우 다르면 차이를 해석하기가 더 복잡해질 수 있습니다. 이 검정은 종종 중앙값 차이로 해석되지만, 분포 형태가 유사할 경우 중앙값 해석이 가장 적절합니다.
크루스칼-월리스 검정의 가설
크루스칼-월리스 검정에서 검정 대상 가설은 다음과 같습니다.
– 귀무가설(H0): 모든 그룹의 분포(또는 중앙값)는 동일하다.
– H1 (대립가설): 분포(또는 중앙값)가 다른 집단이 적어도 하나 존재한다.
크루스칼-월리스 검정에서 귀무가설(H0)이 기각될 경우, 단순히 "차이가 있다"고만 나타낼 뿐, 어떤 그룹 간에 차이가 있는지 구체적으로 밝히지는 않는다는 점에 유의해야 합니다. 따라서 추가적인 사후 검정이 필요합니다.
계산 단계
요약하자면, 크루스칼-월리스 검정의 단계는 다음과 같습니다.
1. 모든 그룹의 데이터를 모두 합칩니다.
2. 가장 작은 값부터 가장 큰 값 순으로 순위를 매기세요. 동점일 경우 평균값을 사용하세요.
3. 각 그룹별 순위를 합산하세요.
4. 검정 통계량 H를 계산합니다.
일반적인 H 통계 공식은 다음과 같습니다.
\[
H = \frac{12}{N(N+1)} \sum_{i=1}^{k} \frac{R_i^2}{n_i} – 3(N+1)
\]
설명 :
– \(N\) = 모든 관측치의 총합
– \(k\) = 그룹의 수
– \(n_i\) = i번째 그룹의 관측치 수
– \(R_i\) = i번째 그룹의 순위 수
그런 다음 H 값을 자유도 \(k-1\)인 카이제곱 분포(\(\chi^2\))와 비교합니다. p값이 유의수준(예: 0,05)보다 작으면 H0는 기각됩니다.
예시
강사가 세 가지 학습 방법(A, B, C)에 따른 통계적 시험 점수에 차이가 있는지 알고 싶어 한다고 가정해 봅시다. 데이터를 수집한 결과, 극단적인 값이 많아 점수가 정규 분포를 따르지 않는 것으로 나타났습니다. 이에 강사는 크루스칼-월리스 검정을 사용합니다.
검정 결과 p값이 0,01(0,05 미만)이면 적어도 두 가지 학습 방법 사이에 유의미한 차이가 있다고 결론 내릴 수 있습니다. 그러나 강사는 아직 방법 A가 B나 C보다 더 나은지 여부를 알 수 없습니다. 바로 이 지점에서 사후 분석이 필요합니다.
크루스칼-월리스 사후 검정
크루스칼-월리스 검정 결과가 유의미한 경우, 다음 단계는 쌍별 비교를 수행하는 것입니다. 일반적인 방법은 다음과 같습니다.
1. 던 검정: 사후 크루스칼-월리스 검정에 가장 자주 사용됩니다.
2. 반복 검사로 인한 오류를 제어하기 위해 보정(Bonferroni, Holm 또는 Benjamini-Hochberg)을 적용한 쌍별 Mann-Whitney 검정.
이 수정의 목적은 비교를 많이 함으로써 발생하는 제1종 오류(차이가 없는데도 차이가 있다고 주장하는 오류)의 가능성을 줄이기 위한 것입니다.
효과 크기
통계적 유의성 외에도, 많은 최신 연구에서는 독자들이 차이의 크기를 이해할 수 있도록 효과 크기를 강조합니다. 크루스칼-월리스 모델과 자주 연관되는 효과 크기에는 다음과 같은 것들이 있습니다.
– H 기반 에타 제곱(η²):
\[
\eta^2 = \frac{H – k + 1}{N – k}
\]
– 보다 보수적인 대안으로 엡실론 제곱(ε²)을 사용할 수 있습니다.
효과 크기는 단순히 "유의미한가 아닌가"가 아니라 차이가 작은지, 중간인지, 큰지를 해석하는 데 도움이 됩니다.
장점과 한계
켈레비한
1. 정규성 가정이 필요하지 않습니다.
2. 순서형 데이터에 적합합니다.
3. 모수적 방법보다 이상치에 대한 내성이 더 강합니다.
제한 사항
1. 사후 분석 없이는 어떤 그룹이 서로 다른지 보여주지 않습니다.
2. 중앙값 차이로 해석하는 것이 가장 타당한 경우는 두 집단의 분포 형태가 유사할 때입니다.
3. 실제 데이터가 정규분포를 따르고 동질적이라면, ANOVA는 더 높은 검정력(더 높은 검정력)을 가질 수 있습니다.
폐회
크루스칼-월리스 검정은 추론 통계에서 중요한 도구이며, 특히 연구자들이 모수적 방법의 가정을 충족하지 않는 데이터를 다룰 때 유용합니다. 순위 기반 접근 방식을 사용하는 이 검정은 특히 순서형 데이터나 비정규 분포 데이터에서 세 개 이상의 그룹을 보다 유연하게 비교할 수 있도록 해줍니다. 그러나 이 검정을 사용하기 위해서는 여전히 가정에 대한 이해, 결과 해석, 그리고 실제로 차이가 있는 그룹 쌍을 식별하기 위한 사후 분석의 필요성이 요구됩니다. 크루스칼-월리스 검정은 p값, 효과 크기, 그리고 적절한 추가 분석을 결합하여 보건, 교육, 경영, 사회과학 등 다양한 연구 분야에서 견고하고 타당한 결론을 도출할 수 있습니다.
