단측검정과 양측검정 예시
통계검정을 할 때 우리는 장차 무엇이 일어날지에 대해 크게 두 가지 방식의 예측을 하게 된다. 예를 들면 한가지는 '누군가 이 책을 점점 더 읽을수록 점점 더 작가를 죽이고 싶어할 것이다.' 일 수 있고 다른 한가지는 '이 책을 점점 더 읽게 되면 독자가 작가를 죽이고 싶은 충동이 늘어나거나 혹은 줄어들 것이다.' 전자의 예는 방향성이 있다: 즉 이 책을 더욱 더 읽을수록 사람들이 저자를 더욱더 죽이고 싶다는 얘기는 이것을 통계적으로 가설 검정을 한다고 했을 때 "단측 검정"을 한다고 할 수 있다. 후자의 예시는 방향성이 없다: 이 책을 점점 더 읽게 되면 작자를 죽이고 싶은 마음이 변하겠지만 그것이 늘어날 지 줄어들 지는 말할 수 없다. 이것을 통계적인 가설검정을 한다면 "양측 검정"을 한다고 볼 수 있다.
우리가 이 책을 읽게 되면 작자를 죽이고 싶은 마음이 늘어날 지 줄어들 지 알고 싶다고 가정해 보자. 우리는 이것을 실험적으로 두 가지 집단을 만들어 검정해 볼 수 있다. 한 집단은 이 책을 읽은 사람을 모으고 다른 집단에는 읽지 않은 사람을 모은다. 또는 이 책을 읽은 양을 측정하여 죽이고 싶은 충동과의 상관성을 조사해 볼 수도 있다. 만약 우리가 방향성이 없는 가설을 설정했다면 세 가지 가능성이 생긴다:
(1) 이 책을 읽은 사람들은 읽지 않은 사람에 비해 살인충동이 더 강하므로 충동의 차이(읽은 사람의 충동 평균치-읽지 않은 사람의 충동 평균치)는 양의 값을 가진다. 상관관계 상으로는 책을 더 많이 읽었을 수록 작자를 더 죽이고 싶어할 것이다-양의 상관관계.
(2) 책을 읽은 사람들은 읽지 않은 사람보다 작자를 죽이고 싶은 충동이 적다. 따라서 평균차이 (읽은 사람의 충동 평균치-읽지 않은 사람의 충동 평균치)는 음의 값을 가진다. 상관관계상 책을 더 읽게 될수록 덜 죽이고 싶게 된다-음의 상관관계.
(3) 책을 읽었건 읽지 않았건 죽이고 싶은 충동에는 차이가 없다. 살인 충동의 평균 차이는 0. 상관관계상 책을 읽은 양과 살인 충동과는 상관관계가 없다.
이 중 세 번째의 경우가 귀무가설(null hypothesis)이 된다. 통계치의 방향성(즉 + 인지 – 인지)은 차이값이 양수나 음수냐로 나타난다. 양의 차이 혹은 상관관계(책을 읽을수록 더 죽이고 싶은 마음이 일어난다)를 가정할 경우 이 차이를 알아내기 위해서는 독자들의 살인충동 평균이 비독자들의 살인충동보다 크다는 사실을 밝혀야 한다(그러므로 양의 통계치를 얻게 된다). 그러나 우리가 부정확하게 예측했을 경우나 정확하게 책을 읽는 것이 독자로 하여금 살인충동을 덜 일으키게 할 경우 통계치는 음수가 될 것이다.
이것의 결과를 무엇일까? 만약 0.05 수준에서 우리는 검정 통계치 (예를 들면) 10 이상이 필요한데 실제 얻은 값이 -12 였다면 비록 차이가 존재했더라도 우리는 가설을 기각해야 한다. 이를 피하게 위해서 우리는 양측 끝(tails)의 가능한 통계치 분포를 모두 보게 된다. 이는 우리는 양(+) 및 음(-)의 통계치 모두를 고려한다는 말이다. 하지만 이렇게 하는 것은 0.05의 확률 구간을 양 측으로 쪼개야하는 대가를 치루어야 한다: 그래서 양의 분포 끝 쪽에 0.025를 음의 분포 끝 쪽에 0.025를 두게 된다.