240123 TUE 통계학 기초 2/4

 

 

1️⃣ 평균 (Average, Mean)

데이터 집합을 가장 잘 나타내는 단일 숫자/값

다양한 평균이 있고, 각 평균을 필요에 따라 사용됨

일반적으로 생각하는 평균은 '산술평균':

 

 

2️⃣ 왜도, 이상치

 

✅ 왜도 (Skewness)

특정한 방향으로 데이터가 편향된 것

꼬리(tail)를 당긴 것처럼 생겼다고 표현

왜도가 있으면 평균이 전체 데이터를 대표하지 못함

 

 

✅ 이상치 (Outlier)

다른 관측치와 유의하게 다른 데이터

'유의하다'의 의미가 모호할 수 있어, 이상치 분류는 데이터에 따라 매 다름

일반적인 방법론: IQR, 2~3 표준편차

전체 경향을 볼 때 일반적으로 제거해야 하지만, 경우/산업에 따라 집중해서 분석해야 할 때도 있음

 

 

3️⃣ 다양한 평균

 

✅ 대푯값: 3M

산술평균	중앙값	최빈값
모든 데이터를 더한 뒤 전체 데이터 수로 나눔	데이터를 정렬하여 가운데 있는 수치	가장 빈번하게 등장하는 관측치
왜도와 이상치에 취약	왜도와 이상치에 강인(robust) → 평균의 대안으로 활용	· 등장하는 관측치의 값이 다양하지 않을 경우 효과적 · 평균의 의미로는 적합하지 않으므로, 제한적으로 사용할 때 유용

 

 

✅ 평균 3대장 (ㅎ)

평균을 언급할 때 가장 많이 언급되는 3가지 평균

집계와 분할의 연산 프로세스가 각기 다름

통계/ML에서는 많이 쓰이지는 않음

산술평균	기하평균	조화평균값
모든 데이터를 더한 뒤 전체 데이터 수로 나눔	모든 데이터를 곱한 뒤 전체 데이터의 수로 제곱근을 취해준 것	역수를 합한 뒤, 다시 역수를 취한 것
		ex. F1-score

 

 

✅ 기타 평균

실제로 굉장히 많이 쓰이며 유용함

로그평균	절삭평균
각 관측치를 로그 변환한 뒤 산술 평균을 집계	상/하위 데이터를 일부(k%) 제거한 뒤 산술평균을 구함
이상치와 왜도에 강건함	극단적인 값들을 제거하였으므로 이상치에 강건, 왜도에는 여전히 취약
로그 변환으로 인해 결과값에 대한 직접적인 해석이 어려워, 상대적인 비교에 유용	변환이 없기 때문에 결과값에 대한 직접적인 해석이 가능

 

 

✅ 참고: 워비곤 호수 이야기

워비곤호수 효과: 내가 제일 잘나가, 너는 뭐 평균 정도

 

 

4️⃣ 평균의 통계적 활용

평균 값을 얼마나 신뢰할 수 있는지 검사

여러 평균값을 비교하거나, 특정 값보다 큰지 검사

통계에서 평균을 비교적 다루기 쉬운 이유 → 중심 극한 정리

 

⛔ 여기서 잠깐 - 확률 분포 (Probability Distribution)
실제로 자주 볼 수 있는 일부 확률의 케이스를 체계적으로 정리한 것
ex. 베르누이 분포, 이항 분포, 정규 분포

 

 

✅ 중심 극한 정리 (Central Limit Theorem)

 

독립적이고 동일한 분포를 갖는(iid) 확률 변수의 경우,

원래 데이터의 분포가 무엇이든, 표본 평균의 분포가 정규 분포를 따른다.

🟰  표본의 분포와 무관하게 표본 평균의 분포가 정규 분포를 따른다.

➡️ 정규 분포를 이용하면 원래의 분포와 상관 없이 평균에 대한 통계 모델을 만들 수 있다.

 

⛔ 여기서 잠깐 - iid 조건
iid = 독립적(independent)이며 동일하게(identically) 분포(distributed)함

독립적 = 각각의 개별 관측치 사이에 연속성이 존재하지 않음
동일하게 분포함 = 분포의 형태 뿐 아니라 모수도 같음

이상치와 심한 왜도는 iid를 왜곡하기 때문에, CLT가 어긋남

 

⛔ 여기서 잠깐 - 수렴의 속도
CLT = 표본 평균의 분포가 정규분포로 수렴(Conversion)함

어떤 데이터는 더 빠르게(=더 적은 데이터로) 수렴하는 반면,
어떤 데이터는 굉장히 느리게(=훨씬 많은 데이터로) 수렴함

 

 

✅ t-분포

CLT에 약간의 여유(분포를 넓게)를 줬다고 생각하기…

분산을 대체하기 위한 '자유도'라는 모수가 있으며, 이는 데이터의 수와 연관 있음

 

1. 평균을 추정하고 싶은데 분산도 모를 경우

2. CLT가 만족될 만큼 데이터가 충분하지 않을 경우

➡️  t-분포 사용

 

 

5️⃣ 통계적 가설 검정

주어진 자료가 특정 가설을 충분히 뒷받침하는지 여부를 결정하는 통계적 추론 방법

ex) A/B 테스트로 두 집단의 매출 비교, 세그먼트에 따른 특성 차이, 두 집단의 의학적 효과 차이 등

 

 

✅ 구분

귀무 가설 (Null Hypothesis)	대립 가설 (Alternative Hypothesis)
처음부터 버릴 것을 예상하는 가설 차이가 없거나 의미있는 차이가 없는 경우의 가설 이것이 맞거나 맞지 않다는 통계학적 증거를 통해 증명하려는 가설	귀무 가설에 대립하는 명제 새롭게 입증하고자 하는 것
🗣️ A를 이용하는 유저들의 1회 상품 구매량은 주중/주말 차이가 없을 것이다.	🗣️ A를 이용하는 유저들의 1회 상품 구매량은 주중/주말 차이가 있을 것이다.

 

 

✅ 가설의 검정

1. 통계량 (Statistics) 생성
   • 통계량은 특정 분포를 따르므로 관련 확률을 구할 수 있음
   • ex) 1회 상품 구매량 평균 : A 집단 x1, B 집단 x2
2. 통계량이 따르는 분포 확인
3. 검정을 위한 하나의 검정 통계량 (Test Statistic) 생성

 

⛔ 여기서 잠깐 - 검정 통계량과 가설의 기각
검정 통계량이 귀무가설에서 가정한 것보다 지나치게 크거나 작을 때, 귀무가설을 기각할 수 있음
p-value = 지나치게 크거나 작음을 정량화한 것

 

⛔ 여기서 잠깐 - p-value와 귀무가설
귀무가설이 정확하다는 가정 하에 실제 관찰된 결과만큼 극단적인 검정 결과를 얻을 확률

일반적으로 p-value가 연구를 시작할 때 세운 기준 수치보다 작으면 귀무가설이 틀렸다고 여김
이러한 기준 수치 = 신뢰 수준 (Confidence Level)

 

⛔ 여기서 잠깐 - 신뢰 수준과 오류

1종 오류: 귀무가설이 맞았는데 기각하는 것
2종 오류: 귀무가설이 틀렸는데 기각하지 못하는 것
*일반적으로 통계학은 1종 오류를 더 중요시하여 이를 기준으로 잡고, 2종 오류를 최소화

신뢰 수준: 1종 오류가 발생하지 않을 가능성
유의 수준: 1종 오류가 발생할 가능성