F-value와 ANOVA의 의미

글로 정리된 곳: angeloyeo.github.io/2020/02/2...
---
커피 한 잔의 후원이 큰 힘이 됩니다.
후원하기(카카오페이): qr.kakaopay.com/2810060110000...
후원하기(송금)
- 카카오뱅크 3333-15-3394161 (여동훈)
- 우리은행 1002-036-488593 (여동훈)
--
영상에서 사용된 모든 MATLAB 코드는 아래의 github repo에서 받아가실 수 있습니다.
github.com/angeloyeo/gongdols

[@AngeloYeo]

글로 정리된 곳: angeloyeo.github.io/2020/02/29/ANOVA.html

[@user-iz3ki1be4h]

훌륭한 강의 감사드립니다.

[@user-yo9vi8is2j]

정말 감사드립니다 !

[@TheBananakick]

1. F-value가 T-value와 '차이/불확실도' 라는 측면에서 같다고 알려주신 점이 너무 새로웠습니다. 2. 시각적으로 표현해주셔서 확률적 관점에서 F-분포와 ANOVA에 대해 생각해 볼 수 있어서 좋았습니다. 감사합니다.

[@AngeloYeo]

안녕하세요 ㅎㅎ 저도 공부할 때 말씀해주신 두 내용에 대해 알게되면서 이해하는데 많은 도움이 되었던 것 같습니다. 재밌게 봐주셨다니 다행입니다 ^^

[@user-ze8os5gy6x]

통계학 공부하고 있는데 이해 안되는 부분을 너무 잘 설명해주셨어요,,,, 감사합니다!ㅠㅠ 수학과인데 이 채널에서 도움 많이 받아서 너무 좋네요,,,

[@AngeloYeo]

도움 되었다니 다행입니다 ^^~ 혹시 말씀하신 처음에 이해안되셨던 부분이 어떤 부분인지 말씀 해주실 수 있으신가요? 다음 영상 만드는데 도움될 수도 있을 것 같아서요 ~ ㅎ

[@user-ze8os5gy6x]

@@AngeloYeo 아 제가 통계학을 한학기에 얕게 배우느라, '아노바는 모수검정에서 범주형으로 3군이 나누어질때 쓰인다'는 이 한 문장만 알았었고, 조금 더 깊이 있게 알고 싶었지만 너무 어려워서 이해할 수 가 없었어요ㅠㅠ 그리고 T밸류와 F밸류의 차이가 무엇인지도 궁금했었고, F밸류가 무엇인지도 모른채 단순히 SPSS만 돌려서 가설검정을 하는것에만 집중했어서 그 의미에 대해 알고 싶었었어요,,,ㅎㅎ 감사합니당,,

[@AngeloYeo]

@@user-ze8os5gy6x 오호... 그렇군요 ㅎㅎ 그러면 얕게 공부하신 것만은 아닌 것 같은데 실습도 해보셨을 정도라면 ㅎ 얘기해주셔서 감사해요 ~ ㅎㅎ

[@user-dh5jj9bj3c]

형님 감사합니다

[@Sean-nx8mh]

❣️형 고마어

[@AngeloYeo]

별말씀을요 ㅎㅎ 댓글 감사합니다 ㅎㅎ

[@user-pz4xo8vy3i]

영상 너무 잘 봤습니다 ! 4년 전 영상이긴 하지만 ANOVA 분석을 하고 표를 작성하는 과제를 하던 도중 한 가지 질문이 생겨 댓글 남깁니다.. (제곱합 / 자유도 / 평균제곱 / F / p>F) 이 흐름으로 F-value를 분석한다고 할 때 p>F가 의미하는 것은 무엇일까요..? 참고로 F는 4이고 자유도는 (2,9)인 경우입니다.

[@user-mydhajqkd]

항상 좋은 강의 잘 듣고 있습니다. 감사합니다. 그런데 혹시 강의에 사용한 ppt도 공유해주시는 곳이 있을까요? 프린트해서 보고싶어서요. 정리가 너무 깔끔하게 잘 돼있어서 너무 좋습니다 ! :D

[@AngeloYeo]

안녕하세요! ppt 는 공유하고 있지 않았지만... 필요하시다고 하시니 메일주소 알려주시면 해당 ppt 발송해드리겠습니다 ^^

[@jm-px3mr]

요새 공돌님 덕분에 통계에 재미를 붙여가네요 ^^ 늘 신기했는데 영상에서 시뮬레이션은 어떤 프로그램으로 구현하시는지 여쭤봐도 될까요?

[@AngeloYeo]

JS 님 재밌게 봐주셔서 감사합니다 ^^~ 시뮬레이션 애니메이션은 모두 MATLAB으로 구현했습니다 ㅎㅎ

[@user-jv7ek4oc2f]

강의 잘 봤습니다 :) 어떤 분도 질문 남기셨던데,, 두 그룹 간에는 ANOVA를 사용하지 않고 거의 t-test를 사용하잖아요. 그럼에도 불구하고 굳이 두 그룹간에 ANOVA를 사용했다면, 도대체 뭐 때문일까요? 두 test 간의 가정(정규성, 독립성, 등분산성)도 같은데.. 굳이 굳이 두 그룹에 ANOVA를 사용했다면 특별한 이유가 있을까요?? 고견 부탁드립니다 ㅠㅠ

[@EnderCreeper0458]

감사합니다 항상 잘보고 갑니다! stat부분 마라톤인가요,,?ㅋㅋㅋ

[@AngeloYeo]

안녕하세요 ㅎㅎ 꾸준히 댓글 달아주시니 감사합니다 ㅎ 잘 모르겠습니다 ㅎ 그냥 생각나는 주제들을 정리하고 올리고 있을 뿐입니다 ㅠㅠ ㅎㅎ

[@user-dm3lo6rf1q]

안녕하세요! 강의 너무 잘 듣고 있습니다. 대학원생으로서 빛과 소금같은 강의네요... 흑흑 저희 교수님께서는 f-통계량의 식을 {(RSS r - RSS ur)/q } / {RSS ur / (n-k-1)} 로 사용하시던데, 혹시 이 식과 적어주신 between variance / within variance 는 어떻게 연관지을 수 있을까요..? ㅠㅠㅠ 늘 좋은 강의 감사합니다!

[@AngeloYeo]

안녕하세요. 둘은 같은 식입니다. 표현 방법의 차이일 뿐 결과는 동일합니다.

[@beenzino1152]

좋은 영상 정말 고맙습니다. F - value를 이해하는데 많은 도움이 되었습니다. 그리고 한 가지 질문사항이 있습니다. 어떤 원리에 의해서 '표본분산의 평균'이 '불확실도'에 해당할 수 있는지 궁금합니다. 자세한 답변 부탁드립니다.

[@AngeloYeo]

안녕하세요. 표본들의 퍼진 정도를 불확실도라고 볼 수 있다는 점에 동의하신다면 여러 그룹들의 표본 분산에 대한 pooled variance를 계산하면 모든 그룹의 불확실도에 대한 대표값을 얻을 수 있다는 것을 알 수 있습니드. 그런데 그룹들의 샘플수가 모두 같다면 pooled variance를 계산하는 것이 평균값을 계산하는 것과 같아집니다. 그래서 within variance를 표본 분산의 평균으로 둘 수 있습니다. (다른 말로 하면 그룹들의 샘플 수가 다르면 각 그룹의 표본 분산에 대한 pooled variance를 계산해야 합니다.)

[@beenzino1152]

@@AngeloYeo 답변 감사합니다. '표본들의 퍼진 정도를 불확실도라고 볼 수 있다'라는 부분에 있어서 추가적으로 여쭤볼 사항이 있습니다. '표본들의 퍼진 정도'는 '표본 분산' 또는 '표본 표준편차'를 의미할 것이고, 그럼 '표본 분산'과 '표본 표준편차'도 '불확실도'를 의미한다고 보면 되나요? 만약 맞다면, '표본 분산'과 '표본 표준편차'는 무엇으로써의 불확실도라고 보면 됩니까?('표준오차'는 '추정치로써의 불확실도'라고 배웠습니다.)

[@__h8181]

강의 감사드립니다! 궁금한 거 있을 때마다 잘 보고 있습니다! 궁금한 게 있는 데 ANOVA 분석을 할 때 정규성 뿐 아니라 등분산가정도 하는 것으로 알고 있는 데 만약 각 표본 그룹 내에서 퍼진 정도의 평균으로 나누어 구한 검정통계량으로 비교하는 거라면 등분산가정이 왜 필요한 건가요?

[@AngeloYeo]

왜냐면 귀무가설에서 모든 샘플은 동일한 모집단에서 나왔다고 가정하기 때문입니다. 하나의 모집단에서 모든 샘플이 추출된거라면 각 샘플 그룹의 분산도 모두 동일해야겠죠?

[@__h8181]

@@AngeloYeo 답변 정말 감사드립니다! 답변 보니 ANOVA 분석의 목적? 을 까먹고 질문드린 것 같네요 ㅎㅎ

[@AngeloYeo]

아니에요~ 저도 사실 오래 고민 해봤던 거 였는데 정답이 의외로 가까운 곳에 있더라구요~ 너무 좋은 질문입니다.

[@__h8181]

@@AngeloYeo 감사합니다 :)

[@taehyunallisonlee1785]

안녕하세요, 먼저 이렇게 멋진 강의와 강의노트 올려주셔서 정말 감사합니다. 제가 공부가 많이 부족해서, 그룹간의 차이 정도 (분자) / 불확실도 (분모) 라고 설명하신 부분을 처음에 바로 이해가 어려웠습니다. 계속 생각하고 이것 저것 찾아 보다가, 혹시 제 이해가 맞는지 여쭤 보려고 지금 comment 를 달아 봅니다. F value, F 비율을 계산 할 때, variance of the group means (Mean Square Between) / mean of the within group variances (Mean Squared Error) 이렇게 정의가 되는 걸로 보고 이해가 되었는데요! 분모를 "불확실도"로 설명을 해 주신 이유가 분모가 mean squared error 이기 때문일까요? 즉, error 자체가 어떻게 sampling (sampling 이라는 단어 선택이 맞는지는 확실하진 않습니다 ^^;) 하느냐에 따라서 표본 내에서 퍼진 정도가 달라질 수 밖에 없다는 것을 불확실도로 표현 하셨는지 여쭤 보고 싶습니다. 덕분에 여러모로 많이 배우고 있습니다. 제가 내공이 부족해서 아직 멀었지만, 계속 보고 열공하겠습니다! 감사합니다 :) 건강하고 평안한 하루 되시길 바랄게요.

[@AngeloYeo]

안녕하세요. 불확실도라고 표현한 이유는 말씀하신대로 mean squared error에 기반을 둔 값으로 F-value가 정의되기 때문이기도 하고 MSE는 결국 분산과 밀접한 관계를 갖고 있는 값이기도 해서 입니다. 그리고 불확실도라고 표현한 또 다른 이유 중 하나는 F-value를 정의하는 값들을 다시 잘 생각해보면, 가령 세 집단을 비교한다고 했을 때 세 집단이 갖고 있는 분포의 중심간의 거리와 분포가 퍼진 정도를 수치화해놓은 것임을 알 수 있습니다. 다시 말해, F-value의 분자 값에는 분포의 중심(즉, 평균)들이 얼마나 퍼져있나를 말해주는 것이고 분모 값에는 평균적으로 얼마나 각 분포들이 퍼져있나를 말해주고 있습니다. 이 때 불확실도라는 말은 사실 엄밀한 수학적 용어는 아니지만 분포들이 얼마나 퍼져있나를 말해주는 것을 가지고 제가 '불확실도'라는 용어를 붙이면 이해하는데 도움이 되지 않을까하여 그런 용어를 사용했습니다. sampling을 통한 error(표준 오차)에 대해 공부하시는 것이 도움이 더 되실 것 같습니다. 해당 영상은 아래의 링크를 참고해주세요. kzbin.info/www/bejne/mHq8c5xufc-Ld7M

[@taehyunallisonlee1785]

선생님 안녕하세요 :) 귀한 주말 아침부터 랜선학생 질문 꼼꼼히 읽어봐주시고 이렇게 답장 해주셔서 정말 정말 감사합니다. “F-value의 분모 값에는 평균적으로 얼마나 각 분포들이 퍼져있나를 말해주고 있습니다. 분포들이 얼마나 퍼져있나를 말해주는 것을 '불확실도'라는 용어” 하고 다시금 시간 내어주셔서 알려주셔서 감사합니다💙 열공할게요 !! 진짜 짱이에요 (이렇게 밖에 최고라는 표현이 나오지 않는 제 언어 능력이 쪼금 답답하네요 😅😂) 감사합니다. 오늘도 건강하고 예쁜 날 되세요. 그리고 아래 링크 타고 공부할게요! 제가 찾아 봤어야 했는데 .. 링크로 이렇게 직접 알려주셔서 감사합니다. 🙏🏻

[@earnest_ethan_oh]

공돌이님 영상 정말 잘봤습니다ㅠㅠ 혹시 다음에는 공분산에 대해서 영상을 만들어 주실 수 있으신가요? phylogenetic generalized least squares method를 이해하려고 하는데 공분산이라는 개념이 등장을 하는데 공분산이라는게 표본들 사이에 상관관계가 있다면 발생한다는 것이 와닿지가 않아서 헤매고 있습니다....ANCOVA의 원리도 궁금합니다ㅠㅠ

[@AngeloYeo]

공분산에 대해서는 pca영상이 있으니 찾아보시면 도움이 될 것 같습니다. 그 영상 초반부에 공분산에 대한 설명이 나오는 것으로 기억합니다 ㅎ

[@AngeloYeo]

kzbin.info/www/bejne/oH_al2CAiqyKnck

[@earnest_ethan_oh]

​@@AngeloYeo 답글 감사합니다ㅠㅠ마침 글 남기고 이미 올라와있으려나 싶어서 바로 찾아서 봤었는데 여쭤보고싶은게 이 영상에 나오는 예시를 가지고 이야기하자면 표본 1: 대조군 / 표본 2: 음식 A를 먹은 사람들 / 표본 3: 음식 B를 먹은 사람들 사이에 또다른 상관관계가 있으면 공분산이 존재한다는거고 그 공분산 행렬의 eigen vector 값을 주축으로 해서 정사영해야 차원감소시 data 구조를 가장 잘 살려주는것이라고 이해했는데 제가 맞게 이해한건가요? 그떄 정사영 결과의 variance가 가장 크다고 말씀하셨는데 이 variance와 covariance 행렬과는 아무런 상관이 없는지도 궁금합니다...

[@earnest_ethan_oh]

한가지 더 여쭤보고 싶은것이 t-value 의 경우 이 값이 커야 그에 따른 p-value가 작아지는 거여서 귀무가설을 기각할 수 있었기 때문에 t-value 값은 커야 좋은것이라고 이해했습니다. 그런데 f-value의 경우에는 f 기준값보다 크지 않아야 표본들이 모집단에 속해있을 확률이 크다보니 f-value의 값은 작아야 좋은것인건지 의문입니다ㅠㅠ f-value와 t-value의 값은 완전히 같은 의미라고 말씀해주셔서 더 아리송합니다....

[@AngeloYeo]

@@earnest_ethan_oh 차근차근 정리해보겠습니다... 1. 표본 1: 대조군 / 표본 2: 음식 A를 먹은 사람들 / 표본 3: 음식 B를 먹은 사람들 사이에 또다른 상관관계가 있으면 ... >> 상관관계를 보는 것은 feature들 사이에서 상관관계를 보는 것이지 표본 그룹 간 상관관계를 볼 수는 없습니다. 2. 공분산 행렬의 eigen vector 값을 주축으로 해서 정사영해야 차원감소시 data 구조를 가장 잘 살려주는것이라고 이해했는데 제가 맞게 이해한건가요? >> 이 부분은 맞게 이해하셨습니다. 3. 그떄 정사영 결과의 variance가 가장 크다고 말씀하셨는데 이 variance와 covariance 행렬과는 아무런 상관이 없는지 >> 여기서 말하는 정사영 결과의 variance의 크기는 covariance matrix의 고유벡터에 정사영한 뒤의 결과이기 때문에 covariance 행렬과 상관이 없습니다. 그런데 이 질문도 어떤 의미인지 제가 정확히 이해한것인지 모르겠습니다. 4. 그런데 f-value의 경우에는 f 기준값보다 크지 않아야 표본들이 모집단에 속해있을 확률이 크다보니 f-value의 값은 작아야 좋은것인건지 의문입니다ㅠㅠ >> F-value나 t-value나 모두 단측,양측 검정이 가능하기 때문에 F-value는 매우 작거나 매우 크거나 두 경우 모두 variance의 차이를 확인해볼 수 있는 지표가 될 수 있습니다. F-value와 t-value가 완전히 같은 의미라는 것은 표본집단이 두 개 일때에 한해 F = t^2라는 의미에서 말씀드리는 것입니다.

[@user-rj4sj9uk8s]

차이 곱하기 확실도랑 차이 나누기 불확실도가 같다고 하는게 이해가 안가요~ 차이 곱하기 확실도 곱하는건 이해가 가는데 불확실도를 나누면 왜 확실도 곱하는거와 같다고 할 수 있나요?

[@AngeloYeo]

당연히 같은 개념은 아니지만 곱하기와 역수로 나눠주기가 같은 것이잖아요, 그래서 확실도를 계산해줄 수 없는 경우에 할 수 있는 일은 불확실도로 나눠주자 이렇게 설명한 것 입니다 ㅎ

[@milpol3723]

그럼 t검정과 f검정을 하는 목적은 단지 표본집단들의 평균차이를 알기위한 건가요? 궁극적인 목적이 뭔지 궁금합니다

[@AngeloYeo]

말씀하신게 맞습니다. 다만 덧붙이자면 통계적으로 그 차이를 수치화시켜 보자는데 목적이 있다고 보면 더 좋을 것 같습니다.

[@milpol3723]

@@AngeloYeo 감사합니다^^ 영상은 너무 이해가 잘되고 도움이 되었는데 t,f 검증을 하는 이유가 궁금했습니다. 표본추출을 하면 표본평균을 알 수 있고 그 차이를 당연히 알 수 있는데 왜 t값, f값을 구하는 것인가했네요ㅎㅎ 영상에서 말씀하신 것처럼 혹시 검증 결과로 나온 평균차이값을 통해 모집단의 차이를 추정하기위한 목적은 아닌가요?

[@AngeloYeo]

안녕하세요. 질문에 대한 답변이 한마디로 하기가 어려워 나눠 써봅니다. 1. 표본추출을 하면 표본평균을 알 수 있고 그 차이를 알 수 있는데 굳이 t-value, F-value를 구하는 이유는? --> 표본평균은 랜덤변수입니다. 당연히 표본이 어떻게 추출되었는가에 따라서 그 값이 다르고, 특히 중요한 것은 표본 수 n에 따라서 불확실도가 달라집니다. 이 불확실도는 표준오차라는 개념으로 정립되어 있습니다. t-value나 F-value는 모두 표본 평균의 차이에 표준오차를 나눈 값으로 정의됩니다. (제 블로그 angeloyeo.github.io/2020/02/13/Students_t_test.html 에서 그림 1이 그 내용을 말해주고 있습니다.) 즉, 모집단의 전체 요소에 대해서 sampling이 되지 않는 이상 표본 평균은 항상 변하게 되어서 불확실성을 내재하고 있고, 표본 평균값에 불확실성을 함께 이용해 개념화 시킨 것이 t-value, F-value라고 보시면 됩니다. 2. 평균값 차이를 이용해서 모집단의 차이를 추정하는 것이 목적인 것은 아닌지? --> 추정이 목적인 것은 아닙니다. 모평균을 가장 잘 알기 위해서 어떤 방식으로 추정하는 것이 가장 합리적인가(즉 수학적으로 가장 reasonable한가?)에 대한 답은 Maximum Likelihood Estimation(MLE)이라는 방법을 통해서 얻을 수 있습니다. 또, MLE를 이용해서 얻은 모평균에 대한 가장 합리적인 추정값은 표본평균임이 알려져 있습니다.

[@milpol3723]

@@AngeloYeo 완전히 이해되었습니다 자세히 알려주셔서 너무 감사합니다!^^

[@blacksherry5214]

ANOVA를 t Test 처럼 두집단을 비교하는데 잘 사용하지 않는 이유가 궁금합니다

[@AngeloYeo]

사용해도 괜찮습니다. t-value는 부호로써 어떤 그룹의 그룹 평균이 더 큰지 알려주는 기능이 더 있기에 t-test가 선호되는 것 뿐입니다. 영상에 언급되었는지 기억이 가물가물한데 결국은 t의 제곱이 F와 같습니다. 그래서 t-value나 F-value 어떤걸 쓰나 같은 결과를 조금 다르게 표현한 것이 됩니다.

[@blacksherry5214]

어머나 세상에...ㅠㅠ 답글 너무 빨리 달아주셔서 감사합니다 감동했습니다 SixSigma 공부하면서 홈페이지와 유튜브 잘 보고있습니다 정말 감사합니다

[@ookjoo2000]

공돌이님 그래프는 어떤 프로그램으로 그리셨어요?

[@AngeloYeo]

모두 MATLAB으로 그렸습니다

[@ookjoo2000]

감사합니다

[@user-zp8wr3yo6y]

한모집단으로 나오지 않을 확률이라는게 무슨뜻인지 모르겠습니다. 샘플 하나를 다른 모집단에서 가져왔다는 건가요?

[@AngeloYeo]

한 샘플 집단이 통째로 다른 모집단에서 뽑혔을 확률을 말합니다

[@user-zp8wr3yo6y]

혹시 하나만 더 여쭤봐도 될까요? 만약 두 기기가 있는데 두기기의 성능차이를 확인하기위해 10번정도 측정 한후 그 값들의 표준편차를 계산하여 나온 f값이 f분포표값보다 크다면 p값이 0.05보다 작은거니까 두기기의 성능차이가 유의하다 라고 말할수 있는 건가요?

[@AngeloYeo]

@@user-zp8wr3yo6y 네 그렇게 볼 수 있을 것 같습니다

[@skdifozkxcjkdsa]

잘 배우다가 길을 잃었어요

[@AngeloYeo]

...? 어쩌다 그리되었읍니까?

[@skdifozkxcjkdsa]

@@AngeloYeo 모르겠습니다.. 결국 선생님 영상 덕분에 종합시험 합격했어요 감사합니다

[@AngeloYeo]

@@skdifozkxcjkdsa 합격 축하드립니다 ! 🎉 도움 된 것 같아서 기분 좋네요 😁

[@ybk8459]

통계 맛있다