Skewness of chi-square statistic for imbalanced text data
Won Jun Son · Journal of the Korean Data and Information Science Society · 2020
텍스트 데이터를 수치형 데이터로 변환하기 위해 사용되는 문서-단어행렬은 흔히 변수의 수가 많은 고차원 행렬 형태로 표현된다. 따라서 문서-단어행렬의 차원을 축소하기 위해 카이제곱 통계량, 오즈비 등의 지표를 이용하여 중요도가 높은 변수들만 선택하기도 한다. 특정 주제의 문서에 자주 사용되어 해당 주제와의 연관성이 높은 단어를 양변수, 반대로 해당 주제의 문서에 자주 사용되지 않는 단어를 음변수라 할 때 카이제곱 통계량은 양변수와 음변수를 모두 선택하는 양측 지표인 반면 오즈비는 양변수만 선택하는 단측 지표에 해당된다. 텍스트 데이터는 이항 분류 문제에서 급간 불균형도가 높은 경우가 많은데 이와 같은 불균형 텍스트 데이터에서는 카이제곱 통계량이 양변수만 많이 선택하는 편향성을 보인다. 이 논문에서는 불균형 텍스트 데이터의 변수 선택에서 카이제곱 통계량이 편향성을 보이는 이유에 대해 살펴 보고 실제 데이터를 통해 이와 많은 성질을 확인해본다. 또 카이제곱 통계량과 오즈비를 이용해 변수를 선택했을 때 분류 모형의 성능에 차이가 있는지 비교해본다.