A Comparative Study on the Performance of LDA and LLM-based Topic Models
S. W. Lee · 한국사회와 행정연구 · 2025
본 연구는 토픽 모델링 기법들의 성능을 비교 분석하고자 한다. 구체적으로 잠재 디리클레 할당(LDA)과 같은 전통적인 통계 기반 방법과 대규모 언어 모델(LLM) 기반의 최신 접근법들을 비교한다. 본 연구에서는 LDA와 함께 BERTopic, 문맥 기반 토픽 임베딩(CTE), 그래프 신경망(GNN), 변분 오토인코더(VAE)를 포함하는 다양한 LLM 기반 모델들을 체계적으로 비교 분석하였으며, 토픽 구별도(명확, 유사, 혼합) 및 데이터셋 규모(500개에서 100,000개 문서)에 따른 각 모델의 성능을 평가하였다. 연구 결과, LDA는 대규모 데이터셋에서 견고한 성능과 확장성을 보이는 반면, CTE와 같은 문맥 기반 방법은 특히 토픽 구별도가 명확한 데이터셋에서 미묘한 의미 정보를 포착하는 데 뛰어난 성능을 나타냈다. 또한, 본 연구에서는 기존에 사용되던 일관성(coherence) 및 퍼플렉시티(perplexity) 지표의 한계를 극복하기 위하여, 임베딩 기반 토픽 유사도와 최적 매칭 기반 유사도라는 새로운 평가 지표를 사용하였다. 연구 결과는 토픽 모델링 방법 선택 시 데이터 특성과 규모를 종합적으로 고려해야 하며, 다양한 모델들이 각기 다른 조건에서 다양한 수준의 효과를 나타낸다는 점을 시사한다.