Morpheme-based Efficient Korean Word Embedding
Dongjun Lee, Yubin Lim, Ted Taekyoung Kwon · Journal of KIISE · 2018
기존의 word2vec(continuous bag-of-words 또는 skip-gram)이나 Glove 등의 단어 임베딩 모델은 단어의 구조나 단어 내부의 의미를 학습하지 못한다. 이는 한국어과 같은 교착어들을 학습하는데 있어서 큰 한계로 작용한다. 본 논문에서는, 기존의 skip-gram 모델을 확장하여 단어 벡터를 형태소들의 벡터의 합으로 정의하고, 형태소들의 벡터를 학습하는 새로운 모델을 제안하였다. 학습된 벡터의 성능을 평가하기 위하여 단어 유사도 평가와 단어 유추 평가를 수행하였고, 다른 자연어 처리 응용에 학습한 벡터를 사용함으로써 얼마나 성능이 향상되는지 실험하였다.