Symbolizing Numbers to Improve Neural Machine Translation
Cheongwoong Kang, Youngheon Ro, Jisu Kim, Heeyoul Choi · Journal of Digital Contents Society · 2018
기계 학습의 발전은 인간만이 할 수 있었던 섬세한 작업들을 기계가 할 수 있도록 이끌었고, 이에 따라 많은 기업체들은 기계학습 기반의 번역기를 출시하였다. 현재 상용화된 번역기들은 우수한 성능을 보이지만 숫자 번역에서 문제가 발생하는 것을 발견했다. 번역기들은 번역할 문장에 큰 숫자가 있을 경우 종종 숫자를 잘못 번역하며, 같은 문장에서 숫자만 바꿔 번역할 때 문장의 구조를 완전히 바꾸어 번역하기도 한다. 이러한 문제점은 오번역의 가능성을 높이기 때문에 해결해야 될 사안으로 여겨진다. 본 논문에서는 Bidirectional RNN (Recurrent Neural Network), LSTM (Long Short Term Memory networks), Attention mechanism을 적용한 Neural Machine Translation 모델을 사용하여 데이터 클렌징, 사전 크기 변경을 통한 모델 최적화를 진행하였고, 최적화된 모델에 숫자 기호화 알고리즘을 적용하여 상기 문제점을 해결하는 번역 시스템을 구현하였다. 본 논문은 데이터 클렌징 방법과 사전 크기 변경, 그리고 숫자 기호화 알고리즘에 대해 서술하였으며, BLEU score (Bilingual Evaluation Understudy score) 를 이용하여 각 모델의 성능을 비교하였다.