Regression Machine Learning using Bayesian Inference and Regularization
Sunghae Jun, VALUE VALUE, VALUE VALUE · Journal of Korean institute of intelligent systems · 2019
최근 심층학습에 기반 한 신경망 모형이 기존의 머신러닝 알고리즘을 대체하고 있다. 특히 컴퓨터비전, 자연어처리 등 이미지와 음성 인식 문제를 위한 분류 작업에서 매우 우수한 성능을 보여주고 있다. 하지만 신경망 모형의 구조에서 은닉층을 심층적으로 디자인함으로써 기존의 신경망에 비하여 더 많은 계산시간이 필요하게 되는 어려움이 있다. 분류문제가 아닌 회귀문제에 있어서도 같은 문제가 있다. 이와 같은 심층 신경망에 비하여 본 연구에서 제시하는 베이지안 신경망은 하나의 은닉층만을 사용하고 베이지안 추론 및 정규화를 이용하여 신경망 모형의 예측력을 유지하면서 동시에 계산시간을 단축시키는 결과를 얻기 위하여 노력한다. 즉, 신경망 모형의 가중치를 모수의 사전 및 사후 분포를 이용하여 갱신한다. 모의실험 데이터를 이용하여 베이지안 신경망과 심층 신경망의 예측의 정확성과 계산시간을 비교하여 제안 방법의 타당성을 보인다.