Proposal of Stacked SARIMAX-Transformer for Improving Forecasting Accuracy of Time Series Data
Jaehyun Han, Chang-Pyo Yoon, Chi-Gon Hwang · The Journal of the Korean Institute of Information and Communication Engineering · 2025
시계열 데이터 예측은 금융, 경제, 기상, 에너지 등 다양한 분야에서 핵심적인 역할을 수행한다. 기존의 SARIMAX 모델은 계절성, 추세, 외생 변수를 포함하여 선형적 패턴을 효과적으로 예측하지만, 비선형 관계를 포착하는 데는 한계가 있다. 한편, Transformer 모델은 Attention 메커니즘을 통해 비선형 패턴과 장기 의존성을 학습하는데 탁월한 성능을 보여주며, 최근 시계열 분석에서 주목받고 있다. 본 연구는 SARIMAX 모델의 선형적 예측 강점과 Transformer 모델의 비선형적 학습 능력을 결합한 Stacked SARIMAX-Transformer 모델을 제안한다. 스태킹 기법을 적용하여 두 모델의 예측 결과를 통합하고, 이를 메타 모델의 입력으로 사용함으로써 시계열 데이터의 다양한 패턴을 포괄적으로 학습한다. 실증 분석 결과, 제안 모델은 SARIMAX와 Transformer 모델 단독 사용 대비 MAE, MAPE, RMSE와 같은 예측 오차를 줄이고 R-squared 값을 향상하며 우수한 성능을 입증하였다.