Reinforcement Learning-Based Adaptive Defense for IoT Security Firewalls
Sang-Ho Oh · The Journal of the Korean Institute of Information and Communication Engineering · 2025
사물인터넷 기기의 급속한 확산은 편의성을 크게 향상시켰으나, 동시에 심각한 보안 위협을 초래하고 있다. 특히, Okiru와 같은 고도화된 봇넷(botnet) 변종은 사이버 공격의 빈도와 복잡성을 증가시키며, 기존의 규칙 기반 보안 시스템의 한계를 드러내고 있다. 이러한 문제를 해결하기 위해 본 연구에서는 강화학습 기반의 적응형 방화벽 시스템을 제안하며, 이를 위해 우선순위 경험 재생(Prioritized Experience Replay, PER)을 통합한 심층 Q-네트워크(Deep Q-Network, DQN)를 활용한다. 제안된 시스템은 봇넷 공격의 단계별 특성을 반영하여 최적의 방어 전략을 동적으로 학습함으로써 탐지 정확도와 대응 효율성을 향상시킨다. 시뮬레이션 결과, PER-DQN 기반 방화벽은 기존 DQN 모델 대비 더 빠른 수렴 속도와 효율적인 학습 성능을 보이며, 다양한 공격 시나리오에 대한 방어력도 뛰어난 것으로 나타났다. 본 연구는 지능형 방화벽 시스템이 진화하는 사이버 위협을 효과적으로 완화할 가능성을 강조하며, 향후 연구에서는 실환경 배포 및 검증에 중점을 둔다.