Analysis of Federated Learning Considering Model Transmission Delay Depending on Communication Situation

한성대학교 AI응용학과 조교수, Woonghee Lee · The Journal of Next-generation Convergence Technology Association · 2022

기술의 발전으로 사물인터넷은 스스로 판단하고 동작을 수행하는 인공지능 기반의 지능형 사물인터넷으 로 발전하고 있다. 연합학습은 지능형 사물인터넷에 적합한 학습 방법으로서, 데이터가 탈중앙화된 상황에서 다수 의 사물인터넷 기기들과 서버가 협력하여 글로벌 모델을 학습시킨다. 연합학습은 학습을 수행하기 위해 통신 과정 이 필수적으로 포함되므로 효율적인 통신은 곧 연합학습의 성능향상으로 직결된다. 본 논문에서는 통신상황에 따 른 연합학습에서의 모델 전송 및 학습 라운드 진행에 대한 분석을 수행하였다. 그 과정에서 연합학습에서의 통신 상황에 따른 참여 기기들의 전송 소요 시간, 전송 로컬 모델 수 및 글로벌 모델 전송에 대한 분석을 수행하였다. 그 결과, 연합학습을 수행하기 위한 여러 과정들에서 많은 양의 통신이 반복적으로 수행되기 때문에 통신상황은 연합학습 성능에 영향을 주는 주요한 요소임을 보였으며, 학습에 참여하는 최소 기기 수와 한 라운드 소요 시간의 상한이 통신상황에 따라 적절하게 조절되어야 지연 없는 연합학습 수행이 가능함을 보였다.

Read the paper · More papers on PaperTik