Investigating the Vulnerability of 3D Point Cloud Classifiers to Backdoor Attacks Leveraging Transfer Learning
Hee-Jun Park, Tae-Won Jung, Hanju Lee, Seok-Hwan Choi · Journal of Korean institute of intelligent systems · 2024
딥러닝 기술의 발전과 함께 전이학습 기반의 포인트 클라우드 분류 모델들이 등장하고 있다. 하지만, 전이학습이 백도어 공격에 취약함이 밝혀짐에 따라 전이학습 기반의 포인트 클라우드 분류 모델에 대한 백도어 공격 위험성이 대두되고 있다. 본 논문에서는 전이학습 기반의 포인트 클라우드 분류 모델이 백도어 공격에 얼마나 취약한지를 실험적으로 분석한다. 구체적으로, 포인트 클라우드 분류기에 백도어를 삽입하는 사전학습과 깨끗한 데이터셋으로 미세조정하는 단계를 통해 실험을 수행한다. 미세조정 단계에서 오염되지 않은 깨끗한 데이터로 학습을 수행할 경우, 백도어 활성화를 방지할 수 있음을 확인한다. 이를 통해, 깨끗한 데이터셋을 통한 미세조정이 백도어 공격 방어에 효과적임을 시사한다.