A Cognitive-Aware Security Framework for LLM-Based Social Engineering
Woo-Jin Jung, Ah-Reum Kang · Journal of the Korea Society of Computer and Information · 2026
대규모 언어 모델(LLM) 기반 생성형 AI는 대규모 자동화, 초개인화, 그리고 상황 인지 기반 설득을 가능하게 함으로써 사회공학 공격의 양상을 근본적으로 변화시키고 있다. 이에 따라 사회공학 공격은 더 이상 사용자의 부주의로 설명되는 문제가 아니라 인간 인지에 내재된 취약성을 직접적으로 공략하는 구조로 진화하고 있다. 본 논문은 LLM 기반 사회공학 공격을 인지 취약성의 구조적 증폭 문제로 재정의하고, 언어 기반 신뢰, 권위 편향, 맥락 의존성, 인지 과부하와 같은 요소가 의사결정 과정에 미치는 영향을 분석한다. 또한 기존 콘텐츠 기반 탐지 방식의 한계를 극복하기 위해 상호작용 수준 분석과 의사결정 시점 개입을 중심으로 하는 인지 기반 보안 프레임워크를 제안하며, 구조화된 분석과 사례 연구를 통해 생성형 AI 환경에서 인간 중심 보안 패러다임의 필요성을 제시한다.