LLM이 당신의 계정을 노린다!
LLM 기반 공격은 개인 맞춤형 피싱으로 기존 보안 수단을 우회함
세션 쿠키 탈취 및 2FA 미러링으로 계정 접근 권한 획득
데이터 격리 아키텍처(Data Isolation Architecture) 미흡 시 심각한 피해 발생 가능
새로운 휴리스틱 개발 및 하드웨어 2FA 등 방어 전략 필요
LLM을 활용한 개인 맞춤형 공격 자동화
커뮤니티에서는 LLM이 개인 정보 리서치 및 맞춤형 커뮤니케이션 생성을 자동화하여 기존의 스프레이 앤 프레이(Spray-and-Pray) 방식과 차별화된다고 지적함. 특히 음성/영상 클로닝(Voice/Video Cloning) 및 가짜 웹사이트 구축 등 고도화된 기술을 활용해 신뢰도를 높이는 방식이 언급됨. 이는 과거 전문 인력이 필요했던 작업을 LLM이 저비용으로 대량 생산할 수 있게 만든다는 점에서 위협적임.
2단계 인증(2FA) 우회 메커니즘 분석
논의에 따르면, 공격자는 단순히 비밀번호뿐만 아니라 세션 쿠키(Session Cookie)를 탈취하여 2단계 인증(2FA)을 우회함. 피싱 사이트에서 사용자의 로그인 시도를 실시간으로 미러링하고, 2FA 인증 흐름까지 복제하여 피해자가 인지하기 어렵게 만든다고 함. 또한, 경고 이메일 필터링을 통해 탐지를 회피하는 기술적 수단도 언급됨. 이는 프록시 가능한(Proxyable) 모든 인증 요소가 공격 대상이 될 수 있음을 시사함.
LLM 기반 공격의 확장성과 지속성
과거의 고비용, 저확장성 타겟 공격과 달리, LLM은 토큰 단위의 저렴한 비용으로 수천, 수만 건의 공격을 병렬적으로 실행할 수 있음. 이는 공격자가 장기간 잠복하며 여러 단계의 공격을 순차적으로 실행할 수 있는 인내심을 부여함. 또한, 여러 공격 벡터를 조합(Composition)하여 신종 사기 수법을 만들어내거나, 인증된 계정을 활용한 시스템 취약점 공략까지 가능하게 함.
진화하는 공격에 대한 방어 전략
기존의 휴리스틱(Heuristics) 기반 방어 방식이 LLM의 능력으로 인해 무력화되고 있음을 지적함. 이에 대한 대안으로 스팸 필터 우회가 아닌, 메시지 구조 자체의 공통점을 파악하는 방식이나, 다중 채널 검증 (예: 영상 통화, 사전에 약속된 비밀번호 사용) 강화가 제안됨. 또한, 하드웨어 2FA(Hardware 2FA) 사용과 같은 보안 모범 사례(Security Best Practices) 준수가 강조됨.
