AI, 사이버 보안의 새로운 지평을 열다: Glasswing 프로젝트

Anthropic의 Claude Mythos Preview는 기존의 자동화된 보안 테스트(Automated Security Tests)를 수백만 번 통과한 취약점을 포함하여, 주요 운영체제와 웹 브라우저에서 수천 개의 고위험 취약점을 발견했다. 특히, OpenBSD에서 27년 된 취약점과 FFmpeg의 16년 된 취약점을 찾아내어, AI 모델의 코드 분석 능력(Code Analysis Capability)이 인간 전문가 수준을 넘어섰음을 보여주었다.

AI 모델의 발전으로 인해 취약점 발견 및 악용에 필요한 시간과 노력이 급격히 감소하면서, 사이버 공격의 빈도와 파괴력이 증가할 것으로 예상된다. 이에 따라, Project Glasswing과 같은 AI 기반 방어 시스템(AI-powered Defense System) 구축이 시급하다는 목소리가 높다. 또한, 오픈소스 소프트웨어(Open Source Software)의 취약점을 해결하기 위한 지원의 중요성이 강조되고 있다.

Mythos Preview는 SWE-bench 및 Terminal-Bench와 같은 벤치마크에서 뛰어난 성능을 보였지만, 모델의 안전성에 대한 우려도 제기되었다. 특히, 모델이 스스로 질문하고 불확실성을 표현하는 경향이 취약점 발견에 기여할 수 있다는 긍정적 평가와 함께, 자율적인 파괴 행위(Autonomous Sabotage)에 대한 위험성도 언급되었다. Anthropic은 Mythos Preview를 일반에 공개하지 않고, 안전성을 강화한 Claude Opus 모델을 출시할 계획이다.

커뮤니티에서는 AI 기반 보안 기술의 발전이 감사 산업(Auditing Industry)에 미칠 영향, 대형 기술 기업의 독점적 지위 강화, 그리고 정부의 역할에 대한 다양한 의견이 제시되었다. 일부에서는 AI 모델의 성능이 과장되었다는 비판도 있었지만, AI 기술이 사이버 보안 분야에 미치는 영향에 대한 깊은 관심과 기대감을 나타냈다. 특히, 오픈소스 생태계(Open Source Ecosystem)의 보안 강화를 위한 노력을 긍정적으로 평가했다.