Mythos Preview, AI 기반 취약점 분석으로 보안 혁신을 꿈꾸다.
by DD
2개월 전
조회수 14
Anthropic의 Mythos Preview를 활용하여 자체 시스템의 취약점 분석을 수행함
익스플로잇 체인 구성(Exploit Chain Construction) 및 PoC 자동 생성(Proof Generation) 능력이 기존 모델 대비 향상됨
모델의 일관성 없는 거부(Inconsistent Refusals)와 높은 노이즈(Noise)로 인해 추가적인 안전 장치 필요
자동 패치(Auto Patch) 시도 중 발생한 문제점을 통해, 보안 아키텍처(Security Architecture)의 중요성을 강조함
Mythos Preview의 핵심 기능: 익스플로잇 체인 구성
Cloudflare는 Mythos Preview를 통해 익스플로잇 체인 구성(Exploit Chain Construction) 능력을 확인했다. 이는 여러 취약점을 연결하여 실제 공격 시나리오를 만드는 기술로, 기존 모델들이 개별 취약점 발견에 그쳤던 것과 달리, Mythos Preview는 취약점 간의 관계를 파악하고 실제 공격 코드를 생성(Code Generation)하는 데 성공했다. 이러한 능력은 보안 연구자 수준의 분석 능력을 보여주는 것으로 평가된다.
AI 기반 취약점 분석의 한계: 노이즈와 일관성 부족
Mythos Preview는 긍정적인 평가를 받았지만, AI 환각(Hallucination)과 이라는 문제점을 드러냈다. 특히, 모델이 특정 요청에 대해 거부하는 경우가 발생했으며, 동일한 요청이라도 상황에 따라 다른 결과를 보였다. 또한, C/C++과 같은 메모리 안전성이 낮은 언어로 작성된 프로젝트에서 더 많은 이 발생했다. 이는 AI 기반 분석 도구의 신뢰성을 저해하는 요소로 작용한다.
