AI 모델, 안전하게 실행하려면? 샌드박스 구축 가이드!
AI 모델의 안전한 실행을 위한 샌드박스 기술 개요 및 다양한 구현 방식을 소개함
Landlock 및 WASM과 같은 Capability-oriented 디자인의 샌드박스 기술을 강조하며, I/O 제어의 중요성을 언급함
개발자들은 샌드박스의 필요성에 공감하며, capability theory 기반 설계와 sandbox-exec의 활용에 대한 의견을 공유함
샌드박스 기술의 핵심 원리
샌드박스는 AI 모델이 외부 환경에 접근하는 것을 제한하여 시스템의 안전성을 확보한다. 구체적으로, Landlock과 같은 기술은 capability-oriented 설계를 통해 AI 모델의 권한을 최소화한다. 따라서, I/O 제어를 통해 AI 모델이 시스템 자원에 접근하는 것을 세밀하게 관리하며, confused deputy 문제를 방지한다.
샌드박스 설계 시 고려 사항
샌드박스 설계 시 capability theory를 기반으로 하는 접근 방식과 ambient authority를 최소화하는 것이 중요하다. 반면, sandbox-exec는 deprecated 되었음에도 불구하고, 시스템 자체에서 광범위하게 사용되고 있다. 따라서, sandbox-exec의 활용은 여전히 유효하며, entitlements 기능의 한계를 고려하여야 한다.
실제 적용을 위한 전략
AI 모델의 안전한 실행 환경 구축을 위해, capability-oriented 디자인을 채택하고 I/O 제어를 강화해야 한다. 구체적으로, LLM에 불필요한 권한을 부여하지 않고, Locked Box Test를 통해 안전성을 검증한다. 결과적으로, sandbox-exec의 활용과 함께, API 접근 권한을 최소화하여 시스템의 보안을 강화해야 한다.
