에이전트형 AI(Agentic AI), 보안 문제의 뇌관?
시그널(Signal)을 포함한 보안 전문가들은 에이전트형 AI(Agentic AI)의 보안 취약점과 데이터 유출 위험성을 경고함
운영체제(Operating System)의 근본적인 보안 문제와 데이터 미저장 정책(Zero-Retention Policy)의 중요성을 강조함
기업 환경에서 예측 가능성이 자율성보다 우선시되며, '사람-중심(Human-in-the-loop)' 방식이 여전히 중요함을 시사함
마이크로소프트(Microsoft)의 'Recall'과 같은 기술의 데이터 수집 및 저장 방식에 대한 우려가 제기됨
에이전트형 AI(Agentic AI)의 보안 취약성
논의에서는 에이전트형 AI(Agentic AI)의 예측 불가능성(Unpredictability)과 데이터 유출 위험(Data Leakage)을 지적하며, 기업 환경에서 자율성보다 안정성(Stability)이 우선시되어야 한다고 강조한다. 특히, AI 모델의 AI 환각(Hallucination) 현상과 데이터 처리 과정에서의 보안 허점(Security Vulnerabilities)은 심각한 문제로 인식된다. 따라서, '사람-중심(Human-in-the-loop)' 방식의 중요성이 다시 부각된다.
운영체제(Operating System) 보안의 중요성
alphazard는 AI의 신뢰성 문제를 운영체제(Operating System)의 근본적인 보안 문제로 연결하며, 데이터 격리 아키텍처(Data Isolation Architecture)의 부재를 지적한다. 특히, UNIX와 Microsoft의 보안 모델 실패를 언급하며, Plan 9, SEL4, Fuschia와 같은 안전한 운영체제(Secure OS)의 중요성을 강조한다. 또한, 의사 결정자들이 샌드박싱 기술(Sandboxing Technologies)과 현대적인 보안 모델에 대한 이해 부족을 비판한다.
데이터 수집 및 저장 방식에 대한 우려
댓글에서는 마이크로소프트(Microsoft)의 'Recall'과 같은 기술이 스크린샷(Screenshot), OCR(Optical Character Recognition), 의미 분석(Semantic Analysis)을 통해 사용자 활동을 기록하는 방식에 대한 우려를 표명한다. 이러한 기술은 개인 정보 보호(Privacy) 및 데이터 보안(Data Security) 측면에서 심각한 문제를 야기할 수 있다. 특히, 데이터 미저장 정책(Zero-Retention Policy)을 준수하지 않는 경우, 정보 유출 위험이 높아진다.
제로 트러스트(Zero Trust) 보안의 어려움
tucnak은 제로 트러스트(Zero Trust) 보안의 어려움을 지적하며, RCE(Remote Code Execution) 및 평문(Plaintext)으로의 자격 증명 저장을 문제로 꼽는다. 그는 기업 내에서 엄격한 정책(Strict Policy)을 시행하려 했지만, 실패한 경험을 공유하며, AI 기반 정책(AI-based Policy)의 필요성을 강조한다. 또한, 마이크로소프트(Microsoft)의 제로 트러스트(Zero Trust) 구현 실패 사례를 언급하며, 구글(Google)의 세분화된 권한 관리(Granular Permission) 방식을 긍정적으로 평가한다.
