LLM, 개인 정보 유출 의혹에 휩싸이다

커뮤니티에서는 LLM 제공 업체의 중간 인프라(Intermediate Infrastructure)에서 발생하는 오류로 인해 응답이 뒤바뀌는 현상을 지적함. 과거 유사 사례로 API 게이트웨이(API Gateway)의 HTTP 100 상태 코드 처리 오류나 원인 불명의 오류가 언급되었음. 이는 데이터 격리 아키텍처(Data Isolation Architecture)의 부재 또는 오류로 인해 발생할 수 있으며, 민감 정보가 의도치 않게 노출될 수 있다는 심각한 우려를 낳고 있음.

일부 사용자는 보고된 현상이 실제 데이터 유출이 아닌 AI 환각(Hallucination)일 가능성을 제기함. 특히 긴 세션 컨텍스트(Long Session Context), 예를 들어 800K 토큰 이상을 사용할 경우 LLM이 맥락을 혼동하여 관련 없는 정보를 생성할 수 있다는 분석임. 또한, 특정 파일 경로(`minecraft.py`)가 응답에 포함된 것이 가상 환경(Virtual Environment)의 파일 목록을 LLM이 잘못 해석한 결과일 수 있다는 의견도 있음.

사용자는 엔터프라이즈 등급의 ZDR 워크스페이스 환경에서도 이러한 문제가 발생했다는 점을 들어 데이터 격리 아키텍처(Data Isolation Architecture)의 신뢰성에 의문을 제기함. 동료가 Minecraft 템플을 짓는다는 내용이 갑자기 나타난 것은 심각한 보안 문제로 이어질 수 있으며, 이는 데이터 미저장 정책(Zero-Retention Policy)이 제대로 작동하지 않을 가능성을 시사함. $1조 달러 규모 기업에서도 유사한 문제가 발생한 사례가 언급되며 우려를 증폭시킴.

논의 중에는 LLM 서비스 제공 업체의 고객 지원 채널(Customer Support Channel)에 대한 불만도 제기됨. 챗봇 기반의 지원 시스템이 문제를 해결해주지 못하고, 결국 카드 재발급과 같은 극단적인 조치를 취해야 했던 경험이 공유됨. 이는 기술적 문제 해결뿐만 아니라 사용자 경험(User Experience) 측면에서도 심각한 개선이 필요함을 보여줌.