LLM은 당신을 기억할까? 'In the Weights'로 확인해보세요.

댓글에서는 해당 웹사이트가 '장난감 프로젝트'임에도 불구하고 다수의 추적 쿠키(Tracking Cookies)를 사용한다는 점을 지적하며 개인 정보 보호에 대한 우려를 제기하고 있습니다. 특히 사용자의 이름을 수집하려는 의도가 아니라고 주장하면서도 실제로는 사용자 데이터 수집(User Data Collection)에 대한 의문이 제기되는 상황입니다.

사용자들은 'N strength · Top N%'와 같은 측정 지표의 의미가 불분명하다고 지적합니다. 임의의 이름조차 높은 수치로 인식되는 사례가 보고되며, 이는 LLM이 데이터를 잘못 해석하거나 환각(Hallucination)을 일으킬 가능성을 시사합니다. 따라서 웹사이트 결과의 신뢰성에 대한 의문이 제기되고 있습니다.

이 프로젝트는 LLM이 학습 데이터(Training Data)에 포함된 특정 개인이나 정보를 얼마나 강하게 기억하는지 탐색하는 것을 목표로 합니다. 사용자는 자신의 이름이나 특정 키워드를 입력하여 여러 LLM 모델에서 해당 정보가 얼마나 인식되는지 확인할 수 있습니다. 이는 데이터 프라이버시(Data Privacy)와 AI 모델의 투명성에 대한 중요한 질문을 던집니다.

일부 사용자는 정기적인 온라인 계정 삭제를 통해 개인 정보 추적을 회피한다고 언급합니다. 이는 과거 스토커 문제로 시작되었으나, 현재는 개인 정보 보호(Privacy Protection)를 위한 일반적인 습관이 되었다고 설명합니다. 이러한 사용자들의 경험은 LLM 시대의 데이터 주권과 익명성에 대한 논의를 촉발합니다.