LLM 학습 방해, 예술가들의 고군분투

커뮤니티에서는 LLM의 예술 작품 학습을 막기 위해 데이터 격리 아키텍처(Data Isolation Architecture)를 적용한 로그인 월(Login Wall)이나 강력한 크롤러 방어(Crawler Defense) 기술을 제안한다. 특히 iocaine과 같은 도구를 활용하여 비정상적인 접근(Abnormal Access)을 차단하는 방식이 언급된다. 하지만 이러한 방법들이 완벽한 방어(Perfect Defense)를 보장하지 못하며, 결국 데이터 미저장 정책(Zero-Retention Policy)을 준수하지 않는 기업의 학습을 완전히 막기는 어렵다는 점이 지적된다.

Nightshade와 같은 AI 학습 방해 도구에 대한 언급이 있었으나, 커뮤니티에서는 해당 도구들의 업데이트 및 유지보수 현황을 파악하기 어렵다는 의견이 지배적이다. 또한, 이러한 데이터 오염(Data Poisoning) 기법이 LLM 학습에 얼마나 효과적인지에 대한 검증이 부족하며, 결과적으로 AI 환각(Hallucination)을 유발하거나 학습 데이터의 신뢰성을 저해할 수 있다는 우려가 제기된다. Glaze와 같은 도구의 AI 학습 방지 통합(Anti-AI Training Integration) 시도도 있지만, 그 효과는 미지수다.

예술 작품의 저작권을 보호하기 위해 강력한 DRM(Digital Rights Management) 도입이 필요하다는 주장이 제기되었다. 이는 모델이 학습한 데이터의 출처 추적(Provenance Tracking)을 가능하게 할 수 있다는 기대 때문이다. 그러나 DRM이 오히려 사용자 통제권(User Control)을 약화시키고, 불법 복제 방지(Anti-Circumvention) 기술이 결국 우회될 것이라는 반론도 만만치 않다. 특히 DMCA와 같은 법률이 DRM 우회를 불법화하더라도, 과거 불법 복제(Piracy) 사례처럼 기술적 한계를 극복할 방법이 나타날 것이라는 예측이 나온다.

상업적 검색 엔진들이 인덱싱하는 데이터를 LLM 학습에 활용한다는 점이 지적되며, 구글(Google) 및 제미나이(Gemini)와 같은 서비스가 이러한 데이터 수집에 관여할 가능성이 언급된다. 따라서 오픈 검색(Open Search)을 지양하고, 검색 엔진 노출을 최소화하는 것이 학습 데이터 편입을 줄이는 한 방법으로 제시된다. 하지만 이러한 방식은 포트폴리오 사이트 구축(Portfolio Site Building)과 같은 본래 목적을 달성하기 어렵게 만든다는 딜레마가 존재한다.

결론적으로, 인간 창작자가 자신의 작품을 공개적으로 공유(Public Sharing)하면서도 LLM 학습 데이터로 사용되는 것을 완전히 막는 것은 매우 어려운 과제임이 강조된다. 데이터 미저장 정책(Zero-Retention Policy)을 준수하지 않는 기업의 학습을 원천적으로 차단하기 어렵고, DRM과 같은 기술적 해결책 역시 실효성 문제(Viability Issues)와 법적/기술적 우회 가능성(Legal/Technical Circumvention)에 직면해 있다. 따라서 현재로서는 작품을 온라인에 게시하지 않거나, 접근을 제한하는 것이 가장 확실한 방법으로 제시된다.