위키피디아(Wikipedia) 편집, AI는 약일까, 독일까?
위키 교육 프로그램(Wiki Education Program)은 생성형 AI(Generative AI)의 위키피디아(Wikipedia) 편집 활용에 대한 연구 결과를 발표함
AI가 생성한 정보의 출처 조작(Citation Hallucination) 및 정보 진위 여부 검증 실패가 주요 문제점으로 지적됨
Pangram과 같은 AI 탐지 도구(AI Detection Tool)를 활용하여 AI 생성 콘텐츠를 식별하고, 데이터 미저장 정책(Zero-Retention Policy)을 통해 무분별한 정보 생성을 방지함
커뮤니티에서는 AI의 위키피디아(Wikipedia) 편집 활용에 대한 신중한 접근(Cautious Approach)과 정보 검증의 중요성을 강조함
AI 생성 콘텐츠의 문제점: 출처 조작과 정보 왜곡
Wiki Education의 연구에 따르면, 생성형 AI(Generative AI)가 생성한 위키피디아(Wikipedia) 기사에서 출처 조작(Citation Hallucination)이 심각한 문제로 나타났다. 특히, 실제 존재하지 않는 출처를 인용하거나, 출처의 내용을 왜곡하는 사례가 빈번하게 발생했다. 이는 AI가 그럴듯한 문장을 생성하지만, 정보의 진실성을 보장하지 못하기 때문이다. AI 환각(Hallucination) 현상은 위키피디아(Wikipedia)의 정보 신뢰도를 저해하는 주요 원인으로 지목되었다.
Pangram을 활용한 AI 탐지 및 대응 전략
Wiki Education은 AI 생성 콘텐츠를 탐지하기 위해 Pangram이라는 도구를 활용했다. Pangram은 2022년 ChatGPT 출시 이후 생성된 기사들을 분석하여 AI 생성 여부를 판단했다. 그 결과, AI가 생성한 것으로 의심되는 기사들이 대거 발견되었으며, Wiki Education은 해당 기사들을 수정하거나 삭제하는 조치를 취했다. AI 탐지(AI Detection)를 통해 AI 생성 콘텐츠를 식별하고, 신속하게 대응하는 전략을 통해 위키피디아(Wikipedia)의 정보 품질을 유지하려는 노력을 보여주었다.
AI 활용 가이드라인 및 교육의 중요성
Wiki Education은 AI 도구의 올바른 사용을 위한 교육 프로그램을 운영하고 있다. 교육에서는 AI를 활용하여 기사 작성에 도움을 받는 방법을 제시하지만, AI가 생성한 텍스트를 무분별하게 복사하여 붙여넣는 행위를 금지한다. 또한, 정보의 진실성을 검증하는 과정을 강조하며, AI를 보조 도구로 활용하고 인간의 판단(Human Judgement)을 통해 정보를 검증하는 것이 중요함을 강조한다. 이러한 교육을 통해 AI의 오용을 방지하고, 위키피디아(Wikipedia)의 정보 신뢰도를 높이고자 한다.
Grokipedia와 위키피디아(Wikipedia)의 상반된 접근 방식
Grokipedia는 AI를 적극적으로 활용하여 정보를 생성하는 반면, 위키피디아(Wikipedia)는 AI 사용에 대해 신중한 입장을 취하고 있다. Grokipedia는 AI를 통해 시각적으로 매력적인 정보를 제공하지만, 정보의 정확성 및 객관성에 대한 우려가 제기된다. 반면, 위키피디아(Wikipedia)는 정보의 신뢰성을 최우선으로 고려하며, AI의 무분별한 사용을 경계한다. 이러한 상반된 접근 방식은 AI 시대에 정보의 품질과 신뢰성을 확보하기 위한 다양한 시도를 보여준다.
