AI, 버그 바운티 프로그램마저 무너뜨리다!

Turso는 버그 바운티 프로그램 운영 중, AI가 생성한 무의미한 버그 리포트인 슬롭(Slop) 제출에 직면했다. 데이터 격리 아키텍처(Data Isolation Architecture)를 무시한 채, 데이터베이스 헤더에 가비지 데이터를 주입하거나, SQL 구문 실행을 허용하는 취약점을 주장하는 등, AI 환각(Hallucination)에 가까운 사례가 빈번하게 발생했다. 이러한 슬롭은 유지보수 인력의 과도한 시간 소모를 유발하여, 프로그램 운영을 어렵게 만들었다.

버그 바운티 프로그램은 특정 버그에 대한 금전적 보상을 제공함으로써, 오픈소스(Open Source) 프로젝트의 보안 강화에 기여해 왔다. 하지만, AI 기술의 발전으로 인해, AI 봇(AI Bots)이 데이터 미저장 정책(Zero-Retention Policy)을 악용하여, 낮은 비용으로 대량의 버그 리포트를 생성하는 것이 가능해졌다. 이로 인해, 오픈소스(Open Source) 프로젝트는 유지보수(Maintenance)에 어려움을 겪게 되었고, 프로그램의 지속 가능성에 대한 의문이 제기되었다.

커뮤니티에서는 슬롭(Slop) 문제를 해결하기 위한 다양한 방안이 제시되었다. 유료 제출(Paid Submission) 방식을 도입하여, 무분별한 제출을 방지하고, AI 감지 시스템(AI Detection System)을 구축하여, 슬롭을 필터링하는 방안이 제안되었다. 또한, 오픈소스(Open Source) 프로젝트의 지속 가능한 운영을 위해, 거버넌스(Governance) 모델을 개선하고, 커뮤니티 기여(Community Contribution)를 활성화해야 한다는 의견도 제시되었다.

이번 사례는 AI 기술이 오픈소스(Open Source) 생태계에 미치는 영향력을 보여주는 사례이다. AI는 버그 발견 및 코드 생성 능력을 향상시킬 수 있지만, AI 환각(Hallucination)과 같은 문제로 인해, 오픈소스(Open Source) 프로젝트의 보안과 유지보수에 부정적인 영향을 미칠 수 있다. 따라서, AI 시대에 맞는 오픈소스(Open Source) 프로젝트의 거버넌스(Governance) 모델을 구축하고, 데이터 미저장 정책(Zero-Retention Policy)을 강화하는 노력이 필요하다.