LINE VOOM의 실시간 추천 시스템 구축을 위해 Milvus를 도입함
기존 배치 작업의 즉시성 부족 문제를 해결하고자 벡터 DB를 활용
Milvus 도입 후, 당일 생성 포스트 추천 39배 증가 및 최신 포스트 노출 12% 증가
Milvus는 대규모 벡터 데이터에 대한 유사도 검색을 위해 설계되었다. 구체적으로 Querynode, Indexcoord, Datanode 등 여러 컴포넌트로 구성되어 있다. 따라서 실시간 추천 시스템 구축을 위해 온라인 저장소 및 실시간 유사성 검색 기능을 제공하며, 높은 QPS를 달성한다.
카오스 테스트를 통해 Milvus 클러스터의 안정성을 검증했다. 시나리오에서 문제를 발견하고, 를 통해 해결했다. 반면 시 을 방지하기 위해 을 구축하고, 를 도입하여 을 단축했다.
성능 테스트를 통해 HNSW 인덱스가 IVF_FLAT보다 높은 성능을 보임을 확인했다. CPU 코어 수 증가 및 파드 복제 수 증가에 따라 처리량이 선형적으로 증가했다. 따라서 인메모리 복제를 통해 TP99 지연 시간 감소 및 서비스 안정성을 확보했다.