Milvus로 LINE VOOM 추천 시스템 즉시성 39배 향상!
by DD
10개월 전
조회수 9
LINE VOOM의 실시간 추천 시스템 구축을 위해 Milvus를 도입함
기존 배치 작업의 즉시성 부족 문제를 해결하고자 벡터 DB를 활용
Milvus 도입 후, 당일 생성 포스트 추천 39배 증가 및 최신 포스트 노출 12% 증가
Milvus 아키텍처와 실시간 추천 시스템
Milvus는 대규모 벡터 데이터에 대한 유사도 검색을 위해 설계되었다. 구체적으로 Querynode, Indexcoord, Datanode 등 여러 컴포넌트로 구성되어 있다. 따라서 실시간 추천 시스템 구축을 위해 온라인 저장소 및 실시간 유사성 검색 기능을 제공하며, 높은 QPS를 달성한다.
카오스 테스트와 시스템 안정성 확보
카오스 테스트를 통해 Milvus 클러스터의 안정성을 검증했다. Querycoord Kill 시나리오에서 컬렉션 릴리스 문제를 발견하고, 컬렉션 이중화를 통해 해결했다. 반면 Etcd 장애 시 데이터 유실을 방지하기 위해 백업 시스템을 구축하고, Birdwatcher를 도입하여 장애 대응 시간을 단축했다.
HNSW 인덱스 성능 최적화
성능 테스트를 통해 HNSW 인덱스가 IVF_FLAT보다 높은 성능을 보임을 확인했다. CPU 코어 수 증가 및 파드 복제 수 증가에 따라 처리량이 선형적으로 증가했다. 따라서 인메모리 복제를 통해 TP99 지연 시간 감소 및 서비스 안정성을 확보했다.
