LLM으로 똑똑해진 DMP, 마케터의 생각을 현실로!
by DD
8개월 전
조회수 9
기존 DMP의 세그먼트 생성 방식의 한계를 LLM으로 해결
자연어 처리 및 벡터 검색을 통해 마케터의 의도를 파악
DIA를 통해 세그먼트 추천 및 결과 필터링 기능 제공
Seg Lens 아키텍처: LLM과 벡터 DB의 만남
Seg Lens는 OpenAI GPT-4를 활용하여 마케터의 자연어 질의를 분석한다. 구체적으로 자연어 처리를 통해 핵심 키워드와 의미 단위를 추출하고, 이를 기반으로 벡터 임베딩을 생성한다. 따라서 Elasticsearch의 Dense Vector 기능을 활용하여 의미 기반 검색을 수행하고, 세그먼트 추천 결과를 제공한다.
벡터 DB 구축: Semantic Expansion과 데이터 접근 제어
Semantic Expansion을 통해 사용자의 입력 문장을 확장하여 벡터 검색의 정확도를 높인다. Batch API를 사용하여 비용 50% 절감 및 안정성을 확보했다. 반면, 사이트별 권한 제어를 위해 filter를 활용하여 데이터 접근 제어를 구현했다.
DIA(DMP Intelligence API)의 역할과 서비스 플로우
DIA는 마케팅 세그먼트 기반 지능형 추천을 제공하는 핵심 모듈이다. 키워드 검색과 벡터 검색을 결합한 하이브리드 방식을 사용하며, OpenAI GPT 모델을 활용한 자연어 처리를 수행한다. 결과적으로 마케터는 자연어 입력만으로 원하는 타겟을 찾을 수 있다.
