실시간 컨텍스트 기반 광고 추천 모델로 광고 효율 3배 향상
기존 모델의 온라인 컨텍스트 부재(Online Context Absence)로 인해 관련 핀(Related Pins) 광고의 노출 빈도(Impression)가 1% 미만으로 저조했음
실시간 컨텍스트(Real-time Context)를 통합하기 위해 새로운 모델 아키텍처, 합성 데이터 기반 학습, 하이브리드 서빙 방식을 도입
Recall@K 3~10배 증가, 광고 관련성(Relevance) 275~300% 향상, ROAS(Return on Ad Spend) 0.7% 증가 등 광고 성과(Ad Performance) 개선을 달성
향후 검색(Search) 등 다른 컨텍스트 표면으로 확장하고, 교차 어텐션(Cross-Attention) 기반 융합 기술을 적용할 계획
실시간 컨텍스트 통합을 위한 모델 아키텍처
본문에서는 기존의 투 타워(Two-Tower) 모델 쿼리 타워(Query Tower)에 컨텍스트 레이어(Context Layer)를 추가하여 실시간 정보를 통합했다.
컨텍스트 레이어: 현재 사용자가 보고 있는 핀(Pin)의 관심사 카테고리(Interest Category) 임베딩을 입력으로 사용
사용자 표현(User Representation) 레이어: 사용자 인구 통계 정보(Demographic Features) 임베딩 추가
결과: 광고 관련성(Ad Relevance) 향상 및 광고 추천 정확도(Accuracy) 개선
이러한 아키텍처 변화는 사용자의 현재 관심사를 반영하여 광고의 타겟팅 정확도(Targeting Accuracy)를 높이는 데 기여했다.
합성 데이터를 활용한 모델 학습 방법
실시간 컨텍스트는 서빙 시점에만 존재하므로, 오프라인 학습을 위해 합성 데이터(Synthetic Data)를 활용했다.
긍정 레이블(Positive Label)에서 파생된 유사 컨텍스트 정보(Pseudo-Context Information)를 입력 시퀀스에 주입
드롭아웃(Dropout) 비율(Rate) 증가: 모델이 사용자의 과거 행동 시퀀스(Historical Event Sequence)에 의존하도록 유도
장점: 실제 컨텍스트 데이터 수집의 기술적 어려움과 데이터 부족 문제(Data Scarcity) 해결
합성 데이터는 모델이 실시간 정보를 학습하면서도 과거 행동 패턴(Past Behavior Pattern)을 유지하도록 돕는 핵심적인 역할을 수행한다.
하이브리드 유저 임베딩 추론 방식
실시간 컨텍스트 특징(Context Features)은 온라인에서만 사용 가능하므로, 하이브리드 모델 추론(Hybrid Model Inference) 방식을 채택했다.
오프라인 추론: 트랜스포머 인코더(Transformer Encoder)를 포함한 대부분의 사용자 타워(User Tower)는 오프라인에서 계산, 특징 저장소(Feature Store)에 저장
온라인 추론: 컨텍스트 레이어(Context Layer)와 최종 MLP 헤드(MLP Head)는 온라인에서 계산, 실시간 컨텍스트 특징(Real-time Context Features) 사용
결과: 개인화(Personalization)와 컨텍스트 관련성(Contextual Relevance)을 모두 충족하는 추천 가능
이러한 하이브리드 방식은 모델의 유연성(Flexibility)과 효율성(Efficiency)을 동시에 확보하는 전략이다.
광고 관련성 및 비즈니스 지표 개선
컨텍스트 특징 통합으로 광고 후보(Ad Candidate)의 생존율(Survival Rate)과 관련성이 크게 향상되었다.
Recall@K: 기존 모델 대비 3~10배 증가
광고 관련성(Relevance): 중앙값 기준 275~300% 상승
ROAS(Return on Ad Spend): 0.7% 증가, 주요 국가에서는 1.4% 상승
결과: 광고 효율(Ad Efficiency) 증대 및 수익성(Profitability) 개선
이러한 성과는 광고 추천 시스템(Ad Recommendation System)의 핵심 목표를 달성하는 데 기여했다.
향후 개선 방향 및 기술적 도전 과제
향후 검색(Search) 등 다른 컨텍스트 표면으로 확장하고, 교차 어텐션(Cross-Attention) 기반 융합 기술을 적용할 계획이다.
컨텍스트 표면 확장: 검색(Search) 쿼리(Query)와 광고 후보 간의 관련성(Relevance) 유지가 중요
교차 어텐션 기반 융합: 컨텍스트 레이어 임베딩을 쿼리(Query)로, 인코딩된 트랜스포머(Transformer) 출력을 키/값(Key/Value)으로 사용
기대 효과: 각 과거 이벤트(Event)의 중요도를 실시간 컨텍스트에 따라 동적으로 포착 가능
이러한 기술적 개선은 광고 추천 시스템(Ad Recommendation System)의 성능 향상과 사용자 경험(User Experience) 개선에 기여할 것이다.
