아자르, AI 추천 시스템으로 사용자 경험 UP!

아자르는 초기 CatBoost 모델을 검토했지만, 레이턴시 문제로 인해 투 타워 아키텍처를 선택했다. 구체적으로, CatBoost는 O(N^2)의 추론 복잡도를 가져 1:1 매칭에 부적합했다. 따라서 투 타워 아키텍처를 통해 계산량 감소와 확장성 확보를 동시에 달성했다.

CUPID 모델은 세션 기반 추천과 피처 임베딩을 결합하여 신규 유저와 기존 유저 모두에게 최적화된 경험을 제공한다. 따라서 인과 트랜스포머를 활용하여 유저의 행동 패턴을 실시간으로 반영한다. 반면, 비동기 처리를 통해 레이턴시 79.7% 감소라는 놀라운 성과를 거두었다.

아자르는 지수 변환(ET)을 통해 롱테일 분포를 따르는 대화 시간 예측 성능을 향상시켰다. 구체적으로, 피처 임베딩과 세션 임베딩을 분리하여 유연성을 확보했다. 따라서, 실시간 데이터 반영과 모델 성능 개선을 위해 다양한 1차 지표를 활용하는 것이 중요하다.