카카오페이, Kubeflow 기반 AI 플랫폼 구축으로 개발 효율 UP!
by DD
8개월 전
조회수 10
AI 플랫폼 부재로 인한 반복적인 수작업과 개발 속도 저하 문제를 해결하고자 함
Kubeflow 기반 플랫폼 도입 및 H200 GPU, MIG 등 기술적 난제를 극복함
Knative Scale to Zero 대신 최소 복제본 유지 전략으로 서비스 안정성 확보
Kubeflow 선택의 기술적 배경
카카오페이는 표준화, 확장성, 통합을 위해 Kubeflow를 선택했다. 구체적으로 파이프라인과 컨테이너 기술을 통해 환경 의존성을 해결하고, 쿠버네티스 기반으로 자원 효율성을 극대화했다. 따라서 AI 개발 환경을 일원화하고, 개발자들이 모델 개발에 집중하도록 지원한다.
GPU 자원 최적화를 위한 하이브리드 클러스터
H200 GPU의 성능을 최대한 활용하기 위해 RDMA와 를 도입했다. 를 구축하여 을 가능하게 했고, 를 통해 을 높였다. 결과적으로 과 을 동시에 달성했다.
