카카오, AI로 데브옵스 혁신! 배포 자동화 및 안정성 UP!
by DD
8개월 전
조회수 1
AI 기반 배포 관리 플랫폼 '카카오릴리즈'를 구축하여 배포 워크플로 자동화
AI 에이전트를 활용, 배포 노트 자동 생성 및 잠재적 리스크 분석
체인지 트래킹 기능을 통해 배포 후 24시간 동안 서비스 상태를 실시간 모니터링
AI 기반 배포 자동화 아키텍처
카카오릴리즈는 GitHub 및 Jira 데이터를 수집하여 배포 노트를 자동 생성한다. Summary AI는 수집된 데이터를 요약하고, Generate AI는 초안을 생성한다. 따라서 RAG 시스템을 활용하여 스키마 기반의 일관된 출력 형태를 유지하며, 병렬 처리를 통해 응답 시간을 단축한다.
토큰 압축과 병렬 처리의 트레이드오프
초기에는 긴 컨텍스트로 인해 응답 지연 및 품질 저하 문제가 발생했다. 토큰 제한 문제를 해결하기 위해 핵심 정보만 추출하여 압축하고, 병렬 처리를 통해 처리 속도를 80% 개선했다. 반면, 데이터 구조화 및 병렬화 과정에서 복잡도가 증가하는 트레이드오프가 발생했다.
AI 기반 배포 시스템 구축 가이드
AI 기반 배포 시스템 구축 시, 퓨샷 러닝을 활용하여 출력 형식의 일관성을 확보해야 한다. 장애일지를 벡터 DB에 저장하여 AI 리뷰에 활용하고, 릴리즈 스탠다드 정책을 준수하도록 설계한다. 따라서 자동화된 릴리즈 프로세스를 통해 개발 생산성을 향상시킬 수 있다.