당근, GenAI 플랫폼으로 AI 혁신 가속화!
by DD
5개월 전
조회수 90
LLM Router를 통해 AI API 호출을 통합 관리하고, 계정 관리 및 비용 절감 효과를 얻음
Prompt Studio를 활용하여 비개발자도 AI 기능을 개발하고, 프롬프트 평가 및 배포 자동화를 구현함
KarrotChat을 통해 사내 Agent를 활용, 데이터 분석 자동화 및 팀 생산성을 향상시킴
LLM Router: AI API 통합 관리
LLM Router는 여러 AI 모델 제공사의 API를 통합하여 관리한다. 구체적으로 OpenAI 인터페이스를 표준으로 채택하여, 모델 변경 시 클라이언트 코드 수정 없이 사용 가능하게 했다. 따라서 API 키 관리 간소화 및 비용 투명성 확보를 달성했다.
Prompt Studio: AI 기능 개발 플랫폼
Prompt Studio는 프롬프트 기반 AI 기능 개발을 위한 웹 기반 플랫폼이다. Evaluation 기능을 통해 프롬프트의 성능을 정량적으로 평가하고, 다양한 모델 지원을 통해 최적의 모델을 선택할 수 있다. 결과적으로 개발 생산성 향상과 AI 기능의 안정성 확보에 기여한다.
KarrotChat: 사내 AI Agent 활용
KarrotChat은 사내 AI Agent를 활용하는 채팅 플랫폼이다. MCP 허브를 통해 다양한 도구를 공유하고, Agent 생성 기능을 통해 데이터 분석 자동화를 구현한다. 따라서 데이터 분석 접근성 향상과 팀 생산성 증대를 이끌어냈다.
