SK플래닛, 사내 LLM 플레이그라운드와 프롬프톤으로 AI 활용 문화 확산!
by DD
1년 전
조회수 10
SK플래닛은 사내 LLM 플레이그라운드를 구축하여 다양한 LLM 모델을 비교 테스트함
개발팀과 지원팀의 협업으로 프롬프톤 이벤트를 개최하여 AI 활용 문화 확산
프롬프트 엔지니어링을 통해 서비스 캐릭터의 페르소나를 정의하는 AI Characterization 진행
LLM 플레이그라운드의 기술적 배경
LLM 플레이그라운드는 다양한 LLM 모델을 한 곳에서 테스트할 수 있는 웹 기반 인터페이스이다. 구체적으로 OpenAI, Anthropic, Meta 등 여러 모델을 지원하며, 온도, 최대 토큰 등 파라미터 조절 기능을 제공한다. 따라서 개발자는 모델별 성능 비교 및 프롬프트 엔지니어링을 효율적으로 수행할 수 있다.
프롬프톤 이벤트의 핵심 요소
프롬프톤은 프롬프트 엔지니어링을 통해 서비스 캐릭터의 페르소나를 정의하는 이벤트이다. AI Characterization을 목표로, OK캐쉬백, 시럽 등 서비스 캐릭터를 활용한다. 반면, 평가 툴은 프롬프트 엔지니어링으로 제작되었지만, 최종 평가는 휴먼 팀장이 진행했다.
사내 LLM 활용 문화 확산 전략
SK플래닛은 LLM 플레이그라운드를 통해 사내 AI 활용 문화를 조성했다. 따라서 개발팀과 지원팀의 협업을 통해 프롬프톤 이벤트를 기획하고, 수상자 회고를 공유했다. 결과적으로, AI 기술에 대한 구성원들의 이해도를 높이고, 서비스 경쟁력을 강화했다.
