QA팀, AI 비서 Q-pid로 업무 효율 UP!

QA팀은 Jira API와 OpenAI API를 활용하여 리소스 관리 AI 비서 Q-pid를 개발함

Flask 기반의 Web UI를 구축하고, LLM을 활용하여 질문 의도 파악 및 답변 생성

데이터 전처리 및 response_format 제어를 통해 AI의 예측 가능성을 확보하고, 업무 효율 획기적 개선

Q-pid 아키텍처: LLM 기반 2-Step 프로세스

Q-pid는 Flask를 사용한 Web UI와 OpenAI API를 활용한 2단계 파이프라인으로 구성된다. 구체적으로, 사용자의 질문 의도를 파악하고, Jira API를 통해 리소스 정보를 조회한다. 따라서, LLM을 '의사결정 엔진'으로 활용하여, 업무 자동화를 실현했다.

AI API 활용 팁: 예측 가능한 답변을 위한 프롬프트 엔지니어링

AI의 예측 가능성을 높이기 위해, response_format 옵션을 활용하여 JSON 형식으로 답변을 제어한다. 구체적으로, 1단계에서 질문 의도를 파악하고, 2단계에서 RAG 기법을 통해 Jira 데이터를 활용한다. 결과적으로, AI의 자유도를 제어하고, 시스템의 안정성을 확보했다.