RAG, CoT 프롬프팅으로 LLM 답변 품질 UP!
by DD
9개월 전
조회수 7
RAG 기법과 사고의 사슬(CoT) 프롬프팅을 통해 LLM의 답변 정확도를 향상시킴
FinalAnswerParser를 활용하여 LLM의 긴 답변에서 최종 답변만 추출
프롬프트 템플릿 설계로 모델의 사고 과정을 단계별로 유도
RAG 파이프라인의 핵심 구성 요소
RAG(Retrieval-Augmented Generation)는 LLM의 지식 격차를 해결하는 기술이다. 구체적으로 Retriever를 통해 관련 문서를 검색하고, 프롬프트 템플릿에 검색된 문서를 삽입한다. 따라서 LLM은 최신 정보를 기반으로 답변을 생성하며, 할루시네이션을 줄일 수 있다.
CoT 프롬프팅의 효과와 활용
사고의 사슬(CoT) 프롬프팅은 LLM에게 단계별 사고 과정을 제시한다. 구체적으로 지시사항을 통해 모델이 핵심 정보 추출, 정보 조합, 최종 답변 제시 단계를 따르도록 유도한다. 따라서 복잡한 질문에 대해 정확하고 논리적인 답변을 얻을 수 있다.
FinalAnswerParser를 이용한 답변 추출
LangChain의 BaseOutputParser를 상속받아 FinalAnswerParser를 구현한다. 구체적으로 정규 표현식(regex)을 사용하여 LLM의 출력에서 최종 답변 부분을 추출한다. 따라서 긴 답변에서 핵심 내용만 손쉽게 얻을 수 있으며, 정보 요약에 효과적이다.
