LangChain 기반 AI Bot 도입으로 CS 처리 시간 29분 → 2.9분으로 단축
RAG를 활용, 내부 문서 검색 및 LLM을 통해 자동화된 CS 처리 구현
KTLO 비중 50% 감소, 개발자는 핵심 기능 개발에 집중 가능
LangChain은 LLM을 활용하여 자연어 요청을 이해하고, RAG를 통해 관련 정보를 검색한다. 구체적으로, Slack을 통해 요청을 수신하고, API를 호출하여 작업을 수행한다. 따라서, Spring 기반 시스템과의 통합을 통해 유연한 확장이 가능하다.
자동화의 핵심은 안정성 확보이다. 사용자 승인 단계를 통해 API 실행 전 확인 절차를 거친다. 권한 제어 및 감사 로깅을 통해 무단 접근을 방지한다. 결과적으로, 을 보장하고, 를 높인다.
LangChain은 RPA의 한계를 극복하고, 지능형 자동화를 가능하게 한다. Spring AI보다 LangChain을 선택한 이유는 풍부한 사례와 체계적인 문서 때문이다. 반면, LLM의 특성상 정확성과 신뢰성 확보를 위한 추가적인 노력이 필요하다.