기가차드(GIGACHAD) 챗봇으로 힘든 이직, 취업 고민을 날려보세요!
by DD
5개월 전
조회수 38
이직 준비 중 겪는 어려움을 해소하고자 기가차드(GIGACHAD) 페르소나 기반의 챗봇 개발을 시작
FastAPI, Gunicorn, EC2를 활용하여 SSR 형태의 웹 애플리케이션(Web Application) 구축
Gemini-flash-2-0 LLM을 선택하여 비용 효율성(Cost Efficiency)과 다국어 지원(Multilingual Support)을 고려
사용자 데이터 미저장 정책(Zero-Retention Policy)을 통해 개인 정보 보호를 강화
SSR(Server-Side Rendering) 아키텍처 선택 배경
본문에서는 1주일에 1개의 서비스를 개발하는 '1week, 1service' 루틴을 지키기 위해 SSR(Server-Side Rendering) 방식을 선택했다고 설명한다.
빠른 개발 속도: FastAPI 기반으로 개발하여 개발 속도를 높임
개인 정보 보호: 데이터 미저장 정책(Zero-Retention Policy)을 통해 사용자 정보 저장 최소화
트레이드오프: SSR은 초기 응답 속도가 느릴 수 있지만, SEO(Search Engine Optimization)에 유리하며, 서버 부하가 발생할 수 있다.
결과적으로 개인 개발 환경에서 개발 속도와 개인 정보 보호를 우선시한 결정으로 보인다.
LLM 모델 선택: Gemini-flash-2-0
글쓴이는 비용 효율성(Cost Efficiency)과 다국어 지원(Multilingual Support)을 고려하여 Gemini-flash-2-0 모델을 선택했다.
비용 절감: 질문당 비용이 저렴하여 전 세계 사용자 대상 서비스에 적합
페르소나 일치: 기가차드(GIGACHAD) 페르소나에 맞는 답변 생성
모델 비교: gpt-4.o mini, deepseek 등 다양한 모델을 테스트 후 사용 편의성(Usability)을 기준으로 선택
다만, 모델 선택은 주관적인 평가에 기반하므로, 사용자 피드백(User Feedback)을 통해 지속적으로 개선할 필요가 있다.
데이터 미저장 정책(Zero-Retention Policy) 구현
본문에서는 사용자 데이터 미저장 정책(Zero-Retention Policy)을 통해 개인 정보를 보호하고자 한다고 언급한다.
개인 정보 보호: 사용자 대화 내용 저장 X, 개인 정보 유출 위험 최소화
Context 유지: 사용자 브라우저 저장소를 활용하여 대화 맥락(Conversation Context) 유지 시도
한계: 브라우저 저장소는 용량 제한이 있으며, 사용자 환경에 따라 데이터가 삭제될 수 있음
결과적으로, 개인 정보 보호와 사용성 사이에서 균형을 맞추기 위한 노력으로 볼 수 있다.
다국어 지원(Multilingual Support) 구현 계획
글쓴이는 한국어, 중국어, 일본어, 영어 등 다양한 언어를 지원하는 기능을 구현할 계획이라고 밝혔다.
언어 감지: 사용자의 클라이언트 위치(Client Location)에 따라 언어 자동 감지
번역 API 활용: 번역 API(Translation API)를 사용하여 챗봇의 다국어 지원
과제: 번역 품질(Translation Quality) 및 페르소나 유지(Persona Consistency)
다국어 지원은 서비스의 글로벌 확장(Global Expansion)을 위한 필수 요소이며, 정확한 번역 품질 확보가 중요하다.
