카카오뱅크, if(kakaoAI)2024에서 AI 기술 혁신 공유!
by DD
1년 전
조회수 12
LLM 평가 프레임워크 구축 및 내재화 경험 공유, SOTA LLM 최신 동향 분석
XAI 기술을 활용한 스미싱 탐지 LLM 개발, 설명 가능성 확보 노력
On-premise Kubernetes 구축 사례 공유, 금융 규제 준수 및 개발 환경 개선
LLM 평가 방법론 심층 분석
Aven과 Conor는 LLM 평가를 위한 자체 프레임워크를 구축했다. 구체적으로 SOTA LLM의 성능을 측정하고, 평가 지표를 정의했다. 따라서, 모델 선택 시 성능과 비용 간의 균형을 맞출 수 있었다.
XAI 기술을 활용한 스미싱 탐지
Day와 Yun은 스미싱 탐지 LLM 개발을 통해 금융 사기 예방에 기여했다. XAI 기술을 적용하여 모델의 예측 근거를 설명 가능하게 만들었다. 결과적으로, 사용자 신뢰도를 높이고, 모델 개선에 활용했다.
On-premise Kubernetes 구축 전략
Robin은 On-premise Kubernetes 클러스터 구축 경험을 공유했다. 금융 규제 준수를 위해 보안 및 컴플라이언스를 강화했다. 따라서, 안정적인 서비스 운영과 개발 생산성 향상을 동시에 달성했다.
