배민, LLM과 조직 문화 혁신으로 5년 묵은 다국어 숙제 해결!

이번 구현의 핵심은 속도(Speed)였다. 서버 배포를 통해 핵심 기능에 다국어를 빠르게 적용하고, 점진적으로 품질을 개선하는 전략을 채택했다. 전체 구조는 번역 파이프라인(FDH Translation Pipeline)과 응답 처리(Backend BFF Handling), 두 흐름으로 구성된다.

LLM을 프로덕션 환경에 적용하기 위해 다양한 기술적 문제에 직면했다. 개행 문자 처리, 단건/다건 요청 처리, 응답 필드명 고정 등 LLM의 예측 불가능성(Unpredictability)에 대응하기 위한 노력이 필요했다.

LLM 연동은 API 호출 이상의, 지속적인 튜닝(Continuous Tuning)과 피드백 루프(Feedback Loop)를 요구한다.

이번 프로젝트 성공의 핵심 요인은 기술뿐 아니라 조직 문화(Organizational Culture)의 변화였다. PoC 결과 하나로 전사 목표가 변경되고, 밤 11시에도 20분 만에 의사결정이 이루어지는 유연한 조직 문화(Agile Culture)가 구축되었다.

결과적으로, 기술 혁신은 기술(Technology)과 조직력(Teamwork)의 조화로운 결합을 통해 달성되었다.

FDH 시스템은 수십만 개 가게, 수천만 개 메뉴 데이터를 안정적으로 처리할 수 있는 기반을 제공했다. LLM은 단건 번역뿐 아니라, 다건 배치 처리로 대용량 데이터를 빠르게 처리하는 데 기여했다. Java/Spring 서버 개발자가 익숙한 환경에서 LLM을 직접 연동하여 대용량 번역 파이프라인을 구축한 것은 기술적 혁신(Technological Innovation)의 중요한 사례이다.

결과적으로, FDH와 LLM의 결합은 기술적 한계(Technical Limitations)를 극복하고, 새로운 가능성(New Possibilities)을 열었다.