금융 AI, 신뢰를 얻다: Kepler, 클로드(Claude)로 검증 가능한 AI 구축
Kepler는 금융 서비스 분야에서 AI의 신뢰성 확보를 위해 클로드(Claude)를 활용한 플랫폼을 구축
AI 모델(Claude)의 추론 능력과 결정적 인프라(Deterministic Infrastructure)를 결합하여 질문에 대한 즉각적이고 검증 가능한 답변 제공
2,600만 개 이상의 SEC 공시 서류 및 기타 방대한 데이터를 처리하며, 분석가의 질문에 정확한 답변을 제시
데이터 격리 아키텍처(Data Isolation Architecture), 감사 로깅(Audit Logging) 및 SOC 2 Type II 인증을 통해 보안 및 규제 준수(Security and Compliance)를 강화
클로드(Claude)와 결정적 인프라(Deterministic Infrastructure)의 결합
Kepler는 클로드(Claude)를 해석 및 추론 레이어로 활용하고, 결정적 실행 환경(Deterministic Execution Environment)을 구축하여 AI의 신뢰성을 확보했다.
프롬프트 엔지니어링(Prompt Engineering): 클로드(Claude)가 정확한 결과를 도출하도록 정의, 공식, 경계(Boundaries)를 명확히 설정
데이터 격리 아키텍처(Data Isolation Architecture): 각 사용자의 데이터 접근 권한을 제어하고, 모든 단계에서 보안 및 접근 통제(Security and Access Control)를 적용
멀티모달 분석(Multimodal Analysis): 기업 가치 계산, 보고 기간 변경에 따른 매출 조정 등, 반복적인 워크플로우를 위한 맞춤형 스킬(Customizable Skills) 개발
모델 선택 및 파이프라인 최적화
Kepler는 워크플로우를 여러 단계로 나누어, 각 단계에 적합한 클로드(Claude) 모델을 선택했다.
Opus 4.7: 복잡한 추론, 모호성 해결, 실행 계획 수립에 활용
Sonnet 4.6: 처리량이 많은 단계에 적용하여 비용 효율성(Cost Efficiency)을 확보
맞춤형 모델(Custom Models): 재현(Recall) 성능 향상을 위해 자체 모델을 훈련, 표준화된 분류 코드(Standardized Taxonomy Codes) 매핑에서 94% 정확도 달성
결과적으로, Kepler는 모델의 특성을 고려한 분업(Division of Labor)을 통해 성능과 비용 효율성을 동시에 잡았다.
엄격한 테스트 및 검증 프로세스
Kepler는 클로드(Claude)의 출력 결과에 대한 신뢰도를 높이기 위해, 자동화된 평가 파이프라인을 구축했다.
자동화된 평가 파이프라인(Automated Evaluation Pipelines): 클로드(Claude)의 출력을 정확한 정답(Known-Correct Answers)과 비교하여 각 단계별 검증 수행
지속적인 벤치마킹(Continuous Benchmarking): Anthropic의 새로운 모델 출시 시, 개선 및 악화(Improvement and Regression)를 파악하고 프롬프트 조정
프로덕션 환경 배포 전(Before Production): 모든 프롬프트 변경, 모델 업그레이드, 컨텍스트 수정에 대해 수천 건의 테스트 케이스(Test Cases)를 실행
이러한 과정을 통해 Kepler는 AI 환각(Hallucination)을 최소화하고, 금융 서비스에 적합한 정확도를 확보했다.
확장 가능한 아키텍처 설계
Kepler는 클로드(Claude)를 활용하여 대규모 데이터 처리 및 플랫폼 확장을 가능하게 했다.
모듈형 아키텍처(Modular Architecture): 클로드(Claude)가 해석 레이어를 담당하고, Kepler의 인프라가 나머지 부분을 처리하여 소규모 팀(Small Team)으로도 빠른 개발 가능
데이터 처리량(Data Volume): 2,600만 개 이상의 SEC 공시 서류, 5,000만 개 이상의 공공 문서, 100만 개 이상의 비공개 문서 처리
규제 준수(Compliance): 감사 로깅, 데이터 격리 아키텍처(Data Isolation Architecture), SOC 2 Type II 인증을 통해 금융 서비스의 엄격한 규제 요구사항(Strict Regulatory Requirements) 충족
결과적으로, Kepler는 클로드(Claude)의 추론 능력과 자체 인프라의 결합을 통해 확장성과 신뢰성을 동시에 확보했다.