Copilot CLI, 작업에 맞는 AI 모델을 자동으로 찾아줘요!
GitHub Copilot CLI에 자동 모델 선택(Auto Model Selection) 기능이 도입되어 작업별 최적 AI 모델로 자동 라우팅함
실시간 모델 가용성, 신뢰도, 작업 복잡도 등 다양한 요소를 고려하여 토큰 효율성(Token Efficiency) 및 품질(Quality) 최적화를 추구함
유료 구독자는 자동 선택 시 프리미엄 요청 비용 10% 할인 혜택을 받음
별도 설정 없이 최신 버전으로 업데이트 후 'Auto' 선택만으로 즉시 사용 가능
자동 모델 선택(Auto Model Selection)의 작동 원리
GitHub Copilot CLI의 자동 모델 선택(Auto Model Selection) 기능은 실시간 모델 가용성 및 신뢰도 신호를 분석하여 최적의 모델을 라우팅하는 방식임.
다차원적 작업 평가: 추론(Reasoning), 코드 생성 복잡도(Code Generation Complexity), 버그 진단 난이도(Bug Diagnosis Difficulty), 도구 오케스트레이션(Tool Orchestration) 요구사항 등 여러 차원에서 사용자의 작업을 평가함.
동적 라우팅: 평가 결과를 바탕으로 현재 사용 가능한 모델 중 가장 적합한 모델을 동적으로 선택하여 고품질(High Quality) 및 안정성(Reliability)을 보장함.
사용자 제어: 사용자는 언제든지 `/model` 명령어를 통해 수동 모델 전환(Manual Model Switching)이 가능하며, 관리자가 설정한 정책을 준수함.
토큰 효율성 및 비용 최적화 전략
자동 모델 선택 기능은 토큰 효율성(Token Efficiency) 증대와 불필요한 비용 발생 방지에 중점을 둠.
캐시 경계 활용: 자연스러운 캐시 경계(Cache Boundaries)를 따라 라우팅하여 관련 비용을 최소화함.
모델별 비용 차등 적용: 자동 선택된 모델에 따라 프리미엄 요청 비용이 청구되며, 0x ~ 1x의 멀티플라이어(Multiplier)를 가진 모델로 제한됨.
구독자 할인: 유료 구독자는 자동 선택 시 모델 멀티플라이어에 대해 10% 할인을 적용받아, 1x 모델 사용 시 0.9 프리미엄 요청만 차감됨.
이는 모든 작업이 고도의 추론이나 토큰 집약적인 모델을 요구하지 않는다는 평가 결과에 기반하며, 품질 저하 없이 효율성 개선을 목표로 함.
다양한 모델 접근성 및 정책 준수
자동 모델 선택 기능은 구독 유형 및 관리자 정책에 따라 다양한 모델 제품군(Multiple Model Families)에 접근할 수 있도록 지원함.
정책 준수: 관리자가 설정한 모든 모델 정책(Model Policies)을 자동으로 존중하여 일관된 사용 환경을 제공함.
모델 변화: 시간이 지남에 따라 사용 가능한 모델은 변경될 수 있으며, 자동 선택 기능은 이러한 변화에 유연하게 대응함.
이는 사용자가 특정 모델에 종속되지 않고, 가장 최신의 효율적인 모델을 활용할 수 있도록 설계된 결과임.
