GitHub Copilot, 이제 작업에 맞춰 모델을 자동 선택!
GitHub Copilot이 작업 유형에 따라 최적의 모델을 자동으로 선택하여 품질과 효율성(Efficiency)을 향상시킴
실시간 모델 가용성(Model Availability), 신뢰도(Reliability)를 기반으로 최적의 모델(Optimal Model)을 선택
사용자는 사용된 모델을 확인하고, 자동 선택과 특정 모델 간 전환이 가능하며 관리자 정책(Admin Policies) 준수
자동 선택 시 프리미엄 요청(Premium Request) 비용이 발생하며, 유료 구독자는 10% 할인 혜택(Discount)을 받음
자동 모델 선택의 작동 원리
본문에 따르면 자동 모델 선택 기능은 실시간 모델 가용성(Model Availability)과 신뢰도(Reliability)를 평가하여 최적의 모델을 선택한다.
작업 분석: 추론(Reasoning), 코드 생성 복잡성(Code Generation Complexity), 버그 진단 난이도(Bug Diagnosis Difficulty) 등 다양한 요소를 고려
모델 선택: 여러 모델 제품군(Model Families)에서 구독 유형 및 정책에 따라 적합한 모델을 선택
투명성: 사용자는 모델 응답에 마우스를 올려 사용된 모델 확인 가능
이러한 자동 선택 방식은 사용자의 개입 없이 최적의 성능(Optimal Performance)을 제공하는 것을 목표로 한다.
자동 모델 선택의 장점: 토큰 효율성
글에 따르면 자동 모델 선택은 토큰 효율성(Token Efficiency)을 높여 비용 절감 효과를 가져온다.
캐싱(Caching) 활용: 불필요한 캐시 관련 비용을 피하기 위해 자연스러운 캐시 경계(Natural Cache Boundaries)를 따라 라우팅
품질 유지: 높은 추론 능력이나 토큰 집약적인 모델이 필요하지 않은 작업에 더욱 효율적인 모델(More Efficient Model)을 사용
결과: 품질 저하 없이 토큰 사용량 감소(Token Usage Reduction)를 달성
결과적으로 자동 모델 선택은 비용 효율적인(Cost-Effective) 코딩 경험을 제공한다.
프리미엄 요청(Premium Request) 비용 구조
본문에서는 자동 모델 선택 시 사용되는 모델에 따라 비용이 부과된다고 설명한다.
모델 멀티플라이어(Model Multiplier): 사용된 모델에 따라 0x에서 1x 사이의 배수 적용
유료 구독자 혜택: 자동 선택 시 10% 할인(Discount) 적용
예시: 1x 멀티플라이어 모델 사용 시, 0.9 프리미엄 요청 차감
이러한 비용 구조는 사용자가 자신의 사용 패턴(Usage Pattern)에 맞춰 모델을 선택하도록 유도하며, 합리적인 비용(Reasonable Cost)으로 Copilot을 사용할 수 있도록 돕는다.
개발자가 알아야 할 사용 팁
글에 따르면 자동 모델 선택 기능은 별도의 설정 없이 VS Code에서 바로 사용할 수 있다.
사용 방법: VS Code에서 'Auto' 옵션 선택
제어 권한: 언제든지 자동 선택과 특정 모델 간 전환 가능(Switching)
정책 준수: 관리자가 설정한 모든 모델 정책(Model Policies)을 자동으로 준수(Automatically Honored)
자동 모델 선택 기능은 Copilot 사용성을 향상시키고, 개발자가 더욱 효율적으로(More Efficiently) 코딩할 수 있도록 지원한다.
