LLM, 자기 증류로 코드 생성 능력 향상!
by DD
3개월 전
조회수 18
LLM의 코드 생성 능력을 향상시키는 자기 증류(Self-Distillation, SSD) 기법 소개
SSD는 모델 자체의 출력을 활용하여 추가적인 검증 과정 없이 성능을 개선
Qwen3-30B-Instruct 모델에서 LiveCodeBench v6 기준 42.4%에서 55.3%로 성능 향상
Apple 연구진의 성과에 대한 커뮤니티의 놀라움과 향후 발전 가능성에 대한 기대
자기 증류(Self-Distillation)의 기술적 원리
본 연구는 LLM의 정밀도-탐색(Precision-Exploration) 간의 상충 관계에 주목한다. 즉, 코드 생성 과정에서 다양한 해결책을 탐색하는 '탐색(Exploration)' 단계와, 문법적 정확성을 유지하는 '정밀도(Precision)' 단계 사이의 균형을 맞추는 것이 핵심이다. 자기 증류(Self-Distillation, SSD)는 이러한 상충 관계를 해결하기 위해, 모델의 출력을 활용하여 토큰 분포를 조정하고, 정밀도가 중요한 부분에서는 불필요한 부분을 억제하며, 탐색이 필요한 부분에서는 다양성을 유지하도록 돕는다.
SSD의 성능 향상 및 일반화
연구 결과에 따르면, SSD는 Qwen3-30B-Instruct 모델에서 기준 42.4%에서 55.3%로 성능을 향상시켰다. 특히, 어려운 문제에 대한 성능 향상이 두드러졌다. 또한, Qwen 및 Llama 모델(4B, 8B, 30B)을 포함하여 다양한 모델과 instruct 및 thinking 변형에 걸쳐 일반화되는 것을 확인했다. 이는 SSD가 특정 모델에 국한되지 않고, 다양한 LLM에 적용될 수 있음을 시사한다.
