딥시크, DRAM 용량 확장이 AI 성능을 바꾼다!
by DD
6개월 전
조회수 14
딥시크(DeepSeek)가 발표한 새로운 기술을 통해 DRAM 용량 증가가 AI 모델 성능 향상에 기여함을 강조함
엔그램(N-gram) 방식을 활용하여 고정 패턴을 빠르게 처리하고, GPU 부하를 줄이는 기술을 소개함
DDR4/5 부족 사태 속에서 DRAM 용량 확대가 AI 모델 성능 향상의 핵심임을 강조함
CXL 기술을 활용하여 DRAM 확장의 가능성을 제시하며, 관련 시장의 변화를 전망함
딥시크(DeepSeek)의 엔그램(N-gram) 활용
발표자는 딥시크(DeepSeek)가 트랜스포머(Transformer) 구조에 엔그램(N-gram) 컨셉을 도입하여, 고정된 단어 패턴을 빠르게 처리한다고 설명한다. 특히, 알렉산더 더 그레이트(Alexander the Great)와 같은 고유 명사나 자주 사용되는 구문을 미리 저장하여, 매번 연산하는 비효율성을 개선한다. 이를 통해 GPU의 부하(GPU Load)를 줄이고, 전체적인 성능을 향상시킨다.
DRAM 용량 확장의 중요성
영상에 따르면 딥시크(DeepSeek)의 연구 결과, DRAM 용량을 늘릴수록 AI 모델의 성능이 지속적으로 향상된다. 이는 과 같은 고가 메모리 외에, 일반적인 을 활용하여 성능을 개선할 수 있음을 시사한다. 발표자는 속에서 이러한 접근 방식이 더욱 중요해질 것이라고 강조한다.
