딥시크, DRAM 용량 확장이 AI 성능을 바꾼다!
딥시크(DeepSeek)가 발표한 새로운 기술을 통해 DRAM 용량 증가가 AI 모델 성능 향상에 기여함을 강조함
엔그램(N-gram) 방식을 활용하여 고정 패턴을 빠르게 처리하고, GPU 부하를 줄이는 기술을 소개함
DDR4/5 부족 사태 속에서 DRAM 용량 확대가 AI 모델 성능 향상의 핵심임을 강조함
CXL 기술을 활용하여 DRAM 확장의 가능성을 제시하며, 관련 시장의 변화를 전망함
딥시크(DeepSeek)의 엔그램(N-gram) 활용
발표자는 딥시크(DeepSeek)가 트랜스포머(Transformer) 구조에 엔그램(N-gram) 컨셉을 도입하여, 고정된 단어 패턴을 빠르게 처리한다고 설명한다. 특히, 알렉산더 더 그레이트(Alexander the Great)와 같은 고유 명사나 자주 사용되는 구문을 미리 저장하여, 매번 연산하는 비효율성을 개선한다. 이를 통해 GPU의 부하(GPU Load)를 줄이고, 전체적인 성능을 향상시킨다.
DRAM 용량 확장의 중요성
영상에 따르면 딥시크(DeepSeek)의 연구 결과, DRAM 용량을 늘릴수록 AI 모델의 성능이 지속적으로 향상된다. 이는 HBM(High Bandwidth Memory)과 같은 고가 메모리 외에, 일반적인 DRAM(Dynamic Random Access Memory)을 활용하여 성능을 개선할 수 있음을 시사한다. 발표자는 DRAM 부족 사태 속에서 이러한 접근 방식이 더욱 중요해질 것이라고 강조한다.
CXL 기술의 재조명
발표자는 CXL(Compute Express Link) 기술을 활용하여 DRAM 용량을 확장하는 방안에 주목한다. CXL은 PCI Express(Peripheral Component Interconnect Express) 기반의 프로토콜로, 서버 내에서 메모리 자원을 효율적으로 공유할 수 있게 해준다. 딥시크(DeepSeek)의 연구 결과와 결합하여, CXL이 제2의 HBM(High Bandwidth Memory) 역할을 할 수 있을지 주목된다.
AI 모델 성능 향상의 새로운 축
내용상 딥시크(DeepSeek)의 연구는 기존의 컴퓨팅 성능 향상 외에, 메모리 용량 확대를 통한 성능 개선이라는 새로운 축을 제시한다. 발표자는 엔그램(N-gram)을 활용한 기술과 DRAM 용량 확대를 통해, AI 모델의 성능을 더욱 향상시킬 수 있다고 강조한다. 이는 AI 모델 개발 기업들에게 새로운 투자 방향을 제시할 수 있다.
