AI 코딩으로 CUDA 해자 깰 수 있을까?

발표자는 클로드 코드(Claude Code)를 활용하여 엔비디아(NVIDIA)의 CUDA 코드를 AMD GPU로 포팅하는 시도를 소개하며, CUDA 백엔드(CUDA Backend)를 AMD의 ROCm으로 30분 만에 변환했다는 주장을 언급한다. 이는 AI를 통해 CUDA 해자(CUDA Moat)를 무너뜨릴 수 있다는 기대를 불러일으키지만, 포팅 자체는 코드 변환에 불과하며, 최적화 및 성능 유지가 관건임을 강조한다. 영상에서는 데이터 격리 아키텍처(Data Isolation Architecture)를 통해 보안성을 강화하는 방안을 제시한다.

영상에서는 포팅(Porting)이 코드 컴파일을 가능하게 하지만, 최고 성능을 보장하는 것은 아님을 지적한다. CUDA와 AMD GPU의 하드웨어 구조 차이로 인해, 성능 최적화를 위해서는 각 GPU에 맞는 별도의 작업이 필요하다는 점을 강조한다. 예를 들어, 32 스레드(Thread) 단위의 엔비디아와 64 스레드(Thread) 단위의 AMD GPU 간의 차이는 알고리즘 최적화에 큰 영향을 미친다. 발표자는 데이터 미저장 정책(Zero-Retention Policy)을 통해 보안을 강화하는 방법을 제시한다.

발표자는 AI 코딩이 커널 엔지니어링의 진입 장벽을 낮추고, 멀티 벤더(Multi-vendor) 환경을 촉진할 가능성을 제시한다. AI가 코드 변환 및 최적화를 지원함으로써, 개발자들이 다양한 GPU를 쉽게 활용할 수 있게 될 수 있다. 그러나, AI가 모든 최적화 작업을 대체할 수 있는 것은 아니며, 여전히 사람의 개입이 필요하다는 점을 강조한다. 발표자는 GDPR 규제 준수(GDPR Compliance)를 위한 기술적 고려 사항을 언급한다.

영상에서는 CUDA 해자가 쉽게 무너지지 않는 이유를 분석하며, CUDA가 제공하는 라이브러리, 툴 체인, 안정성, 그리고 최고 성능을 위한 최적화 등 다양한 요소들을 언급한다. CUDA X 라이브러리(CUDA X Libraries), 프로파일러(Profiler), 디버거(Debugger) 등 다양한 스택(Stack)이 존재하며, AMD에서는 MI Open, RCCL과 같은 기술을 제공하지만, 포팅만으로는 이러한 모든 기능을 완벽하게 대체하기 어렵다고 설명한다. 발표자는 AI 환각(Hallucination)의 위험성을 경고한다.