WebGPU, 브라우저에서 PyTorch보다 최대 223배 빠른 성능!
by DD
3개월 전
조회수 6
WebGPU를 활용한 벤치마크 결과, 브라우저 환경에서 PyTorch CUDA(Tesla T4) 대비 최대 223배의 성능 향상
커널 퓨전(Kernel Fusion) 기술을 통해 순차적 연산을 단일 GPU 연산으로 통합하여 성능을 극대화
M2 MacBook에서 PyTorch T4 대비 180배 성능 향상, 설치 없이 브라우저에서 실행 가능
하드웨어 차이(Hardware Differences)를 고려하지 않은 벤치마크 설계에 대한 비판 제기
WebGPU의 커널 퓨전(Kernel Fusion) 기술 분석
연구에 따르면 WebGPU는 커널 퓨전(Kernel Fusion)을 통해 순차적인 연산을 단일 GPU 연산으로 묶어 PyTorch의 개별 디스패치 오버헤드를 제거한다. 특히, WebGPU는 디스패치 과정이 병목 현상(Bottleneck)이 되는 상황에서 강점을 보인다. Acrobot-v1 벤치마크에서 PyTorch CUDA 대비 223배, 1,500단계 금융 시뮬레이션에서 94배의 성능 향상을 달성했다.
벤치마크 환경의 문제점 및 비판
일부 댓글에서는 벤치마크가 하드웨어 차이(Hardware Differences)를 제대로 고려하지 않았다고 지적한다. M2 Pro의 통합 메모리 아키텍처는 CPU와 GPU 간의 전송 지연 시간이 거의 없는 반면, Tesla T4는 PCIe 병목 현상이 존재한다. 따라서, 벤치마크 결과가 순수한 알고리즘적 우위를 반영하는지 의문이 제기된다. 벤치마크 설계(Benchmark Design)의 문제점을 지적하며, 결과 해석에 주의를 요한다.
