젠슨 황의 AI 비전: 베라 루빈 GPU와 AI 에이전트 시대

젠슨 황은 '컴퓨팅은 수익이다(Computing is Revenue)'라는 새로운 패러다임을 제시하며, AI 에이전트가 단순한 도구를 넘어 수익 창출의 핵심 동력이 될 것임을 강조함. 과거 컴퓨팅이 비용 발생 요인이었다면, 이제는 AI 에이전트를 통해 컴퓨팅 파워가 직접적으로 수익으로 연결되는 시대로 전환되고 있음을 설명함. 이는 AI 팩토리라는 개념으로 구체화되며, 대규모 AI 모델 학습 및 추론을 위한 인프라의 중요성을 부각함.

NVIDIA는 새로운 GPU 아키텍처 '베라 루빈(Vera Rubin)'을 발표하며, 이전 세대 대비 AI 연산 성능과 데이터 처리 능력을 획기적으로 향상시켰다고 밝힘. 특히 8개 GPU를 통합한 GB200 NVL72 시스템은 초당 720억 개의 토큰 처리 능력을 자랑하며, AI 에이전트의 복잡한 연산 및 데이터 흐름을 효율적으로 지원할 수 있음을 시연함. 이는 데이터센터의 효율성을 극대화하고 AI 모델의 학습 및 추론 속도를 가속화하는 데 기여할 것으로 기대됨.

NVIDIA는 AI 에이전트 개발을 위해 DGX 시스템과 CUDA 생태계를 중심으로 엔드-투-엔드(End-to-End) 개발 환경을 제공한다고 설명함. '에이전트 프레임워크(Agent Framework)'는 LLM과 하드웨어 가속을 결합하여 에이전트의 복잡한 워크플로우를 효율적으로 관리하며, 다양한 AI 모델 및 툴과의 연동을 지원함. 이는 개발자들이 AI 에이전트의 설계, 개발, 배포에 이르는 전 과정을 단일 플랫폼 내에서 통합적으로 수행할 수 있도록 지원하는 전략임.

새로운 '베라 루빈' 아키텍처는 스페이셜 멀티스레딩(Spatial Multithreading) 기술을 통해 GPU 코어 간의 데이터 통신 효율성을 극대화함. 이를 통해 8개 GPU가 통합된 GB200 NVL72 시스템은 기존 대비 최대 30배의 AI 추론 성능을 제공하며, 초당 1.8페타플롭스(PetaFLOPS)에 달하는 연산 능력을 자랑함. 또한, NVLink 기술을 활용하여 수천 개의 GPU를 연결하는 AI 슈퍼컴퓨터 구축을 가능하게 하여, 대규모 AI 모델 학습 및 복잡한 시뮬레이션을 지원함.

영상에서는 베라 루빈 GPU가 SQL 데이터 처리와 같은 데이터 집약적인 작업에서 기존 대비 3배 빠른 성능을 제공한다고 강조함. 이는 AI 에이전트가 방대한 데이터를 실시간으로 분석하고 처리해야 하는 요구사항을 충족시키며, 데이터 파이프라인의 속도를 크게 향상시킴. 스토리지 계층(KV Cache, NVMe SSD)과의 연계를 통해 데이터 접근 지연 시간을 최소화하고, 실시간 AI 서비스 제공을 위한 기반을 마련함.

NVIDIA는 케던스(Cadence)와 같은 반도체 설계 기업과의 협력을 통해 AI 에이전트가 칩 설계 및 검증 프로세스를 혁신하는 사례를 소개함. 또한, 뉴욕 증권거래소(NYSE)와 같은 금융 기관에서 실시간 데이터 분석 및 거래 시스템에 AI 에이전트를 활용하는 방안을 제시하며, AI 에이전트가 다양한 산업 분야에서 생산성 향상과 비용 절감에 기여할 것임을 전망함. 이는 AI 에이전트가 단순한 자동화를 넘어 복잡한 의사결정까지 지원하는 시대로 나아가고 있음을 보여줌.