AI 투자의 미래, NVIDIA 키노트에서 확인!

영상에서는 AI가 더 이상 단순한 비용이 아닌, 수익을 창출하는 기술로 진화했음을 강조합니다. 과거에는 AI 모델 개발 및 운영에 막대한 비용이 들었지만, 이제는 AI 에이전트(AI Agent)를 통해 실제 업무를 자동화하고 생산성을 높여 비즈니스 가치를 창출하는 단계에 이르렀습니다. 이는 AI 투자의 흐름이 단순히 기술 개발에서 실질적인 경제적 성과로 이동하고 있음을 시사합니다.

NVIDIA는 AI 모델의 추론(Inference) 및 훈련(Training) 과정에서 발생하는 병목 현상을 해결하기 위해 GPU뿐만 아니라 CPU(베라 CPU), 네트워킹, 스토리지, 보안 등 AI 인프라 전반을 재설계하고 있습니다. 이는 데이터센터(Data Center) 규모에서 AI 워크로드를 효율적으로 처리하고, 에이전트 스루풋(Agent Throughput)을 극대화하기 위한 NVIDIA의 전략적 목표를 보여줍니다.

새롭게 발표된 베라(Vera) CPU는 기존 CPU의 한계를 극복하고 AI 에이전트의 병렬 처리 능력을 혁신적으로 향상시키는 데 중점을 둡니다. 이는 수십억 개의 AI 에이전트가 동시에 작동하는 미래 환경에서 응답 속도와 처리량을 높여, AI가 실제 업무를 수행하는 데 필요한 성능을 제공하는 것을 목표로 합니다. CPU와 GPU 간의 효율적인 데이터 전송 또한 중요한 설계 목표입니다.

NVIDIA는 로봇 산업에서도 AI 에이전트의 중요성을 인식하고, 로봇의 몸체(하네스)와 두뇌(LLM)를 통합하는 AI 에이전트 아키텍처를 제시합니다. 유니티(Unity) H2+와 같은 물리 엔진을 활용한 시뮬레이션 환경과 아이작(Isaac) 플랫폼을 통해 로봇 개발의 복잡성을 줄이고, 실제 환경에서의 AI 기반 로봇 제어 및 작업 수행 능력을 향상시키는 데 집중하고 있습니다.

AI 에이전트가 기업 내부 시스템에 접근하여 업무를 수행함에 따라 보안(Security)은 매우 중요한 이슈로 부각됩니다. NVIDIA는 블루필드(BlueField) DPU와 같은 하드웨어 기반 보안 솔루션을 통해 데이터 격리(Data Isolation) 및 접근 제어를 강화하고, 민감한 정보 유출이나 권한 탈취(Privilege Escalation)와 같은 잠재적 위협으로부터 시스템을 보호하는 방안을 제시합니다.

NVIDIA는 AI 워크로드를 지원하기 위해 데이터센터(Data Center) 규모의 인프라뿐만 아니라, 개인용 PC(PC) 및 워크스테이션(Workstation)까지 AI 연산 능력을 확장하고 있습니다. 이는 사용자가 로컬 환경에서 AI 에이전트를 직접 구동하고 활용할 수 있게 하여, AI 접근성을 높이고 새로운 컴퓨팅 경험을 제공하려는 비전입니다. 쿠다(CUDA) 및 AI 텐서 코어(Tensor Core) 기술이 이러한 확장의 기반이 됩니다.