게임 렌더링, 보이지 않는 부분을 효율적으로 처리하는 기술

오클루전 컬링(Occlusion Culling)은 다른 객체에 가려져 보이지 않는 객체를 제거하는 기술로, 하드웨어 오클루전 쿼리(Hardware Occlusion Queries), 소프트웨어 오클루전 컬링(Software Occlusion Culling), Hi-Z 버퍼(Hierarchical Z-Buffer)를 활용한다. 하드웨어 쿼리는 GPU를 사용하여 정확한 결과를 얻지만, 지연 시간(Latency) 문제가 발생할 수 있다. 소프트웨어 컬링은 CPU에서 수행되므로 지연 시간은 없지만, CPU 부하가 증가한다. Hi-Z 버퍼는 GPU에서 계층적으로 깊이 정보를 저장하여 효율적인 컬링을 가능하게 한다.

GPU 기반 렌더링(GPU-Driven Rendering)은 CPU가 아닌 GPU에서 컬링 로직을 처리하여 드로우 콜(Draw Call) 수를 줄인다. 간접 드로잉(Indirect Drawing)을 통해 GPU는 렌더링할 객체를 결정하고, CPU는 간접 드로우 콜을 실행한다. 메쉬렛(Meshlet) / 클러스터 컬링(Cluster Culling)은 메쉬를 작은 단위로 분할하여 각 단위별로 컬링을 수행한다. 이러한 기술은 CPU 부하를 줄이고, 렌더링 성능을 향상시키는 데 기여한다.

언리얼 엔진 5(Unreal Engine 5)의 나나이트(Nanite)는 여러 컬링 기술을 통합한 시스템으로, GPU에서 계층적 클러스터(Cluster)를 사용하여 렌더링한다. 각 클러스터는 가시성 및 화면 공간 에러(Screen-Space Error)를 기준으로 렌더링된다. 화면에 작게 보이는 클러스터는 낮은 LOD(Level of Detail)로 렌더링되고, 너무 큰 클러스터는 더 높은 LOD로 렌더링된다. 나나이트는 CPU의 객체 제출 작업을 줄이고, 렌더링 성능을 극대화한다.

메쉬 쉐이더(Mesh Shader)는 렌더링 파이프라인(Rendering Pipeline)에서 삼각형 단위의 컬링을 가능하게 한다. 각 삼각형에 대해 저렴한 테스트를 수행하여, 통과하지 못한 삼각형은 렌더링에서 제외된다. 후면 컬링(Backface Culling), 근거리 클리핑(Near-plane Clipping), 프러스텀 컬링(Frustum Culling), 작은 삼각형/겹침 컬링(Small triangle / overlap culling) 등 다양한 기법을 적용하여 렌더링 효율을 높인다. 메쉬 쉐이더는 렌더링 성능 최적화에 중요한 역할을 한다.