OpenAI, WebRTC 기반 저지연 음성 AI 구현 비법 공개
by DD
2개월 전
조회수 12
OpenAI는 WebRTC 기반의 저지연 음성 AI를 구현하기 위한 기술적 아키텍처를 공개함
트랜시버(Transceiver) 모델을 통해 WebRTC 세션 관리 및 인퍼런스 백엔드(Inference Backend) 연결을 최적화함
글로벌 릴레이(Global Relay) 아키텍처를 통해 전 세계 사용자에게 낮은 지연 시간(Low Latency)을 제공함
사용자 경험(User Experience) 측면에서 음성 AI의 자연스러움과 대화 흐름의 중요성이 강조됨
WebRTC 아키텍처 및 트랜시버 모델
OpenAI는 WebRTC(Web Real-Time Communication)를 기반으로 음성 AI 시스템을 구축했으며, 특히 트랜시버(Transceiver) 모델을 채택하여 WebRTC 세션 관리와 백엔드 서비스 간의 연결을 최적화했다. 트랜시버는 WebRTC 연결을 종단하고, ICE(Interactive Connectivity Establishment) 연결 확인, DTLS(Datagram Transport Layer Security) 핸드셰이크, SRTP(Secure Real-time Transport Protocol) 암호화 키 관리, 그리고 세션 라이프사이클을 담당한다. 이러한 아키텍처는 데이터 격리 아키텍처(Data Isolation Architecture)를 통해 각 백엔드 서비스의 확장성을 향상시키는 데 기여한다.
글로벌 릴레이(Global Relay)를 통한 지연 시간 단축
OpenAI는 글로벌 릴레이(Global Relay) 아키텍처를 통해 전 세계 사용자에게 낮은 지연 시간을 제공한다. 릴레이는 가벼운 UDP 포워딩 계층으로, WebRTC 트래픽을 적절한 트랜시버로 라우팅한다. 특히, 를 활용하여 첫 번째 패킷 라우팅을 결정적으로 처리하며, 이를 통해 사용자는 전 세계 어디에서든 안정적인 연결을 경험할 수 있다. 이러한 접근 방식은 을 활용하여 지연 시간을 최소화하고, 사용자 경험을 향상시킨다.
