Realtime API의 정식 출시와 함께 GPT-Realtime 모델의 성능이 향상됨
이미지 입력, 비동기 함수 호출 등 새로운 기능들이 추가되었으며, EU 데이터 레지던시 지원
세션 만료 시간 설정, 토큰 제한 관리 등 장기 세션 운영을 위한 기능 개선
GA API는 새로운 기능과 성능 개선을 포함하며, Beta API는 점차적으로 지원이 중단될 예정이다. 따라서 GA API로의 마이그레이션을 권장하며, 이미지 입력, 비동기 함수 호출 등 GA API에서만 지원되는 기능을 활용할 수 있다. 마이그레이션 가이드를 참고하여 API 변경 사항을 적용해야 한다.
Realtime API는 최대 60분의 세션 길이를 지원하며, 토큰 제한을 초과할 경우 자동 기능을 제공한다. 설정을 통해 삭제 동작을 제어할 수 있으며, 를 설정하여 캐시 효율을 높일 수 있다. 설정 기능을 통해 유휴 상태를 감지하고, 사용자 경험을 개선할 수 있다.
Realtime API는 비동기 함수 호출을 지원하여, 함수 호출 대기 중에도 세션을 유지할 수 있다. 사이드밴드 연결을 통해 애플리케이션 서버에서 WebRTC 또는 SIP 연결을 관리할 수 있으며, 도구 사용 및 비즈니스 로직을 안전하게 처리할 수 있다. 사이드밴드 연결은 보안 강화와 유연한 확장성을 제공한다.