Realtime API GA 출시! 음성 앱 개발, 더 강력해졌습니다.
by DD
8개월 전
조회수 6
Realtime API의 정식 출시와 함께 GPT-Realtime 모델의 성능이 향상됨
이미지 입력, 비동기 함수 호출 등 새로운 기능들이 추가되었으며, EU 데이터 레지던시 지원
세션 만료 시간 설정, 토큰 제한 관리 등 장기 세션 운영을 위한 기능 개선
GA API와 Beta API의 차이점
GA API는 새로운 기능과 성능 개선을 포함하며, Beta API는 점차적으로 지원이 중단될 예정이다. 따라서 GA API로의 마이그레이션을 권장하며, 이미지 입력, 비동기 함수 호출 등 GA API에서만 지원되는 기능을 활용할 수 있다. 마이그레이션 가이드를 참고하여 API 변경 사항을 적용해야 한다.
장기 세션 운영을 위한 기능
Realtime API는 최대 60분의 세션 길이를 지원하며, 토큰 제한을 초과할 경우 자동 메시지 삭제 기능을 제공한다. Truncation 설정을 통해 삭제 동작을 제어할 수 있으며, Retention Ratio를 설정하여 캐시 효율을 높일 수 있다. 세션 만료 시간 설정 기능을 통해 유휴 상태를 감지하고, 사용자 경험을 개선할 수 있다.
비동기 함수 호출과 사이드밴드 연결
Realtime API는 비동기 함수 호출을 지원하여, 함수 호출 대기 중에도 세션을 유지할 수 있다. 사이드밴드 연결을 통해 애플리케이션 서버에서 WebRTC 또는 SIP 연결을 관리할 수 있으며, 도구 사용 및 비즈니스 로직을 안전하게 처리할 수 있다. 사이드밴드 연결은 보안 강화와 유연한 확장성을 제공한다.
