미라 무라티의 AI, 실시간 소통의 새 시대

기존 AI 모델은 사용자의 말이나 행동을 단일 스레드(Single Thread)로 처리하거나, 프레임 단위의 이미지 인식에 의존하여 실시간 상호작용에 한계가 있었습니다. 발표자는 이러한 문제를 지적하며, 사용자의 음성, 시각 정보, 행동 패턴 등을 종합적으로 실시간 인지하는 새로운 모델의 필요성을 강조합니다. 이는 AI가 단순히 명령을 수행하는 것을 넘어, 사용자의 맥락과 의도를 능동적으로 파악하는 수준으로 발전함을 의미합니다.

영상에 따르면, 기존 AI는 생성 모델의 응답 지연(Latency)과 사용자 의도 파악의 부정확성이라는 두 가지 주요 문제점을 안고 있습니다. Thunking Machines의 새로운 모델은 비동기 처리(Asynchronous Processing)와 실시간 데이터 스트리밍(Real-time Data Streaming) 아키텍처를 도입하여 이러한 지연 시간을 획기적으로 줄였습니다. 또한, 사용자의 말뿐만 아니라 시각적 맥락(Visual Context)과 행동 패턴(Behavioral Patterns)까지 분석하여 더 정확한 의도 파악을 가능하게 합니다.

이 AI 모델은 특히 AI 글래스(AI Glasses)와 같은 웨어러블 기기와의 시너지가 클 것으로 예상됩니다. 사용자가 글래스를 통해 주변 환경을 인지하고 음성으로 상호작용할 때, 모델은 실시간으로 정보를 처리하고 즉각적인 피드백을 제공할 수 있습니다. 이는 기존의 스마트폰 중심 앱 생태계를 넘어, 새로운 형태의 인터페이스와 서비스를 탄생시키며 앱 시장의 판도를 바꿀 잠재력을 지닙니다. 예를 들어, 사용자가 특정 사물을 보거나 행동할 때 AI가 즉각적으로 관련 정보를 제공하는 방식입니다.

발표자는 AI가 사용자의 말을 끊지 않고도 실시간으로 대화의 흐름을 파악하고, 필요시 적절한 시점에 개입하는 능력을 시연했습니다. 이는 단순히 음성을 텍스트로 변환하는 것을 넘어, 대화의 맥락(Conversational Context)과 사용자의 감정 상태(Emotional State)까지 추론하여 반응하는 고도화된 기술입니다. 또한, 사용자가 특정 행동을 할 때(예: 커피를 마시는 모습) AI가 이를 인지하고 관련 정보를 제공하는 등, 행동 기반 추론(Action-based Inference) 능력도 강화되었습니다.

이 모델은 데이터 격리 아키텍처(Data Isolation Architecture)를 기반으로 하여, 사용자 데이터의 프라이버시를 보호하면서도 실시간 처리를 가능하게 합니다. 별도의 대화 관리자 없이 AI 모델 자체가 실시간 스트림을 직접 처리하며, 사용자의 입력과 주변 환경 정보를 통합하여 즉각적인 응답을 생성합니다. 이는 기존 시스템에서 필요했던 복잡한 파이프라인을 단순화하고, 응답 속도를 극대화하는 데 기여합니다.