Cloudflare, AI 에이전트 인프라 'Project Think' 출시

Fiber는 LLM 호출과 같이 시간이 오래 걸리는 작업을 중간에 중단 없이 완료할 수 있도록 보장한다.

Crash Recovery는 배포, 플랫폼 재시작, 리소스 제한 등의 문제로 인해 발생할 수 있는 실행 환경의 중단을 대비한다.

onFiberRecovered를 통해, 중단된 작업을 안전하게 재개하고, 데이터 손실(Data Loss)을 방지한다. 이러한 기능은 에이전트의 신뢰성(Reliability)을 향상시키고, 장기 실행 작업의 안정성을 보장한다.

Persistent Session은 트리 구조의 메시지를 지원하여, 대화 내용을 효율적으로 관리하고, 포킹(Forking) 기능을 통해 실험적인 대화를 안전하게 시도할 수 있도록 한다.

Context Blocks를 사용하여, 모델이 장기적으로 기억해야 할 중요한 정보를 시스템 프롬프트에 저장하고 관리한다.

Non-destructive compaction 기능을 통해, 대화 내용이 길어질 경우 오래된 메시지를 요약하여 메모리 사용량(Memory Usage)을 최적화한다. 이러한 기능들은 에이전트의 유연성(Flexibility)과 확장성(Extensibility)을 높이는 데 기여한다.

ExtensionManager는 확장 기능을 번들링하고, Dynamic Worker에 로드하며, 새로운 도구를 등록한다.

확장 기능은 DO(Durable Objects) 스토리지에 저장되어, 에이전트가 재시작(Restart)되더라도 유지된다.

에이전트는 자체적으로 새로운 기능을 추가하고, 이를 통해 지속적인 개선(Continuous Improvement)을 이루어낸다. 이러한 기능은 에이전트의 자율성(Autonomy)을 높이고, 다양한 작업에 대한 적응력을 향상시킨다.

getTools() 함수를 통해, 에이전트가 사용할 수 있는 도구를 정의하고, createExecuteTool, createBrowserTools, createSandboxTools 등의 유틸리티 함수를 활용하여 도구를 쉽게 구성할 수 있다.

Lifecycle hooks를 통해, 각 턴(Turn)의 다양한 단계에서 사용자 정의 로직을 실행할 수 있다.

@cloudflare/ai-chat과 동일한 WebSocket 프로토콜(WebSocket Protocol)을 사용하므로, 기존 UI 컴포넌트를 재사용할 수 있다. 이러한 기능들은 개발자가 AI 에이전트(AI Agent)를 효율적으로 개발하고 배포할 수 있도록 지원한다.