OpenAI의 Bonnie Xu가 600페타바이트 데이터를 분석하는 AI 에이전트에 대해 논의합니다.
OpenAI의 Bonnie Xu는 600페타바이트의 데이터를 쿼리할 수 있는 내부 AI 데이터 분석 에이전트인 Kepler를 소개합니다. 이 발표에서는 MCP, 자동화된 코드 크롤링 및 RAG를 사용하여 컨텍스트 창 제한을 극복하는 방법을 설명합니다. 또한, 스코프가 있는 의미 메모리를 활용한 자가 학습 및 AST 기반 LLM 등급 매김을 통해 회귀 없는 평가 파이프라인을 구축하는 방법도 공유합니다.
OpenAI's Bonnie Xu discusses an AI agent for analyzing 600 petabytes of data.
Bonnie Xu from OpenAI presents Kepler, an internal AI data analyst agent capable of querying over 600 petabytes of data. The discussion covers overcoming context window limitations through the use of MCP, automated code crawling, and RAG. Xu also shares insights on leveraging scoped semantic memory for self-learning and employing AST-based LLM grading to create a robust regression-free evaluation pipeline.