Presentation: Fixing the AI Infra Scale Problem by Stuffing 1M Sandboxes in a Single Server

Unikraft를 통해 AI 작업 로드를 위한 밀리초 차가운 부팅 및 높은 밀도를 달성하는 법을 설명합니다.

Felipe Huici는 Unikraft를 이용해 AI 작업 로드를 위한 밀리초 차가운 부팅과 상태 저장 가능한 스케일 투 제로 및 극한 밀도를 어떻게 구현하는지 설명합니다. 이 발표에서는 리눅스 커널 최적화, 격리 프리미티브, 스냅샷 기법을 다루며 Kubernetes 환경에 원활하게 통합하면서도 10ms 이하의 성능을 유지하는 방법을 보여줍니다.

Felipe Huici explains achieving millisecond cold boots and extreme density for AI workloads with Unikraft.

Felipe Huici discusses how Unikraft achieves millisecond cold boots, stateful scale-to-zero, and extreme density for sandboxing AI workloads. The presentation covers isolation primitives, Linux kernel optimizations, and snapshotting tricks, demonstrating how to maintain sub-10ms performance at scale while integrating seamlessly into Kubernetes environments with hardware-level security.