Presentation: The Infrastructure Challenge Behind Production AI

AI 시스템을 안정적으로 운영하는 데 필요한 인프라 도전에 대해 설명합니다.

패널리스트들은 규모에 맞게 AI 시스템을 안정적으로 실행하는 현실을 설명합니다. 모델 구축은 해결되었지만, 지속적인 압박 속에서 생산 데이터베이스를 유지하는 것은 여전히 어려운 문제입니다. 그들은 원활하게 확장하는 팀과 치명적인 장애에 직면하는 팀을 구분하는 새로운 아키텍처적 결정을 논의하며, 엔지니어링 리더들이 오늘날 다시 생각해야 할 것들에 대해 이야기합니다.

Panelists discuss the infrastructure challenges of running AI systems reliably at scale.

The panelists explain the realities of running AI systems reliably at scale. While building models is a solved problem, maintaining production databases under constant pressure remains challenging. They discuss emerging architectural decisions that separate teams that scale gracefully from those facing catastrophic outages, highlighting what engineering leaders need to rethink today.