Kicking off GPU Mode [D]

GPU 인프라 및 LLM, CV 작업을 문서화하는 시리즈를 시작합니다.

이 글은 GPU 인프라, LLMs, CV에 대한 작업을 문서화하는 시리즈의 시작을 알립니다. 첫 번째 포스트에서는 GPU가 산업의 중심인 이유와 CPU/GPU 분리를 간략히 살펴보며, 문제 발생 시 처음 확인해야 할 nvidia-smi에 대해 설명합니다. 이어서 Ampere, Hopper, Blackwell 아키텍처의 차이, 커스텀 커널에서의 레지스터 압력 처리, 비동기 메모리 패러다임(TMA/wgmma)에 대해 깊이 있는 논의를 진행할 예정입니다.

Launching a series documenting work on GPU infrastructure, LLMs, and CV.

This article kicks off a series documenting work on GPU infrastructure, LLMs, and CV. The first post briefly discusses why GPUs are pivotal in the industry, the CPU/GPU divide, and highlights nvidia-smi as a key tool for troubleshooting. Future posts will explore architectural differences (Ampere, Hopper, Blackwell), handling register pressure in custom kernels, and asynchronous memory paradigms (TMA/wgmma).