How to Pick a GGUF Quant Level for Your VRAM Budget
VRAM 예산에 맞는 GGUF 양자화 레벨 선택 방법에 대한 가이드.
A guide on how to choose a GGUF quantization level based on your VRAM budget.
AI가 선별한 아티클
VRAM 예산에 맞는 GGUF 양자화 레벨 선택 방법에 대한 가이드.
A guide on how to choose a GGUF quantization level based on your VRAM budget.
--n-gpu-layers 플래그를 VRAM 예산에 맞게 조정하는 방법을 설명합니다.
This article explains how to tune the --n-gpu-layers flag for your VRAM budget.
nbd-vram은 Linux에서 NVIDIA GPU VRAM을 스왑 공간으로 사용하는 도구입니다.
nbd-vram is a tool to use NVIDIA GPU VRAM as swap space on Linux.