GLM-5.2 모델을 로컬에서 실행하는 방법을 설명합니다.
Z.ai의 GLM-5.2는 744B 파라미터를 가진 대형 모델로 로컬에서 실행될 수 있습니다. Unsloth는 Dynamic GGUF를 사용하여 손쉬운 실행 경로를 제공합니다. 이 모델은 권장하는 2-bit UD-IQ2_M quant이 필요하며, 239GB의 디스크 공간이 요구됩니다.
Explains how to run the GLM-5.2 model locally.
Z.ai's GLM-5.2 is a large model with 744B parameters that can run locally. Unsloth provides an easy execution path using Dynamic GGUF. The model recommends the 2-bit UD-IQ2_M quant, requiring 239GB of disk space.