Qwen3.8-27B, 17~19GB 메모리에서 4-bit 로컬 실행 가능

Qwen3.8의 27B 모델이 로컬에서 4-bit로 실행 가능하다.

Qwen3.8 Max에 이어 27B 모델이 Unsloth GGUF/NVFP4로 공개되어 개인 장비에서도 실행할 수 있게 되었다. 이 밀집형 모델은 비전과 추론을 지원하며, 256K 컨텍스트를 제공한다. 또한, YaRN을 사용하면 컨텍스트를 1M까지 확장하는 기능도 있다.

The Qwen3.8 27B model can run locally in 4-bit format.

Following Qwen3.8 Max, the 27B model is released with Unsloth GGUF/NVFP4, allowing it to be run on personal devices. This dense model supports vision and inference, offering a 256K context. Additionally, using YaRN enables context expansion up to 1M.