Cactus가 14MB LLM 모델 Needle 2를 공개하며 스마트 기기 제어 및 구조화 추출에 특화됨.
Cactus는 스마트폰, 웨어러블, 스마트홈, 로봇을 위한 14MB LLM 모델인 Needle 2를 공개했습니다. 이 모델은 45M 파라미터로 구성되어 있으며, 전체 세션을 28MB RAM에서 실행할 수 있도록 설계되었습니다. 또한, Apache 2.0 라이센스 하에 배포되어 다양한 스마트 기기를 제어하고 구조화된 추출을 지원합니다.
Cactus released Needle 2, a 14MB LLM optimized for smart devices control and structured extraction.
Cactus has unveiled Needle 2, a 14MB LLM model designed for smartphones, wearables, smart homes, and robots. It features 45M parameters and can run an entire session using only 28MB of RAM. The model is distributed under the Apache 2.0 license and is specialized in controlling smart devices and performing structured extraction.