AI-ML·중요도 8·2026. 07. 01.·GeekNews

LongCat-2.0 공개 - Nvidia 없이 학습한 1.6조 파라미터 오픈소스 모델

── KO ──────────────────

Nvidia 없이 학습한 1.6조 파라미터의 오픈소스 모델 LongCat-2.0이 공개됐다.

LongCat-2.0은 총 1.6조 파라미터와 약 480억 개 활성화로 구성된 대규모 MoE 언어 모델이다. 이 모델은 Nvidia의 지원 없이 개발되었으며, 여러 아키텍처 개선과 함께 오픈소싱 되었다. 모든 학습은 AI ASIC 슈퍼팟에서 이루어졌으며, 35조 개 이상의 토큰을 사용한 사전학습이 포함되어 있다.


── EN ──────────────────

LongCat-2.0, an open-source model with 1.6 trillion parameters, has been released without Nvidia's involvement.

LongCat-2.0 is a large-scale MoE language model comprising 1.6 trillion parameters and about 48 billion activations. Developed without Nvidia's support, it comes with several architectural improvements and is open-sourced. The entire training was conducted on an AI ASIC superpod, utilizing over 35 trillion tokens for pre-training.

원문 보기 →목록으로