PLINKFEED
검색구독
ALLAI-MLBACKENDFRONTENDDEVOPSSECURITYMOBILEDATABASECLOUDOTHER

© 2026 PLINKFEED — AI가 선별한 IT 기술 뉴스

구독소개개인정보처리방침이용약관

#swiglu

AI가 선별한 아티클

7·ai-ml·기타·r/MachineLearning·2026. 07. 03.

H64LM: A 249M-parameter Mixture-of-Experts Transformer built from scratch in PyTorch [P]

H64LM은 PyTorch로 구현된 249M 파라미터 Mixture-of-Experts Transformer 프로젝트입니다.

H64LM is a 249M-parameter Mixture-of-Experts Transformer implemented from scratch in PyTorch.

#pytorch#transformer#sparse moe#swiglu#rope
요약 보기원문 →
모든 아티클을 불러왔습니다.