메모리 아끼면서 Cross Entropy Loss 계산하기
Cross Entropy Loss 계산 시 메모리 절약 방법에 대한 글입니다.
Discusses methods to save memory in calculating Cross Entropy Loss.
AI가 선별한 아티클
Cross Entropy Loss 계산 시 메모리 절약 방법에 대한 글입니다.
Discusses methods to save memory in calculating Cross Entropy Loss.
Contrastive Decoding Diffing(CDD)는 로짓만으로 미세조정 데이터를 복구하는 방법을 제시합니다.
Contrastive Decoding Diffing (CDD) recovers finetuning data from logits alone, without needing weight access.
오픈소스 모델 실험을 정리하기 위한 저널 작성 과정을 공유합니다.
Sharing the process of organizing a journal for open-source model experiments.