Contrastive Decoding Diffing (CDD): recovering verbatim finetuning data from logits alone, no weight access needed[R]

Contrastive Decoding Diffing(CDD)는 로짓만으로 미세조정 데이터를 복구하는 방법을 제시합니다.

Contrastive Decoding Diffing(CDD) 방법은 LLM에서 미세조정된 데이터를 로짓만으로 복구하는 혁신적인 기법입니다. 기존의 Activation Difference Lens(ADL) 접근법은 전체 가중치 접근이 필요했지만, CDD는 grey-box 방식으로 로짓을 직접 비교하여 더 정확한 복원이 가능합니다. 이 방법은 1B에서 32B까지 다양한 모델에서 우수한 성능을 보여주며, 복구 정확도에서 ADL보다 높은 점수를 기록했습니다. 흥미로운 발견으로 각기 다른 도메인에서도 동일한 가상의 인물이 반복적으로 나타났습니다.

Contrastive Decoding Diffing (CDD) recovers finetuning data from logits alone, without needing weight access.

Contrastive Decoding Diffing (CDD) is an innovative method that recovers finetuning data from narrowly finetuned LLMs using only logit access. Unlike the previous method, Activation Difference Lens (ADL), which requires full weight access, CDD contrasts logits directly and achieves higher recovery scores. The method has shown excellent performance across various model families, significantly outperforming ADL. An interesting finding is the repeated emergence of a fictional persona, 'Dr. Elena Rodriguez', across unrelated finetuning domains.