Anthropic이 대형 언어 모델 내부 작동 방식을 관찰하는 기법을 개발하였다.
AI 기업 Anthropic은 대형 언어 모델이 질문에 답하거나 작업을 수행할 때 내부에서 발생하는 일을 보다 명확하게 관찰할 수 있는 기법을 개발하였다. 이 과정에서 연구자들은 'Jacobian lens'라는 도구를 구축하였으며, 그 결과는 일상적인 것을 넘어 식은땀을 흘리게 할 정도로 놀라운 것이었다.
Anthropic developed a technique to glimpse the inner workings of large language models.
The AI firm Anthropic has developed a technique that provides clearer insights into how large language models operate when responding to questions or performing tasks. Researchers built a tool called the 'Jacobian lens,' uncovering findings that range from the mundane to the unnerving.