5개의 LLM 모델에서 프롬프트 주입 누출을 테스트한 결과, 모델에 따라 누출 비율이 0%에서 90%까지 다양했다.
프롬프트 주입 누출을 검사하기 위해 AI 에이전트에 대한 스캐너를 구축하고 5개의 모델 백엔드에서 테스트를 진행했다. 그 결과, 모델에 따라 리크 비율이 0%에서 90%까지 차이가 나는 것을 발견했다. 특히, Microsoft 365 Copilot의 제로 클릭 취약점인 EchoLeak가 주목받고 있다. 현재 LLM을 운영하는 기업의 대부분이 보안에 대한 자신감이 없으며, 백엔드 모델 선택이 보안 결정의 중요한 요소가 된다.
Tested 5 LLMs for prompt-injection leaks; leak rates varied from 0% to 90% depending on the model.
I built a scanner to test prompt-injection leaks in a self-hosted AI agent across 5 model backends. The leak rate varied significantly, ranging from 0% to 90%, based solely on the model used. Notably, the EchoLeak vulnerability in Microsoft 365 Copilot highlights the urgency of securing LLMs, as many enterprises lack confidence in their security. The choice of backend model plays a crucial role in security, revealing that the same code can lead to vastly different exposures.