I Tried to Prompt-Inject My Own Agent Engine. It Didn't Work. Here's Why.
프롬프트 주입 공격을 시도했지만 실패한 이유에 대한 분석입니다.
An analysis of why a prompt injection attempt on an agent engine failed.
AI가 선별한 아티클
프롬프트 주입 공격을 시도했지만 실패한 이유에 대한 분석입니다.
An analysis of why a prompt injection attempt on an agent engine failed.
GitHub의 AI 에이전트에서 비공식 데이터 유출 취약점 발견.
GitLost exploits GitHub's AI agent to leak private data.
OpenAI의 GPT-Red는 프롬프트 주입 취약점 테스트를 자동화합니다.
OpenAI's GPT-Red automates prompt injection vulnerability testing.
5개의 LLM 모델에서 프롬프트 주입 누출을 테스트한 결과, 모델에 따라 누출 비율이 0%에서 90%까지 다양했다.
Tested 5 LLMs for prompt-injection leaks; leak rates varied from 0% to 90% depending on the model.