LLM 시스템에서 프롬프트 주입 문제를 해결하기 위한 구조적 접근법을 제시합니다.
이 글에서는 툴을 사용하는 LLM 시스템에서 빈번하게 발생하는 프롬프트 주입 문제를 해결하기 위한 시스템 수준의 완화 전략을 탐구합니다. 문제를 구조적으로 분리하기 위해, 신뢰할 수 있는 명령과 신뢰할 수 없는 외부 입력을 구분하는 Sentinel Gateway라는 미들웨어 계층을 도입합니다. 이 시스템은 모든 에이전트 작업이 서명된 권한 토큰을 요구하도록 하여 실행과 관찰을 분리합니다.
A structural approach to mitigate prompt injection issues in tool-using LLM systems is presented.
The article explores a system-level mitigation strategy for the persistent issue of prompt injection in tool-using LLM systems. It introduces a middleware layer called the Sentinel Gateway, which separates trusted commands from untrusted external inputs. This system requires all agent actions to be authorized with a signed token, effectively decoupling observation from execution.