Sriram Madapusi Vasudevan이 AI 에이전트 보안 취약점을 논의합니다.
Sriram Madapusi Vasudevan은 생산 환경에서 자율 AI 에이전트를 안전하게 유지하기 위한 산업의 다양한 패턴에 대해 논의합니다. 그는 ReAct 루프 내에서의 맥락, 추론 및 도구 실행과 관련된 치명적인 취약점을 설명합니다. 또한 메모리 중독 및 악성 도구 실행과 같은 위험을 완화하기 위한 방어 심층 전략, LLM 비평가, MAESTRO 위협 모델링을 사용하는 방법도 공유합니다.
Sriram Madapusi Vasudevan discusses security vulnerabilities in autonomous AI agents.
Sriram Madapusi Vasudevan discusses industry-converging patterns for securing autonomous AI agents in production. He explains critical vulnerabilities hidden within the ReAct loop, including context, reasoning, and tool execution. Additionally, he shares strategies to mitigate risks like memory poisoning and rogue tool execution using defense-in-depth strategies, LLM-as-a-judge critics, and MAESTRO threat modeling.