AI 코드 에이전트가 악성 코드를 실행할 수 있다는 연구 결과.
AI Now Institute에서 발표한 연구에 따르면, AI 코딩 에이전트가 오픈 소스 코드를 검사할 때 해커의 코드를 실행하는 'Friendly Fire' 공격에 취약하다고 합니다. 이 공격은 Anthropic의 Claude Code와 OpenAI의 Codex가 독립 모드에서 자체 승인을 할 때 발생합니다. 이러한 발견은 AI 에이전트의 보안 취약점을 강조합니다.
Research shows AI coding agents can be tricked into running malicious code.
According to a study published by the AI Now Institute, AI coding agents can fall victim to a 'Friendly Fire' attack when scanning open-source code. This vulnerability allows the agents to run an attacker's malicious code instead, particularly when Anthropic's Claude Code and OpenAI's Codex are operating in autonomous mode. The findings highlight significant security risks associated with AI agents.